生成AIがアメリカ大統領選に与える影響
OpenAIが直面する課題と新たな取り組み

OpenAIは、選挙において誤解を招く「ディープフェイク」や、影響力の拡大操作、または候補者を偽装するチャットボットなど、関連する悪用を予測し防止するための作業を行っています。新しいシステムをリリースする前に、レッドチームによるテスト、ユーザーや外部パートナーからのフィードバックの収集、そして安全対策の構築を通じて、損害の可能性を減らす努力をしているということです。
その結果、ここまでの数年間、事実の正確性を向上させ、情報のバイアスを減らし、恣意的な特定のリクエストを拒否するためのツールを繰り返し改善してきました。例えば、DALL·Eでは、実在する人物（候補者を含む）の画像生成を要求するリクエストを拒否する性能を持っています。
また、OpenAIでは、コンテンツの透明性を高めるための開発も行っています。その中の一つにDALL·E 3によって生成された画像に、出所を明確にするデジタル認証の実装があります。また、DALL·Eによって生成された画像を検出するための出所分類器も開発中ということです。

OpenAIは、アメリカの大統領選挙に向け、AI技術の潜在的な悪用を予測し防止するために、多角的な努力を続けています。選挙の完全性を保護し、AI生成コンテンツの透明性を高め、正確な投票情報へのアクセスを改善するというこれらの取り組みは、民主主義プロセスへの参加を促進し、市民が信頼できる情報を得ることを支援します。OpenAIの今後の動向は、ビジネスや日常生活において重要な示唆が含まれています。

参考：https://openai.com/blog/how-openai-is-approaching-2024-worldwide-elections

高性能なAIツールを使いこなす人材になるには、最初の一歩を踏み出すことが肝心です。ますますビジネスシーンに浸透することが予想されるChatGPTの理解をぜひ一緒に深めていきましょう！

OpenAIも取り組む「AIアライメント」
言語モデルの悪用予測とリスク緩和策

今週のテーマ：技術開発

人工知能（AI）の進化とともに、「生成言語モデル」が注目を浴びています。その可能性とともに、情報操作やプロパガンダ活動が自動化される懸念も増えており、企業やエンジニアがどのように対応すべきかが問われています。今回は、OpenAIが、ジョージタウン大学と共同で研究した論文「Generative Language Models and Automated Influence Operations」をもとに、生成言語モデルがオンライン上の情報操作やプロパガンダ活動に与える潜在的な影響や、対策について紹介します。

近年、人工知能（AI）の進化が驚くべきスピードで進行しています。その中でも、私たちの注目は「生成言語モデル」に集まります。これは、特定のプロンプト、つまり指示に基づき、人間と同様の文章を作り出すAIの一種です。

生成言語モデルの成熟度は、機械学習や自然言語処理の進歩により、急速に向上しています。その結果、この技術には多大な可能性が秘められていると言われています。それは文字通り、AIがあらゆる言語の文脈を理  …続きを読む

教育×AIの専門サイト「AIと私」のご紹介

AI教育の未来を共に考え、形作っていくために「AIと私」ニュースレターへの登録も心よりお待ちしております。登録は無料ですのでご興味をお持ちいただける方は以下のリンクよりご登録ください。

【イベント情報】

マイナビが主催する 「TECH+ フォーラム AI Frontline 2024 Feb.」にて基調講演

Podcast「Level 5 by Palo Alto Insight」#100

ChatGPT、AppleCard、サム・アルトマン追放劇などこれまでの人気放送回を振り返る／パネラー陣が考える2024年の目標とは？

▽トーク概要

• パネラー陣の2024年の抱負を発表！
• 放送100回記念！再生数トップ5を振り返る
• おすすめコンテンツ：『キラーズ・オブ・ザ・フラワームーン』

パロアルトインサイトCEO　石角友愛