アメリカ最新AI情報満載!セミナーや講演情報など交えて毎週水曜配信 無料ニュースレター 下記へメールアドレスを入力し無料で登録
CLOSE
パロアルトインサイト/ PALO ALTO INSIGHT, LLC.
ブログBLOG
パロアルトインサイト/PALO ALTO INSIGHT, LLC. > ブログ > テキスト生成器から垣間見れるポスト真実時代の危険性
テキスト生成器から垣間見れるポスト真実時代の危険性
2020/02/14 ブログ 
by PALO ALTO INSIGHT, LLC. STAFF 

非営利リサーチ会社OpenAIは、GPT-2と呼ばれるテキスト生成器を開発した。このAIシステムに文や文章が入力されると、次に何が起こるかの予測に基づいて、次の文章を書くことができる。非常に優れており、悪意を持って利用するリスクが高いため、OpenAIは、この技術革新の影響について考える時間をとるために、開発した4つのモデルをを一度に一般公開せずに、段階的に公開していくという異例の対応に出た。この段階的リリースの最後となるモデルが昨年11月に発表された。

GPT-2の何がすごいのかというと、単純な文章を作るために使用される場合であれば、与えられた文体・主題と一致するもっともらしい文章を書くことができるのだ。段落の途中で何を考えているのかを忘れたり、文法が間違っていたりするといった、従来のAIシステムを特徴付ける癖はほとんどないとされている。例えば、イギリスのEU脱退の新聞記事の最初の段落を入力すれば、首相の引用が記載されたようなもっともらしい新聞記事が出力される。もちろん、GPT-2が独自に予測して作りあげた物語なので、記事としては正確ではないものの、このシステムは、出力の品質と幅広い用途の可能性の観点から、技術的に可能だとされる限度を超えた。

GPT-2の技術が革新的であればあるほど、その危険性が危ぶまれる。OpenAIの政策担当部長ジャック・クラークは、モデルのすべての能力を予測できない場合、悪意をもったユーザーが何をできるか実行して確認する必要があると述べている。実際にOpenAIは、GPT-2が肯定的や否定的なレビューを作成するために利用することが可能であることを証明している。スパムやフェイクニュースに使うことも可能だ。インターネットから学習しているので、偏見のある文章や、陰謀理論を生成するように促すことも難しくない。

イギリスの欧州連合脱退を決める選挙やアメリカの大統領選挙を受けてフェイクニュースというフレーズが流行った2016年に、オックスフォード英語辞典が公表した「今年の言葉」は「Post truth(ポスト真実)」だった。これは、世論形成が客観的事実よりも感情や個人的信念への訴求に影響を受けやすい状況を差す言葉なのだが、今の欧米諸国の危ない傾向を表現していると言っていい。私は「ポスト真実時代」という言葉をオランダの高校の授業で耳が痛くなるほど聞かされた。その言葉が出てくるたびに、私たちがSNSや演説などで耳にする情報の精度を自ら判断して生きて行かなければならないことを教えられてきた。GPT-2のような文章を大量生産できる機械が開発されても、人々がその情報がでたらめであると判断することができれば、何も問題は生まれない。しかし、実際にこれを実行することは非常に難しいことを、私はフェイクニュースという言葉を聞くたびに思う。日本も例外ではない。一つのマスメディアや偏ったSNSを信頼することは日常会話には役立つが、危険だ。だからこそOpenAIの判断は、技術革新と社会の未来についての対話を持とうとする試みとして魅力的であると私は思う。

パロアルトインサイトについて

AIの活用提案から、ビジネスモデルの構築、AI開発と導入まで一貫した支援を日本企業へ提供する、石角友愛氏(CEO)が2017年に創業したシリコンバレー発のAI企業。

社名 :パロアルトインサイトLLC
設立 :2017年
所在 :米国カリフォルニア州 (シリコンバレー)
メンバー数:17名(2021年9月現在)

パロアルトインサイトHP:www.paloaltoinsight.com
お問い合わせ、ご質問などはこちらまで:info@paloaltoinsight.com

石角友愛
<CEO 石角友愛(いしずみともえ)>

2010年にハーバードビジネススクールでMBAを取得したのち、シリコンバレーのグーグル本社で多数のAI関連プロジェクトをシニアストラテジストとしてリード。その後HRテック・流通系AIベンチャーを経てパロアルトインサイトをシリコンバレーで起業。データサイエンティストのネットワークを構築し、日本企業に対して最新のAI戦略提案からAI開発まで一貫したAI支援を提供。東急ホテルズ&リゾーツ株式会社が擁する3名のDXアドバイザーの一員として中長期DX戦略について助言を行う。

AI人材育成のためのコンテンツ開発なども手掛け、順天堂大学大学院医学研究科データサイエンス学科客員教授(AI企業戦略)及び東京大学工学部アドバイザリー・ボードをはじめとして、京都府アート&テクノロジー・ヴィレッジ事業クリエイターを務めるなど幅広く活動している。

毎日新聞、日経xTREND、ITmediaなど大手メディアでの連載を持ち、 DXの重要性を伝える毎週配信ポッドキャスト「Level 5」のMCや、NHKラジオ第1「マイあさ!」内「マイ!Biz」コーナーにレギュラー出演中。「報道ステーション」「NHKクローズアップ現代+」などTV出演も多数。

著書に『いまこそ知りたいDX戦略』『いまこそ知りたいAIビジネス』(ディスカヴァー・トゥエンティワン)、『経験ゼロから始めるAI時代の新キャリアデザイン』(KADOKAWA)、『才能の見つけ方 天才の育て方』(文藝春秋)など多数。

※石角友愛の著書一覧

NEWSLETTERパロアルトインサイトの
無料ニュースレター

毎週水曜日、アメリカの最新AI情報が満載の
ニュースレターを無料でお届け!
その他講演情報やAI導入事例紹介、
ニュースレター登録者対象の
無料オンラインセミナーのご案内などを送ります。

BACK TO BLOG
« »
PAGE TOP