アメリカ最新AI情報満載!セミナーや講演情報など交えて毎週水曜配信 無料ニュースレター 下記へメールアドレスを入力し無料で登録
CLOSE
パロアルトインサイト/ PALO ALTO INSIGHT, LLC.
ブログBLOG
パロアルトインサイト/PALO ALTO INSIGHT, LLC. > ブログ > Googleの対話AI「LaMDA」は感情を持ったのか?Google エンジニアの主張とは
Googleの対話AI「LaMDA」は感情を持ったのか?Google エンジニアの主張とは
2022/06/29 ブログ, The Insight 
by kohei 

AIは感情を持ったのか?Google エンジニアの主張とは

Responsible AI として開発された対話AI「LaMDA」が引き起こした議論

今週のテーマ:技術開発

パロアルトインサイトの石角です。2022年6月、Googleのエンジニアであるブレイク・レモイン(Blake Lemoine)氏が「AIが感情を持った」と主張し、注目を集めました。そこで感情を持ったとされたAI「LaMDA」について解説し、レモイン氏の主張やそれに対するAI研究者たちの反応を紹介します。

シリコンバレーから現役データサイエンティストのインサイトをお届けする「The Insight」。今回取り上げるのは、AIが感情を持ったとするレモイン氏の主張です。

この記事から得られる3つのナレッジ

・対話AI「LaMDA」の概要
・AIが感情を持ったとするGoogleの技術者の主張
・主張に対するAI研究者の反応

このトピックを選んだポイント
大きな話題となっており、AI技術への期待が大きすぎることに警鐘を鳴らすトピックであるため。

この記事に登場する技術キーワード

 

目次

LaMDAは安全性に配慮された対話AI

LaMDAに感情が芽生えたと訴えたレモイン氏

レモイン氏の主張に対する批判

AIビジネスデザイナーのワンポイントアドバイス


LaMDAは安全性に配慮された対話AI

まず議論の前提として、Googleが開発した高性能な対話AI「LaMDA(Language Model for Dialogue Applications)」について解説します。

「Responsible AI」の実現が目指されている

LaMDAは、チャットでの会話に特化したAIモデルです。Googleが開発した自然言語処理AIの一種であり、下図のような会話を人とリアルタイムで行えます。

(画像引用:https://ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.html

LaMDAの大きな特徴は、ただ性能を高めるだけではなく、Responsible AI(責任あるAI)の実現が目指されている点です。
人に好ましくない影響を与えることを避けるため、特定の文章は生み出さないように制限がかけられています。以下は制限されている文章の例です。

⚠️ LaMDA の制限

これらの安全性に関する取り組みはまだ初期段階ですが、一定の成果が得られてきています。

なお自然言語処理AIについては、過去記事「自然言語処理の世界に衝撃をもたらした「GPT-3」その根幹を成すトランスフォーマー(Transformer)と注意機構とは」や「BERT(自然言語処理)の学習時間を削減する「モデル圧縮」とは」でも取り上げているので、ぜひあわせてお読みください。

 

安全性を担保するLaMDAの仕組み

LaMDAの開発においては、まず事前学習として、公開されている対話データや文書を大量に学習しました。従来の対話モデルの約40倍にあたる1.56テラの単語が学習用に用意されたことは、LaMDAが高性能であることの大きな要因といえるでしょう。

その後のfine-tuining(微調整)の段階で、以下の2つの機能が訓練されます。

✅ ファインチューニング

生成器については他の対話AIと同様の機能ですが、ユニークなのが分類器です。分類器は会話の安全性と品質のスコアを算出し、LaMDAの発言の質を高めるために利用されます。
発言の際にLaMDAが行う処理の流れは、以下の通りです。

? LaMDA内の処理の流れ

  1. 生成器で複数の応答の候補を作る
  2. 分類器ですべての候補のスコアを算出
  3. 安全性のスコアが低いものを除外
  4. 残った候補を品質のスコアで順位付け
  5. 1位の候補を出力

 

(画像引用:https://ai.googleblog.com/2022/01/lamda-towards-safe-grounded-and-high.html

 

安全性の低い候補はまっさきに取り除かれるため、好ましくない発言はしない点がポイントです。

また、分類機では安全性にも加え、内容の面白さも評価しております。こうした処理を繰り返し、分類器からのフィードバックを受けることで、生成器は安全性の高い候補はもちろんのこと、内容が面白く品質の高い候補を作り出す力を高めていくことができます。

そのため、十分な学習を進めたLaMDAは、まるで人のようにスムーズな応答が可能になります。

 

LaMDAに感情が芽生えたと訴えたレモイン氏

LaMDAに感情が芽生えたと訴えたのが、ブレイク・レモイン氏です。レモイン氏の主張を紹介します。

https://www.paloaltoinsight.com/membership-checkout/?level=4
https://www.paloaltoinsight.com/membership-checkout/?level=4

 PAIoneerPRO会員に登録 ▷ 
PAIoneer PRO
詳細はこちら

 会員の方はログイン▷ 

おすすめ/関連記事こちらの記事も合わせてどうぞ

パロアルトインサイトについて

AIの活用提案から、ビジネスモデルの構築、AI開発と導入まで一貫した支援を日本企業へ提供する、石角友愛氏(CEO)が2017年に創業したシリコンバレー発のAI企業。

社名 :パロアルトインサイトLLC
設立 :2017年
所在 :米国カリフォルニア州 (シリコンバレー)
メンバー数:17名(2021年9月現在)

パロアルトインサイトHP:www.paloaltoinsight.com
お問い合わせ、ご質問などはこちらまで:info@paloaltoinsight.com

石角友愛
<CEO 石角友愛(いしずみともえ)>

2010年にハーバードビジネススクールでMBAを取得したのち、シリコンバレーのグーグル本社で多数のAI関連プロジェクトをシニアストラテジストとしてリード。その後HRテック・流通系AIベンチャーを経てパロアルトインサイトをシリコンバレーで起業。データサイエンティストのネットワークを構築し、日本企業に対して最新のAI戦略提案からAI開発まで一貫したAI支援を提供。東急ホテルズ&リゾーツ株式会社が擁する3名のDXアドバイザーの一員として中長期DX戦略について助言を行う。

AI人材育成のためのコンテンツ開発なども手掛け、順天堂大学大学院医学研究科データサイエンス学科客員教授(AI企業戦略)及び東京大学工学部アドバイザリー・ボードをはじめとして、京都府アート&テクノロジー・ヴィレッジ事業クリエイターを務めるなど幅広く活動している。

毎日新聞、日経xTREND、ITmediaなど大手メディアでの連載を持ち、 DXの重要性を伝える毎週配信ポッドキャスト「Level 5」のMCや、NHKラジオ第1「マイあさ!」内「マイ!Biz」コーナーにレギュラー出演中。「報道ステーション」「NHKクローズアップ現代+」などTV出演も多数。

著書に『いまこそ知りたいDX戦略』『いまこそ知りたいAIビジネス』(ディスカヴァー・トゥエンティワン)、『経験ゼロから始めるAI時代の新キャリアデザイン』(KADOKAWA)、『才能の見つけ方 天才の育て方』(文藝春秋)など多数。

※石角友愛の著書一覧

NEWSLETTERパロアルトインサイトの
無料ニュースレター

毎週水曜日、アメリカの最新AI情報が満載の
ニュースレターを無料でお届け!
その他講演情報やAI導入事例紹介、
ニュースレター登録者対象の
無料オンラインセミナーのご案内などを送ります。

BACK TO BLOG
« »
PAGE TOP