アメリカ最新AI情報満載!セミナーや講演情報など交えて毎週水曜配信 無料ニュースレター 下記へメールアドレスを入力し無料で登録
CLOSE
パロアルトインサイト/ PALO ALTO INSIGHT, LLC.
ブログBLOG
パロアルトインサイト/PALO ALTO INSIGHT, LLC. > ブログ > AGIはビジネスの現場をどう変えるのか
AGIはビジネスの現場をどう変えるのか
2022/02/02 ブログ, The Insight 
by kohei 

AGIはビジネスの現場をどう変えるのか

報酬だけでは十分ではない?DeepMind社の論文の倫理的課題、心理学的課題を掘り下げ、ゴール設定の重要性を解説

今週のテーマ:商品開発

こんにちは。The Insight 編集担当の嶋崎です。AGI は報酬のフレームワークをうまく定義することで実現すると提唱されましたが、人間が「より快適で幸せな人生を送りたい」という欲求、ゴール設定のもと人生を歩む姿勢と類似しており、また複雑に感じるAIの世界も核は意外にもシンプルなのかと驚きました。

DeepMind社のデイビッド・シルバーとリチャード・サットンは、論文『Reward is enough』の中で、適切な「報酬」を設定することで、AIは様々な知識を習得し、人間のような知能を持つAGIも実現可能になるといった仮説を発表しました。この論文に対する様々論争と、もしもこの「報酬モデル」が実現した場合、AI開発の現場はどう変わるかについて解説します。

シリコンバレーから現役データサイエンティストのインサイトをお届けする「The Insight」。前回は、「AIは人間を越えるのか」というAI研究の最先端の論文を、強化学習における報酬のフレームワークの観点から解説しました。今回は、この論文が巻き起こした議論と、ビジネスの現場に与える影響について紹介します。

論文データ:

今回のディスカッション対象の論文をご紹介します。

論文タイトル:Reward is enough
著者:David Silver,Satinder Singh,Doina Precup,Richard S. Sutton
Deepmind web 掲載:Reward is enough, May 12th,2021
ジャーナル掲載:Artificial Intelligence Volume 299, October 2021, 103535
発行日:2021年10月
引用数:
URL:https://www.sciencedirect.com/science/article/pii/S0004370221000862

? この記事から得られる3つのナレッジ

・「報酬だけでAGIを実現できる」とした論文への反響
・AI分野のトレンド、「統合(Consolidation)」とはどんな考え方か
・ビジネスに与える影響と今後の展望

 

目次

「知能」は報酬だけで開発できるほど単純ではない

報酬モデルにおける囚人のジレンマ

社会全体の利益の最大化は可能か

心理学見地からの課題

目的意識を持ったAI開発とは

自動運転事故でわかったAI開発の落とし穴

統合(Consolidation)の重要性

論文がビジネスに与える影響と今後の展望


「知能」は報酬だけで開発できるほど単純ではない

DeepMind社の大胆な仮説は、AI研究者の間で賛否両論の論争を巻き起こしました。

反論する勢力の中で代表的なのは、ニューヨーク大学教授でMeta(元Facebook)の人工知能研究所所長のヤン・ルカン氏です。

ルカン氏は、2018年にコンピューター科学におけるノーベル賞とも言われるチューニング賞を、ヨシュア・ベンジオ氏、ジェフリー・ヒルトン氏(The Insight でも次元削減について取り上げました。)と共同で受賞した、”ディープラーニングのゴッドファーザー”と評される人物です。

ルカン氏は、自身のTwitterで ”Reward is clearly not enough. (報酬が十分ではないのは明らかだ)” とツイートしています。

(引用:https://twitter.com/ylecun/status/1409394755369328642)

また、MetaのAI責任者であるジェローム・ペゼンティ氏は、「AIは数学的演算では人間を越えたが、人間のような常識を持ち得るのは何十年も先の話だ。これは知能(インテリジェンス)を考える上で何を意味しているのだろうか。」とツイートし、論文に懐疑的な立場を見せています。

そのツイートへの返信として、ルカン氏は、

「世の中には様々な課題があり、それぞれの課題を解決するには、異なる知能(インテリジェンス)が必要である。」

と延べ、さらに

「人間の知能はいつも正しいわけではなく、囲碁、チェス、ポーカーなどのゲームで負けたり、計算ミスをしたり、論理的に問題解決できなかったりする。」

と付け加えています。

(引用:https://twitter.com/ylecun/status/1403726671300251651?ref_src=twsrc^tfw|twcamp^tweetembed|twterm^1403726671300251651|twgr^|twcon^s1_&ref_url=https%3A%2F%2Fanalyticsindiamag.com%2Fdeepmind-has-a-solution-for-agi-not-many-agree%2F)

彼らの反論は、そもそも「知能」は報酬だけで獲得できるような単純なものではない、との考え方に基づいています。さらに、ルカン氏の言葉を借りれば、人間の知能でさえ間違いを起こすので、知能を正しく定義すること自体容易なことではなく、まして報酬の概念だけでAGIが実現できるとはあまりにも拙速な仮説だと批判しています。

報酬モデルにおける囚人のジレンマ

また、人間は協業を必要とする社会的な生き物なので、チームとしての報酬の最大化を考えた場合、AIが独断で判断すると全体のための利益の最大化にならない、という意見もあります。

https://www.paloaltoinsight.com/membership-checkout/?level=4
https://www.paloaltoinsight.com/membership-checkout/?level=4

 PAIoneerPRO会員に登録 ▷ 
PAIoneer PRO
詳細はこちら

 会員の方はログイン▷ 

パロアルトインサイトについて

AIの活用提案から、ビジネスモデルの構築、AI開発と導入まで一貫した支援を日本企業へ提供する、石角友愛氏(CEO)が2017年に創業したシリコンバレー発のAI企業。

社名 :パロアルトインサイトLLC
設立 :2017年
所在 :米国カリフォルニア州 (シリコンバレー)
メンバー数:17名(2021年9月現在)

パロアルトインサイトHP:www.paloaltoinsight.com
お問い合わせ、ご質問などはこちらまで:info@paloaltoinsight.com

石角友愛
<CEO 石角友愛(いしずみともえ)>

2010年にハーバードビジネススクールでMBAを取得したのち、シリコンバレーのグーグル本社で多数のAI関連プロジェクトをシニアストラテジストとしてリード。その後HRテック・流通系AIベンチャーを経てパロアルトインサイトをシリコンバレーで起業。データサイエンティストのネットワークを構築し、日本企業に対して最新のAI戦略提案からAI開発まで一貫したAI支援を提供。東急ホテルズ&リゾーツ株式会社が擁する3名のDXアドバイザーの一員として中長期DX戦略について助言を行う。

AI人材育成のためのコンテンツ開発なども手掛け、順天堂大学大学院医学研究科データサイエンス学科客員教授(AI企業戦略)及び東京大学工学部アドバイザリー・ボードをはじめとして、京都府アート&テクノロジー・ヴィレッジ事業クリエイターを務めるなど幅広く活動している。

毎日新聞、日経xTREND、ITmediaなど大手メディアでの連載を持ち、 DXの重要性を伝える毎週配信ポッドキャスト「Level 5」のMCや、NHKラジオ第1「マイあさ!」内「マイ!Biz」コーナーにレギュラー出演中。「報道ステーション」「NHKクローズアップ現代+」などTV出演も多数。

著書に『いまこそ知りたいDX戦略』『いまこそ知りたいAIビジネス』(ディスカヴァー・トゥエンティワン)、『経験ゼロから始めるAI時代の新キャリアデザイン』(KADOKAWA)、『才能の見つけ方 天才の育て方』(文藝春秋)など多数。

※石角友愛の著書一覧

NEWSLETTERパロアルトインサイトの
無料ニュースレター

毎週水曜日、アメリカの最新AI情報が満載の
ニュースレターを無料でお届け!
その他講演情報やAI導入事例紹介、
ニュースレター登録者対象の
無料オンラインセミナーのご案内などを送ります。

BACK TO BLOG
« »
PAGE TOP