アメリカ最新AI情報満載!セミナーや講演情報など交えて毎週水曜配信 無料ニュースレター 下記へメールアドレスを入力し無料で登録
CLOSE
パロアルトインサイト/ PALO ALTO INSIGHT, LLC.
ブログBLOG
パロアルトインサイト/PALO ALTO INSIGHT, LLC. > ブログ > OpenAI サムアルトマン解任劇の首謀者!?共同設立者のイリヤ・サツケバーとは
OpenAI サムアルトマン解任劇の首謀者!?共同設立者のイリヤ・サツケバーとは
2023/11/29 ブログ, PAIoneer PRO, The Insight 
by kohei 

OpenAI サムアルトマン解任劇の首謀者!?共同設立者のイリヤ・サツケバーとは

今週のテーマ:話題の人物を深掘り

OpenAI サムアルトマン CEO 解任&解雇騒動の首謀者とも噂されるOpenAI共同設立者でありチーフサイエンティストのイリヤ・サツケバー氏が注目を集めています。彼の経歴や研究、考えを伝えたインタビューが話題となっています。

AI業界に大きな影響を与えているイリヤ・サツケバー氏が語ったインタビュー記事「Rogue superintelligence and merging with machines: Inside the mind of OpenAI’s chief scientist」を元に、AI技術の将来に対する彼の考え紹介します。

💡 この記事から得られる3つのナレッジ
・イリヤ氏の経歴
・イリヤ氏の考えるAIの進化
・AIを制御する安全性への取り組み

目次

イリヤ氏の経歴

ASIとAGIのリスク

AIの進化と人間との融合

AIのスーパーアライメントと未来の安全性への取り組み

まとめ


イリヤ氏の経歴

イリヤ氏はトロント大学でジェフリー・ヒントン教授の指導を受け、深層学習とニューラルネットワークを得意としAI分野のパイオニアとしての地位を築きました。彼は、ヒントン教授、そして博士課程の学生であったアレックス・クリゼフスキー氏とともに、AlexNetと呼ばれる画像分類と物体検出のための多層モデルを開発しました。このモデルは、当時の従来の方法を大幅に上回る性能を示し、後続のニューラルネットワークの設計に影響を与えました。

2012年、ヒントン教授とクリゼフスキー氏と共に3人で「DNN Research」という会社を設立し、翌年4400万ドル (約65億円)にてGoogleへ売却したことが話題となりました。DNN Research の買収劇についてはこちらの記事「ニューラルネットワークでAI時代を開拓したヒントン教授」で詳しく記載しています。

その後Google Brainの研究科学者として活躍したイリヤ氏は、自然言語処理を革命的に進化させるためのアテンションベースの深層学習を開発したり、TensorFlowの開発にも積極的に関与しました。今日、TensorFlowは学生や専門家にとって最もアクセスしやすい機械学習ツールの一つとして知られています。

そして、2015年にOpenAIの共同創設者となりました。OpenAIは、イーロン・マスク、ピーター・ティール、マイクロソフト、Yコンビネーターなどからの資金提供を受け、人工一般知能(AGI)の開発を目指しました。当初は多くの困難があったものの、彼のディープラーニングに対する信念が支えとなり、後にGPTシリーズやDALL-Eなどの革新的なモデルを生み出しました。

ASIとAGIのリスク

イリヤ氏は、次のGPTや画像生成ツールDALL-Eを作る代わりに、仮説的な未来技術であるASI(人工超知能)や、AGI(汎用人工知能)が、暴走するのをどう阻止するかを見極めることが新たな優先事項であると語っています。

ASIとAGI(汎用人工知能)は、AIの進化における異なる段階を表しています。

  1. ASI(Artificial Super Intelligence:人工超知能) ASIは人間の知能を遥かに超越するAIを指し、人間では不可能なレベルでの思考、分析、問題解決が可能です。イリヤ氏は、ASIについて、「They’ll see things more deeply. They’ll see things we don’t see」と表現しており、これはASIが人間の理解を超える洞察を持つことを意味しています。
  2. AGI(Artificial General Intelligence:汎用人工知能) AGIは人間と同等の知的能力を持つAIであり、AIが多様なタスクを学習し、理解し、実行できるレベルを意味し、人間の知能を模倣または再現することを目指しています。

イリヤ氏は、これらの高度なAIシステムがもたらすリスクと機会のバランスを考えており、特にASIの制御と安全性に重点を置いています。特に、ASIにおける「alignment(AIの倫理的調整)」の重要性を強調し、

Existing alignment methods won’t work for models smarter than humans because they fundamentally assume that humans can reliably evaluate what AI systems are doing”
(既存のアライメント手法は、人間よりも賢いモデルには機能しない。なぜなら、それらは基本的に人間がAIシステムの行動を信頼できると評価できると仮定しているからである)

と指摘し、人間を超える知能を持つAIは従来のアプローチが適用困難であることを警告しています。これは、超高度AIの予測不能な行動への適切な対応が今後の大きな課題であることを示しています。

彼の見解では、人間レベルまたはそれ以上の知能を持つAIの出現は必然であり、

”At some point we really will have AGI. Maybe OpenAI will build it. Maybe some other company will build it”
(いずれ私たちは本当にAGI(汎用人工知能)を持つことになるでしょう。それを構築するのはOpenAIかもしれないし、他のどこかの会社かもしれません)

と述べています。

下記の動画は、イリヤ氏がAGIについて語ったドキュメンタリーで海外で話題となっています。

https://www.paloaltoinsight.com/membership-checkout/?level=4
https://www.paloaltoinsight.com/membership-checkout/?level=4

 PAIoneerPRO会員に登録 ▷ 
PAIoneer PRO
詳細はこちら

 会員の方はログイン▷ 

おすすめ/関連記事こちらの記事も合わせてどうぞ

パロアルトインサイトについて

AIの活用提案から、ビジネスモデルの構築、AI開発と導入まで一貫した支援を日本企業へ提供する、石角友愛氏(CEO)が2017年に創業したシリコンバレー発のAI企業。

社名 :パロアルトインサイトLLC
設立 :2017年
所在 :米国カリフォルニア州 (シリコンバレー)
メンバー数:17名(2021年9月現在)

パロアルトインサイトHP:www.paloaltoinsight.com
お問い合わせ、ご質問などはこちらまで:info@paloaltoinsight.com

石角友愛
<CEO 石角友愛(いしずみともえ)>

2010年にハーバードビジネススクールでMBAを取得したのち、シリコンバレーのグーグル本社で多数のAI関連プロジェクトをシニアストラテジストとしてリード。その後HRテック・流通系AIベンチャーを経てパロアルトインサイトをシリコンバレーで起業。データサイエンティストのネットワークを構築し、日本企業に対して最新のAI戦略提案からAI開発まで一貫したAI支援を提供。東急ホテルズ&リゾーツ株式会社が擁する3名のDXアドバイザーの一員として中長期DX戦略について助言を行う。

AI人材育成のためのコンテンツ開発なども手掛け、順天堂大学大学院医学研究科データサイエンス学科客員教授(AI企業戦略)及び東京大学工学部アドバイザリー・ボードをはじめとして、京都府アート&テクノロジー・ヴィレッジ事業クリエイターを務めるなど幅広く活動している。

毎日新聞、日経xTREND、ITmediaなど大手メディアでの連載を持ち、 DXの重要性を伝える毎週配信ポッドキャスト「Level 5」のMCや、NHKラジオ第1「マイあさ!」内「マイ!Biz」コーナーにレギュラー出演中。「報道ステーション」「NHKクローズアップ現代+」などTV出演も多数。

著書に『いまこそ知りたいDX戦略』『いまこそ知りたいAIビジネス』(ディスカヴァー・トゥエンティワン)、『経験ゼロから始めるAI時代の新キャリアデザイン』(KADOKAWA)、『才能の見つけ方 天才の育て方』(文藝春秋)など多数。

※石角友愛の著書一覧

NEWSLETTERパロアルトインサイトの
無料ニュースレター

毎週水曜日、アメリカの最新AI情報が満載の
ニュースレターを無料でお届け!
その他講演情報やAI導入事例紹介、
ニュースレター登録者対象の
無料オンラインセミナーのご案内などを送ります。

BACK TO BLOG
« »
PAGE TOP