ニューラルネットワークでAI時代を開拓したヒントン教授

この記事に登場する技術キーワード

• • ディープラーニング （深層学習）
  • オートエンコーダー
    関連記事「“ディープラーニングのゴッドファザー”ことヒントン教授が生み出した次元削減」

• • バックプロパゲーション（誤差逆伝播法)
    関連記事「“ディープラーニングのゴッドファザー”ことヒントン教授が生み出した次元削減」

• • 敵対的生成ネットワーク（GAN）
    関連記事「敵対的生成ネットワーク（GAN）の真の可能性とは」

• • 畳み込みニューラルネットワーク（CNN）
  • シンボリックAI
  • 画像認識コンペティション（ILSVRC）

目次

イントロダクション

ヒントン教授の経歴〜AI冬の時代もひたむきに研究

DNN Reserchの巨額買収劇から見る教授の影響力

代表的な研究成果：バックプロパゲーションとオートエンコーダ

ヒントン教授の世界的な評価

「ディープラーニングのゴッドファザー」と呼ばれる所以

AIビジネスデザイナーのワンポイントアドバイス

---

イントロダクション

『GENIUS MAKERS （ジーニアス・メーカーズ） Google、Facebook、そして世界にAIをもたらした信念と情熱の物語』は、「ニューヨーク・タイムズ」のテクノロジー記者であるケイド・メッツ氏が500人以上への取材をもとに、AIが見向きもされなかった時代から現在のAIブームまで、AI研究の歴史と研究者たちの奮闘を綴ったノンフィクションです。

ロサンゼルス・タイムズ、フォーブス、ワシントンポストなど各紙で高く評価されていて、『イーロン・マスク　未来を創る男』の著者であるアシュリー・ヴァンスは「根気強い報告と心躍る記述によって、本書は現代における最も重要な物語のひとつとなっている。ＡＩを理解するために本を読みたいと思うのなら、本書はまさにそのための一冊だ」と賞賛しています。

この本の冒頭に登場するのが、ディープラーニングのゴッドファザーと呼ばれるヒントン教授です。昨今の第3次AIブームの火付け役となった「ディープラーニング」を語るうえで、教授はなくてはならない存在です。

 

ヒントン教授の経歴〜AIの冬の時代もひたむきに研究

ジェフリー・ヒントン氏は1947年にイギリスで生まれました。70年にケンブリッジ大学で実験心理学の学士号、78年にエジンバラ大学で人工知能の博士号をそれぞれ取得。カーネギーメロン大学の教員などを経て、87年にトロント大学に移りました。現在はコンピューターサイエンス学部の名誉教授を務めています。Googleのフェロー、ベクター研究所の主任科学顧問でもあります。
（参照：http://www.cs.toronto.edu/~hinton/bio.html）

ヒントン 教授と日本との関わりは、2019年に本田賞（1980年に創設された科学技術分野における日本初の国際賞）がジェフリー・ヒントン博士へ授与されました。
（参照：https://www.honda.co.jp/news/2019/c190920.html）

ヒントン教授は早くからニューラルネットワークに着目していました。ところが1980年代はシンボリックAI(*)が主流で、ニューラルネットワークは実現性のないものと考えられていました。

シンボリックAI

人間である技術者が決めた非常に特殊な指示に従って行動するAI。その指示とは、遭遇すべきあらゆる状況において、機械がすべきことをすべて明確にしている個々の規則を指す。
シンボリックＡＩと名づけたのは、数字や文字といった記号の個別の収集に関して、特定の作業を行う方法を機械に示したため。（引用： GENIUS MAKERS）

AIブームが去り、AI研究自体が冷遇された冬の時代もありました。そんな中でも、ひたむきに研究を続けた結果、1986年にバックプロパゲーションアルゴリズム、**2006年にオートエンコーダ（自己符号化器）**の開発に至ります。

またその功績として、最もよく知られているのが2012年の画像認識コンペティション（ILSVRC）における成果です。ディープラーニングの手法を用いたモデル「AlexNet」を使い、画像誤認識率16.4％という圧倒的な結果を出し、優勝したのです。それまでのコンペティションの優勝者の誤認識率が25％程度だったことを考えると、驚異的な数値です。

（画像引用：https://medium.com/coinmonks/paper-review-of-alexnet-caffenet-winner-in-ilsvrc-2012-image-classification-b93598314160）

DNN Reserchの巨額買収劇から見るヒントン教授の影響力