4日目は脳科学者による招待講演と、いくつかの論文のポスターセッションをまわりました。初日にポスターセッションを回った感想としては、すべてのポスターを吟味することは不可能という結論に至りました。定員目一杯の人数が蠢く会場の中で、200近いポスターが展示されており、それぞれのポスターで10人程度相手に研究者が質疑応答している光景を思い浮かべてください。まるで昼時の東京駅で駅弁の買い物をするようなイメージです。ただし、幕の内弁当の代わりに、カルバックライブレラーダイバージェンスだの、ホライズンの呪いだのの技術用語が飛び回る、かなり異様な光景です。

なので、なんの戦略もなしにポスター会場に飛び込むのは少し無謀です。私がたどり着いた戦略は2通りあります。まずは、会場が開く予定の時間の１０分前くらいにシレッと立ち寄って、ポスターの準備をしている段階で会場で話を聞くということと、混み始めたらさっさと退散して夕飯を食べに行きます。夕飯をゆっくりと食べ終わって6時40分くらいにまた戻ります。その時間には皆腹を減らせて帰っている最中です。その隙にまた目星を付けていたポスターのところに戻ります。

今日マークしていた論文は「ObjectNet」で、ポスター会場に着くや否やまずそのポスターに直行しました。「ImageNet」はFeifei Li教授が作った、画像処理系の機械学習のデータで、ディープラーニングの研究で頻繁に使われるデータセットとして有名です。今回見たオブジェクトネットは、イメージネットの画像と全く同じ物体を、少し回転させたり背景を変えたりしたものを集めています。

見て分かる通り、少し意地悪なものもありますが、彼らの発見は、このデータで評価すると最先端と言われるディープラーニングのモデルの精度が40％以上落ちるということで、以下にこれまでに見たことがないデータに対してディープラーニングがまだ弱いことを証明しています。

どのようにこのデータを集めたかというと、データ収集専用のアプリを開発してアマゾンのメカニカルタークサービスを活用してデータをクラウドソーシングし、それらのデータをレビューしてデータセットに加えているようです。

物体別の精度を見ると面白くて、物体によって精度のバラツキが明確に現れています。例えば皿などの物体は難しいとされています。

もう一つ面白かった論文は「This Looks Like That: Deep Learning for Interpretable Image Recognition」(Chen, et al 2019)です。これXAIの流れで、どこに注目して機械学習のモデルが物体認識をしているかというものです。アテンションとは少し違ったメカニズムとして「プロトタイプ」という概念を使っています。例えば鳥の羽の形や、足の部分などの画像の枠に対応させることができ、「これらのプロトタイプがあるからこのように認識している」という因果関係を明確にできます。

他にも強化学習のPOMDPを解決する方法や、そもそもデータのバランスがとれていないときに活用する手法などがありました。これらの課題は実世界でぶち当たることが多いのでとても参考になりました。

以上で今年のNeurIPSシリーズを終わりにします。全体としてかなり刺激的で、いろんな学びと多くの人と話せたので大満足です。また来年も来たいと思います！