今週の注目カンパニー
先日、Georgia工科大学の専門誌を読んでいて、今後のAIの課題としてAIのバイアス(偏向性)が挙げられている記事をみました。本日は、そんなAIのバイアスについての研究や提唱をしているAJL(Algorithmic Justice League)という団体をご紹介します。
AJLのFounderのジョイ氏は、MITメディアラボのリサーチャーを務めているコンピュータサイエンティストです。ジョイ氏の実験よると、AIの顔認証技術は黒人よりも白人を3倍見分けやすいといい、メディアでも話題になりました。これは結局人間がAIにデータを学習させていることによるバイアスの問題からきています。
そんなバイアスの中でも特に問題とされている4つの領域が「顔認証技術」「雇用」「住居」「刑事司法」です。
顔認証技術や刑事司法制度はすでに人種的不公平に満ちており、この問題は人間の偏ったデータセットが際立たせているといいます。
今後のAIビジネスにおいては、元データのバイアスをいかに取り除くのかというプロセスも非常に重要になります。バイアスのないデータセットをいかに集めるか、これからAIビジネスを考える方もぜひ意識していただければ幸いです。 |