ディープフェイクとはどんな技術？

私たちの暮らしをより豊かで便利なものにしていこうと、AI（人工知能）の技術は急速に進化を遂げています。しかし、そんなAIが人の手によって悪用されてしまうケースも残念ながら増えてきているのです。特にAI技術によって悪用の危険性が高いものとして、「ディープフェイク」が挙げられます。今回はディープフェイクの特徴から、どのような技術なのか、対策や今後の活躍への期待について解説していきます。

---

▼目次

ディープフェイクとはそもそも何か？

どんな技術？

合成画像との違いは？

浸透するまでの歴史

悪用されるとどうなるのか？

ディープフェイクへの対策

ディープフェイクの可能性

終わりに

---

■ディープフェイクとは何か？

そもそもディープフェイクとは具体的にどのようなものを指す言葉なのか？まずはディープフェイクの特徴や、技術、合成画像とは異なる点についてご紹介します。

・どんな技術？

ディープフェイクとは、ディープラーニング（深層学習）を活用して2つ以上の画像・動画の一部を入れ替えてしまう技術です。ディープラーニングは機械学習の1つで、人間のタスクをコンピュータが覚えることで複雑な問題も素早く解決できてしまう方法を指します。まだディープフェイクが誕生してからそれほど年月は経っていないため、明確な定義がされているわけではありません。ディープフェイクには「GAN（Generative Adversarial Network）」という技術が用いられています。GANは“敵対的生成ネットワーク”とも呼ばれるもので、生成モデルの一種です。画像や動画などのデータから特徴を学習し、本来は実在していないデータや存在するデータに合わせて特徴を変換させることができます。

通常ディープラーニングを行う際には、AIに「何が正解で、何が間違いか」を教える必要がありますが、GANは特に正解のデータを与えなくても特徴を学習できます。また、GANを構成している2つのニュートラルネットワーク（ジェネレーター・ディスクリミネイター）が本物のように見えるディープフェイクを生み出す要因になっているのです。本物を参考にしながら偽物の画像を生成する際に、まずジェネレーターが限りなく本物に近い偽物の画像を生成します。次に、生成した画像をディスクリミネイターが本物か偽物かどうかを検証していきます。つまり、ジェネレーターとディスクリミネイターが競い合うことで仕上がりは徐々に向上していき、最終的にはかなりリアルな画像を生成できるようになるのです。柔軟に新しいものを生成できることが大きなメリットと言える技術です。

・合成画像との違いは？

ディープフェイクと合成画像は一見似ているように感じられますが、実際には全く異なるものです。そもそも合成画像とは、複数の写真を切り貼りするなどして1枚の写真に仕上げたものです。アナログカメラが主流だった時代から活用されてきた技術であり、複数のフィルムや印画、画像データなどを組み合わせて作成したものを合成画像と呼んでいました。
ディープフェイクと合成画像はどちらもオリジナルの画像や動画などを用いて別のものを作ることには変わりないものの、AIを活用したディープフェイクの方が合成画像に比べて精巧に作成することが可能です。また、ディープフェイクはAIに膨大な数の画像を学習させ、全く関係ない画像や動画にも顔や表情などをはめ込めるといった違いも見られます。

■ディープフェイクの歴史

ディープフェイクが一般的に知られるようになったのは、2017年になります。当時ネットの掲示板にある動画が投稿されました。その動画は有名な女優の顔をポルノ動画と合成しており、まるで本当にこの女優がポルノ動画に出演しているかのような仕上がりだったと言います。当時から動画をデジタル処理によって合成する技術自体はあったものの、1本の動画を作成するためにはかなりの時間がかかっていましたし、それでもなお粗が見えてしまう部分はありました。しかし、AI技術によって短時間で大量の、しかも高精度なフェイク動画が作成できることが分かったのです。

その後、ディープフェイクのアルゴリズムがコード共有プラットフォーム、「GitHub」に一般公開されることにより、誰でもその技術やノウハウを習得できるようになりました。これを機にディープフェイク動画が一気にネット上にアップされるようになります。ディープフェイクを用いた女性に対する人権侵害は今もなお増え続けている状況です。

■ディープフェイクが悪用されるとどうなる？

ディープフェイクの技術は誰でも活用できてしまうことから悪用されることも多いです。例えば、以下のアメリカ元大統領・オバマ氏のディープフェイク動画は大きな反響を呼びました。

Youtubeチャンネル　BuzzFeedVideo「You Won’t Believe What Obama Says In This Video!」より

前半部分は自然に話していたオバマ氏でしたが、後半からはジョーダン・ピールというアメリカの俳優・プロデューサーがオバマ氏の声色を真似し、動画の唇の動きとシンクロさせることでまるでオバマ氏本人が言っているようなディープフェイク動画が完成しました。この動画は最初からにディープフェイクであると公言されていたため、大きな問題や社会的混乱には至らなかったものの、万が一そのような公言がなされていたなかったら政治に何らかの影響を与えていた可能性も考えられます。

現在も続くロシアによるウクライナ侵攻ですが、2022年3月にはウクライナの大統領・ゼレンスキー氏のディープフェイク動画が何者かによって投稿されたことでも話題となりました。この時期はロシアがウクライナ侵攻を始めた時期であり、動画ではゼレンスキー氏がウクライナ軍に武器を置くよう呼びかけ、ロシアに降伏しているような内容でした。
こちらは、すぐにゼレンスキー氏本人が動画の内容を否定し、動画が投稿されたFacebookとYouTubeもすぐに動画を削除したため大きな問題には発展しませんでしたが、今後もこのような政治的な目的でディープフェイクが拡散される可能性は十分に考えられます。
また、歴史の部分で紹介したディープフェイクを使ったポルノ動画も未だに数多く投稿されており、2020年にはフェイクポルノの制作者として大学生やシステムエンジニアなど数名が名誉棄損・著作権法違反の疑いで逮捕されるなど、日本国内だけをみても多くの問題が発生しています。

■世界中の研究チームが行う対策

AI技術を悪用したディープフェイクが広まっていく中、世界中の研究チームが対策を講じています。例えば、ニューヨーク州立大学の研究チームは、AIを使ってディープフェイク動画かを見破れる技術を開発しました。この技術は人のまばたきに注目し、動画内でまばたきのない箇所を検出できるAIアルゴリズムを設計し、それが人なのかAIなのかを見分けられるようになっています。

また、日本でも東京大学の研究グループによって開発された技術は、“世界最高性能”とも称されています。今後この技術が一般的に普及されていけば、悪用による被害を軽減できる可能性が高いです。

ディープフェイク検知に関する東京大学の最新研究論文の要約記事を読む

■ディープフェイクの可能性

そもそもディープフェイクの技術は現在だと悪用されるケースが目立っているものの、映像・画像を扱う業界にとっては非常に有意義なものとして考えられています。ディープフェイクをポジティブに活用している企業も増えてきています。例えばスマートフォン向け画像共有アプリのSnapchatで提供される「Face Swap」という機能は、カメラを使って2つの顔を入れ替えられる機能です。2人の画像が入れ替わることでユニークな映像や画像を撮影することできます。ディープフェイク技術の応用で、ビデオチャットやライブ配信などリモート下で不可欠なビデオコミュニケーションを変えていくことも考えられます。

また、大ヒット映画「アバター」では、登場するのは人間以外の生き物でありながら、表情やパーツは人間のものを使用するというディープフェイクの先駆けのような技術が使われており、非常に表情が豊かで、リアリティの溢れる映像として当時話題になりました。これに似た形で、東京五パラリンピック閉会式の冒頭で、ステージに大きく映し出される映像の一部として登場するなど話題になったバーチャルヒューマンimmaのような新しい知財としての可能性も出てきており、今後映像業界を中心に世の中を大きく変える可能性を秘めている技術であることは伺えます。

■終わりに

今回は、ディープフェイクについてご紹介してきました。AI技術の発展もあり、高精度なディープフェイクが誰でも簡単に作成できるようになってきています。現在はほとんどがフェイクポルノや、政治的目的など悪い使われ方が多いものの、法整備や各企業が対抗できる技術開発を進めています。
この技術を悪用するのか、正しく活用するのかは人間次第です。ディープフェイクの一連の問題を解決するためには、製作者サイドの人間のモラルや、情報を受け取る側の人間の正しい情報を見極める力なども必要になってくるでしょう。