人工知能によって本物そっくりの偽動画などを捏造できる「ディープフェイク」という技術が注目されており、悪用などの懸念が広がっているようです。ここでは有名なフェイク動画の例や、仕組み・作り方・対策などについて簡単にまとめて紹介します。
ディープフェイクの実例
参考動画：BuzzFeedVideo｜有名なディープフェイク動画の例。”President Trump is a total and complete dipshit.”（トランプ大統領は完全なアホ）などと発言するオバマ元大統領。
この偽動画を作成したのはコメディアンのJordan Peele氏（画面右に登場）とのこと。フェイク動画の将来の危険性について警告しています。
ディープフェイクとは？
Wikipediaによれば、「ディープフェイク（deep fake）」とは、人工知能の重要技術である「ディープラーニング（deep learning）」と英語で捏造・にせものを意味する「フェイク（fake）」から作られた造語、とのことです。
人工知能によって、本人が実際には話していないことを話させたり、人物の顔を巧妙に入れ替えたりして、本物と見分けがつかないような偽動画などを作ることができる技術のようです。
Fecabookの創業者ザッカーバーグ氏が、データ支配について語る
参考動画：有名なディープフェイク動画の別な例。
FacebookのCEOマーク・ザッカーバーグ氏が、”Imagine this for a second: One man, with total control of billions of people’s stolen data, all their secrets, their lives, their futures.”（ちょっと想像してみてください。一人の男が、盗んだデータで何億人ものあらゆる秘密、生活、将来を完全に支配している様子を。）などと発言しているフェイク動画です。
しゃべるモナリザ？たった1枚の画像からディープフェイク動画を作成
参考動画｜The Telegraph：従来、人物が話をしているディープフェイク動画の作成には、機械学習のために大量の画像のデータセットが必要だったようです。しかし、サムスン社(Samsung）は、モナリザのような歴史的絵画を含めて、たった1枚の画像からでもフェイク動画を作れる技術を論文で発表しています。
今や、誰もが一流ダンサーになれる！
参考動画｜Caroline Chan：カリフォルニア大学バークレー校の研究者らは、ある人の体の動きを、別な人に移し変える技術を論文で発表しています。
ディープフェイクの仕組み
参考動画｜TED：ディープフェイク動画の概要についての簡単な解説（日本語字幕あり）
参考動画｜Egor Zakharov氏：上で紹介したモナリザのフェイク映像を作る技術について、論文の著者が解説した動画。
元の人物の顔の特徴（眉毛、目、鼻、口、顎）を抽出して、新しい人物の顔に対応させることによって表情をコピーしているようですね。人物の顔写真は多ければ多いほど精度は高くなるようですが、1枚だけからでもフェイク動画を作ることができるようです。
参考動画｜Christian Theobalt氏：別な論文の著者による、フェイク動画作成技術の解説。こちらの手法では、顔の表情だけではなく、顔全体の立体的な位置、視線の方向、まばたきなども別な人物の顔へ移行しているようです。
素人でもディープフェイクが作成できる！？
誰でも簡単にディープフェイクを自作できるサイト・ソフトやスマホアプリがすでに誕生しています。
Deepfakes Web β（オンラインディープフェイク動画作成サービス）
参考動画：ディープフェイクス・ウェブ｜ディープフェイク動画を誰でも簡単に作成できるサイトの例。フェイク動画の作成手順が解説されています。
FakeApp（ディープフェイク動画を作成できるアプリケーション）
参考動画｜tech 4tress：ディープフェイク動画を作成できるフリーソフトツールとして有名な「FakeApp」のダウンロード・インストール方法や使い方などが解説されています。
中国のスマホアプリ「ZAO」
中国ではZAOという無料アプリが登場して、たった1枚の画像からわずか数秒で誰でも簡単に映画の主人公と顔を交換できるようになったようです↓
世界まるみえテレビでも紹介！iOSアプリ「Xpression」
参考動画｜EmbodyMe：iOS用アプリ「Xpression」バーチャル乗っ取りフェイス
日本国内でも、スマホでフェイク動画を作れるiPhoneの無料アプリが登場しています。誰かの顔を乗っ取って遊べるツールとして紹介されていますね。Xpression公式サイトによれば、Android用のアプリももうすぐ登場する予定のようです。
Androidでも使える！スマホ顔交換アプリ「Doublicat」
参考動画｜RefaceAI：顔を入れ替えられるスマホアプリ「Doublicat」
こちらは英語ですが、Android / iOS ともに使えるフェイススワップ・アプリで、有名人などに自分の顔をはめ込んだGIF画像をスマホで作成できるようです。
「フェイクポルノ」の脅威
他にも例えば、服を着た女性の写真をワンクリックで裸にしてしまう”Deep nude”（ディープヌード）というアプリが公開されたとMotherboardは報じていますが、まもなく、リベンジポルノなどの潜在的な危険性から、公開が停止されたようです。（以下のtwitter投稿参照）
The DeepNude app shows what deepfakes were always about: claiming ownership over women’s bodies. https://t.co/DUBt4VWBR4
— VICE (@VICE) 2019年6月26日
他にも、スマホなどで簡単にフェイク動画や画像を作れるアプリがどんどん出てくるのも、もはや時間の問題といえそうです。
素人でも簡単に画像や動画を捏造できる環境ができつつあるため、芸能人・女優やアイドルの顔をコラージュしたアダルトビデオ（AV）やポルノ動画（=フェイクポルノ）もすでに現れており、海外のみならず日本国内でも問題が顕在化し始めているようです。
有名人だけでなく、どんな人でも被害者になりうるため、非常に怖い脅威となりつつあります。
このように偽動画などを簡単に作れるようになることで、有名な政治家のフェイク動画が選挙結果に影響を及ぼしたり、捏造動画が新たないじめの手段に使われたりと、様々な可能性が懸念されています。
ディープフェイクを見破る方法や対策など
参考動画｜東京新聞：フェイク動画を見破る人工知能AIについての報道。
ディープフェイクのアルゴリズムによる巧妙な偽動画は、すでに人間の目では本物と見分けることは難しくなりつつあるため、AIによってディープフェイクを見破る技術の研究が進んでいるようです。
ただ、偽造技術の方も日々進歩しているため、結局いたちごっこになってしまうのでは？と個人的には危惧しています。
他にも、たとえば透かしを入れる方法などが検討されているようですね。
法律の整備などもこれから急速に進んでいくでしょう。
（関連記事）
⇒ディープフェイクによるリベンジポルノも違法に–米バージニア州
⇒カリフォルニア州、政治やポルノのディープフェイクを法律で規制へ
フェイクポルノで日本初の逮捕者
フェイクポルノによる名誉棄損及び著作権法違反の疑いでついに逮捕者が出たようです。
いずれにしても、インターネット上では、自分が目にしているものが本物かどうか判断できない時代がすでに到来しつつあるようです。どんな情報も鵜呑みにせず、各自が総合的に判断していく能力が今まで以上に求められることになりそうですね。
コメント