ディープフェイクとは?偽動画の例や仕組み・作り方・危険性などをまとめて紹介

人工知能によって本物そっくりの偽動画などを捏造できる「ディープフェイク」という技術が注目されており、悪用などの懸念が広がっているようです。ここでは有名なフェイク動画の例や、仕組み・作り方・対策などについて簡単にまとめて紹介します。

ディープフェイクの実例

You Won’t Believe What Obama Says In This Video! 😉

参考動画:BuzzFeedVideo|有名なディープフェイク動画の例。”President Trump is a total and complete dipshit.”(トランプ大統領は完全なアホ)などと発言するオバマ元大統領。

この偽動画を作成したのはコメディアンのJordan Peele氏(画面右に登場)とのこと。フェイク動画の将来の危険性について警告しています。

ディープフェイクとは?

Wikipediaによれば、「ディープフェイク(deep fake)」とは、人工知能の重要技術である「ディープラーニング(deep learning)」と英語で捏造・にせものを意味する「フェイク(fake)」から作られた造語、とのことです。

人工知能によって、本人が実際には話していないことを話させたり、人物の顔を巧妙に入れ替えたりして、本物と見分けがつかないような偽動画などを作ることができる技術のようです。

Fecabookの創業者ザッカーバーグ氏が、データ支配について語る

参考動画:有名なディープフェイク動画の別な例。

FacebookのCEOマーク・ザッカーバーグ氏が、”Imagine this for a second: One man, with total control of billions of people’s stolen data, all their secrets, their lives, their futures.”(ちょっと想像してみてください。一人の男が、盗んだデータで何億人ものあらゆる秘密、生活、将来を完全に支配している様子を。)などと発言しているフェイク動画です。

しゃべるモナリザ?たった1枚の画像からディープフェイク動画を作成

AI brings Mona Lisa to life

参考動画|The Telegraph:従来、人物が話をしているディープフェイク動画の作成には、機会学習のために大量の画像のデータセットが必要だったようです。しかし、サムスン社(Samsung)は、モナリザのような歴史的絵画を含めて、たった1枚の画像からでもフェイク動画を作れる技術を論文で発表しています。

今や、誰もが一流ダンサーになれる!

Everybody Dance Now

参考動画|Caroline Chan:カリフォルニア大学バークレー校の研究者らは、ある人の体の動きを、別な人に移し変える技術を論文で発表しています。

ディープフェイクの仕組み

Fake videos of real people — and how to spot them | Supasorn Suwajanakorn

参考動画|TED:ディープフェイク動画の概要についての簡単な解説(日本語字幕あり)

Few-Shot Adversarial Learning of Realistic Neural Talking Head Models

参考動画|Egor Zakharov氏:上で紹介したモナリザのフェイク動画を作る技術について、論文の著者が解説した動画。

元の人物の顔の特徴(眉毛、目、鼻、口、顎)を抽出して、新しい人物の顔に対応させることによって表情をコピーしているようですね。人物の顔写真は多ければ多いほど精度は高くなるようですが、1枚だけからでもフェイク動画を作ることができるようです。

Deep Video Portraits – SIGGRAPH 2018

参考動画|Christian Theobalt氏:別な論文の著者による、フェイク動画作成技術の解説。こちらの手法では、顔の表情だけではなく、顔全体の立体的な位置、視線の方向、まばたきなども別な人物の顔へ移行しているようです。

素人でもディープフェイクが作成できる!?

誰でも簡単にディープフェイクを自作できるサイトやソフトがすでに誕生しています。

Deepfakes Web β(オンラインディープフェイク動画作成サービス)

How to create Deepfakes by using Deepfakes Web

参考動画:ディープフェイクス・ウェブ|ディープフェイク動画を誰でも簡単に作成できるサイトの例。フェイク動画の作成手順が解説されています。

⇒ Deepfakes web βの公式ページ

FakeApp(ディープフェイク動画を作成できるアプリケーション)

deepfakes guide:Fake App 2 2 Tutorial. installation(totally simplified ,model folder included)

参考動画|tech 4tress:ディープフェイク動画を作成できるツールとして有名な「FakeApp」のインストール方法や使い方などが解説されています。

「フェイクポルノ」の脅威

他にも例えば、服を着た女性の写真をワンクリックで裸にしてしまう”Deep nude”(ディープヌード)というアプリが公開されたとMotherboardは報じていますが、まもなく、リベンジポルノなどの潜在的な危険性から、公開が停止されたようです。(以下のtwitter投稿参照)

他にも、スマホなどで簡単にフェイク動画や画像を作れるアプリがどんどん出てくるのも、もはや時間の問題といえそうです。

素人でも簡単に画像や動画を捏造できる環境ができつつあるため、芸能人・女優やアイドルの顔をコラージュしたアダルトビデオ(AV)やポルノ動画(=フェイクポルノ)もすでに現れており、海外のみならず日本国内でも問題が顕在化し始めているようです。

有名人だけでなく、どんな人でも被害者になりうるため、その脅威は深刻かと思います。

このように偽動画などを簡単に作れるようになることで、有名な政治家のフェイク動画が選挙結果に影響を及ぼしたり、捏造動画が新たないじめの手段に使われたりと、様々な可能性が懸念されています。

ディープフェイクを見破る方法や対策など

精巧なフェイク動画(deepfakes)AIが見破る/国立情報学研究所の研究者らが開発

参考動画|東京新聞:フェイク動画を見破る人工知能AIについての報道。

ディープフェイクによる巧妙な偽動画は、すでに人間の目では本物と見分けることは難しくなりつつあるため、AIによってディープフェイクを見破る技術の研究が進んでいるようです。

ただ、偽造技術の方も日々進歩しているため、結局いたちごっこになってしまうのでは?と個人的には危惧しています。

他にも、たとえば透かしを入れる方法などが検討されているようですね。

法律の整備などもこれから急速に進んでいくでしょう。

関連記事⇒ディープフェイクによるリベンジポルノも違法に–米バージニア州

いずれにしても、インターネット上では、自分が目にしているものが本物かどうか判断できない時代がすでに到来しつつあるようです。どんな情報も鵜呑みにせず、各自が総合的に判断していく能力が今まで以上に求められることになりそうですね。

次の記事もおすすめです!

人工知能AIが脳を解読して、心の中のイメージの画像化に成功
人工知能があなたの心に浮かぶ映像を実際に描くことは、すでに可能になりつつあるらしい。米科学誌「プロス・コンピュテーショナル・バイオロジー」に掲載された論文では、AIが脳の活動パターンを機械学習により分析する事で、ヒトの脳内のイメージを画像化に成功したという。思考盗聴・脳内盗聴や心のプライバシーが今後問題になる恐れも

コメント

タイトルとURLをコピーしました