ディープフェイクとは?偽動画の例や仕組み・作り方・危険性などをまとめて紹介

人工知能によって本物そっくりの偽動画などを捏造できる「ディープフェイク」という技術が注目されており、悪用などの懸念が広がっているようです。ここでは有名なフェイク動画の例や、仕組み・作り方・対策などについて簡単にまとめて紹介します。

スポンサーリンク

ディープフェイクの実例

You Won’t Believe What Obama Says In This Video! 😉

参考動画:BuzzFeedVideo|有名なディープフェイク動画の例。”President Trump is a total and complete dipshit.”(トランプ大統領は完全なアホ)などと発言するオバマ元大統領。

この偽動画を作成したのはコメディアンのJordan Peele氏(画面右に登場)とのこと。フェイク動画の将来の危険性について警告しています。

ディープフェイクとは?

Wikipediaによれば、「ディープフェイク(deep fake)」とは、人工知能の重要技術である「ディープラーニング(deep learning)」と英語で捏造・にせものを意味する「フェイク(fake)」から作られた造語、とのことです。

人工知能によって、本人が実際には話していないことを話させたり、人物の顔を巧妙に入れ替えたりして、本物と見分けがつかないような偽動画などを作ることができる技術のようです。

Fecabookの創業者ザッカーバーグ氏が、データ支配について語る

参考動画:有名なディープフェイク動画の別な例。

FacebookのCEOマーク・ザッカーバーグ氏が、”Imagine this for a second: One man, with total control of billions of people’s stolen data, all their secrets, their lives, their futures.”(ちょっと想像してみてください。一人の男が、盗んだデータで何億人ものあらゆる秘密、生活、将来を完全に支配している様子を。)などと発言しているフェイク動画です。

しゃべるモナリザ?たった1枚の画像からディープフェイク動画を作成

AI brings Mona Lisa to life

参考動画|The Telegraph:従来、人物が話をしているディープフェイク動画の作成には、機会学習のために大量の画像のデータセットが必要だったようです。しかし、サムスン社(Samsung)は、モナリザのような歴史的絵画を含めて、たった1枚の画像からでもフェイク動画を作れる技術を論文で発表しています。

今や、誰もが一流ダンサーになれる!

Everybody Dance Now

参考動画|Caroline Chan:カリフォルニア大学バークレー校の研究者らは、ある人の体の動きを、別な人に移し変える技術を論文で発表しています。

ディープフェイクの仕組み

Fake videos of real people — and how to spot them | Supasorn Suwajanakorn

参考動画|TED:ディープフェイク動画の概要についての簡単な解説(日本語字幕あり)

Few-Shot Adversarial Learning of Realistic Neural Talking Head Models

参考動画|Egor Zakharov氏:上で紹介したモナリザのフェイク動画を作る技術について、論文の著者が解説した動画。

元の人物の顔の特徴(眉毛、目、鼻、口、顎)を抽出して、新しい人物の顔に対応させることによって表情をコピーしているようですね。人物の顔写真は多ければ多いほど精度は高くなるようですが、1枚だけからでもフェイク動画を作ることができるようです。

Deep Video Portraits – SIGGRAPH 2018

参考動画|Christian Theobalt氏:別な論文の著者による、フェイク動画作成技術の解説。こちらの手法では、顔の表情だけではなく、顔全体の立体的な位置、視線の方向、まばたきなども別な人物の顔へ移行しているようです。

素人でもディープフェイクが作成できる!?

誰でも簡単にディープフェイクを作れるようなサイトやソフトがすでに誕生しています。

Deepfakes Web β(オンラインディープフェイク動画作成サービス)

How to create Deepfakes by using Deepfakes Web

参考動画:Deepfakes Web|ディープフェイク動画を誰でも簡単に作成できるサイトの例。フェイク動画の作成手順が解説されています。

⇒ Deepfakes web βの公式ページ

FakeApp(ディープフェイク動画を作成できるアプリケーション)

deepfakes guide:Fake App 2 2 Tutorial. installation(totally simplified ,model folder included)

参考動画|tech 4tress:ディープフェイク動画を作成できるアプリケーションとして有名な「FakeApp」のインストール方法や使い方などが解説されています。

他にも例えば、服を着た女性の写真をワンクリックで裸にしてしまう”Deep nude”(ディープヌード)というアプリが公開されたとMotherboardは報じていますが、まもなく、リベンジポルノなどの潜在的な危険性から、公開が停止されたようです。(以下のtwitter投稿参照)

スマホなどでも簡単にフェイク動画を作れるアプリがどんどん出てくるのも、もはや時間の問題といえそうです。

専門的な技術や知識のない素人でも簡単に動画を捏造できる環境ができつつあるため、芸能人やアイドルの顔をコラージュしたアダルトビデオAVやポルノ動画(フェイクポルノ)もすでに現れ、問題化しているようです。

有名人だけでなく、どんな人でも被害者になりうるため、その脅威は深刻かと思います。

他にも例えば、有名な政治家のフェイク動画が選挙結果に影響を及ぼしたり、捏造動画が新たないじめの手段に使われたりと、様々な可能性が懸念されています。

ディープフェイクを見破る方法や対策など

精巧なフェイク動画(deepfakes)AIが見破る/国立情報学研究所の研究者らが開発

参考動画|東京新聞:フェイク動画を見破る人工知能AIについての報道。

ディープフェイクによる巧妙な偽動画は、すでに人間の目では本物と見分けることは難しくなりつつあるため、AIによってディープフェイクを見破る技術の研究が進んでいるようです。

ただ、偽造技術の方も日々進歩しているため、結局いたちごっこになってしまうのでは?と個人的には危惧しています。

他にも、たとえば透かしを入れる方法などが検討されているようですね。

法律の整備などもこれから急速に進んでいくでしょう。

関連記事⇒ディープフェイクによるリベンジポルノも違法に–米バージニア州

いずれにしても、インターネット上では、自分が目にしているものが本物かどうか判断できない時代がすでに到来しつつあるようです。どんな情報も鵜呑みにせず、各自が総合的に判断していく能力が今まで以上に求められることになりそうですね。

人工知能を利用した最近のテクノロジーの別な例は、以下の記事でもご紹介しています。

人工知能AIが脳を解読して、心の中のイメージの画像化に成功
人工知能があなたの心に浮かぶ映像を実際に描くことは、すでに可能になりつつあるらしい。米科学誌「プロス・コンピュテーショナル・バイオロジー」に掲載された論文では、AIが脳の活動パターンを機械学習により分析する事で、ヒトの脳内のイメージを画像化に成功したという。思考盗聴・脳内盗聴や心のプライバシーが今後問題になる恐れも
あなたの顔に一瞬現れる「微表情」からAIが本音の感情を読み取る!?ー最新心理学研究
顔の「微表情」とは、無意識のうちに本音の感情がかすかに一瞬現れるもので、怒り、恐れ、嫌悪、驚き、喜び、悲しみなどの感情が読み取れるという。人工知能で微表情を自動分析する試みも注目されており、AIを搭載したカメラが顔認証であなたの感情や性的指向さえ監視する社会の到来も近いかもしれない。プライバシー侵害の危険性
人工知能AIにより誰でもバッハらしく作曲できるツール、Googleが無料で公開
人工知能は一体どれくらい人間の芸術に近づいただろう?あなたのメロディに合わせてAIが作った曲を聴けば、その判断が下せるかもしれない。2019年3月21日、Google Doodle「ヨハン・セバスチャン・バッハを称えて」では、自由に入力された旋律に対して、人工知能AIがバッハ風の和声を自動で追加する作曲ツールを提供。

コメント

タイトルとURLをコピーしました