ディープフェイクの行き先は今のところ身も蓋もない
顔が別人に差し替えられた映像を初めて見たときはとても驚いて、気持ち悪いけれど、わくわくもしました。ディープフェイクっていうんだなあ、ＡＩってやっぱり凄いなあと思いました。
ディープフェイクでしびれまくった動画がありまして、シャイニングのジャック・ニコルソンをジム・キャリーにしちゃったこちらの作品です。ジム・キャリーのシャイニングもめちゃくちゃ怖いです。
(38) The Shining starring Jim Carrey : Episode 3 - Here's Jimmy! [DeepFake] - YouTube
ディープフェイクの映像は顔のパーツの位置や輪郭に違和感を感じやすいですが、この映像はほぼ違和感がなくて感動します。
もとはGIGAZINEさんで知りました。シャイニングの他のシーンも紹介されています。
「シャイニング」のジャック・ニコルソンをジム・キャリーに置き換えたディープフェイク映像がまるで「完全リメイク」 - GIGAZINE
ディープフェイクの動向を調べたら、今や一般の人が動画を作れるサービスもあるのですね。
Deepfakes Web | Make Your Own Deepfake! [Online App]
この会社がサンプルで公開しているのがこのエントリのタイトル画像に使ったこちら。技術的な凄みと不気味さが同居していて、ぞわぞわします。
https://www.youtube.com/watch?v=QpXAHrISTbQ
別のサンプルではマツコ・デラックスさんが阿炎関にはめ込まれていたり。
https://www.youtube.com/watch?v=56mW8LZykrw&t=9s
少し前の「Zao」というスマホアプリも凄かったです。画質は荒いもののディープフェイク動画を手軽に作れて爆発的に広がりました。現在は非公開になっていますが、フェイク動画作成のハードルが非常に低くなったことを思い知りました。
ディープフェイク動画を秒で作れるアプリZAOが大人気から大バッシングへ｜中国情報局＠北京オフィス (nikkei.com)
音声はどうなのだろうと調べたら、おもしろそうなサービスがリリース目前のようです。自分の声を学習させると、文字の文章から自分の声のナレーションを作ってくれるそうです。自分が言ってない言葉を生成してくれるのですね。
Overdub: Natural Sounding Text-to-Speech | Descript
いろんな音を含んでいる音声データから特定の声だけを差し替えるのはとても難しいと思うので、顔の差し替えのようにはいかないと思うのですが、いずれ実現するのでしょう。
フェイクの動画や音声を使って、世論や特定の人物の印象などが意図的に操作されると怖いです。Facebookとかマイクロソフトやグーグルなどの巨大テック企業がフェイク動画の検出技術の開発を進めているのも、そういった脅威や社会的な要請を感じてなのだと思います。
Facebook、ディープフェイク検出ツール開発イニシアチブ「DFDC」立ち上げ MicrosoftとMITが参加 - ITmedia NEWS
グーグル、ディープフェイク検出を支援するデータセットを公開 - CNET Japan
ただ、対象が著名であればあるほどフェイクであることがはっきりしやすいと思うので、やられた方はたまったものではないでしょうけれど、大した脅威にはならない気もします。動画や音声など使わずに、出所不明の文字情報を流布した方がよほど効果的です。
一方、ごく一般の人に向けたハラスメント目的で使われてしまうと、やられた方の精神的なダメージはかなり大きいでしょうから、刑事罰による抑止が必要だと思います。
ディープフェイクの利用のされ方について、先日、レポートが出ました。
MIT Tech Review: ディープフェイクは「ほぼポルノ」、フェイクニュースとは無関係 (technologyreview.jp)
身も蓋もないですが、現状はポルノへの利用が一番大きいとのこと。珍しさがある今が儲け時なのかもしれません。今後、フェイクポルノが公衆の目に触れる程度に広がって、作成者が捕まって、アンダーグラウンドに引っ込む、ということになるのだろうと思います。
より悪質な犯罪に使われる可能性はどうなのかなと調べたところ、ありました。詐欺師がディープフェイクでCEOの音声を真似て、会社にお金を送金させたという手口のようです。振り込め詐欺の企業版ですね。
CEOになりすましたディープフェイクの音声で約2600万円の詐欺被害か - ZDNET Japan
もっと前向きな使い道はないものでしょうか。アートの映像作品にはすぐに使われると思いますが、それ以外に良さそうな用途が思い当たりません。別のエントリでご紹介した、リアルな顔を人工的に生成する技術など、他の技術と組み合わせて真価を発揮するのだと思います。
AIが生み出した10万枚の顔にしびれる｜阿楠 (note.com)
お読みいただきありがとうございます。頂戴したサポートは有意義に使わせていただきます。