【Tech Update】Deepfake:Fake It Until You Make It

テクノロジーが信じられないスピードで進むこの社会で、最近注目されているのは「ディープフェイク動画」である。身近なところではタレントの壇蜜氏や起業家の堀江貴文氏が自身のフェイク動画を勝手に作成されたと訴えている。

死亡説を流すのはやめてほしい 壇蜜がサンジャポで訴える - ライブドアニュース

ところが、このテクノロジーはさらに高度に進化している。ロンドンに本部を置くイギリスの公立研究研究大学であるインペリアルカレッジロンドンと、インドのバンガロールにある韓国サムスン電子の研究開発施設であるサムスンAI研究所の研究によると、人物の写真と音声データだけで写真の人物が「歌を歌う動画」まで作成することが可能となっているのだ。

Deepfake tech is getting more and more deceptive. Researchers at Imperial College in London and Samsung’s AI research center in the UK have figured out how to use machine learning to combine a still image and audio clip to create a singing or talking video, The Verge reports. Examples the researchers generated including a video of Rasputin singing a Beyoncé song and a snippet of Albert Einstein giving a lecture. The videos aren’t completely convincing, but they’re getting closer to that goal. “Research like this is understandably making people worried about how it will be used for misinformation and propaganda — a question that is currently vexing US legislators,” The Verge writes.
[James Vincent / The Verge]
（ディープフェイクはさらに罪深い方向へと暴走し始めている。インペリアルカレッジロンドンとサムスンAK研究所の研究によれば、写真と音声データさえあればどんな人物のフェイク動画も可能だと、米メディアVergeが報道している。ラスプーチンにビヨンセの歌を歌わせたり、アインシュタインに講義をさせたりといったことができるのだ。現時点では、こうした動画は多少胡散臭いと感じられるところもあるが、やがてはほぼ実物と見分けがつかなくなるほどのレベルに達するだろう。Vergeによると、この調査結果を見ると、こうした動画がやがてはフェイクニュースや政治的宣伝に使われるのではないかという不安を人々が抱くのはもっともだと思われる。）

「ラスプーチンがビヨンセの歌を歌う」とは、にわかに信用できないが、実際の画像はここまで精巧に作られている。

「アインシュタインの講義」って、たしかに一度聞いてみたい気もするが、実際に見てみると、本当に本人がしゃべっているように感じられる。

こうした動画は今後さらに進化し、近い将来には本物とまったく見分けのつかないレベルのものが普通にネットで見られるようになることだろう。

AI、すなわち人工知能というと、マスコミではとかく「我々の仕事がAIに取って代わられる」だとか「将棋やチェスでAIが人間を打ち負かした」といったセンセーショナルな取り上げられ方をされることが多い。

しかし、現実はそれよりもはるかに我々の生活の中に入り込み、特定の人間は集団の望む方向へと社会を誘導する危険があることを、知っておいたほうがいいだろう。