AI VS AIディープフェイクを見抜く　9/13

こんにちは
このnoteで100投稿目です。

今回はこの記事について取り上げさせていただきます。

New Steps to Combat Disinformation - Microsoft On the Issues

人工知能の脅威

人工知能の発展は日進月歩です。新型コロナウイルスの感染拡大に伴うデジタ化の波もあり、人工知能はさらに注目されています。どんどん私たちの生活に浸透しています。

人工知能に恐怖心と感じている人も少なからずいると思います。ターミネーターのような世界がいずれ訪れるのではないかと、人工知能の研究をストップさせるべきと考えているかもしれません。

人工知能が人間を排除するかの論争は置いておいて、人工知能の問題というのはほかにも存在しす。直近の問題としてディープフェイクがあげられるでしょう。

社会問題のディープフェイク

ディープフェイクとは、高度な映像技術を用いて、まるで本物と区別できないような偽物の映像です。人工知能のディープラーニングによって生成されます。

最近では、オバマ前大統領がトランプ大統領を非難するディープフェイクの映像がYouTubeに公開され話題になりました。発言が重要視される政治家にとってディープフェイクとは恐ろしい技術です。

マイクロソフトの技術

記事の中では、マイクロソフトが作りこまれたディープフェイクの映像がAIによって生成されたものかを判断するVideo Authenticatorを開発したことを発表しています。

Video Authenticatorは人間の目ではわからない色の違いやその境界を判断してその映像がどれほど信頼できるものかを信頼スコアとして出してくれます。

記事を読んで

私が気になったのは、ディープフェイクの問題性です。既存のフェイク映像を検証する技術では、人工知能が学習するためにどんどん対策がされてしまいます。

今までフェイクを判断していた機能が、本物と判断してしまうフェイク映像が誕生するのです。そのため、Video Authenticatorはそのフェイク映像を見抜く学習が行われています。

ディープフェイクを放っておくと、失脚させたい政治家にディープフェイクで問題発言をしたとし、メディアに拡散すればよくなります。メディアの情報の信用度は下がり、更なるディープフェイクが横行するでしょう。

いつまで見抜けるのか

しかし、Video Authenticatorの学習とディープフェイクの学習がどちらが先に進歩していくのかはわかりません。長期的に正確な判断ができるかは保証できないでしょう。

今回のVideo Authenticatorの開発はアメリカの大統領選挙やコロナウイルスの混乱に対応した技術と私は見ています。技術の発展に生じる問題を技術でカバーするのは人間の発展のあるべき姿でしょう。