ディープフェイクの話　情報リテラシー論第12回

映像、音声技術の進歩

映像、音声に関する技術は日々進歩しており、現在では映像や音声を合成することが容易になってきています。しかし、さまざまな分野での活躍が見込まれているのと同時に、技術の悪用の心配が出てきてしまいました。

ディープフェイク

ディープフェイクとは、AIを活用し映像内で人物の顔を交換したかのように合成することのできる技術です。顔のパーツが細かく動き、実際に行っていない動きも再現できるので、見抜くことが難しい嘘となっています。

NTT西日本　ICT用語集

【NTT西日本】ディープフェイク｜ICT用語集｜法人・ 企業向け ICT サービス ・ ソリューション

ここに、近年急速に成長している合成音声を合わせることで、フェイク動画のクオリティが格段に上昇し、ニュースでも取り上げられるほど深刻な問題になりつつあるのです。

ここで、ディープフェイク対策に関する記事を紹介します。

読売新聞オンライン
「ディープフェイク」見破る技術、日本でも開発進む…難問でＡＩ特訓・音声に検知信号

「ディープフェイク」見破る技術、日本でも開発進む…難問でＡＩ特訓・音声に検知信号

この記事では、AIを難問で学習させ、ディープフェイク動画の不自然な部分を検出できるようにする方法、あらかじめ動画に電子的な信号を忍ばせ事前にAIによる学習対策をする方法が紹介されています。AIにAIをぶつけたり、学習を逆手に取るなど、さまざまな手法が試されており、問題の深刻さが伺えます。

ITmedia NEWS
人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール　合成音声に使われないために保護

人には正しく聞こえるが“AIにはゆがんで聞こえる声”に変えるツール　合成音声に使われないために保護

この記事では、先ほどの記事でも紹介されていた、学習対策による事前保護の手法が紹介されています。米セントルイス・ワシントン大学に所属する研究者らの研究報告で、AntiFakeという新たなツールにより録音した音声信号にノイズを忍ばせ、AIには別の音声として認識されるようにするという対策です。偽造防止のための、紙幣のすかしのようなイメージがあるような気がします。

映像、音声技術が、凄まじい進化を遂げていることを強く実感します。ますます嘘を見抜くことが難しい時代、リテラシーが大切になってきますね。