日記：総理のアレについて思ったこと
日記なので政治的思想はいっさいありません。
(淫夢要素も)ないです
何が起きたか
日本テレビは4日までに、番組ロゴをフェイク動画に悪質利用されたとして番組を通じて抗議声明を発表した。
問題のフェイク動画は、岸田文雄首相の声が加工され、卑猥な言葉を発しているように見せている内容。
報道番組「日テレNEWS24 LIVE」の番組ロゴが使われており、あたかもニュース番組かのように見せかけている。生成AIの技術を悪用したものとみられ、SNS上で拡散されていた。4日現在、当該の投稿は削除されている。
同局は番組を通じて「放送、番組ロゴをこのようなフェイク動画に悪用されたことは到底許すことはできません。フェイク動画について今後も必要に応じてしかるべき対応をしてまいります」とコメントしている。
ネット上では「これはやりすぎましたね」「ちょっとやりすぎだと思います 弁護士さんの所に行った方が…」「発想は面白いかもしれませんが、やって良いことと悪いことが…」「完全にアウトではないでしょうか」「汐留に行って謝罪するべきかと」「「インターネット上に配信した動画は2度と消えないと思います」「動画削除と謝罪だけで済ませようとしているのはちょっと…」などの意見が飛び交った。
ニコニコの例のアレカテゴリで投稿された動画についてです。
元ネタはだいぶセンシティブな感じなんですね。はじめて知りました(すっとぼけ)
怪文書をボイスロイドなどに朗読させる朗読動画の派生のひとつですが、実在の人物を使用し、さらに唇に動きまでつけたものは今回が初なのではないでしょうか。
ディープフェイク動画
「ディープラーニング」+「フェイク」を組み合わせた造語で、人物の動画や音声を合成してあたかも本人が言ったかのように作る技術です。
過去にもウクライナのゼレンスキー大統領が人々に降伏を呼びかける動画がフェイスブックにアップロードされ出回ったこともありました。
国のトップのフェイク動画を使用して混乱に陥れようと技術が使われるのは恐ろしく哀しいことですね。
総理に怪文書読ませてるうちはまだ平和なのかも知れません。
何が問題か
・人々を混乱させた
ニコニコ動画の例のアレタグで投稿してるので出回らなければ問題なかったでしょう。ただ、Twitter Xに転載したことがきっかけで広まったのかも知れません。
人物がほぼ正面しか向いていないこと、唇しか動いていないこと糞土方文章なんて一発でフェイクだとわかるから騙されたという人は少ないと思います。
・日テレのロゴを使用した
これが一番の問題だったかと思います。日テレは見過ごすわけにはいかないですし、容認されたと思われフリー素材のように扱われてしまっては報道機関として信頼を損なう可能性もあり、厳重に対処すべきであると思います。
考えたこと
・模倣する人がでる
創作物は過去の作品から着想を得て作られることも多く、カテゴリ化されて似たようなものが増えたら怖いなと思いました。
国のトップや有名人レベルならフェイクとすぐわかりますが、狭い界隈や一般人の顔・音声でこういったものが作られては身を守ることは難しいのかなと思いました。
・人の顔や声を勝手に使用することへの認識の改め
人の顔や声を勝手に使ったネタやミームなどを改めた方が良いのかなと思いました。(正直おもろいけど)同意を得ずに他人を素材化することはなかなかリスクのある行為で、今後もそこは問題になりそうだと思いました。
少なくとも発信者側にはならない方がよいと思います。
・フェイク技術の周知
今後フェイク技術はより鮮明かつ自然になっていくと予想しています。
顔を出して声も本人があたかも言っているかのようになっていてもそれが本当に正しい情報なのか一度疑う必要が出てくるのかなと思いました。
詐欺なんかにも使えそうですよね。顔と声を模倣されて振り込め詐欺に使われたり、勝手に面接や試験、リモートでの講義なんかへの出席とかも・・・
「こういう技術がある」というのは世間にもっと周知されるべきかなと思いました。
まとめ
合成はすごい技術なので、今後も正しいことに使われていってほしい
この記事が気に入ったらサポートをしてみませんか？