フェイク動画を検知する技術をOpenAIが開発中

今年は、動画生成AIがブームの兆しを見せています。

中でもリリース前から騒がれているのが、ChatGPTを運営している
OpenAIが開発中のSoraです。

ただ、同時に危惧されるのがフェイク動画による社会的な混乱です。
2024年は特に国際情勢に影響を与える重要な選挙が多いため、その動向は注目されています。

もちろんOpenAIもそのリスクは考慮しており、最近こんな発表が行われました。

オープンAI 自社生成AIで作った画像 検知する技術の開発を発表 | NHK

ようは、
自社製の生成AIによる画像・動画については検知出来る技術を開発している、
という話です。

自社限定にしているので、想像ですが、独自の埋め込み技術を採用しているのだろうと思います。

余談ですが、それを汎用化しようとしているのが、日本政府が後押ししている「電子透かし技術」です。

電子透かし、と聞くとわかりにくいですが、紙の紙幣では今でも透かし技術による偽札防止は行われています。初耳の方はお手元のお札を明るいところにかざすと、文字なのが浮かび上がって見えるはずです。

もちろんデジタルなので原理は異なりますが、先日のOECD国際会議でも話題にしています。（外務省サイト）

動画は特に感情に与える度合いが強いので、ぜひSoraリリースされるときには、同時にそれを検知出来るサービスも提供してほしいですね。