見出し画像

フェイク画像対策の最前線!「編集履歴の記録」が今後の鍵

こんにちは!アドビ未来デジタルラボ編集部です。

最近は話題を見聞きしない日はないほど、生成AIへの注目度が増しています。一方、生成AIの普及とともに、政府・民間企業等はフェイク画像への対応に迫られるようになりました。当日基調講演を行った総務省の飯村 由香理氏によると、実は「3割程度のユーザーが週に1回以上フェイク情報に接触している」という調査結果が出ているそうです。

では、そんな身近なところに潜むフェイク情報は、現在どう対処されているのでしょうか?


2023年11月、日本有数の音・映像・通信のプロフェッショナル展「Inter BEE 2023」において、この問題に関するパネルディスカッション「フェイクとの戦い、メディア業界の取り組み! ~オリジネーター・プロファイルとCAI/C2PA~」が行われ、アドビのChief Digital Officer(最高デジタル責任者)の西山 正一を含め3人の有識者が登壇し、フェイク情報対策の最前線について意見が交わされました。今回は当日の様子をご紹介します。

1) 我々は「フェイク=真実」となる危険と隣り合わせにいる

左からモデレーターを務めた京都先端科学大学教授の山本 名美氏、以下パネリストの日本放送協会(NHK) 放送技術研究所の大竹 剛氏、株式会社 企 代表取締役 / 慶應義塾大学大学院政策准教授のクロサカ タツヤ氏、アドビの西山 正一、総務省情報流通行政局の飯村 由香理氏

今回のパネルディスカッションのキーワードは「フェイクとの戦い」。西山はアドビの代表として、アドビのフェイクに対抗する取り組み「コンテンツ認証イニシアチブ(CAI)」や、コンテンツ来歴および信頼性のための標準化団体「C2PA」について詳しく紹介しました。

まず西山はフェイク画像の現状について、「(フェイク画像は)遠い外国の話ではなく、我々の身の回りに普通に存在するもの」と説明。具体例として、2022年9月にX(旧:Twitter)へ投稿された静岡県の水害デマ画像を挙げ、とあるユーザーが静岡県内に被害が及んだとする大洪水のデマ画像が何千人ものユーザーに拡散された事例を出しました。

西山は「問題は水害デマ画像のような、本物っぽいフェイク画像をワンクリックで誰でも簡単に作成できてしまう。」と現状の問題点を指摘します。

発信者が注目を集めたい軽い出来心でデマ画像を作成・流通させたとしても、受け手の全員が「これは偽物である」と判断できるわけではありません。もし偽物だと判断できなかったユーザーがデマ画像を拡散させた結果、間違って正規のニュースコンテンツで取り上げられてしまうリスクも0ではありません。

西山はこうしたフェイク画像を巡る現状について「我々の生活は、フェイクが真実として流通してしまう危険と隣り合わせにいるのです」と表現しました。


2) 来歴情報を基にコンテンツの真正性をチェック

こうしたフェイク画像の現状に対抗するために、アドビが主体となって運営しているのが「コンテンツ認証イニシアチブ(以下、CAI)」です。

CAIとは簡潔に言うと、「フェイク画像やコンテンツに対抗することを目的とした新たな取り組み」です。CAIには55ヵ国以上から2,000を超える世界各国の企業や団体、個人が参画しており、「来歴情報を基に、コンテンツの真正性を確保すること」で、フェイク画像に対抗しようとしています。より細かな表現をすると、「“いつ・誰によって、何がなされたコンテンツなのか、またどのように流通したのか”という記録を可視化することで、コンテンツの信頼性を担保しよう」というのがCAIのアプローチです。

アドビ・西山

西山は「コンテンツには作成・編集・加工といったライフサイクルがあります。CAIではその過程において都度来歴情報を付与していき、受け手が全ての来歴を確認できるようにしています」とCAIの取り組みを説明しました。

具体例を見ていきましょう。

例えば、風景写真をPhotoshopでモノクロに加工した場合、撮影者の名前やPhotoshopのどのバージョンで加工されたかなどの来歴情報が可視化されます。

また、CAIの来歴情報は“それが生成AIで作られたコンテンツかどうか”も掲示します。例えば、アドビの生成AI「Adobe Firefly」で作成したコンテンツについては「これはAdobe Fireflyで作られたもの」という来歴情報が残ります。

つまり、ユーザーの「これは生成AI(Adobe Firefly)で作られたコンテンツではないか?」という疑問も、来歴情報を確認すればすぐに判明するのです。

こうした生成AIに対するCAIのアプローチについて、西山は「生成AIによるフェイク情報対策として有効だと考えます」と語りました。

ちなみに、既にCAIを活用した事例もあります。

例えば米国カリフォルニア州民主党のWebサイトでは、政治キャンペーンに使用する写真等にCAI情報を埋め込み、画像の真正性を証明する運用を開始しました。さらに、ホワイトハウスもCAIの活用を勧めています。こうした政界の動きに対して、西山は「今後は政治主導で『来歴情報をチェックしよう』という動きが広がることを期待しています」と力を込めました。

CAIの規格は標準化団体「C2PA」が定めています。来歴情報の埋め込み方や加工情報の残し方など、CAIの規格をC2PAが設計し、参画メンバーはその規格に沿った機能をサービスへ実装していきます。

なお、西山は「C2PAの規格・仕組みはオープンソースで公開し、誰でも採用できるようにしています」と、C2PAの特徴についても言及しました。

3) ブラウザ標準搭載を目指す、日本発の技術「オリジネーター・プロファイル(OP)」

パネルディスカッションでは、 フェイク情報に対抗する日本発の技術として、オリジネーター・プロファイル(Originator Profile=OP)技術研究組合 事務局長のクロサカ タツヤ氏によって「オリジネーター・プロファイル(以下、OP)」も紹介されました。

OPとは「ウェブ上でコンテンツの発信者や広告主の情報を検証可能な形で付与する技術」のことです。現在は実証実験の段階になります。そんなOP活用のメリットは以下の通りです。

とくにユーザーが自由に情報をシェアするSNSの場合、そのURLが本当に報道機関が提供したものなのか、判断に迷うケースもあります。もしかしたらオリジナル記事を加工した、フェイクニュースのURLかもしれません。そこで、OPを活用することでユーザーは“このニュースのURLは本当に報道機関のものなのか”をすぐに判断できるようになります。

クロサカ氏は「OPを日本発の技術として、国際標準・ブラウザ標準搭載を目指します」と今後の意気込みが語られました。

株式会社 企 代表取締役 / 慶應義塾大学大学院政策准教授、OP技術研究組合 事務局長・クロサカ氏


4) 公共放送もフェイク情報対策として、来歴情報に着目

コンテンツ発信者の立場から、日本放送協会(NHK) 技術研究所の大竹 剛氏も登壇。NHK技研はCAIの規格を定める標準化団体「C2PA」およびOPの仕様策定・試験実装等を進める「OP技術研究組合」の参画メンバーです。

NHK技研・大竹氏

大竹氏からはNHKにおける、対フェイク情報の取り組みが紹介されました。具体的にNHKではC2PAを通して撮影・編集・配信の順でコンテンツに来歴情報を付与する方法を検討しています。これにより視聴者は“そのコンテンツが信頼できるか否か”を判断できるようになります。

そのほか、大竹氏は同じ公共放送であるカナダの「CBC/Radio-Canada」の取り組みも紹介。同放送局では、C2PAを通して、自社のプラットフォーム上だけでなくSNS含む外部のプラットフォーム上における来歴情報を確認するための一連の検証を行っています。

外部のプラットフォーム上には偽コンテンツが紛れ込むリスクがあるものの、この検証が実装されれば、視聴者は今見ているコンテンツが本当に放送局から提供されたものなのか、来歴情報より判断できるようになるのです。


5) より信頼できる世界をつくるために

3人の発表を受け、モデレーターを務めた京都先端科学大学 教授の山本 名美氏からは 「CAIとOP、2つの規格を一本化することは可能なのでしょうか」という新たな視点も提供されました。その質問を受け、クロサカ氏は「可能だと思います」と回答。「標準化により、とにかくユーザーが偽コンテンツを見て『おかしいな』と思ったら、すぐに確認できる状態を目指したいですね」と目指すゴールを語りました。

西山も「アドビはC2PAの活動で利益を得ているわけではありません。協力してフェイク情報と戦い、より信頼できる世界を構築することが大切です」とを説明しました。

最後に、総務省の飯村 由香理氏からは「CAIもOPも、いかにユーザーに安心なコンテンツを届けるか、という視点で非常に重要です。一緒に連携しながら取り組みを進めていきたいですね」というコメントも。フェイク情報との戦いは“待ったなし”の状況ではあるものの、官民一体となり協力してフェイク情報に立ち向かう覚悟が感じられたイベントとなりました。



アドビ登壇者のご紹介
西山 正一(にしやま しょういち)
デジタルメディア事業統括本部 DX推進本部 常務執行役員 兼 Chief Digital Officer
2001年にアドビ 入社。マーケティングの立場からサブスクサービスへの移行に取り組む。後に営業部でアドビ のExperience Cloud製品をフル活用したeCommerce事業の推進に携わる。2022年9月にChief Digital Officerに就任。新しいテクノロジーはとりあえず試してみるのがモットーのガジェッターであり、音楽好きで魚釣りが趣味の食いしん坊。嫌いなものは「臨時休業」と「赤文字で『回送』と表示されているタクシー」。

▼西山の過去の対談記事はこちら


この記事が参加している募集

#企業のnote

with note pro

12,980件