ファクトチェック講座7：AIコンテンツの検証細部を見る

2023年5月19日 17:50

AIで生成されたテキストや画像などのコンテンツが激増しています。その中から偽情報/誤情報をどう検証するかは、ファクトチェックにとって大きな課題です。現状では、自動で完璧に検知する万能ツールはまだ存在しません。では、人の目でどのように検証できるのか。解説します。

AIによる偽情報の実例

日本ファクトチェックセンター（JFC）の記事を例に、解説していきます。これは「ドローンで撮影された静岡県の災害」はAI作成の偽画像というJFCのファクトチェック記事です。

2022年9月に静岡県を襲った台風15号による水害をめぐって、「ドローンで撮影した画像」とされる3枚の写真がツイッター上で拡散しました。建物や木々が茶色い水に屋根近くまで浸かり、大規模な浸水被害が出ているように見えます。

結論から言うと、この3枚の画像はすべてAIで作成したもので、静岡県の水害とはまったく関係がないものでした。どうやって検証していったかを見ていきます。

1枚目の写真を拡大してみます。右側と奥に山並み。手前に住宅地と木々の茂みが広がり、大規模に浸水している写真ですが、よく見ると、不自然な箇所に気づきます。

まず、左上の赤丸で囲っている場所の水面の影。尖って背の高い影がありますが、水上の地形にそれらしき高い木や木か尖塔のような建物は見当たりません。

左下の赤丸の部分は、何か建物の瓦礫のようにも見えますが、画像が不明瞭でよくわかりません。地震や土砂崩れ、堤防の決壊とは違い、浸水でここまで激しく建物が壊れるとも思えません。

2枚目の写真も見てみます。画面の右上は住宅街、画像を斜めに横切るように木々が並び、左下は点在する建物や木々が濁流に飲まれているようです。

こちらも左上の赤丸で囲った部分の水面に映る影が不自然です。尖った棒のような影がいくつも並んでいますが、水上の地形にそれに対応するものがありません。

そもそも、この左下の濁流部分の中に建物が立っているのも不自然ですし、画像の手前側の水面は奥側の濁流と異なり、水面が鏡のように静かなのも変です。

3枚目の写真です。奥には広大な森林。その手前の住宅街が大規模に浸水し、さらに手前は川が流れているように見えます。

これも1、2枚目と同様に影が不自然ですし、それ以外にもよく見ると、何の構造物なのかわからない不自然な線が伸びています。

指摘した点以外にも、不自然な部分はたくさんあります。住宅街であれば当然あるはずの電柱や電線がなく、浸水して動けなくなった車も見当たらず、人影もない。

ただ、こうした「不自然さ」は画像を拡大して、細かく見ていったからこそ気がつくものです。ソーシャルメディアのタイムライン上に流れてくる小さな画像をスマートフォンで見ているだけだと、災害時の衝撃も相まって、思わず信じてしまう人もいます。

JFCではこのとき、自分たちの目で検証するだけではなく、静岡県危機情報課に問い合わせて「集落や街の大半が水没するほどの浸水被害はない」ということを確認しました。また、投稿者自らも「AIで作った偽の画像」と認めました。

AIで作成した風景画像には、不自然な描写がたくさんあることがわかりました。特に影の描写や、実際にそういう風景がありえるのか、という視点で見ると、おかしな点に気がつきます。では、人物画像はどうでしょうか。4つのポイントをあげます。

これらの細部の描写は、まだまだAIが苦手としている部分です。拡大をしてみると不自然さに気づくことがあります。

例えば、最近話題になったローマ法王に関する画像。指の描写が実際の法王と異なります。指の本数や長さ・細さなどの詳細に着目しましょう。

次にこちらのトランプ前大統領の画像。耳や髪、指の描写などに違和感があります。また、警官たちの顔の多くが不自然にボケています。

動画の場合は、これらの4つのポイントだけでなく。次の2点もヒントになります。

AI技術は日進月歩で進化していくため、そう遠くないうちに人間の目では本物と判別不可能な画像や動画がAIによって制作可能になるでしょう。ファクトチェックする側もテクノロジーを活用しなければ、AIによる無限の偽情報/誤情報の生成に対応することは不可能です。

国際ファクトチェックセンター（IFCN）が年に1回開催するGlobal Factでは、ファクトチェッカーだけでなく、技術者、研究者らも参加して、テクノロジーの開発や活用について議論しています。

怪しい情報を検知し、検証し、必要な人に届ける。この3段階それぞれにおいて技術が発達していくことが、今後の偽情報/誤情報対策の鍵を握っています。

今年のGlobal Factは10回目にして初のアジア開催。6月28-30日に韓国・ソウルで開かれます。私も参加する予定です。

ファクトチェック講座の次回は、オープンソース・インテリジェンス（OSINT）を使った検証について解説します。

JFCの活動を応援したいと思ってくれた方は是非サポートをお願いします！いただいたサポートはファクトチェック記事作成の活動費に使わせていただきます！