『メタ、Threadsに独自のファクトチェック機能を導入』～【web3&AI-テックビジネスのアイディアのタネ】2024.5.21
「先進テックで未来の生活はもっと良くなる！」と信じて、Web3・AI・ガジェットなどのデイリーニュースから毎日ひとつピックアップしてご紹介しています。
新規ビジネスのアイディアのタネがほしい方、未来を想像してワクワクしたい方、読んでちょっといいなと思った方、ぜひフォロー・高評価よろしくお願いします！
■メタ、Threadsに独自のファクトチェック機能を導入
米メタがX（旧ツイッター）に対抗して立ち上げたSNS「Threads（スレッズ）」に、独自のファクトチェック機能を導入したことが明らかになった。11月に米大統領選を控え、メタは傘下のSNSに最新機能を次々と実装している。
メタ傘下のインスタグラムで責任者を務めるアダム・モッセーリは14日、Threadsへの投稿で「第三者のファクトチェック・パートナーが、Threads上の虚偽コンテンツをレビュー・評価できる機能を最近ロールアウトした」と発表した。
フェイクニュースはボットだけでなく人間の手作業でも数多く投稿されるものですが、これから映像や声を使ったフェイクコンテンツが生成AIによって量産できるようになってきますので、フェイク対策の重要性がますます上がります。
モッセーリによれば、これまでスレッズではフェイスブックやインスタグラムに導入済みのファクトチェック・ツールで虚偽と判断されたものと「ほぼ同じ内容の虚偽コンテンツ」のみを削除していた。
これまでメタ社は、ファクトチェック「ツール」を使っていました。
しかし今回Threadsに導入が発表されたのは、ファクトチェック「パートナー」、つまり人間による目視チェックの体制です。
このようななりすまし広告を数多く放置してきたのは「ツール」に頼りすぎていたからです。今のところ人間の方が高精度に詐欺広告などを判定できるなら、人間による対処も併せて実施する必要があります。
いまのAIフェイク判定は精度が低すぎる
AIによるファクトチェックや不適切な投稿のチェックも使えばいいし、今後もっと高精度に判定できるようになることも期待されますが、「ツール」を使ってもフェイク広告・フェイクコンテンツが多すぎるFacebook、Instagramの状況を見れば、いまのAIフェイク判定ツールは実用レベルに到達していないと言わざるを得ません。
昨日TBSラジオ「荻上チキ・Session」のゲストでいらしたITジャーナリストの三上洋さんも番組中で詐欺広告が溢れている件について「大学生を3人雇って目視でチェックしろ。そうすれば99％の詐欺広告はつぶせる。」と提言されています。話題は12:45頃から、「大学生3人雇って」のクダリは17:45頃からです。
専門家ではないアルバイトの大学生のほうが、AIフェイク判定機能より圧倒的に優秀だということで、裏返してAIフェイク判定機能はそのレベルに到達していないということでもあります。
AIでフェイクの「量」が処理不可能なほど増える
昨日『社内イベント用に、ファクトフルネスっぽいテクノロジー統計の思い込みを覆すクイズをGPT-4oに作らせてみた』でご紹介した「テクノロジーファクトフルネスクイズ」を実際に社内イベントで出題しました。
最新テクノロジーに日ごろから慣れ親しんでいる弊社BLOCKSMITH&Co.のスタッフでも、というか、日ごろから慣れ親しんでいるからこそ、やっぱりファクトフルネスクイズは騙されますね。
昨日の記事からは少しだけアレンジした、こんなクイズを出題しました。
問題4
世界中のインターネットトラフィックの50%は
ロボットや自動化されたシステムによって生成されている。
本当か、嘘か？
正解は・・・
答え：本当
最新のレポートによると、インターネットトラフィックの
約50%がボットによって生成されており、
そのうち約32%は悪質なボットによるものです。
(Security Today) (pcgamer)
です。
つまり、今でも約32％の悪質なボットによるフェイクコンテンツがあり、今後さらにフェイク投稿の数量が増えるだろうことが予想されます。
量が増えすぎると「第三者のファクトチェック・パートナー」のような人間の目視体制では追いつかなくなります。
フェイクの「質」も人間が判定不可能なレベルに
さらに、質の問題もあります。
AIのフェイクの精度が上がってくると、人間の目視でも見分けがつかないということが起きます。
上記は3年前のフェイク動画です。正直かんたんに見破れます。
人間の目はかなり高精度に違和感を見つけられます。
こちらは最新のフェイク動画です。20秒～のところですが、もう映像的な違和感はほぼありません。
見た目ではなく内容についてフェイクかどうかを判定することを行えばいいのですが、内容のファクトチェックは時間がかかります。少なくとも人を傷つけているものなどはすぐ対処する、常識的にこの有名人が詐欺を働くはずがないと判断するなど、別のモノサシで対処する必要が出てきます。
AIフェイク判定の精度向上と人間の判定の両方が必要
今回メタ社は「第三者のファクトチェック・パートナー」の導入を発表したわけですが、フェイクの量・質ともに人間では処理・判定不可能な状態になることを考えると、AIによるフェイク判定の精度向上も欠かせません。
映像的にフェイクであるかどうかではなく、内容についてのファクトチェックや詐欺でないかを確認する仕組みを発展させる必要があります。
上述の「世界中のインターネットトラフィックの50%はロボットや自動化されたシステムによって生成されている。本当か、嘘か？」のクイズをGPT-4oに出力させた時も、「根拠のURLを教えて下さい」とプロンプトで指定してありました。そして
レポート: インターネット トラフィックの 47% はボットによるもの
Imperva Inc. は最近、インターネット上の自動ボット トラフィックの世界的な分析である 2023 Imperva Bad Bot Report をリリースしました。 2022 年には、インターネット トラフィック全体のほぼ半分 (47.4%) がボットによるもので、前年比 5.1% 増加しました。人的交通の割合（52.6％）は、8年間で最低レベルに減少した。
という調査記事を根拠として提供してくれました。
この調査内容が信頼できるのかの判定も必要ですが、騙すことや傷つけることを目的とした現在のフェイクコンテンツはそこまで精巧な作りにはなっていませんから、内容による判定はそこそこできるのではないかと思います。
昨年7月のThreads立ち上げ以来、モッセーリは同プラットフォーム上での「硬いニュース」や政治的コンテンツの優先度を下げる方針をたびたび公言。政治・ニュース系コンテンツがもたらす「エンゲージメントや収益の増加」は、「そうしたコンテンツにともなう監視・精査のリスク、負の影響のリスク、誠実性リスクにまったく見合わない」と主張してきた。メタはこの姿勢をいっそう強化し、今年2月、インスタグラムとThreadsでは政治に関するコンテンツの表示を積極的に推奨しないと発表した。
Threadsでは政治的な話題は非推奨だとしています。大統領選でフェイク問題がクローズアップされることを嫌ったのだろうと思いますが、コンテンツのジャンルごと扱えなくする対処は乱暴です。
そんな乱暴なことをせず、今回の人間による監視導入や、今後のAI判定ツールの精度向上など、できることをコツコツ積み上げていくことと対処のスピードが大事です。
訴えられるまで放置してはいけません。