2026年、目にする情報の半分以上が偽・誤情報になる

ちょっと極端なこれからの話しを備忘録として書いておく。こうした極端な予想（憶測？妄想？）を紹介するウェビナーを2025年1月1日正午から行う予定です。ご興味ある方はどうぞ、無料です。
ご存じの方は少ないと思うが、私は以前からこのままでだと2026年以降、偽・誤情報、やデジタル影響工作は第3ステージに入ると言ってきた。下図はざっくりしたもので、誤っている箇所もあると思うので気がついた人はご指摘いただきたい。

第3ステージとは

端的言って、偽・誤情報が情報全体の半分以上を占める時代だ。もしかすると怪訝に思う方もいるかもしれない。とっくにそれくらいになっていると思っている人がいてもおかしくない。いくつかの調査が明らかかにしているように、偽・誤情報は実態よりも多く存在し、脅威であると認識している人は少なくない。
しかし、実際にはおおよそ5〜6％程度という調査結果が多い（ https://inods.co.jp/articles/report-reviews/3862/#index_id1 ）。もっと少ないという調査もある（多いという調査もあるが）。しかし、この状況はもう長くは続かない。
下記の要因によって現在進行形で偽・誤情報は驚異的なスピードで増えている。特に大きいのはAIの利用拡大の影響で、これは意図的なデジタル影響工作ではない場合でも発生する。

・悪意あるアクターの利用の増加
生成AIなどをツールによって、大量に偽・誤情報コンテンツが生成されている。デジタル影響工作などに限らず、ピンクスライムジャーナリズムなど多様な分野で偽・誤情報が増加している。
AIボットの利用も増加しており、偽・誤情報を生成しながら会話している。

・悪意なきアクターの利用の増加
テキスト、画像、音声などあらゆるコミュニケーションやビジネスの場面で生成AIが当たり前に使われるようになりつつある。そして、生成AIはハレーションを起している。最近のグーグル検索で勝手に表示される生成AIの説明を見てあきれた人も多いだろう。科学論文などにもその影響は及んでおり、生成AIの助けを借りたものも含めれば莫大な数におよぶ。
コミュニケーションのエージェントとしてのAIの利用も増加する可能性が高い。人対人、人対組織、組織対組織の情報共有、合意形成などにおけるコミュニケーションをAIによって効率化するのは便利そうだが、そこにもハレーションは発生するし、誤った目的や基準をAIが持つ可能性もある。くわしくはAIエージェントが人間のコミュニケーションのアシスタントになった世界を描いた拙作をご覧いただきたい。

・量で圧倒する戦術の拡散
ロシアのドッペルゲンガー、オペレーション・オーバーロードあるいは、パーセプション・ハッキング狙いの攻撃など、近年のデジタル影響工作は量で圧倒してきている。

・偽・誤情報、デジタル影響工作を活用するアクターの増加
もともと偽・誤情報、デジタル影響工作は国内向けに使うアクターが多かった。
しかし、欧米が推し進めていた偽・誤情報対策では国外からの干渉が主で、国内にはこれといった対策が打たれてこなかった。それどころかアメリカでは共和党を中心に偽・誤情報関連研究者へのバッシングや訴訟が相次ぎ、大きく後退している。
当然のことだが、SNSの社会的影響力が増大するにつれ、国内向けの偽・誤情報、デジタル影響工作も活発になり、影響力を増した。影響力が増せば、利用するアクターも増え、作戦も増える。日本でも同様の状況が生まれつつある。

・上記の偽・誤情報の増加は、それに伴う報道、政府のアナウンスなど関連する情報を増加させる

現在の対策は役にたたない

私がこれまで言ってきたこと＝「偽・誤情報の割合は情報全体の中では低い」はあと数年でひっくり返る。いや、もうひっくり返っているかもしれない。
これまで少なからぬ数の識者は偽・誤情報の割合と脅威を過大に見積もって話しをしていた。

2016~2018年には、見出しの91%が「Fake news」という用語を使用していた。2019~2022年には、見出しの80%が「misinformation」に言及していた。

メディア報道が誤・偽情報についての誤った認識を刷り込み、メディアビジネスの利益につながったというケンブリッジ大学刊行レポート、 https://note.com/ichi_twnovel/n/nce2f420dd2d7

もうすぐそれは現実のものとなる。問題は、実際にそうなった時、有効な対策がないということだ。数パーセントの偽・誤情報にまともに対策できてこなかったのに、10倍以上にふくれあがった偽・誤情報に対応できるわけがない。
むしろ、対策そのものが偽・誤情報を生んだり、拡散したりするようになる。そういう状況が生まれれば、メディアや政府はさらに偽・誤情報やデジタル影響工作の脅威を訴えるようになり、情報空間は偽・誤情報とデジタル影響工作の話題で埋め尽くされかねない。

関連記事

サイエンス誌に載った偽・誤情報研究のジレンマの爆発、 https://note.com/ichi_twnovel/n/n5c0badca518a

偽・誤情報研究の現在を識者が整理してくれた、 https://note.com/ichi_twnovel/n/n10c4a27dc059

情報エコシステムの中での誤・偽情報の重要性をメディア消費データから検証した論文　アメリカ人の誤・偽情報摂取量はわずか0.15%、 https://note.com/ichi_twnovel/n/n45aedb12dedd

誤・偽情報についての研究がきわめて偏っていたことを検証した論文、 https://note.com/ichi_twnovel/n/n3f673e3d2b3e

メディア報道が誤・偽情報についての誤った認識を刷り込み、メディアビジネスの利益につながったというケンブリッジ大学刊行レポート、 https://note.com/ichi_twnovel/n/nce2f420dd2d7

SNSの利用者とジャーナリストはきわめて党派的な議論でプラットフォームを問題視していた、という論文、 https://note.com/ichi_twnovel/n/n4947f376756f

10の偽情報対策の有効性やスケーラビリティを検証したガイドブック、 https://note.com/ichi_twnovel/n/n01ce8bb38ef3

偽情報への注意喚起や報道が民主主義を衰退させる＝警戒主義者のリスク、 https://note.com/ichi_twnovel/n/n02d7e7230e8b

ニュースの信憑性を調べるために検索すると偽情報を信じる可能性が高まる Nature論文、 https://note.com/ichi_twnovel/n/n1a495ff32969

最近の論文や資料から見えてくるデジタル影響工作対策の問題点　偏りがあるうえ有効の検証が不十分、 https://note.com/ichi_twnovel/n/nc658fc12d401

これまでの誤・偽情報、認知戦、デジタル影響工作に関する見直しのまとめ、 https://note.com/ichi_twnovel/n/ne27712c47358