生成AIによる大量偽情報が大混乱をもたらす。 - ユーラシア・グループが指摘する「2023年10大リスク」

イアン・ブレマー氏率いるユーラシア・グループが「2023年10大リスク：最も重要な地政学リスク・トップ10」（PDF）を公表した。この中のリスク No.3「大混乱生成兵器」が大変興味深い。興味深いだけでなく実に恐ろしい。要約してみた。

---

生成AIがもたらす大混乱リスク

「大混乱生成兵器」とは飛躍的に進歩した生成AIのことだ。生成AIよって次のような事態がもたらされる。

• コンテンツ作成が極めて容易になり、その量が指数関数的に増える。

• ほとんどの人にとって事実と虚構が区別できなくなる。

• 混乱効果を広げる理想的な場としてソーシャルメディアが利用される。

具体的に次のような大混乱が起こる。

• 社会の信頼が損われる。

• デマゴーグや権威主義者が力持つ。

• ビジネスや市場が混乱する。

社会の信頼が損われる。

偽情報が横行することで、社会的連帯、商業、民主主義の基盤である社会の信頼が損なわれる。

デマゴーグや権威主義者が力を持つ。

政治家は低コストの人間のようなボット軍団を作り、過激な候補者を持ち上げ、陰謀論や「フェイクニュース」を売り込む。分極化をあおり、過激主義や暴力さえも進行させる。今年2023年は、米国の大統領選予備選の初期段階、スペインやパキスタンの総選挙で、このような現象が見られるだろう。

ロシア政府はNATO諸国を標的とした新たな作戦で、「ならず者行為」を強化するだろう。2023年のポーランド議会選挙が狙われるのは間違いないが、その他の国々も標的となる可能性がある。

中国政府は、自国社会の監視と管理を強化するだけでなく、ソーシャルメディア上でのプロパガンダの拡散、欧米の民主主義国など海外の中国語コミュニティーへの威嚇にも新しい技術を使用するだろう。

ビジネスや市場が混乱する。

あらゆる分野の企業で、役員や公式アカウントになりすまし、企業イメージを毀損したり株価を下落させたりといった事件が起きる。

企業や投資家にとって、真のエンゲージメントやセンチメントと、悪意者による妨害行為とを区別するのが困難になる。ソーシャルメディアによって増幅されたAI生成コンテンツは市場を動かすことになるだろう。

---

このレポートでは2023年のリスクとしているが、指摘されるような事態はこれまでにも既に見られた。新型コロナウイルスやロシアによるウクライナ侵略戦争などに関して、どこの誰だか分からない者が真偽不明の情報をいろいろと発信している。

偽情報に惑わされないためにはどうしたらよいか。

偽情報が横行することで、社会的連帯、商業、民主主義の基盤である社会の信頼が損なわれるレポートは指摘している。つまり、情報発信者を信頼できないことがリスクの原因ということだ。裏を返せば、信頼できる者による情報は偽情報ではないと考えることができる。

情報発信者が誰なのか。そして、それは信頼できる者なのか。これが従来よりも決定的に重要になってくる。

まず手始めに、匿名者による情報は無視することにしよう。どこの誰だか分からない者による情報は、その情報自体の信頼性も疑わしい。ソーシャルメディアのフォローも見直す必要がありそうだ。

次に、一次情報を示してくれる者を信頼することにしよう。画像や動画が貼り付けてあったとしても、AIによって加工されたものかもしれない。情報源が明らかになっていることが必要だ。

そして、信頼できる者が信頼する者は、取りあえず信頼できる者と推定することにしよう。PGPの「信頼の輪」だ。