いずれ生成AIがフェイクニュースを地上波に送り込む時代が来るかもしれない
いきなりこのような話題から投稿するとは思わなんだ。
しかし2023/10/9現在、ハマスによるイスラエル攻撃を発端とした戦闘は双方に1000人以上の犠牲者を出し、混迷をきわめている。
現代戦争は認知戦、ハイブリッド戦争
ここでは長々とイスラエル建国の歴史やパレスチナ問題の経緯等を書くつもりはない。
タイトルにある通り今後有事の際、いや、
あるいは平時でさえもAIが作り出すディープフェイクやフェイクニュースに人々が踊らされる時代が来るかもしれないと言う警鐘を鳴らしたいと思う。
このように書き出すとすぐに陰謀論や精神病を揶揄した腹立たしいスラング「糖質」認定をする輩が出てくるのだが、ざっくり言えば現代戦争とは物理的な武器を使い前に情報を兵器として扱う情報戦がメインとなるって話だ。
これは2014年にロシアがクリミアを奪還した作戦の中ですでに行われている。
お手持ちのスマホやPCで閲覧している
その親しみ馴染んだSNS上で偽の情報が展開され、人々の混乱や分断を招いている隙をついて
最終的にはわずかな武力でターゲットを制圧する。
私も軍事の専門家ではないし、そうなるつもりもないし全てに詳しいわけではないが、
現代戦がこのような状況下にあるということと
昨今のAIの進化を鑑みれば、ある程度の知識を想像のネットワークで結びつけることにより未来が自ずと見えてくる…かもしれない。
今後の認知戦のあり方をイメージする
ここではあくまでイメージの話をしたい。
前述した通り私は軍事の専門家ではないため
あくまで想像上の話にはなるが、「あり得ないことがない」のが今後の世界だ。
架空の人物の登場
プリゴジン氏。
皆さんも最近どこかで耳にしたことがあるであろうロシア、ウクライナ戦争で暗躍しているワグネルの代表とされる人物だ。
彼は2023/8/23に自家用機の墜落により死亡したと報じられているが、ロシア国内ではいまだに生存説が根強く残っているらしい。
この話だけでも既に情報戦、あるいは認知戦の領域に入り込んでいるが、私は更にそこからもう一歩踏み込んだ疑問を投げかけたい。
それは、果たして
『プリゴジンという人物は実在するのか』
という問いかけだ。
これまでの報道やニュースからおそらく存在はするのだろう。
しかし、私含め一体どのくらいの日本人がプリゴジン氏と直接会ったことがあるのだろうか？
それを言ったら各国首脳ですらほとんどの人が会ったことなんてないじゃないかと言われるかもしれないが、プーチン氏や金正恩などはまことしやかに影武者説が囁かれているほどである。
話をプリゴジン氏に戻そう。
彼の肖像を記録した映像の画質はどれもどこか荒い。
もちろんロシア国民やワグネル兵士、アフリカの人々と触れ合うシーンがあるので当然実在するものとして彼に関するニュースを受け入れてしまう。
しかし、昨今の生成AIが作り出す画像や動画のクオリティを鑑みれば、国家が軍事として利用するAIは我々が日常で触れられるものよりも、
より技術的に進んでいるはずであると考えるのはおかしいことではないはずだ。
つまりプリゴジン氏という人物やキャラクターを画像で映像で音声付きで「作成する」ことは現状でも十分可能なのではないかと推測する。
ではこのような人物を作成したとして
実際にどのような運用をするのか？
まず一つ目が見せしめだ。
プリゴジン氏ほどの功労者でも「裏切り者は容赦なく殺害する」という原始的かつ効果的な見せしめ効果を狙うというものだ。
しかし、この狙いについてはあまりにロシアにダメージが大きいため現実的ではないだろう。叛乱したプリゴジン氏は西側が作ったフェイク説
プリゴジン氏の存在を利用して軍部に苛立ちを見せる彼の姿を作成しSNS上に登場させる。
果てはモスクワ進軍までの情報を作り込み拡散させロシア国内に混乱と不安と疑念を生み出し、情勢不安を呼び起こす。
まぁ、これもストーリーとしてはアリだとは思うが世界でも５本指に入る諜報機関を持っているロシアがそれを許すはずがない。第三国に対する認知作戦
ロシアにせよ西側にせよ対外的なプロパガンダを仕掛けたい思惑は一緒だ。
これまでも戦争には広告代理店が暗躍してきた歴史もある。
ある種ユニークなキャラクターを作り出し、さまざまな演出をすることで第三国の人間の認知や感情を揺り動かす。
それがどのように作用しているのか観察しているのかもしれない。
特に同盟国や国境を接している国に対しては。
とまぁ、長々と書いてしまったが、
実際はもっと練り込んだ設定を組み込んでくるだろう。
またプリゴジン氏の名誉？のために、
例えとして使用させていただいたお詫びは一応しておきたいと思う。すみませんでした。
ただ、例に挙げたように特に有事下では様々な軍部の人間や司令官など我々がリアルで知る由もない人物が度々登場し、色々なアクションを繰り広げる。
その人物が時にヒーローにもヒールにも仕立て上げられる。
そして、今後はそのヒーローやヒールをAIが生成する時代がくるかも…しれない。
私は割と現実的だと考えているが、皆さんはどうだろうか？
実際に報じられたフェイクニュース
2023/5/22にアメリカで衝撃的な画像が出回った。
米国防総省（通称ペンタゴン）近くで大規模な爆発が起こったとされる画像である。
この一報はSNSで世界中を駆け巡り、果ては金融市場に一時大混乱を招いたのである。
またSNSに留まらず一部の海外のメディアでも速報が流される事態となった。
本件は後にフェイクであることが判明し、当該画像の生成にAIが使用された疑いがあると報じられている。
件の通り、実際に生成AIが作り出したフェイクニュースは私たちの知らないうちに私たちの知覚に潜り込み、認知として刻まれている可能性があるのだ。
AIによる認知戦に対抗できるか
この問いに関しては正直言ってかなり難しいと言わざるを得ない。
それだけ情報が溢れかえり、それらにすぐアクセスできる現代の環境に認知戦はうってつけなのだ。
第二次大戦ですらプロパガンダの手法は確立されており、ナチスはラジオというテクノロジーの産物を積極活用した。
現代では視覚聴覚を同時に巧妙にAIがコントロールしてくる。
また、我々は旧Twitterなどに見られるようにSNS上の短いセンテンスに慣れきっており、
TikTokのようなショート動画に脳の報酬系を刺激されている。
人間側もAIに寄っているのだ。
対抗策としては本を読み、現実世界をつぶさに観察し、自然と触れ合うことという一見地味なことなのかもしれない。
そしてメディアやネットの作為にある種慣れる、つまりリテラシーを身につけることが大事だ。ただしこれは諸刃の刃なのだが…。
過去の著名な文学作品には現代社会の行末を言い当てたかのような人間の普遍的な愚かさや抱えている危険性、そこからの脱却の提言など智彗と叡智が隠されている。
現実世界の観察は当たり前に見えている世界の事実を改めて知覚しなおし、疑い、再認知し再定義することで我々の思う「現実とは何か」を常に自身に問いかけることができる。
自然との触れ合いはその観察とともに人間社会における情報や社会通念からの離脱だ。
厳密に言えば事実と現実はイコールではない。
この話題は別の時に記事にするつもりだが、
我々は事実の全てを知覚、認知できるわけではないので、現実が事実全てを網羅しているわけではない。
故に一度人間社会という現実から離れて自然界に存在する小さな事実に触れることが対社会への現実バイアスとも呼べる色眼鏡を僅かな間でも外すことができるのではないかと考える。
認知戦はこのバイアスを利用するからだ。
最後にメディアやネットの作為に慣れることだが、これは先程申し上げたように諸刃の刃だ。
前述した三つの要素をある程度満たしていなければ、リテラシーを身につけたと思い込んでいる情報の信者になりかねない。
現実と事実の差異を見出し、時に疑い、自分の心を見つめ、過去から積み重ねれた叡智にも敬意を払う。
対策といった割には高度でまとまりがなく元も子もない話に終始したが、それだけ現代で情報に振り回されないようにするというのは難しい。
御多分に洩れず私自身がそうなのだ。
実際、この記事だって使いようによっては十分兵器になりうるのだ。木の棒程度には。
リアルな人付き合いをどうしていくか
実は対策にリアルな人付き合いを大事にするという項目は敢えて盛り込まなかった。
大事なことではあるのだが、これこそが一番諸刃の刃になりかねないからだ。
人は情に流される、だが人はちゃんと人を知らねばならない。
相手がフェイクニュースに踊らされている人だったら？社会がそれを醸成していたら？私が踊らされていたとしたら？
人の集団はどちらにも靡く。
もし、自分と意見が合う人や一緒にいて心地の良い人間だけの集団でグループを構成すれば、ネット内のいわゆるエコーチェンバーと同じ道をたどるだろう。
だが目の前の人は大切にしなければならない。
どうしたら良いのだろう？
私はそういう時は敢えて孤独になれ、孤独に慣れろと言いたい。ネットすらも断ち切ってだ。
孤独に浸り、ひたすら自分自身を見つめ、時に空っぽになる時間を作る。
そして、自分の心の奥底が本当は何を望んでいるのか、その声を聴くのだ。
つまるところ、人は正しかろうが間違いであろうが自分の魂と呼べるような声に従って生きるしかない。
ここまで話して本当に元も子もないが
大切なのはその選択をそのハンドルを誰かに握られるか、あなたや私自身が握るか？なのだと思う。
まぁ認知を操られればそれすら自分でできていると思わされるのだが。
疑い、信じて、また疑う。
そしてまた信じて、疑い、また信じろ。
この寄せては引いてを繰り返す波を乗りこなせたなら、私とあなたはこの世のどこかで自分の人生のハンドルを握るものとして、出会うことができるかも？しれない。
この記事が気に入ったらサポートをしてみませんか？