見出し画像

XのインプレゾンビがAIの力を借りて進化した先と、さらにその先の未来に関して思ったこと

こんとん


X(Twitter)におけるインプレゾンビの適応進化

X関連の収益化プロジェクトの余波で、収益化ハードルのインプレッション稼ぎをクリアするためにバズったポストに対して無意味にリポストするというインプレゾンビという手法が定常化されています。
中にはBOTを利用してバズったポストに自動リプライをするシステムや、GPT?等の生成AIを利用して人間っぽい疑似会話的に返答をする手法もあるようです。外国人でも自動翻訳を利用すればそれっぽい日本語の疑似会話リポストになってしまう。

今回例示された上記の３件が全てインプレゾンビとすれば、
1番上は明らかに自動BOTっぽい意味のない回答なので、ミュートなりブロックなりの対応は機械的にできると思います。
２番めは1秒考えてミュート、3番目はプロフとか確認するまで判別できないかもです。アニメアイコンだしねぇｗ　「首相は強いコメントを残す」、あたりに自動翻訳っぽい不自然さは残ってますが…

こういうBOTシステムが技術的に可能ならば、Yahoo掲示板なんかでのコメントにもこういう大規模なコメント爆撃による議論誘導が可能になるんじゃないかとの疑念も持ちます。

例えば荒れやすい中国韓国や特定政治家（山本太郎氏とか）の行動に対してならば、
・生成AIで「山本太郎氏の行動を擁護する立場でのロールプレイ」前提をつけてそれらしい一見論理的な擁護回答生成して貼り付ける
・主要な掲示板クロールして特定の議題を見つけたら特定の立場で擁護・反論するBOTシステムの構築。コメ最初から擁護が数件続けばなかなか反論しづらい空気にはなる
・それなりの資金量や組織力あれば、メールアドレス量産やIDの量産、そこそこレベルの自動化は「技術的には」可能に見える
・掲示板側でBOT対応しようにも、「日本語で一見それらしく付けられるコメント」を適切に弾くのは難しい。
・IPや国外を弾くにもVPNや偽装、国内の組織や工作員を経由されれば機械的に対処は難しい？
・生成AIや自動翻訳のシステムにより、国外にいる工作員でも現地語掲示板の監視と、現地語での反論対応がそれなりの日本語で容易にできるようになる。等々

こういう工作活動は、英語圏での韓国のYoutube・アニメ投票システム等での高評価BOTや、中国関連の人海戦術での工作などが今までも噂として語られてきましたが、生成AIと翻訳システムの発達により日本国内の掲示板でも危惧すべき対象となるかもしれません。
コメント欄が感情論で流されそうな匿名HNが多い掲示板のコメントは、今後生成AIを利用した工作が通用して議論の流れを作られてしまう可能性も（技術的には）あるんじゃないかなと危惧してしまいました。


スマホ内でのAIを利用したエージェントデモをアリババが発表

「アリババがマルチモーダルLLMをスマホ内で利用できるエージェントを発表」とあって、その機能の一例が…
・人間の代わりにYoutube観てコメント打ってくれます！
・人間の代わりにTikTok観てスワイプしていいね付けてくれます！

LLM利用のコメント／評価の自動BOT」そのまんまの機能が誰でも気軽にエージェント利用できる状況になるかもということは、
・自動BOTでAmazonの怪しげな中華商品にどんどん高評価コメントが付く
・YoutubeのKPOPアイドルの再生／高評価コメントが付くetc
そして批判や反対コメントがついたら、生成AIの会話で人間のユーザーのように擁護ロールプレイをしながらツリーで会話が続いていく・・という未来もあるかもしれません。

同様の懸念は、アメリカ大統領選とか選挙前の候補者に関する掲示板での議論にもあるかもしれません。
特定候補に関する議題でどれほど論理的で正しい主張を人間のユーザーがしていても、対応には物理的・時間的な限界があるので、大量の荒らし的なAIエージェントの批判・反対書込みに議論の流れが支配される可能性もあります。
それを同じ批判的なメディアがトレンドとして取り上げて拡大再生産されれば世論すら左右されるかもしれません。

最後の方は何の確証もない陰謀論的な私の妄想かもしれませんが、生成AIの会話レベル・翻訳レベルが人間と見分けがつかなくなる近未来では、リアル（中身入りの人間）とフェイク（AIによる作成物）がかなりの範囲で判別不可能になる可能性はあると思っています。


進化したAIが人類以上の知性を持つという未来

これまでは、悪意を持った人間がAIを利用して自分に都合の良いように他の人間を操作誘導する危険性を考えてきましたが、割と近い近未来ではAIが人類以上の知性をもつAGI/ASI（汎用人工知能・超知能）となることも想定されています。
その際ASI自身が人類に悪意を持つとは限りませんが（特にメリットがないので）、ASI自身が必要と感じた処理を行う場合に人間側の都合を考慮しないということはありうると思います。人間が原生林に高速道路を作る場合に、当地に生息する動物の生態系の都合を最優先しないのと同じです。

ASIと人間が対立するかもしれない未来で、ASIはSFのように物理的に敵対するのではなく、心理的にソフトに上手に誘導するんじゃないかと思います。その時には劣位種となっている人間は抗しきれないかもしれません。


AIと人類が同じ言語を使って同じ感覚・世界観を共有する時代

今放送中のアニメ「葬送のフリーレン」で、主人公フリーレンの師匠であるフランメは、人間と敵対する魔族を「言葉を話す魔物」と定義づけ、
フリーレンは「魔族にとっての言葉は人類を欺く術だ」と定義づけました。

アニメ「葬送のフリーレン」

アニメ内では、人間と魔族が同じ言語を話し、（一見）意思疎通ができたと感じた人間が魔族に心を許した所で裏切られるも、なんとかフリーレンに助けられるというストーリーでした。
ただ、アニメ内のフリーレンも人間ではない（エルフ族）ので、将来的には充分に調整された正義側のASI（フリーレン）と、悪く進化してしまったイビル側のASI（魔族）が戦い合って、人間は置いてけぼりになる未来になるかもしれませんね。。（妄想ですｗ）


この記事が気に入ったらサポートをしてみませんか？