【悪用厳禁】邪悪なバージョンのChatGPTが登場: 毎月60ユーロ、道徳の制約なし、"ネット犯罪者"のためだけに存在

暗黒のAIが降臨しました。適切な管理と制限から逃れて、自由な恣意を振りまいています。その名はWormGPT。ChatGPTの「邪悪な双子」とも称され、違法活動に適用する目的で設計された彼は、ネット犯罪者たちの新たな武器となり得る危険性を孕んでいます。

1. 暗黒のAI, WormGPTの出現

ネットセキュリティ企業SlashNextのブログによると、そのチームは生成型AIがネット犯罪にどのような潜在的なリスクをもたらすかを研究している中で、偶然にWormGPTを発見しました。WormGPTとは、ChatGPTのダークなバージョンといえるもので、毎月60ユーロ（約4800円）で提供されています。悪用のためだけに設計されているとSlashNextはWormGPTを形容し、それはまさに"ネット犯罪者の武器庫"だと述べています。

WormGPT - The Generative AI Tool Cybercriminals Are Using to Launch BEC Attacks | SlashNextWormGPT – The Generative AI Tool Cybercriminals Are Using to Launch Business Email Compromise Attacks

2. WormGPTの設計者

WormGPTは大胆なハッカーによって設計され、その彼は次のように書いています。「このプロジェクト（WormGPT）はChatGPTの代替案を提供し、あなたがすべてのブラックハット関連の事柄を行うことを可能にします。」彼は、ユーザーがPythonを用いて悪意のあるソフトウェアを生成することを要求する様子を示すスクリーンショットもアップロードしています。

3. WormGPTの特性とその危険性

WormGPTは、2021年にオープンソース化されたLLM GPT-Jモデルを基に開発され、ChatGPTとほぼ同じ方法で動作します。しかし、OpenAIやGoogleなどの大手企業が法的な義務を負う必要があるChatGPTとは異なり、WormGPTはそのような制約を受けません。SlashNextによると、WormGPTは様々なデータソースでトレーニングを受け、特に悪意のあるソフトウェア関連のデータに焦点を当てています。また、出力に道徳的な制限がなく、様々な悪意のあるタスクを実行するよう要求することができます。

4. WormGPTの評価

NordVPNのネットセキュリティ専門家、Adrianus Warmenhoven氏はWormGPTを「ChatGPTの邪悪な双子」と評しました。その理由としては、OpenAIがChatGPTに制限を設け、攻撃者がそれらの制限を避けようとする中でWormGPTが生まれたからです。

5. WormGPTの潜在的な危険性

全面的な評価のため、SlashNextチームはBEC攻撃（ビジネスEメールコンプロミーズ）を重点としたテストを行いました。その結果、WormGPTが生成したEメールは非常に説得力があり、その戦略的な巧妙さにより、複雑なネットフィッシングやBEC攻撃の無限の可能性を示しました。

6. BEC攻撃への影響

WormGPTのような生成型AI技術がもたらす可能性のある脅威は、ネット犯罪初心者でさえ詐欺を容易に実現することができるとSlashNextは警告しています。

7. 防衛策

生成型AIが引き起こす可能性のある広範なBEC攻撃に対して、SlashNextは以下の2つの防衛戦略を提案しています。（1）BEC特化型トレーニングの実施、（2）Eメール認証措置の強化。企業はAIドライブのBEC攻撃を防ぐために、厳格なEメール認証プロセスを実行するべきです。

示唆

WormGPTの存在は、AI技術の潜在的な誤用に対する一つの警鐘と言えるでしょう。今日、AI技術は私たちの生活のあらゆる側面に深く浸透していますが、それと同時に、そのテクノロジーが悪用されるリスクも増大しています。WormGPTはそのリスクを具現化した存在であり、そこから我々が学ぶべきことは、テクノロジーの進歩が必ずしも正義をもたらすとは限らない、という事実です。

AI技術がもたらす利便性とともに、その悪用に対する対策もまた求められます。AIの進化について語るとき、セキュリティや倫理的な問題に対する強固な対策が必要不可欠であることを常に忘れてはなりません。WormGPTの出現は、これからのAIの道筋を描くための重要な一歩となります。