見出し画像

「AI技術の悪用厳禁!FraudGPT:素人でもフィッシングを手軽に?」問題の光と影

AIの進化がもたらす利点と問題点。これらは常に並行して存在します。その一方で、新たなAIツール「FraudGPT」が現れ、ネット犯罪者の新たな武器として悪用の可能性が浮上しています。

新たなAIツール「FraudGPT」の出現

ネットの闇市場やTelegramチャンネルでの広告によって紹介されているこのAIツール「FraudGPT」は、槍のように狙い定めたフィッシングメールの設計、クラッキングツールの生成、カード活動の促進などを可能にしています。

詳細について深堀りすると、オンラインで「CanadianKingpin」というエイリアスを用いる脅威のアクターが、自身をEMPIRE、WHM、TORREZ、WORLD、ALPHABAY、VERSUSを含む複数のアンダーグラウンドな闇市場での検証済みのベンダーとして自己宣伝しています。

彼らは少なくとも7月22日から提供を広告し、そのサブスクリプションコストは1ヵ月200ドル、6ヵ月で1,000ドル、1年間で1,700ドルとされています。また、作成者が主張するところによれば、FraudGPTは悪質なコードを書く、検出不可能なマルウェアを開発する、リークと脆弱性を特定するために使用できるとされています。

FraudGPTとWormGPTの共通点と違い

FraudGPTと同様にWormGPTもまた、洗練されたフィッシングとBEC攻撃を容易にするAIツールです。それは高度に説得力のある偽のメールを自動生成し、各受信者に合わせた詳細なカスタマイズを可能にします。これにより、攻撃の成功率が大幅に向上します。

それだけでなく、WormGPTは幅広い文字サポートを持ち、チャットメモリを保持し、コードをフォーマットする能力を持っています。

参考:WormGPTの紹介

この問題が重要である理由

WormGPTとFraudGPTの存在は懸念を引き起こします。とりわけ、OpenAIのChatGPTやGoogleのBardなどのAIモデルが、デceptiveなメールや悪意のあるコードでの悪用を防ぐための措置を取っている現在、これらの悪用の可能性が増大しています。

これらの攻撃における生成的AIの利用は、ネット犯罪者の範囲を広げ、そのアクセシビリティを拡大します。これらのツールはPhishing-as-a-Service(PhaaS)モデルを昇華させるだけでなく、大規模かつ説得力のあるフィッシングとBEC攻撃を行うためのプラットフォームとなります。

最終的なメッセージ:AI駆動の攻撃への対策が必要

AI駆動のサイバー犯罪ツールの台頭は、組織がデータ、システム、顧客を保護するために積極的なアプローチを必要とします。強固なセキュリティ対策を実施し、進化する脅威に対して警戒心を持つことで、企業はAI駆動の攻撃に対するレジリエンスを強化し、潜在的な財政的および評判上のダメージから自身を保護することができます。

この記事が気に入ったらサポートをしてみませんか?