【AIニュースを読む】国家機関によるAIの悪用を防止

OpenAIは、2024年2月14日（米国時間）にAIサービスの犯罪利用に活用しようとする国家に繋がりがある5つの脅威アクターのアカウントを、Microsoft Threat Intelligenceと協力して停止したことを発表しました。

アカウントを停止した脅威アクターは、中国系の「Charcoal Typhoon」と「Salmon Typhoon」、イラン系の「Crimson Sandstorm」、北朝鮮系の「Emerald Sleet」、ロシア系の「Forest Blizzard」の5つです。

Disrupting malicious uses of AI by state-affiliated threat actors

アカウント停止された脅威アクター

Charcoal Typhoon（中国系）

OpenAIのサービスを利用して、様々な企業やサイバーセキュリティツールを調査し、コードをデバッグしてスクリプトを生成し、フィッシング キャンペーンで使用される可能性のあるコンテンツを作成

Salmon Typhoon（中国系）

OpenAIのサービスを利用して、技術論文の翻訳、複数の情報機関や地域の脅威アクターに関する公開情報の取得、コーディングの支援、システム上でプロセスを隠蔽する一般的な方法の研究

Crimson Sandstorm（イラン系）

OpenAIのサービスを利用して、アプリやWeb開発に関連するスクリプトサポート、スピアフィッシングキャンペーンの可能性が高いコンテンツ生成、マルウェアが検出を回避する一般的な方法の調査

Emerald Sleet（北朝鮮系）

OpenAIのサービスを利用して、アジア太平洋地域の防衛問題に焦点を当てた専門家や組織の特定や公開されている脆弱性の理解、基本的なスクリプト作成タスクの支援、フィッシングキャンペーンで使用される可能性のあるコンテンツの下書き

Forest Blizzard（ロシア系）

OpenAIのサービスを利用して、主に衛星通信プロトコルとレーダー画像技術に関するオープンソースの研究やスクリプトタスクのサポート

脅威アクターの性質とその活動に関する技術的な詳細については、Microsoft のブログ記事に記載されています。

AIの安全性に対するアプローチ

OpenAIは、悪意のあるサイバーセキュリティタスクに対する現在のモデルの機能は限られていますが、進化する重大な脅威の先を行くことが重要であると考えています。この脅威に対応するために、悪意のある国家関連の脅威アクターに対して多面的なアプローチを取っています。

悪意のある脅威アクターへの監視と妨害

OpenAIでは、高度な脅威アクターの活動を特定して阻止するためのテクノロジーとチームに投資しています。OpenAIのインテリジェンスと調査、安全性、セキュリティ、整合性チームは、モデルを使用して手掛かりを追跡し、敵対者がOpenAIのプラットフォームとどのようにやり取りしているかを分析し、敵の広範な意図を評価するなど、様々な方法で悪意のある攻撃者を調査します。検出されれば、アカウントの無効化、サービスの終了、リソースへのアクセス制限など、アクティビティを中断するための適切な措置が講じられます。

AIエコシステムとの連携

OpenAIは、業界パートナーやその他の関係者と協力して、脅威アクターによるAIの使用が検出された情報を定期的に交換しています。この連携は、OpenAIのAIテクノロジーの安全、安心、透明性の高い開発と使用を促進する取り組みを反映しており、情報共有を通じてエコシステム全体のリスクに対する集団的な対応の促進を目的としています。

安全性の緩和策の継続

現実世界での使用（および誤用）からの学びは、時間の経過とともに安全性が高まるAIシステムの作成やリリースの重要な要素です。OpenAIはこれらの行為者による虐待から学んだ教訓を活かし、安全性への反復的なアプローチを情報提供します。最も洗練された脅威アクターがどのようにシステムを利用して危害を加えようとしているかを理解することで、将来さらに広まる可能性のある悪意ある攻撃へのヒントが得られ、安全対策を継続的に進化させられます。

公共の透明性

OpenAIは長い間、AIの潜在的な悪用に焦点を当て、安全性に対する学びについて業界や一般の人々への共有に努めてきました。今後もAIの責任ある使用を推進するための継続的な取り組みの一環として、OpenAIのシステム内で検出された脅威アクターによるAI使用の性質と範囲、正当な場合にはそれらに対して講じられた措置について、国民と関係者に引き続き情報を提供していきます。OpenAIは、共有と透明性がすべての利害関係者の認識と備えを促進し、進化し続ける敵に対する集団防衛の強化に繋がると信じています。

読んでいる方へのお願い

この内容が役に立ったという方は、「♡（スキ）」や「フォロー」をお願いします。「X」「facebook」「LINE」でシェアいただけるとさらに嬉しいです。

またGenerativeAI活用研究所では、サポートをお受けしています。活動を継続させていくために、どうかお願い申し上げます。