【AIで攻撃するハッカーをAIで防ぐ… KISAが「AIデータセット構築事業」を推進】サイバー脅威と政策に関する重要ニュース
こんにちは。S2W NOTE編集です。
今回の記事では、グローバルニュースを元にサイバー脅威や関連政策に関して重要なニュースを抜粋してお届けします。
以下、2024年6月13日の韓国のニュースメディア『デジタルデイリー』の記事を翻訳・編集した内容になります。
韓国インターネット振興院（KISA）が、マルウェアと脅威プロファイリングに特化した人工知能(AI)データセット構築事業を推進します。
生成AIを活用して攻撃を行うハッカーの増加により、脅威に事前に備えられる環境を構築する目的です。
13日、関連業界によると、KISAは「サイバーセキュリティAIデータセットの構築と活用強化」というタイトルで事業公告を掲示しました。
事業規模は45億ウォン(約5億2,000万円)で、6月14日から入札が始まりました。
今回の事業のポイントは、最新のマルウェアと脅威プロファイリングに特化したAIデータセット2種を構築することです。
最新のマルウェアデータには、生成型AIを悪用した脅威データが含まれる必要があります。最近の脅威アクターは、生成型AIを活用して脅威を与えるため「目には目を歯には歯を」戦略を図るという趣旨です。
今年初め、マイクロソフト(MS)とChatGPTの開発を手掛けるオープンAIは、北朝鮮、中国、ロシア、イランなどの国家が背後にあるハッカーグループが生成AIを利用していることを察知し、これらのサイトをブロックしたことを明らかにしました。
生成AIサービスを使ってサイバー攻撃方法を検索したり、マルウェアを作成する場合もあります。
このような状況を考慮すると、生成AI攻撃を分類できるデータ基盤を設けることが重要になります。
KISA側は要請書を通じて「単純な脅威情報を収集して対応していた既存のやり方から抜け出し、データ間の接続性とインサイトを分析して脅威情報形態のAIデータセットを活用することが必要となった」と説明しました。
AIが作り出すことができる偽の内容、操作情報、ひずみデータを識別し、対応するための体系が必要ということです。
AIデータセットは、攻撃状況の説明と優先順位を把握可能な自動体系の構築に力を入れる見通しです。
現在、シマンテック、ファイア・アイ、マカフィーなどグローバルセキュリティ企業は脅威情報収集センサーを設置し、AI、ビッグデータ技術を利用して脅威分析を行っています。これらのシステムは、検出はもちろん攻撃に対する意図を解釈するのに役立ちます。
KISAは今回の事業で政府と民間企業が協力して生成AI、標的型攻撃（APT）攻撃ツール、ランサムウェアなど国民のデジタル安全に波及度の高い脅威データを先制的に収集できると見込んでいます。また、関連データが必要な企業に材料を提供し、最新の脅威に対応できる土台も用意できると見込んでいます。サイバー侵害事故に脆弱な中小零細企業や、情報技術（IT）サービス分野の企業や機関が恩恵を受けることができるという意味です。
最終的に選定された事業者は、マルウェアと脅威プロファイリングに関する生データを収集し最新化する作業を行います。生データは、マルウェア、コード、攻撃ツール、電子メールなどの元のファイルを意味します。
収集された脅威データは、AIモデルの学習に適した形式で分析・処理されます。
この過程で、前処理、機密情報の非識別、ラベリングなどの加工作業が行われます。
KISAは今回の事業を通じて確保すべきデータ規模も明示しました。
まず、マルウェアデータセットの場合、検出隠蔽、AI悪用など最新の攻撃技術が含まれたデータ約2億件の収集を目標にしました。これにはURL・IP・ドメインなど関連の脅威データも含まれます。
脅威プロファイリングデータセットの場合、韓国内外で知られているAPT攻撃グループ80以上を選定するようにしました。
攻撃グループに関連した脅威指標と生データ約1億件を収集することを目標に挙げました。
KISA側は侵害対応適用方法論と優れた事例を発掘し、韓国内サイバーセキュリティ分野AIの源泉技術の成長基盤を設けることができると期待しています。
