【フィッシングメールからディープフェイクまで、「生成AI」へと進化する北のハッキング】サイバー脅威と政策に関する重要ニュース
こんにちは。S2W NOTE編集です。
今回の記事では、グローバルニュースを元にサイバー脅威や関連政策に関して重要なニュースを抜粋してお届けします。
以下、2024年4月15日の『ソウル経済新聞』記事を翻訳・編集した内容になります。
[サイバー安保に緊急事態]AIを活用しハッキング対象を物色、金正恩のディープフェイク映像制作など安保に敏感な有権者に影響の恐れ
北朝鮮が人工知能(AI)など先端技術を活用し、サイバー攻撃のレベルを高める恐れがあるという懸念が高まっています。
まだ生成型AIを活用したサイバー攻撃は初期段階ですが、総選挙後の騒々しい状況や11月の米大統領選挙を控え、ディープフェイクやフェイクニュースの流布の試みが相次ぐ可能性もあるという予測も出ています。
北朝鮮の金正恩（キム·ジョンウン）国務委員長が昨年末、「来年初め、韓国に大きな波紋を呼び起こすプランを準備せよ」と指示したことが確認され、韓国の安保当局の緊張感が高まっています。
金総書記の指示と関心を反映して、北朝鮮がサイバー攻撃の目標を選んだだけに、総選挙後の国論分裂と韓国政府への揺さぶりのための本格的な脅威に乗り出す可能性があるためです。
韓国・国家情報院も最近、北朝鮮ハッカーが生成型AIを活用してハッキング対象を探し、ハッキングに必要な技術を検索している状況などを把握しています。
実際、北朝鮮はサイバー攻撃にAIを活用し始めました。マイクロソフトとオープンAIは先月、北朝鮮などが超巨大AIをハッキングに活用したことを明らかにしました。
特に北朝鮮のハッキング組織「キムスキー（Kimsuky）」の別名である「エメラルド・スリート（Emerald Sleet）」は生成型AIを悪用し特定の人物を標的とする「スピアフィッシング」メールドラフトを作成しました。AIを悪用し、北朝鮮についての専門知識を持つ人を対象にフィッシングメールを生成したのです。
また、AIを活用して北朝鮮を研究する外国のシンクタンクを調査したことが分かりました。Google Cloudのサイバーセキュリティ部門であるMandiantは昨年8月「北朝鮮のキムスキーとして知られている『APT43』がサイバー諜報活動に広く使える大規模言語モデル(LLM)に関心を示していることを確認し、LLMを使って工作する可能性があるように見えるが、その目的はまだ明らかではない」と警告しました。
北朝鮮がAI技術で作ったディープフェイクコンテンツで社会混乱を引き起こすという観測も一部で提起されています。
今のところ、北朝鮮とは関係ないという分析ですが、1月末にYoutubeチャンネル「ビッグビッグポリティック」に金正恩が笑顔で「核のボタン」を想起させる赤いボタンを押す映像がアップロードされたことがあります。
ディープフェイクコンテンツですが、安保の問題に敏感な有権者に影響を及ぼす可能性があります。登録者626万人のYoutubeチャンネル「なんとなくプーチン（그냥 푸틴）」にはロシアのウラジーミル・プーチン大統領が金正恩と電話会議をしているディープフェイク映像がアップロードされました。「パロディ」や「ミーム」という説明が付きましたが、いつでもAIが有力人物を登場させられ、事実ではなく虚偽情報を流布できることを示唆しています。
国際社会も、北朝鮮の技術悪用の可能性を警戒しています。アン・ニューバーガー米国家安保会議(NSC)サイバー・新技術担当副補佐官は先月、ワシントンポスト(WP)が主催した行事で「北朝鮮は逆説的に新技術を最も創意的で革新的に活用する国家の一つ」と指摘しました。
AIを悪用したフェイクニュースは、国家システムを揺さぶることができるため、多角的な備えが必要です。虚偽情報で形成された世論に基づいて誤った意思決定が下されれば、国益に莫大な打撃を受ける恐れがあるためです。
韓国の尹錫悦大統領もこれを憂慮して先月「第3次民主主義首脳会議」の「技術・選挙及びフェイクニュース」をテーマにした2セッション冒頭発言で「特定勢力が組織的に制作し配布するフェイクニュースは単純に誤った情報を伝播することを通り越えて社会的葛藤と分裂を引き起こす。AIとデジタル技術を悪用して偽フェイクニュースを作り出す勢力に対してこれを捜し出して対処するAI、デジタルシステムを共に作らなければならない」と強調しました。
国連加盟国は先月21日（現地時間）、米ニューヨークの国連本部で総会を開き、「AIの安全な使用に関する国際的な合意を早急にまとめなければならない」という内容の決議を全会一致で採択しました。
アメリカのリンダ・トーマス・グリーンフィールド国連大使は総会での演説で「ディープフェイクのようなAIが生成したコンテンツは政治的論争の真実性を毀損する可能性がある」と話しました。
（ソース：韓国『ソウル経済新聞』2024年4月15日の記事を翻訳・編集した内容）
