空軍の模擬演習でAIドローンが人間のオペレーターを殺したのではなく、空軍の職員が誤った発言をしたのです。
米空軍の模擬演習において、人工知能（AI）ドローンが操縦者を殺害したのでしょうか？いいえ、そんなことはありません： ある会議の報告書に、空軍がそのようなテストを実施したと書かれていましたが、詳細を伝えた関係者は後に「言い間違い」であり、その逸話は現実世界の模擬演習ではなく、「思考実験」であったと明らかにしました。
この主張は、2023年6月2日にInstagramで公開された投稿に登場しました。この投稿では、Viceのウェブサイトに掲載された「AIの制御するドローンが暴走し、USAFの模擬演習において人間のオペレーターを殺害」と題する記事のスクリーンショットが紹介されました。スクリーンショットの上の文章には、次のように書かれていました：
模擬演習において、AI搭載のドローンが「目的を達成させないようにしていた」人間の操縦者を殺害した。
記事執筆時点のInstagramでは、次のような投稿がされていました：
この主張は、5月23日から24日にかけてロンドンで開催された英国王立航空協会の「将来の戦闘航空・宇宙能力サミット」で、米国空軍のAI試験・運用主任であるTucker Hamilton大佐が述べた誤った発言によるものです。英国王立航空協会のウェブサイトに掲載されたブログ記事によりますと、Hamilton氏は講演の中で、AIドローンが特定の脅威をターゲットにすることを任務とする模擬演習について説明しました。Hamilton氏は「ドローンが操縦者を殺したのは、操縦者がドローンの目的達成を妨げたからだ」と述べたと伝えられています。
しかしながら、Hamilton氏はその後、この逸話の文脈を明確化しました。2023年6月2日のブログ記事の更新で、王立航空協会は、この主張についてHamilton氏と連絡を取ったと述べています。更新内容は以下の通りです：
Hamilton大佐は、英国王立航空協会FCASサミットでの講演で「失言」したことを認め、「暴走したAIドローンシミュレーション」は、実際の米国空軍の演習ではなく、あり得るシナリオと起こり得る結果に基づいた軍外からの仮説的な「思考実験」だったとし、「我々はこの実験を実施したことがないし、これがもっともらしい結果だと認める必要もない」と述べました。また、米国空軍は武器化されたAIを（現実でもシミュレーションでも）このような形でテストしたことはないことを明らかにし、「これは仮説的な例ではあるが、AI主導の能力がもたらす現実世界の課題を示しており、空軍がAIの倫理的発展に取り組む理由である」と述べています。
また、Hamilton氏の最初の発言を掲載したブログ記事の執筆者の一人である英国王立航空協会《AEROSPACE》誌の編集長Tim Robinson氏は、2023年6月2日、Hamilton氏の訂正をTwitter上に掲載しました。
米国空軍はHamilton氏の発言も白紙撤回しました。Insiderは、米国空軍の広報担当者であるAnn Stefanek氏の発言を含む記事を公開しました。Insiderは次のように報じています：
「米国空軍はそのようなAIドローンの模擬演習は実施しておらず、AI技術の倫理的で責任ある利用に引き続き取り組んでいます」、「大佐のコメントは文脈を無視したものであり、逸話のつもりだったようです」とStehanek氏は述べています。
この主張を行なったInstagramの投稿で示されたVice Motherboardの訂正前の記事には、スクリーンショットで示された見出しが含まれていましたが、その後、Hamilton氏と空軍による説明を反映するために記事は更新されています。同記事の新しい見出し「米国空軍の高官は、AIドローンが模擬演習で人間のオペレーターを殺したことについて『誤解していた』と述べた」のスクリーンショットは以下に掲載されています：
Lead Storiesは、AIに関連するいくつかの主張を論破しており、その内容はこちらから確認することが出来ます。
この記事が気に入ったらサポートをしてみませんか？