AIを欺くステッカー：完全な監視カメラの回避と人間の「透明化」【悪用は厳禁】

2023年7月9日 12:23

AI技術が進化する中、その弱点を突く新たな研究が登場しました。しかし、その知識は悪用されるべきではありません。ベルギーのルーヴェン大学（KU Leuven）の研究者たちは、単純なプリントアウトしたパターンを使用して、AIビデオ監視システムを完全に回避することができることを発見しました。しかし、この技術は、個人のプライバシーを守るため、または科学的な研究目的でのみ使用すべきです。悪用は厳禁です。
本記事の最後に論文とソースコードを貼ってますので、興味ががあれば、ご参照ください。

AIを欺く一枚のステッカー

2019年、新たな研究が人工知能（AI）を「欺く」ための一枚のプリントアウトしたステッカーを発見しました。このステッカーは、最先端の検出システムが目の前にいる人間を見ることができないようにすることができます。この研究は、現実のビデオ監視システムにも応用可能で、大いに議論を呼んでいます。

AIの前で「透明化」するステッカー

このステッカーは、AIのビデオ監視システムを完全に回避することができます。しかし、この技術は個人のプライバシーを守るため、または科学的な研究目的でのみ使用すべきです。悪用は厳禁です。

「敵対的パッチ」によるAIの欺瞞

このステッカーは「敵対的パッチ」（adversarial patch）と呼ばれ、AIシステムを「欺く」ためのものです。このパッチにより、システムは画面中に別の人物がいることを検出できません。

敵対的機械学習の利用

この欺瞞は、敵対的機械学習と呼ばれる方法を利用しています。ほとんどのコンピュータビジョンシステムは、訓練（畳み込み）ニューラルネットワークに依存して異なるものを認識します。これは、大量のサンプルを提供し、パラメータを調整することで、システムがオブジェクトを正確に分類できるようにする方法です。

「神奇なパッチ」の生成と透明人間への変身

この「敵対的パッチ」はどのように生成されるのでしょうか？最適化の目標は以下の三つの部分を含んでいます：

Lnps：非印刷可能スコア。この要素は、ステッカーの色がどの程度プリンタで印刷できるかを示します。
Ltv：画像の全変動。この損失関数は、最適化器が滑らかな色の遷移を持つ画像をサポートし、画像ノイズを防ぐことを保証します。
Lobj：画像内の最大オブジェクトスコア。パッチの目的は、画像内の人間を隠すことです。したがって、訓練の目的は、検出器の出力の目標またはカテゴリスコアを最小化することです。

監視カメラはまだ安全なのか？

このシステムは人体検出器の精度を大幅に低下させることができます。しかし、この技術は個人のプライバシーを守るため、または科学的な研究目的でのみ使用すべきです。悪用は厳禁です。