オリンピックの新種目：アルゴリズムによるビデオ監視
セキュリティ・オリンピックのスピンオフがやってくる
2022年冬季オリンピックの期間中、北京郊外のスノーパークでスキーヤーがシュートとサーフィンをしていたとき、何人かのスキーヤーはその途中にある一連のタワーに気づいたかもしれない。
彼らは、これらの電波塔がスペクトル全体の波長を収集し、不審な動きの兆候がないかデータを精査していることを知っていただろうか？
彼らは、自分たちがモノのインターネットを使った国境監視実験の不本意な被験者であることを気にしていたのだろうか？
この夏、パリ・オリンピックでは、警備当局が光の都の中心部で、競技会場、オリンピック選手村全体、そして接続する道路や鉄道をカバーする、
より大規模な実験を行う。
この実験は、テロ攻撃につながる可能性のある「あらかじめ決められた出来事」を検知する自動監視システムを許可する暫定法の下で進められる。
今回、人々は気にかけている。
プライバシー保護活動家たちが。
「AIによる大量監視は、広範な人権侵害につながりかねない危険な政治プロジェクトだ。
公共空間でのあらゆる行動が監視インフラの網の目に吸い込まれ、基本的な市民の自由が損なわれる」と、アムネスティ・インターナショナルの事務局長であるアグネス・カラマールは、この法律が可決された直後に述べた。
しかし、一般市民は無関心のようだ。
実際、オリンピック開催地区のひとつであるセーヌ＝サン＝ドニの当局が、ポイ捨てなどの反社会的行為を検知して罰金を科す、AIを搭載した予備的なビデオ監視システムについての情報を提示したとき、住民は手を挙げて、なぜまだ自分たちの通りにないのかと尋ねた。
「監視は一枚岩ではありません。
誰もが監視に反対しているわけではありません」と、ブラジルのバイーア連邦大学とパリのサン・ドニ大学の人類学大学院生マテウス・ヴィーガス・フェラーリは言う。
彼はセーヌ・サン・ドニのコミュニティ・ミーティングに出席し、2024年のオリンピックにおける監視に関する研究を発表した。
犬の後始末をしない隣人を煙たがる人なら誰でも、監視を歓迎するセーヌ＝サン＝ドニの住民に共感するだろう。
しかし、もし監視システムが、そのアルゴリズムがある肌の色や服装を他のものより好むために、ある怠慢な隣人に他のものより多くの罰金を科すとしたら、意見は変わるかもしれない。
実際、フランスをはじめとする欧州連合（EU）諸国は、政府と商業によるAIの利用を規制することで市民のプライバシーと権利を守ろうとするEUのAI法の細部を詰めている最中だ。
すでに、福祉政策に関連するAI法の不十分な実施によって、欧州のある政府が倒れた。
この臨時監視法（202年3月に期限切れとなるビデオ処理条項）は、そのような結果を避けるために作られたようだ。
同法は、その権限下にあるアルゴリズムは「いかなるバイオメトリックデータも処理せず、いかなる顔認識技術も実施しない」と主張している。
また、「他の個人データ処理との照合、相互接続、自動リンクも行えない」と主張している。
かつて、警察官の顔のポスターを印刷し、パリのあちこちに貼ったアーティストのパオロ・シリオは、クラウドソーシングによる顔認証の無認可の練習で、このような言葉を進歩だと考えている。
フランスではオリンピックの期間中でさえ、政府はバイオメトリック技術を使用しないことを法律に明記しなければならない。
「フランスやヨーロッパ、そして他の国々で活動家たちが何年も闘ってきた結果なのです」。
数の安全？
生体認証や顔認証の代わりに当局ができることは、コンピュータを使ったリアルタイムの群衆分析だ。この技術は古くからあり、様々な群衆行動の多くの側面が研究されてきた。
鶏同士の殺し合いを防ぐために使われたことさえある。
群衆は不合理かもしれないが、群衆の研究は科学である。
しかし、群衆はその構成員に匿名性を提供するものではない。
欧州の市民団体は公開書簡の中で、監視は必然的に個人を隔離し、それゆえ個人を特定する必要があり、罪のない人々のプライバシー権を奪うことになると主張した。
これが真実かどうかは不明だ。
関係する技術の進化が速いため、答えを出すのは難しい問題である。
"フランス、ミュルーズにあるオート・アルザス大学のデータサイエンティスト、ジョナサン・ウェーバーは、ビデオ群衆分析に関するレビューの共著者である。
その代わりに、プログラマーは、ニューラルネットワークを人のような形について訓練し、その後のビデオで確実に人を識別できるようにする。
その後、倒れる人、走る人、喧嘩をする人、口論をする人、ナイフを持っている人など、より高度なパターンでニューラルネットワークを訓練することができる。"
「私たちが発する警報は、生体認証に基づくものではなく、人が地面に横たわっているかどうかといった位置情報だけです」と、2024年オリンピックの警備契約の一部に入札したパリのヴィデティクスの共同設立者兼CEO、アラン・フェルバックは言う。
ヴィデティックスはすでに、建物内での転倒や屋外での不法投棄を検知するソフトウェアを販売しているが、いずれも個人を特定する必要はない。
しかし、それだけでは批評家を満足させることはできないかもしれない。
オランダのハーグに本部を置く市民社会団体、非営利法ヨーロッパセンターのデジタル市民空間アドバイザーであるカロリナ・イワンスカは、「人々の行動を分類するだけでも、個人を特定するのと同じように侵略的で危険である。」と言う。
同センターはオリンピック監視法に関する法廷助言書をフランス憲法評議会に提出した。
ウェーバーが特に懸念しているのは、歪んだ学習データがいかに問題のある群集分析AIにつながるかということだ。
例えば、ACLUが米国議会議員の写真と顔写真を比較したところ、ソフトウェアが不釣り合いに肌の黒い人々を一致すると誤認した。
このようなアルゴリズムに潜在するバイアスは、ソフトウェア開発者がどのように訓練するかにかかっている、とウェーバーは言う：「おそらく、アルゴリズムを訓練するために、危険な行動をとる人々のビデオを大量に用意することはないでしょう」。
「私の考えでは、訓練パイプラインを認証しなければなりません」とフェルバックは言う。
そうすれば、認証されたトレーニングセットに基づいて、さまざまな企業が独自のモデルを開発することができる。
「各モデルを認証する必要があるとすれば、そのコストは膨大なものになるでしょう」。
EUの規制当局は、AI法がこの問題にどう対処するのか、まだ結論を出していない。
もしソフトウェア開発者が、アルゴリズムを偏りなく訓練するのに十分な数の現実の悪行やシミュレートされたビデオをまとめることができたとしても、収集したすべての現実世界のデータをどうするか考えなければならない。
「収集するデータが多ければ多いほど、将来的にそのデータが公衆の手に渡ったり、悪人の手に渡ったりする危険性が高まる」とシリオは言う。
これに対して、顔をぼかすツールを使って、個人情報を含むデータが流出する可能性を減らす企業もある。
他の研究者たちは、人の顔を録画しないように、真上からビデオを録画することを提案している。
バイオメトリクスが必要かもしれない
他の研究者たちは、歩行分析を使って個人を認識したり、少なくともビデオ内の他人と区別したりするツールを開発することで、逆の方向に力を注いでいる。
この技術を監視ビデオに適用すれば、フランスのオリンピック法に違反し、顔ぼかしやオーバーヘッドビデオキャプチャのプライバシー保護効果を横取りすることになる。
この法律が、アルゴリズムによるイベント検出を認めながら、バイオメトリクス・データ処理を禁じていることは、「希望的観測に過ぎないように思えます」とイワンスカは言う。
「必ずしもバイオメトリック・データを処理することなく、このシステムが意図したとおりに機能するとは考えられません」。
監視のクリープ
オリンピックのセキュリティー・ウォッチャーを悩ませるもうひとつの疑問は、このシステムをいつまで維持すべきかということだ。
サンフランシスコの市民団体、電子フロンティア財団のシニア・ポリシー・アナリスト、マシュー・グアリグリアは言う。「インフラはそのままで、日常的な取り締まりに簡単に再利用される。」
フランスのオリンピック法には有効期限があるが、イワンスカはそれを恣意的なものだと言う。
イワンスカは、この法律はオリンピックとパラリンピックの2ヶ月間に対する「必要性や比例性の評価なしに」作られたと言う。
セキュリティ技術とオリンピックの他の歴史家は、各国がしばしばオリンピックをセキュリティ見本市のように扱っていると指摘している。
また、フランスがオリンピック法終了後、公共の場でのビデオ処理アルゴリズムの使用を止めたとしても、他国が国内使用のためにフランス企業から購入する可能性もある。
実際、中国が2008年にオリンピックを開催した後、エクアドルをはじめとする人権にかかわるさまざまな記録を持つ国々が、2008年のオリンピックで展示されたシステムをもとに監視機器を購入した。
フランスやその他の国の監視産業は、この露出によって多くの利益を得ることになる。
他国の人権は損なわれるかもしれない。
オリンピックは、迷惑なセキュリティ対策を覆す方法の実験台にもなってきた。
1980年、レークプラシッド五輪村の周囲にフェンスが設置されたとき、選手たちはフェンスに寄りかかり続け、アラームを鳴らし続けた。
しばらくして、警備担当者はアラームがまったく作動していないことに気づいた。
その結果、おそらく警備関係者であろう、誰かが警報システムのプラグを抜いたことが判明した。
この記事は2024年1月号に掲載されています。
この記事が気に入ったらサポートをしてみませんか？