顔スキャン偏見事件でUber Eatsのドライバーに支払い命令

以下の文言は自動翻訳によるものです｡
逐語的に推敲は行っていないことご了承ください｡

人種差別的な」顔認識チェックによって、仕事を確保するためのアプリへのアクセスが妨げられた黒人ウーバーイーツドライバーが、支払いを受けた。Pa Edrissa Manjangが2019年11月にUber Eatsで働き始めたとき、そのアプリは定期的に仕事に登録するために自撮り写真の送信を求めることはなかった。しかし、マイクロソフトを搭載したウーバーイーツのアプリは、こうした確認チェックを増やした。そして2021年、「慎重な検討」の結果、「継続的なミスマッチ」のため、彼のアカウントは削除されると発表した。

人種ハラスメント
ウーバーの担当者は次のように述べた： 「私たちのリアルタイムのIDチェックは、私たちのアプリを使用するすべての人の安全を守るために設計されています。平等人権委員会とアプリ運転手・宅配業者組合は、マンジャン氏の裁判に資金を提供した。EHRCは、顔認識チェックの人工知能が彼の収入を奪ったことを懸念していた。ADCUは、マンジャン氏が要求された自撮り写真の数は人種的嫌がらせに相当すると述べた。同組合はBBCニュースに対し、「職場におけるAIと機械学習ツールの開発ペースが加速する」中、労働者の権利が確実に守られるよう「懸命に取り組んでいる」と語った。

不透明なプロセス
復職し、オックスフォードシャーのウーバーイーツで働き続けているマンジャン氏は、裁判外の和解は彼にとって「長く困難な」期間の終わりを意味すると述べた。彼のケースは、AIの潜在的な問題、特に「ギグ・エコノミーにおける低賃金労働者」に「スポットライトを当てる」ものだ。そして彼は、この決定が「AIに関連する労働者、特に少数民族の権利と保護」の強化に役立つことを期待した。EHRCの議長を務めるフォークナー男爵夫人は、マンジャン氏が自分の仕事に影響する不透明なプロセスを理解するために、ウーバーイーツを訴える必要はなかったはずだと述べた。「我々は特に、マンジャン氏が自分のアカウントが停止中であることを知らされず、テクノロジーに異議を唱えるための明確で効果的なルートも提供されなかったことを懸念している」と彼女は述べた。

マイクロソフトは以前、同社の顔認識ソフトウェアが少数民族に属する人々にはあまり効果がないことを認めている。また、警察、内務省、大学が関与した過去の事例から、民族性がテクノロジーに影響を与える可能性があることが示されている。