(コンピュータービジョンの会社として) 信頼を得ること

最近、カリフォルニア州オークランド市が、顔認識技術の使用を禁止する米国の3番目の都市（カリフォルニア州サンフランシスコ市、マサチューセッツ州サマービル市と並ぶ）となった。同市は、顔認識技術が不正確であり、侵害的な可能性があり、基準を欠いているとして、顔認識技術の使用を禁止する条例を可決しました。この規制は、企業である私たちに直接影響を与えるものではありませんが、この問題が私たちの価値観やプロダクトを作る上での決定とどのように関係しているのかを議論する良い機会だと考えています。
まず、私たちは顔認識を禁止するというこの決定を歓迎し、これはディープラーニングから生まれる素晴らしい能力を規制するための、避けられない（そして必要な）一連のステップの一つであると信じています。テクノロジーがますます強力になる中、企業は、顔認識であれ、ソーシャルメディア上の誤報の拡散であれ、あるいは他の何かであれ、市民の利益に対してその能力を慎重に検討する必要があります。私たちは、欧州で確立されたGDPR法、カリフォルニア州で来るCCPA規制とともに、この最近の規制を見て、"はい。それで?" と言っています。
スタンダードAIを成功させるためには、小売業者と買い物客の両方から信頼を得る必要があります。正直なところ、私たちのビジネスは小売店にカメラを設置することに基づいており、(それ自体が)信頼不足と懐疑的な先入観なからスタートします。そこから先は、私たちは証明しなければならないことがたくさんあります。信頼は、行動だけでなく、何を行動しないかということによっても得られるものです。私たちは、顔認証に代表される生体情報を一切収集しないという確固たるスタンスを持っています。技術的に難しいことは承知の上で、このスタンスをとっています。しかし、技術的な近道とお店の信頼を得ることのどちらかを選ばなければならないのであれば、信頼が勝ちます。同様に小売業でも、棚センサーを使えば技術がシンプルになることは分かっていますが、その分、設置や柔軟性に負担がかかります。ユーザーのことを第一に考えてこそ、優れたプロダクトを作ることができるのです。小さな積み重ねが、信頼を生むのです。私たちは、デモ店舗を含め、唯一、アプリを使わずに入店でき、ゲートの通過を必要としない自動型レジを提供しています。アプリを持たないお客さまでも、キオスク端末の前まで行けば、何を買ったかわかるようになっていますし、支払いも完全に匿名で行えます。
私たちの店舗に当てはまることは、私たちが協業する小売店にも当てはまります。私たちは、楽なショッピング体験を実現したいと考えています。そのためには、実は買い物客の(個人情報についての) ことをあまり知らなくてもいいのです。また、広告を使わないビジネスモデルなので、他社のようにお客様を追跡するプレッシャーもありません。つまり、私たちは不気味である必要がないようにビジネスを設計しているのです。これは、技術的なトレードオフを意味し、コードやデザインから機能や体験に至るまで、私たちの価値観をプロダクトに植え付けることを意味します。
顔認証は今話題の課題かもしれませんが、私たちにとっては「信頼を得る」という大きな目標への足がかりに過ぎません。信頼を得るには、プライバシーの保護、透明性の確保、セキュリティとベストプラクティスへの投資、何をし、何をしないかの明示、必要なデータのみを収集し、不要なデータは削除することが必要です。将来的には、これらすべてについて規制が設けられるかもしれません。その時は、今と同じように、"はい。それで？" と答えるでしょう。

*この記事は2019年5月20日Standard AI 共同設立者のDavid Valdmanによって書かれたものです。