生成AIがテック企業をさらに渇望させる

3月にZoomの利用規約が更新された。Zoomユーザの音声や動画、その他のデータをZoomが勝手に吸い上げ、機械学習システムに取り込む権利がZoomへ与えられているように見えることに一部のZoomユーザが気づいた。

新しい規約には、「機械学習や人工知能のアルゴリズムやモデルのトレーニングやチューニングを行う目的で、Zoomがユーザのデータにアクセス、使用、収集、作成、変更、配布、処理、共有、維持、保存することに同意する」と記載されていた。

この発見は、ソーシャルメディア上で批判的なニュース記事や怒りの投稿を促した。これをすぐにZoomは撤回した。Zoomの最高製品責任者であるSmita Hashamは、「お客様の同意なしに、音声、ビデオ、またはチャットの顧客コンテンツを使用して人工知能モデルを学習させることはありません」とブログに投稿した。

Zoomは再び規約を更新し、「音声、ビデオ、チャット、画面共有、添付ファイル、その他顧客のコンテンツ（投票結果、ホワイトボード、リアクションなど）のようなコミュニケーションをAIモデルに与えない」ことを明確にした。同社の広報担当者であるヴェラ・ランネフトによると、Zoomはこれまでこのような方法で顧客コンテンツを利用したことはないという。

多くのZoomユーザーやビジネスアカウントの管理者は、自分がZoomへ何を引き渡しているのかを十分に理解しないまま、規約に「OK」をクリックしているかもしれない。また、Zoomを使用しなければならない従業員は、雇用主が行った選択に気づかないかもしれない。ある弁護士は、規約は依然としてZoomが同意なしに多くのデータを収集することを認めているとも指摘する。

この騒動は、生成AIブームによってテック業界がデータ収集に今以上に飢えており、意味のあるデータ保護が欠如していることを示している。データが一体何のために必要なのか、あるいは将来のAIシステムが最終的に何をすることになるのかすら明確でない。

DALL-E 2やMidjournyのようなAI画像生成ツール、そしてChatGPTやその他の巧妙だが欠陥のあるチャットボットの登場は、ウェブからかき集められた膨大な量の学習データ（その多くは著作権で保護されている）のおかげで可能になった。そして現在、あらゆる企業が、自社が所有するデータ、あるいは顧客やユーザーによって生成されたデータを使用して、生成AIツールを構築しようとしている。

Zoomはすでに生成AIの流行に乗っている。同社は6月、会議を要約し、それに関する電子メールを作成するための2つのテキスト生成機能を導入した。Zoomは、ユーザーのビデオ会議のデータを使って、より洗練されたアルゴリズムを開発することができる。会議中の個人の行動を要約したり分析したり、あるいは接続が一時的に切れたり、時間がなかったりする人のためにバーチャルな似顔絵を表示することもできるだろう。

より多くのデータを取得しようとするZoomの努力は、それが私たちの広範な個人データを収集しているという問題となった。多くのテック企業はすでに私たちの情報から利益を得ており、Zoomのような企業の多くは現在、生成AIプロジェクトのために、より多くのデータを入手する方法を探している。しかし、彼らが何をしているかを取り締まるのは、私たちユーザー次第なのだ。

米国には連邦プライバシー法がないため、消費者はEUの人々よりもChatGPTに触発されたデータ飢餓の苦しみにさらされている。米国データ・プライバシー保護法（American Data Privacy and Protection Act）のような立法案は、データの収集と使用に関する連邦規則を強化することに期待を持たせている。しかし今のところ、Zoomの動きに対する一般市民の反発が、企業のデータ欲を抑える最も効果的な方法だ。しかし、これはAIで競争しようとする企業の疑わしい決断をすべてキャッチするための信頼できるメカニズムではない。

最もエキサイティングで広く賞賛される新技術が、消費者から収集されたデータの山の上に構築され、しばしば倫理的に問題のある方法で構築される時代において、新たな保護はすぐには実現できないようだ。