カリフォルニア州がAI規正法を独自に制定した戦略的背景と法律の概要

2024年9月15日 22:19

カリフォルニア州では、現在「最先端AIモデルの安全で安心なイノベーション法（SB 1047）」というAI規制法案が進められています。

この法案は、特に大量の計算力を必要とする「フロンティアAIモデル」と呼ばれる高度なAIシステムの開発と運用を対象としています。

法案では、AIモデルをトレーニングする前に、サイバーセキュリティ対策や緊急停止機能（「キルスイッチ」）の導入が義務付けられており、安全性を確保するための様々なプロトコルが設けられていますさらに、年次監査の実施とAI関連のインシデント報告も求められており、AI開発者は72時間以内にカリフォルニア州司法長官に報告する必要があります。また、従業員が安全上の懸念を報告する際の「内部告発者保護」も含まれており、企業がリスクのある行動を取った場合でも、従業員が報復を恐れずに報告できるようになっています。

この法案はAI安全性を重視する一方で、技術革新のペースを遅らせる可能性があるとの懸念もあり、特に中小企業にとってはコストが増大するとの批判もあります。現在、この法案はカリフォルニア州知事ギャビン・ニューサムの承認を待っており、承認されれば2026年に施行される予定です。

以下ではカリフォルニア州のAI規正法の特徴をまとめています。

1. 対象となるAIモデルの定義と規制対象

SB 1047は、「フロンティアAIモデル」と呼ばれる、特に大規模な計算力を必要とするAIシステムを規制対象としています。これらのモデルは、社会や経済に対して重大なリスクをもたらす可能性があるため、特に高度な安全性と透明性が求められています。対象となるモデルは、膨大なコンピュータリソースを消費し、訓練に高額な費用がかかるものです。

2. 安全プロトコルと「キルスイッチ」の義務化

AI開発者は、モデルをトレーニングする前に厳格な安全プロトコルを実施することが求められます。特に「キルスイッチ」の実装が義務付けられており、これはAIモデルが危険な状況に陥った際、迅速にシャットダウンできる機能を指します。この規定により、AIの誤用や制御不能な状況を防ぐことが期待されています。

3. 第三者による年次監査と透明性の確保

AI開発者は、独立した第三者による年次監査を受け、その結果をカリフォルニア州司法長官に提出する義務があります。この監査では、企業が規制に従っているかを確認し、潜在的なリスクを特定することが求められます。また、監査結果は一部が公開され、透明性を保つことが強調されています。

4. インシデント報告義務

もしAIモデルに関する安全性のインシデントが発生した場合、開発者は72時間以内に州司法長官に報告する必要があります。この規定は、迅速な対応を促進し、AIの誤用や事故を未然に防ぐためのものです。

5. 内部告発者の保護

法案には、内部告発者保護の規定が含まれています。これにより、AI開発企業の従業員が安全性に関する懸念を報告する際、報復を恐れることなく内部告発を行うことができます。この保護措置は、AIの安全性を高めるための透明性を促進する重要な要素です。

6. カリフォルニアの技術産業への影響

カリフォルニアは多くの大手テクノロジー企業が拠点を置く地域であり、この法案は特にこれらの企業に大きな影響を与えます。例えば、Google、Meta、OpenAIといった企業がこの規制に従うことになりますが、これらの企業はAI技術の最前線に立っており、法規制に適応しながらイノベーションを続けることが求められます。一方で、規制が厳しすぎると、特に中小企業やスタートアップにとってはコストの増大や競争力の低下につながる可能性があるとの懸念もあります。

カリフォルニア州が独自のAI規正法を制定する目的

カリフォルニアがAI規制法（SB 1047）を制定しようとしている背景には、同州に多くのAI関連企業が集まっていることが大きく影響していると考えられます。
カリフォルニアは、シリコンバレーをはじめ、GoogleやOpenAI、Metaといった世界をリードするテクノロジー企業の本拠地です。これらの企業は最先端のAI技術を開発しており、その影響力やリスクも非常に大きいです。

また、カリフォルニアがこの法案を制定する理由は、急速に進化するAI技術がもたらす潜在的なリスクを管理するためです。AI技術は、社会に大きな利益をもたらす一方で、誤った使い方や不十分な管理が重大なリスクを引き起こす可能性があります。例えば、AIがサイバー攻撃に利用されたり、無人兵器やデータ侵害などの形で悪用されたりする危険性があります。このようなリスクを未然に防ぐため、カリフォルニアは開発企業に対して厳格な安全基準を課し、AIの悪用や誤用を防止しようとしています。

また、カリフォルニアはAI産業において世界的なリーダーであり続けたいという意向もあるため、安全なAI開発の基盤を確立することが重要とされています。同州での規制は、他の州や国々にも影響を与える可能性が高く、グローバルなAI規制の先駆けとなることを目指しています。

要するに、カリフォルニアはAI技術の恩恵を最大化しつつ、そのリスクを適切に管理し、社会全体への悪影響を防ぐためにこのような規制を進めているのです。また、世界のAI規制後進国に法案を真似させることにより、カリフォルニアに所在するAIリーディングカンパニーが容易に自社のAIシステムを世界展開しやすするとい戦略も見え隠れします。