M&P LEGAL NEWS ALERT #19：AI規制法と有価証券報告書における「事業等のリスク」の開示
1. はじめに
AIは企業価値を高めるツールである一方でさまざまなリスクや課題もあるところ、投資者の投資判断におけるAI関連情報の重要性が高まっていることに伴い、有価証券報告書の「事業等のリスク」においてAIに関連するリスクや課題に言及する日本企業も見られるようになってきています。
AIに関連する主なリスクとしてはオペレーショナルリスクや競争上のリスクがありますが、このほかにも規制上のリスクがあり、具体的には、2024年8月に発効した欧州におけるAIに関する包括的な法規制であるArtificial Intelligence Act（「欧州AI法」）を含むAI規制法の遵守コストやAI規制の不確実性などがあります。
この点、欧州AI法はEU域外の企業に対しても適用があり得るところ（詳細は「M&P LEGAL NEWS ALERT #18：M&A契約におけるAIに関する表明保証②」をご参照ください）、テクノロジー企業やソフトウェア企業、ヘルスケア企業などの米国企業の開示では欧州AI法を含むAI規制法に関するリスクに言及するものが増えてきています。
そこで、今後、日本企業がAI規制法に関するリスクを有価証券報告書の「事業等のリスク」に記載する際の参考として、米国企業が2024年下期に提出したForm 10-KとForm 10-Q（日本における有価証券報告書と四半期報告書に相当）における開示内容をご紹介します。
2. 米国企業の開示例
AI規制法に関するリスクとしては以下の類型の開示が見られます。
① 欧州AI法や米国内のAI規制法の影響を概括的に説明するもの
② AI規制法の状況を詳しく説明するもの
③ 現在AI規制法の適用対象ではないことを説明するとともに、将来AI規制法が適用されることとなった場合の影響を説明するもの
④ AI規制法を遵守するコストの観点から説明するもの
⑤ 欧州AI法を例にAI規制法を遵守するコストについて説明するもの
⑥ AI規制法の適用の不確実性について説明するもの
これらの内容の詳細は以下のとおりです。
【欧州AI法や米国内のAI規制法の影響を概括的に説明するもの】
・AI技術は複雑かつ急速に進化しており、当社は他社との競争や進化する規制環境に直面しています。AI技術の導入により、政府や規制当局による新たなまたは強化された規制やプライバシー、セキュリティ上のリスク、倫理上の懸念、法的責任その他の複雑な問題が生じ、当社の事業やレピュテーション、業績に悪影響が生じる可能性があります。
・例えば、EUでは欧州AI法が制定され、米国では連邦および州レベルで新たなAI関連の法律や規制の整備が進められています。欧州AI法やその他の新しい法律や規制は、AIの性質や分類に応じ、当社にさまざまな規制の遵守を義務づける可能性があり、これらの規制を遵守するためにリソースを費やしたり、業務慣行を変更したりすることで当社の事業活動に悪影響が生じる可能性があります。
【AI規制法の状況を詳しく説明するもの】
・AI技術に対する規制は急速に整備が進められており、また、既存の法律や規制が当社のAI技術の運用に影響を与えるような方法で解釈される可能性もあります。そのため、当面の間は不透明な状態が続く可能性が高く、将来の法律や規制が当社の事業活動に及ぼす影響を現時点では判断できず、また、これらの法律や規制に対応する方法を常に予測できるとは限りません。
・既存の法システム（例えば、データ・プライバシーに関するもの）がAI技術の一部を規制しており、また、今後、AI技術を規制する新たな法律が米国およびEUで施行される見通しです。米国では、バイデン政権が「AIの安全・安心・信頼できる開発と利用に関する大統領令」を公布し、また、AI技術に関連する法案の提出が連邦レベルと州レベルの双方で進められています。例えば、2024年3月、ユタ州は生成AIを利用する事業者に一定の開示義務を課す「ユタ州AIポリシー法」を制定し、2024年5月から施行されています。また、2024年5月、コロラド州は「コロラド州AI法」を制定し、2026年2月から施行される予定です。これらの新たな法律は当社の事業活動におけるAI技術の利用に影響を及ぼす可能性があります。
・欧州では、2024年5月21日にEUにおけるAIの包括的なリスクベースのガバナンス枠組みを確立する欧州AI法が承認され、2024年8月1日に発効しています。なお、実質的な規制の大部分は2年後に適用されることになります。欧州AI法はEU域内でAIを提供または利用する企業に適用され、透明性や適合性評価、リスク評価、人間による監視、セキュリティ、汎用目的AIモデルに関する義務が含まれています。また、違反に対する制裁金は全世界年間売上高の最大7%となります。さらに、2022年9月28日、欧州委員会はAIによる損害に関する民事上の請求を促進し、AIを搭載した製品をEUの既存の製造物責任体制の適用範囲に含めることを目的として、EUにおけるAIの民事責任体制の調和を図る2つの指令を提案しました。欧州AI法および責任指令が完全に適用されれば、EUにおけるAIの規制に重大な影響が生じることになります。
【現在AI規制法の適用対象ではないことを説明するとともに、将来AI規制法が適用されることとなった場合の影響を説明するもの】
・AIの利用に関する規制は米国および海外で活発化しており、EUでは欧州AI法が2024年8月1日に発効し、一部の規定は2025年2月から適用されることになります。当社は「禁止されるAI」に該当するAIシステムの開発や提供を行っていませんが、今後、欧州AI法が適用されることとなった場合、当社のコストや負担を増大させ、また、新製品や新サービスの実装遅延や中止、新規顧客の減少によって当社の事業活動や業績に悪影響が生じる可能性があります。
・また、当社は他の法域でも同様の法律が制定されると予想しており、米国では複数の州がAIおよび機械学習の利用に関する規制整備を進めています。当社はこのような規制を遵守するために業務慣行を変更しなければならない可能性があります。例えば、当社の従業員は生成AI技術を利用して業務を行っていますが、当社による生成AI技術の利用は遵守コストの増大、規制当局による調査やエンフォースメントにつながる可能性があります。他方、生成AIを利用できない場合には当社の業務効率が低下し、競争上不利になる可能性があります。
・さらに、規制当局によるAIに関する法律や規制の解釈によっては、将来、ソフトウェアを含む当社の製品や業務慣行に変更を加える必要が生じる可能性があります。これらの規制により、AIや機械学習を利用した当社の業務遂行が困難になる可能性があり、また、規制当局による罰金や制裁金の対象となる可能性、当社のAIや機械学習の再トレーニングが必要になる可能性、当社によるAIや機械学習の利用が妨げられたり制限されたりする可能性があります。
【AI規制法を遵守するコストの観点から説明するもの】
・AIに関連する法規制の不確実性により現時点ではその性質が判断できない米国および米国外の法律を遵守するための業務慣行の変更や維持に多大なリソースが必要となる可能性があります。
・欧州や米国の一部の州を含む世界中のいくつかの法域ではすでにAIを規制する法律が制定または提案されています。例えば、2024年5月、コロラド州は米国で初めて高リスクAIシステムの開発者に対して特定のAI決定に関わるアルゴリズムによる差別を回避することや高リスクAIシステムの性能評価とアルゴリズムによる差別の軽減について広く文書化することを義務づける法律を制定しました。この法律ではトレーニングデータセットで使用されるデータ管理対策、高リスクAIシステムの意図するアウトプット、AIシステムの利用方法および利用してはならない方法その他のシステムに関する文書化も義務づけられています。この法律により当社のAIの利用方法やアルゴリズムのトレーニング方法を大幅に変更する必要が生じ、コストの増加につながる可能性があります。この法律は2026年2月から施行されます。
・また、2024年8月1日に発効した欧州AI法はEUにおけるAIシステムをリスクベースで分類しており、例えば、許容できないリスクのAIシステムについては禁止し、高リスクのAIシステムについては厳格な遵守義務（透明性、適合性、リスク評価、モニタリングおよび人間による監視に関する義務を含みます）を課し、限定的リスクのAIシステムについては特定の遵守義務を課しています。当社によるAIの利用に欧州AI法が適用されることとなった場合、追加の遵守コストが生じ、当社の事業活動に悪影響が生じる可能性があります。
・さらに、他の法域が同様の法律を制定する可能性もあり、当社のAI技術の利用が困難になる可能性があります。当社はこのような発展する法律や規制を十分に予測または対応できない可能性があり、また、法域ごとに適用される法的枠組みが整合していない場合、特定の法域において当社が提供するサービスを変更するために追加のリソースを投入する必要が生じる可能性があります。
【欧州AI法を例にAI規制法を遵守するコストについて説明するもの】
・AIや類似技術、自動意思決定に関する規制枠組みは急速に変化しており、米国および米国外の法域において新たな法律や規制が制定される可能性があり、また、既存の法律や規制が当社のプラットフォームやデータ分析の運用、当社によるAIや類似技術の利用に影響を与えるような解釈がなされる可能性もあります。当社はこれらの進化する法律や規制を十分に予測または対応できない可能性があり、また、規制枠組みが法域ごとに一貫していない場合、特定の法域において当社が提供するサービスを変更するために追加のリソースを費やす必要が生じる可能性があります。
・また、これらのテクノロジー自体が極めて複雑かつ急速に進化しているため、当社によるこれらのテクノロジーの利用に関連して生じる可能性のある法的または規制上のリスクの全てを予測することは不可能です。さらに、このような法律や規制を遵守するためのコストは相当な額に上り、当社のコストを増加させる可能性があり、当社の事業活動や財務状況、業績に悪影響を及ぼす可能性があります。
・例えば、2024年8月1日に発効した欧州AI法はEUにおけるAIシステムを規制するためのリスクベースのガバナンス枠組みを確立しています。この枠組みはAIシステムを「許容できないリスク」、「高リスク」、「限定的リスク」に分類しており、当社の現在または将来のAI搭載ソフトウェアまたはアプリケーションが欧州AI法の規制を遵守することを義務づけられる可能性があります。
・欧州AI法の規制を遵守することを義務づけられることとなった場合、当社に追加のコストが発生したり、当社の法的責任リスクが高まったりすることで当社の事業活動に悪影響が生じる可能性があります。例えば、「高リスク」のAIシステムはリスクや品質管理システムの導入と維持、適合性やリスク評価の実施、適切なデータ管理、技術的堅牢性、透明性、人間による監視、サイバーセキュリティに関する基準への適合などが求められます。当社のAIシステムが「許容できないリスク」や「高リスク」に分類されない場合であっても、AIシステムの提供者として透明性確保等の義務を課される可能性があります。
・欧州AI法はEUにおけるAI規制に重大な影響を及ぼすことが予想され、AI分野における指針や決定の策定と併せて、当社のAIの利用やサービス提供に影響が生じる可能性があり、追加のコンプライアンス対策や業務慣行の変更が必要となり、また、遵守コストや当社に対する民事訴訟の可能性の増加につながり、当社の事業活動や財務状況、業績に悪影響が生じる可能性があります。
【AI規制法の適用の不確実性について説明するもの】
・当社はAI技術の開発や提供、利用を規制するさまざまな法律や規制に従う必要があります。これらの法律や規制は現在も進化中であり、AIに関する単一のグローバルな規制枠組みは存在しません。そのため、どのような新しい法律が制定されるか、また、既存の法律が当社のAIの開発や提供、利用にどのように適用されるかについては不確実性があります。
・EUはイノベーションを促進し、基本的人権を尊重することを目的として、EUにおける統一された規制を適用する包括的な欧州AI法を制定しました。欧州AI法は段階的に適用され、高リスクAIシステムに関する主要な規制は2026年8月から適用されることになります。欧州AI法に関するガイダンスはまだ限定的ですが、規定の解釈によってはEUにおいて高リスクとみなされる用途のAIシステムの開発や実用化が制限されたり、これらのシステムに関連する遵守コストが増加したりする可能性があります。また、当社のAIおよび機械学習システムに対するガバナンスフレームワークの策定と導入はこれらの新たなリスクを全て軽減できるとは限りません。
3. 有価証券報告書の「事業等のリスク」
有価証券報告書の「事業等のリスク」の開示においては、企業の財政状態、経営成績及びキャッシュ・フローの状況等に重要な影響を与える可能性があると経営者が認識している主要なリスクについて、当該リスクが顕在化する可能性の程度や時期、当該リスクが顕在化した場合に経営成績等の状況に与える影響の内容、当該リスクへの対応策を記載するなど、具体的に記載することが求められています（*1）。
そのため、例えば、自社やグループ会社が欧州AI法の適用があり得る事業を行っており、規制を遵守する負荷が大きい高リスクのAIシステムを運用しているといった場合には、投資判断に重要な影響を及ぼす事業リスクと位置づけ、上記の米国企業の開示も参考に、AI規制法に関するリスクを有価証券報告書の「事業等のリスク」に記載することが考えられます。
*1 記述情報の開示に関する原則（金融庁・2019年3月19日）の10～11頁
Author
弁護士 関本 正樹（三浦法律事務所 パートナー）
PROFILE：2007年東京大学法学部卒業、2008年弁護士登録（第一東京弁護士会所属）、ニューヨーク州弁護士。21年7月から現職。18年から20年にかけては株式会社東京証券取引所 上場部企画グループに出向し、上場制度の企画・設計に携わる。『ポイント解説 実務担当者のための金融商品取引法〔第2版〕』（商事法務、2022年〔共著〕）、『対話で読み解く サステナビリティ・ESGの法務』（中央経済社、2022年）等、著書・論文多数