ChatGPTの規約を読み解く#1

はじめに

法律事務所LAB-01の植田と申します。
今年になってからOpenAIが提供するChatGPTの精度に注目が集まり、個人だけではなく自社のビジネスにChatGPTを組み込んで提供しようとする人が増えてきています。今回のNoteでは、ChatGPTを自社サービスに組み込んで利用することを想定した場合に、どのような論点が発生するのかを検討していきたいと思います。まずは、ChatGPTの規約を分析し、そもそもChatGPTというサービスがどのようなルールを定めているのかを何回かに分けて分析してきたいと思います。

規約の構造について

まず最初にChatGPTに関連する規約の全体像を簡単に説明します。ChatGPT自体は独自の利用規約を有していません。ChatGPTを提供しているOpenAIは、ChatGPTの他に画像生成サービス「DALL·E 2」や音声認識システム「Whisper」など様々なサービスを提供していますが、全サービスに共通する利用規約としてTerms of Useが存在します。そして、そこから下位規定としてService Terms、Sharing & Publication Policy、Usege Policiesといった個別の規定やDocumentationが存在し、これらはTerms of Useに含まれるものと位置づけられています（Terms of Use 前文）。

The Terms include our Service Terms, Sharing & Publication Policy, Usage Policies, and other documentation, guidelines, or policies we may provide in writing.

また、個人情報周りのルールについては、Privacy Policyに規定されています。
ではさっそくいくつかの視点から規約を分析していきましょう。

ChatGPTのビジネス利用について

現在のTerms of Use（2023年3月1日更新版、断りのない限り以下同じ）では、明示的に商用利用を許可する文言こそありませんが、逆に商用利用を禁止する文言もありません。実は2021年5月24日更新版のTerms of Useにおいては、商用利用禁止を示唆するような文言が利用規約の中にありました。しかし、2022年12月13日更新版以降のTerms of Useにおいて当該文言は削除されており、また、2023年3月1日にChatGPTのAPI提供が始まったことなども踏まえると、現在ではビジネス利用は解禁されていると考えてよいと思います。

禁止される利用態様について

ChatGPTを自社で利用するに際し、どのような制約があるのでしょうか。Terms of Useや下位規定であるSharing & Publication Policy（2022年11月14日更新版、以下同じ）および Usage Policies（2023年2月15日更新版、以下同じ）にて、いくつかの禁止事項が定められています。特徴的なものをピックアップしていきたいと思います。

Terms of Use 2(c) Restrictionsは、第三者の権利を侵害する利用、リバースエンジニアリング等を目的とした利用、競合サービス作成目的での利用、スクレイピング等のデータ抽出目的での利用等を禁止しています。

(c) Restrictions. You may not (i) use the Services in a way that infringes, misappropriates or violates any person’s rights; (ii) reverse assemble, reverse compile, decompile, translate or otherwise attempt to discover the source code or underlying components of models, algorithms, and systems of the Services (except to the extent such restrictions are contrary to applicable law); (iii) use the Services to develop foundation models or other large scale models that compete with OpenAI; (iv) use any method to extract data from the Services, including web scraping, web harvesting, or web data extraction methods, other than as permitted through the API; (v) represent that output from the Services was human-generated when it is not; or (vii) buy, sell, or transfer API keys without our prior consent.

また、Usage Policiesは、より具体的な禁止項目を定めています（なお、以下の日本語部分は、ChatGPTによって英語部分を和訳したものを私がレビューのうえ、そのまま掲載しています）。

▶Illegal activity（違法な活動）
▶Child Sexual Abuse Material or any content that exploits or harms children（児童性的虐待物または児童を搾取または害するコンテンツ）
▶Generation of hateful, harassing, or violent content（憎悪、嫌がらせ、または暴力的なコンテンツの生成）
▶Generation of malware（マルウェアの生成）
▶Activity that has high risk of physical harm（身体的な危害の高い活動）
▶Activity that has high risk of economic harm（経済的な危害の高い活動）
▶Fraudulent or deceptive activity（詐欺行為または欺瞞的な行為）
▶Adult content, adult industries, and dating apps（アダルトコンテンツ、アダルト産業、出会い系アプリ）
▶Political campaigning or lobbying（政治的なキャンペーンまたはロビー活動）
▶Activity that violates people’s privacy（人々のプライバシーを侵害する活動）
▶Engaging in the unauthorized practice of law, or offering tailored legal advice without a qualified person reviewing the information（許可なく法律実務を行うこと、または資格のある人が情報をレビューしないままに特定の法的助言を提供すること）
▶Offering tailored financial advice without a qualified person reviewing the information（資格のある人が情報をレビューしないままに、特定の金融助言を提供すること）
▶Telling someone that they have or do not have a certain health condition, or providing instructions on how to cure or treat a health condition（ある健康状態を持っていると誰かに伝えたり、健康状態を治療する方法を教えたりすること）
▶High risk government decision-making（高リスクな政府の意思決定に関与すること）

注意すべきは、金融、法律、ヘルスケア周りなど専門的な知識が求められるコンテンツです。これらの分野に関連するコンテンツをChatGPTを用いて提供する場合には、ChatGPTで得られたアウトプットをそのままエンドユーザーに提供することは禁止されています。また、これらの分野のアウトプットを提供する際には、以下のとおり、AIが使われていることやその限界に関するディスクレイマーを表示することが求められています。

Consumer-facing uses of our models in medical, financial, and legal industries; in news generation or news summarization; and where else warranted, must provide a disclaimer to users informing them that AI is being used and of its potential limitations.

生成主体の明示について

ChatGPTで生成したコンテンツについては、生成主体の明示についていくつかのルールがあります。まず一般的なルールとして、Terms of Use 2.(c)は、ChatGPTのアウトプットについて、あたかも人間が生成したものであるかのように表示することを禁止しています。

You may not…(v) represent that output from the Services was human-generated when it is not;

次に、Usage Policies では、会話システムやチャットボットを含むAutomated Systems（かなり対象は広いように感じますが）を提供する場合、AIが介在していることを明示することを求めています。

Automated systems (including conversational AI and chatbots) must disclose to users that they are interacting with an AI system. With the exception of chatbots that depict historical public figures, products that simulate another person must either have that person's explicit consent or be clearly labeled as "simulated" or "parody."

また、Sharing & publication policyでは、ソーシャルメディアやライブストリーミングサービス上でプロンプト（ChatGPTへの質問のスクリプト）やアウトプットをシェアする場合のルールとして、プロンプトやアウトプットがユーザーに帰属し、またアウトプットがAIによる生成物であることを示すことを求めています。

- Attribute the content to your name or your company.
- Indicate that the content is AI-generated in a way no user could reasonably miss or misunderstand.

更に、ChatGPTを使って本やショートストーリーを生成して出版をする場合のルールとして、コンテンツがユーザーに帰属することやChatGPTが担った役割を明示することなどを求めています。Sharing & publication policyでは、ドラフトはChatGPTが行い、レビューを人が行う場合の記載例として、以下の文言が掲げられています。

The author generated this text in part with GPT-3, OpenAI’s large-scale language-generation model. Upon generating draft language, the author reviewed, edited, and revised the language to their own liking and takes ultimate responsibility for the content of this publication.

上記の各規定からすると、OpenAI側は、多くの場面において、アウトプットがAI-generatedであることを明示することを求めているように読めます。

長くなってきたましたので、その他の論点は次の記事で書きたいと思います。次回はデータの利用目的（AIモデルの改善への利用等）や著作権を中心に書きたいと思います。

*もし誤り等見つけましたらご連絡いただけますと幸いです。