【経営者必読!!】 ChatGPTのビジネス利用に向けての課題の整理
こんにちは、ひろきです！
ChatGPTがさまざまな形で広まっている中で、ビジネス活用においては2023年4月現在でも多くの課題が存在しています。各国の対応も異なるため、その点を理解しないとビジネス上のリスクにつながることがあります。
このnoteでは、更新日ベースで課題を整理しつつ、安心してビジネスで利用できる方法を模索し、各社のプロダクト進化をサポートできればと考えています。できるだけ原文を引用していますので、皆さんも文面だけを鵜呑みにせず、1次情報をしっかり追っていただければと思います。
更新履歴:
[2023-04-02 Sun] 初版
【第１章】 GPT周辺の用語の整理
ジェネレーティブAI~2022年はジェネレーティブAI革命の年~
ジェネレーティブAI（Generative AI）は、機械学習の手法のひとつで、データから特徴やパターンを学習し、その学習をもとに新しいデータやコンテンツを生成する人工知能の一種です。ジェネレーティブAIは、画像生成、文章生成、音楽生成、図面生成など、さまざまな分野で「0から1」を生み出すタスクに取り組んでいます。
米国Gartner社は、2022年の「戦略的テクノロジーのトップ・トレンド」で注目すべきキーワードとして「ジェネレーティブAI」を挙げています。ジェネレーティブAIは、膨大なデータをもとにアイデアを生み出すため、人間では考えつかなかったような現実的で革新的なアイデアが生まれる可能性があります。
ジェネレーティブAIの代表的な技術として、Generative Adversarial Networks（GANs）、Variational Autoencoders（VAEs）、Transformerベースのモデル（例：GPT-3）などが挙げられます。これらの技術は、ディープラーニングや機械学習の進歩によって実現されており、今後もさらなる発展が期待されています。
重要なのは、ジェネレーティブAIが「何を」元にコンテンツを生成しているのかという点です。この点に関して、情報セキュリティ、著作権、情報の信憑性といった問題が浮上することがあります。
【第２章】 ビジネス利用の問題点と考え方
ジェネレーティブAIの危険性~悪用を理解せよ~
いくつかの記事を参考にしながら、ジェネレーティブAIの危険性について考察していきたいと思います。
「ジェネレーティブAIとは？AIが生み出す新たな設計手法を紹介」という記事から参照したジェネレーティブAIの危険性について列挙します。詳細は、リンク先のサイトの内容をご確認ください。
悪用されるリスクがある
利用する人の倫理観の向上が必要
次に、「ジェネレーティブAI（生成AI）とは？ 活用メリット・事例をわかりやすく解説」という記事では、別の観点から問題が取り上げられています。
フェイクコンテンツの生成
不安定な品質
クリエイターの雇用・収入減
複雑な権利問題
コンテンツ制作の過程に対する開示責任~AI小説の入選~
これからの時代は、AIを活用したコンテンツ制作が当たり前になっていきます。その中で、制作過程に対する開示責任や説明責任が求められるようになってきます。具体的にどのようにAIを活用しているのか、その詳細を説明することが必要になります。
Adobe Stockは、画像生成AI（ジェネレーティブAI）を使って作成したイラスト投稿に関する新たなガイドラインを制定しています。これにより、ユーザーのクリエイティブプロジェクトを強化することが目的とされています。
アドビのポリシーでは、投稿するコンテンツがAIで生成されている場合、コントリビューターがその旨を自主的に明示するよう求めています。
2022年の文学賞「星新一賞」では、AIと作った小説が初入選しています。
日本経済新聞社は2月18日、文学賞「星新一賞」で初めて、AIを使って執筆した小説が入選したと発表した。一般部門優秀賞を受賞した「あなたはそこにいますか？」の作者・葦沢かもめさんは、AIが生成したあらすじを基にした執筆や、AIが書いた文章の編集などを通して、AIと共同で小説を作っているという。
このような形で、コンテンツの背景となる制作過程についての説明責任を果たしつつも、AIと人間の共創を理解し、AIが人間の創造性を拡大し、より質の高いコンテンツを作り上げていくことが求められています。
最終的に、人にはAIが出した成果物の品質を見極めるための審美眼が不可欠になります。AIの潜在能力を最大限に活用し、アイデアを得ながらも、人とAIが共創してより良いアウトプットを生み出すためには、コンテンツに対する責任は自身で果たす必要があるということになります。
コンテンツの信憑性の理解~東海オンエアのタカって誰？~
下記は、ChatGPTのLimitationsの抜粋になります。
情報源については、正確に理解しておくことが重要です。特に、最新の情報に関しては、学習データに含まれていない場合があり、誤った回答が返されることがあります。
ChatGPT sometimes writes plausible-sounding but incorrect or nonsensical answers. Fixing this issue is challenging, as: (1) during RL training, there’s currently no source of truth; (2) training the model to be more cautious causes it to decline questions that it can answer correctly; and (3) supervised training misleads the model because the ideal answer depends on what the model knows, rather than what the human demonstrator knows.
ChatGPTは、もっともらしく聞こえるが、不正確な答えや無意味な答えを書くことがある。この問題を解決するのは、次のように困難です： (1)RLのトレーニングでは、現在、真実のソースがありません。(2)より慎重になるようにモデルをトレーニングすると、正しく答えられる質問を拒否してしまいます。(3)教師ありトレーニングでは、理想的な答えは、人間のデモの知識ではなく、モデルの知識に依存するため、モデルに誤解を与えます。
一方で、正確な情報を提供することで、問題を回避することができます。
プラグイン機能の利用 (ChatGPTにプラグイン機能が登場、2021年9月以降の情報も利用可能に)
WebChatGPTの利用
以下で、WebChatGPTを利用した例をご紹介します。
例えば、「東海オンエアのメンバーのプロフィールを教えてください。」という質問に対するChatGPTの回答です。ファンであれば、プロフィールが最初から間違っていることに気づくでしょう。YouTuberという特性からか、ウェブ上の文字情報が限られており、学習に適切な正確な情報が不足している可能性があります。
東海オンエアは、日本の人気YouTuberグループで、6人のメンバーで構成されています。彼らは愛知県出身で、主にバラエティーやエンターテイメント系の動画を制作しています。以下は、東海オンエアのメンバーのプロフィールです。
タカ（たかし）:
本名：高橋貴之（たかはし たかゆき）
生年月日：1991年7月26日
役割：リーダー
特技：一発ギャグ、ダンス
トシ（としみつ）:
本名：木村利光（きむら としみつ）
・・・
それでは、WebChatGPTを使ってみましょう。ChatGPTの入力画面には、「Web access」というボタンが表示されます。これを利用すると、参照する記事の数、期間、言語、プロンプトを選択することができます。この機能を使って、もう一度先ほどの質問に挑戦してみましょう。
東海オンエアは、日本の愛知県岡崎市を拠点に活動する6人組のYouTuberグループです。メンバーはてつや、しばゆー、りょう、としみつ、ゆめまる、虫眼鏡の6人で構成されています[2]。彼らの活動は、2013年に始まりました[2]。最初の投稿はてつやさんが出演している『鼻からミルクティーを一気飲み』で、2013年10月15日にアップロードされました[1]。
東海オンエアが結成された理由は、ゆめまるさんがてつやさんにYouTubeの存在を教えたことがきっかけであるとされています[3]。虫眼鏡さんを除くメンバーは、同じ高校の同級生であり、てつやさん、りょうさん、ゆめまるさんは陸上部で活動していました[3]。
一目でわかりますね。さらに、参照した記事も明示されているため、正確な情報源を確認しながら、文章の正確性を評価することができます。システムの機能を正しく理解することで、情報収集が効果的に行えるようになります。ぜひ皆さんも、この機能を活用してみてください。
個人情報・社内の機密情報を漏らさない~何が問題なのかを理解する~
個人情報や社内機密情報について、日本の大企業は海外へのデータ送信を懸念しています。そのため、ChatGPTのAPIであってもセキュリティチェックの課題が影響し、法人向けの利用が難しくなっています。
※ この点は、今後も要調査が必要
敵対的なプロンプトのリスクについて~システム開発にも似ている~
ジェネレーティブAIの今後の活用において、プロンプトエンジニアリング、つまりAIへの指示出しが重要となります。しかし、プロンプトエンジニアリングを悪用することで、意図しない形で問題が発生することがあります。この点に関しては、製品開発の過程で品質チェック項目として考慮しておかなければ、後々企業のレピュテーションリスクにも繋がりかねません。正しい理解をお勧めします。
プロンプト インジェクション
プロンプトの流出(Prompt Leaking)
脱獄(Jailbreaking)
(「【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた」より)
世の中の動き~国単位での調整がかかる~
自民党は30日、文章などを自動生成する人工知能（AI）に関する提言案をとりまとめた。行政が国会答弁の下書きなどで試験的に使うなど「国による徹底した利活用」を求めた。人権侵害や安全保障上のリスクに対応する法規制の検討も盛り込んだ。
マスク氏らＩＴ業界有力者、ＡＩ開発競争の停止訴え 現状は「制御不能」
（ＣＮＮ） 米ＩＴ業界の有力者が人工知能（ＡＩ）の研究機関に対し、強力なＡＩシステムの訓練を少なくとも半年間停止するよう訴えている。「社会や人類への深刻なリスク」が理由だ。
高度な言語能力などをもつ人工知能（AI）の急速な広がりに警戒論が欧米で出始めた。イタリア当局は3月31日、米オープンAIの対話型AI「ChatGPT（チャットGPT）」を一時的に禁止すると明らかにした。米国でも非営利団体がオープンAIの先端技術の商業利用の差し止めを求めた。高度なAIの適切な利用に向けた議論が高まる可能性がある。
【第3章】 AIサービス利用のガイドライン
関連記事が多数存在するため、それらを参考にして自社に適したガイドラインを策定してみることをおすすめします。私の会社でもガイドラインが必要とされており、議論内容も含めて公開できる範囲で、皆さんと共有できればと考えています。
皆さん、いかがだったでしょうか。問題点が見えることで、恐ろしさがあるとは思いますが、問題点を正しく理解しておくことで、対応できることも少なくありません。正しく理解し、適切に対処することで、より良い製品開発に繋げていければと考えております。
引き続き、こちらのノートの情報は整理していきたいと思っておりますので、更新履歴をご確認いただきながら、都度参照いただければと思います。
ご興味いただけた方へ
・キャリアの相談してみたいメンバーの方
・マネジメントで苦悩するマネージャーの方
・組織開発・人材開発でお悩みの経営・人事の方
TwitterのDM、Careenaやストアカと皆さんのご興味に合わせて連絡ください。是非、一度気軽にお話ししてみませんか？
Twitter：https://twitter.com/hsato0623
careena：https://careena.jp/users/28cdd9fc
ストアカ：https://www.street-academy.com/myclass/151665
\Twitterでは毎日Well-beingに関する情報を発信中！/
ぜひ、フォローをお願いします！
Twitter：https://twitter.com/hsato0623
参考記事
ジェネレーティブAIとは？AIが生み出す新たな設計手法を紹介
ジェネレーティブAI（生成AI）とは？ 活用メリット・事例をわかりやすく解説
(2022-12-07)人間の創造性の拡大のために〜Adobe Stock、画像生成AIで作成したコンテンツについて新たなガイドラインを制定
(2022-02-18)文学賞「星新一賞」で“AIと作った小説”が初入選 人間以外の作品が応募の4％に増加
(2023-03-19)【徹底解説】これからのエンジニアの必携スキル、プロンプトエンジニアリングの手引「Prompt Engineering Guide」を読んでまとめてみた
WebChatGPT: インターネットにアクセスできる ChatGPT
(2023-03-30) 対話AI「国が徹底的に利活用を」 自民党が提言案
(2023-04-01) ChatGPT、イタリアが一時禁止 米では差し止め要請
(2023-03-30) マスク氏らＩＴ業界有力者、ＡＩ開発競争の停止訴え 現状は「制御不能」
クラスメソッド社内のAIサービス利用のガイドラインを策定しました
生成系 AI の業務利用ガイドラインを紹介します
この記事が気に入ったらサポートをしてみませんか？