新時代AI「ChatGPT」という相棒について、付き合い方や注意点を改めて考える。Written with ChatGPT
皆さんは、日々の業務の中で、あるいはプライベートな目的に置いて、今話題のAIツールを活用されていますか？「毎日のように使っている」という方もいれば、「一度登録したけど、思うように機能を使いこなせなかった」「最近はあまり触っていない」という方も、多いかもしれません。
私自身も、自社でChatGPTや自社作成のAIボット（Smart ばんにゃ powered by GPT-3/4）の活用を推進しており、実際の取り組み内容をセミナー等でご紹介させていただく機会が増えています。
セミナーではChatGPTの利用状況などをアンケートで聞かせていただくのですが、様々な懸念からChatGPT等の利用が進んでいないという回答を多くの方から頂いています。
そこで本記事では、OpenAI社の「ChatGPT」について、機能の変革や、その能力を最大限活用するための付き合い方、利用上の5つの注意点などを、セキュリティ企業に従事する立場からお伝えしたいと思います。
2023年に入り、ChatGPT をはじめとした様々なAIが私生活やビジネス活動に急速に普及しており、「インターネットの発明を超える」や「iPhone以来の衝撃」といった表現で、AIが社会へ与えるインパクトの強さが語られています。
私自身も自社のDX推進を進めている中で、決め手に欠けると感じていた部分に、これら生成AIが1つのピースとしてハマるのではないかと感じており、「AIを相棒にAIと共に働く」という世界の実現を目指しています。
AIツールやChatGPTが起こしている変革や機能について、改めて理解を深めたい方や、今後AIを最大限活用するために、どうやって付き合っていくべきかをイメージしたい方にとって少しでも気づきのあるコンテンツになればと思っておりますので、ぜひ最後までご一読ください。
また、「AIを相棒に」の合言葉通り、実はこの原稿もChatGPTと協力しながら執筆しています。以降、分かり易いようにChatGPTの回答をベースにした部分は背景に色（グレー）を付けていますので、人とAIの共創という点でも見ていただければと思います。
※ChatGPTの執筆箇所は、背景をグレーで表記しています。
序章: AIの進化とChatGPTの登場
近年、人工知能（AI）は驚異的な進化を遂げ、私たちの日常生活の様々な側面に影響を与えています。その中心に位置するのが、OpenAIにより開発された「ChatGPT」というAIです。
ChatGPTは、自然言語処理（NLP：Natural Language Processing）の最先端を行き、人間との対話が可能なAIとして、世界中で注目を集めています。
ChatGPTがChatGPTの紹介文を生成する、という少し不思議な形ではじまりましたが、ChatGPT自身も言っている通り、「対話を通じて様々な文章などの生成が可能なAI」がChatGPTです。
ときに「優秀な部下」となり、あるいは「親身に相談に乗ってくれる上司」や「知識を持った専門家」にもなり得るなど、対話したい相手を設定することで、様々なケースに対応してくれます。
この記事も「私が上司としてChatGPTに原稿作成を指示」し、「必要に応じて修正の指示を出す」形式で作成しています。当たり前ですが、無理難題にも快く修正案を出してくれました。
＊＊＊
ChatGPTは2022年11月30日にプロトタイプとして世に出ましたが、その後も毎月のようにバージョンアップが繰り返され、様々な機能が提供されています。
以下は、ChatGPTの機能強化を簡単にまとめた表になりますが、登場からわずか半年にも関わらず、多数の進化が行われていることが分かります。
図1.ChatGPTの機能強化の変遷
ChatGPTをはじめとする生成AIに関してはまだまだ進化の激しい領域なので、今から学ぶ・使うのが遅いということは全然なく、むしろ今から学び・使いはじめ、日々の進化を追いかけることが大変重要になりますし、大変面白い領域だと思っています。
ChatGPTの特性: 新時代のAIの能力
ChatGPTはその卓越した自然言語処理能力により、人間との対話を可能にしています。しかし、その真の特性と能力を理解するためには、ChatGPTが何を「知っている」のか、何を「知らない」のかを理解する必要があります。
ChatGPTが「知っている」こととは、そのトレーニングデータに含まれる情報です。大量のテキストデータから学習しており、その範囲はニュース記事、書籍、ウェブサイトなど非常に広範囲にわたります。そのため、ChatGPTは多種多様なトピックについて情報を提供できます。
一方、ChatGPTが「知らない」こととは、そのトレーニングデータに含まれていない情報、または最新の情報です。例えば、ChatGPTの知識は、そのトレーニングが終了した時点でカットオフされます。それ以降の出来事や情報については、ChatGPTは知りません。
これらChatGPTが持つ知識と限界を踏まえることで、ChatGPTの真の能力とユーザーとのインタラクション（相互作用）について深い理解が得られます。本章では、これらの視点からChatGPTの特性を詳しく探求します。
＊＊＊
ChatGPTを使ったことがある方の中には「嘘ばかりで使えない」「検索したほうが早い」という声も少なくありません。事実ではあるのですが、ChatGPTをはじめとした生成AIの効果的な使い方に沿っていないため、うまく機能が引き出せなかった、という側面が大きいと考えます。
ChatGPTを利用する上で、「ChatGPTが出してくる情報が正しいかどうか」は非常に重要ですが、そもそもの前提として、ChatGPTは 「正しい情報を回答する」 という仕組みを取ってはいないことを理解する必要があります。
というのも、ChatGPTは質問として受け取った文章に対し、「回答として最も自然な文となるよう、次の単語を選ぶ」（※1）という仕組みで動いており、このとき「作成した情報が正しいかどうか」は見ていないためです。
※1 厳密には、常に最も自然な単語ばかりを選ぶと、回答が同じ文章ばかりになるので、様々な条件で選ばれます。
「正しい回答を導き出す上で、ChatGPTに与えられた情報量が不十分」、あるいは「ChatGPTに提供された、エビデンスにそもそも誤りがある」といった場合、ChatGPTは十分な回答を提供できず、受け取ったユーザー側はしばしば「嘘をつかれた」と感じてしまうわけです。
＊＊＊
また、ChatGPTが回答に使うAIモデルは2021年9月までの情報をもとにしています。そのため、2021年10月以降の出来事については回答ができなかったり、誤った回答を行ったりすることがあります。なお、2021年10月から現在までの情報を補う方法としては、ChatGPTのプラグインや Code Interpreter、Webブラウジング機能が用意されています。
下記の表は無料版（ChatGPT）と有償版（ChatGPT Plus）、それぞれの機能がカバーしている情報元の時期を表しています。
図2 ChatGPTのプラン・機能別で対応可能な情報元
なお、Webブラウジング機能は、2023年5月にChatGPT Plus（有償版）ユーザー向けに提供されましたが、2023年7月3日に「有料の記事を無料で閲覧できてしまう不具合」が発生したことから、2023年7月末現在は利用不可になっています。
再学習: ChatGPTとどう接するか
また、ChatGPTをこれまでの検索エンジンと同じように使おうとした場合にも、「思ったより使えない」という感想になることが多いと思います。これは、ChatGPTは対話を通じて活用していくものである点が、これまでの検索エンジンと大きく異なるためです。
ChatGPTは人間との対話を可能にするAIですが、人間のように思考や感情を持っているわけではありません。効果的な対話を行うためには、具体的で明確な質問をすることが重要です。例えば「科学と歴史を教えてください」というより「科学と歴史に興味がある場合、読むべき本は何ですか？」というような質問のほうが、より効果的です。
また、ChatGPTの回答は必ずしも正確ではないため、重要な決定をする際には他の情報源も参照することが推奨されます。以下では、これらのヒントを深く探り、ChatGPTとの対話の実例を通じて、その能力を最大限に引き出す方法を探求します。
前章で述べた通り、ChatGPTから質の良い（≒正確な）回答を引き出すためには、「回答に必要な情報を、そもそもAIモデルが所持しているか」がポイントです。
加えて、従来の検索エンジンのように“調べたい内容を入力し、自分で検索結果を確認する方法”と、ChatGPTのような“対話型AIが想定している利用方法”は、大きく異なることを理解しておく必要があります。
従来の検索エンジンを使った調べものは、一般的に以下のフローで行われます。
図3 従来の検索エンジンを利用した場合のフロー例
一方、対話型AIの場合は以下のフローとなります。
図4 ChatGPTを利用した場合のフロー例
大きな違いはフローの２）３）５）の部分です。
従来の検索：結果に対して自分で「情報元を選択し、内容確認し、自分用にまとめ」を行う
ChatGPT：目的に対してAIが自動で「質問者の意図の理解、回答の推論、質問者用に回答文章の整理」を行う
ChatGPTでは、従来の検索において質問者が意識して行っている部分を、AIが質問者に代わり最適な質問と回答を推測している点がポイントとなります。
例えば、洗濯機がエラーを出して止まってしまった場合に、解決方法を調査するとします。この時、両者の差としては下記のようになります。
■従来の検索の例
Q：洗濯機が止まり、「エラー003」と表示される場合の対応方法
A：こちらのマニュアルをご確認ください。
従来の検索では、当たり前ですが、表示されたマニュアルを自分で確認して、該当するエラー内容から対応方法を確認する必要があります。
また、マニュアルに記載されている方法で解決しない場合は、再度エラー内容を質問（検索）し、マニュアルを確認する必要があります。
■ChatGPTの例
Q：洗濯機が止まり、「エラー003」と表示される場合の対応方法
A：エラー003は洗濯物が多い場合に発生するエラーです。洗濯物を減らすことで正しく利用いただけます。それでも解決しない場合、再度エラー内容や状況をお伝えください。
一方、ChatGPTの場合は、質問文章から回答者が必要とするであろう情報をAIが推測・整理した上で回答してくれるため、「エラーの原因」や「対応方法」など、質問者が知りたいであろうことをピンポイントに回答してくれます。
また、その回答内容では解決しないという場合は、次のエラー内容（洗濯物が多いこと以外に発生している問題）を伝えることで、洗濯物を減らす以外の対策方法を教えてもらえます。
質問に対し、一問一答で回答を求めるのであれば、検索エンジンで得られる結果と対話型AIで得られる結果に、大きな差異はありません。
しかし、例えばAIの回答結果の中に不明な言葉があったり、その回答結果では問題が解決しなかったりする場合には、対話型AIであれば、現状の回答結果を踏まえて、さらに突っ込んだ質問ができます。また、関連する新たな単語の意味や関係性を問うことが可能です。
あくまで一例ですが、従来の検索と対話型AIでは、私たちの利用方法が変わるのだという点が少しでも伝わると嬉しいです。
活用: ChatGPTの適切な利用と5つの注意点
ChatGPTは、その自然言語処理能力を活用して、ビジネスプロセスの改善や効率化を実現する強力なツールとなり得る一方、その使用には慎重さが求められます。
特に、個人情報の保護やデータセキュリティ、不適切な内容のフィルタリングなど、ビジネスシーンでの使用における特有の課題に対する配慮が欠かせません。
これらの観点を探りながら、ChatGPTをビジネスで安全かつ効果的に活用するためのガイドラインをご紹介します。これには、個人情報の扱い、データセキュリティの確保、そして倫理的な使用に関する指針が含まれます。
ChatGPTは非常に便利なツールである一方、個人で使う場合・ビジネスで使う場合を問わず、注意すべき利用時のポイントも存在します。特に企業・組織で使用する場合は、上記の理由で慎重さが求められるため、利用ルールを定めたガイドラインを作成し、従業員に浸透させることが重要です。
個人情報の保護や不適切な内容のフィルタリングといった"セキュリティ" の観点から、「ChatGPTをビジネスで安全かつ効果的に活用する」ために注意したい、5つのポイントをお届けします。
機密情報（社外秘情報や機密情報）をChatGPTに入力しない
設定の「Chat History & Training」をオフにする
ChatGPT Plusのプラグイン利用時には利用先のプラグインについても調査する
ChatGPTのAPIを利用して独自のシステムを作成する
利用者や従業員への教育
1．機密情報（社外秘情報や個人情報）をChatGPTに入力しない。
OpenAI社の「利用に関するFAQ」にも記載されていますが、ChatGPTへ機密情報を入力しないように注意喚起されています。
機密情報を入力することで、直接的に情報が漏洩するリスクは高くありませんが、企業には秘密保持契約や個人情報保護法など守るべき様々なルールがあり、適切な対応が求められるため、入力しないことが一番の対策となります。
2．設定の「Chat History & Training」をオフにする
ChatGPTに入力した内容は、ChatGPTのAIモデルのトレーニングのために利用される場合があります。前項の通り機密情報は入力しない前提でも、トレーニングに使われることを避けるためには「Chat History ＆ Training」の設定をオフにする必要があります。
Chat History ＆ Training は、「Settings」の「Data controls」より、オフにすることが可能です。
3．ChatGPT Plusのプラグイン利用時には利用先のプラグインについても調査する
有償版のChatGPT Plusではプラグインの利用が可能となり、機能を追加・拡張することで様々な便利な使い方が可能になります。
一方で、前項の通り「入力情報をトレーニングに使われない設定」にしている場合でも、プラグインで利用する先では、入力情報が保存されてしまう可能性があります。プラグインの安全性はもちろん、プラグインを使った先でのデータ保存の設定についても、確認することが必要です。
4．ChatGPTのAPIを利用して独自のシステムを作成する
ChatGPTのAPIや Microsoft が提供するAzure OpenAI Serviceを利用することで、ChatGPTと同等の機能を、個人や自社で構築することが可能です。
ChatGPTのAPIやMicrosoftのサービスを利用した場合は、データをトレーニングに利用されることはなく、各人・各社の使い方に合わせたカスタマイズも可能なので、より安全かつ効果的な利用が可能になります。
5．利用者や従業員への教育
ChatGPT等の対話型AIの利用方法が、従来の検索エンジンとは異なることを「前編」にてご説明しましたが、AIを利用するからこそ注意すべき点が存在します。
例えば、前述の通り、対話型AIが導き出した回答が必ずしも正しい情報ではない点や、対話型AIにはキーワードではなく目的で問いかける必要がある点、入力した質問が学習に使われる可能性がある点などです。
これらの点を従業員に周知するため、ポイント・注意点・禁止事項をまとめたAI利用のガイドラインを用意する必要があります。
下記は、実際にエムオーテックスが自社で利用しているChatGPT利用ガイドラインの一部で、AIサービスならではの注意点をまとめた箇所になります。
あくまで一例ではありますが、業務利用ではこういった注意点を従業員に伝えていくことが、組織をセキュリティリスクから守る上で重要となります。
まとめ ChatGPTと共に新たな未来へ
本記事を通じて、ChatGPTの特性と能力、適切な利用方法、そしてビジネスでの活用について深く探求してきました。
ChatGPTは、私たちが情報を得たり、学んだり、コミュニケーションを取ったりする方法を根本的に変える可能性を秘めています。しかし、その力を最大限に引き出し、かつ、安全かつ倫理的に利用するためには理解と配慮が必要です。
いかがでしたでしょうか？実際にChatGPTと対話しながら、ChatGPTを紹介する記事を作成してみました。
ChatGPTが“有能な相棒”であることは間違いありませんが、利用する側である我々が効果的な使い方を理解したり、セキュリティ面でも企業内ルールを遵守するなど、注意すべき点が多数あるのが現状です。
本記事が少しでも皆様のChatGPT活用につながると幸いです。
------------------------------------------------------------------------