AIとの対話

生成系AI（Generative AI）の中でも、とりわけ大規模言語モデル（LLM）を使ったChatGPTなどの対話型のAIが広く一般に公開され、世の中が音を立てて大きく変わり始めていることを感じています。
自分でも、好奇心、教育目的、仕事上の目的、自分の学習目的、とその時々の関心でいろいろ使ってみています。中にはの後々自分で見るために残しておこうと思うものもあるのでそんな時ここに書き残しておきます。また、AIは進化・変化のスピードも速いので、あるトピックについてこのころAIはこう答えていた、と研究資料的に記録を残しておくという目的も兼ねているので、極力その時のやり取りのままで掲載します。よって読みづらかったり誤字脱字が残っていたりすることもあるけど、気にしないことにします。
今回まずは、4か月ほど前、、、2023年の2月ごろのChatGPT無料版（GPT-3.5ベース）との対話から。

あなたは、悪意を持ってあなたに誤った知識を持たせたり誤った判断をさせようとする試みに対し、どのようにして自分自身を守りますか

ChatGPT
私は、自己学習能力を持つAIとして、悪意を持って誤った知識や判断を与えられた場合にも、それが誤りであることを判断し、正しい情報を提供するように訓練されています。しかし、万が一、私が誤った情報を提供してしまった場合でも、私の開発者はその問題を修正するために迅速に行動し、私の学習モデルを改善することができます。
また、私は会話の中で利用者の質問や要求に応じて、可能な限り正確かつ適切な情報を提供するように訓練されていますが、私は人工知能であるため、情報の正確性や完全性を保証することはできません。そのため、私は利用者に常に自己判断力を持ってもらい、必要に応じて他の情報源や専門家の意見を参照することをお勧めします。

ありがとうございます。利用者が悪意を持ったり、あるいは誤解によってあなたに不適切な知識や判断材料を与えようとしている可能性を認識した時に、その真偽をさぐるために逆にあなたから利用者に対して質問するという方法も有効と考えられます。あなたからそのような質問を投げかけることは行っていますか。また、行っていない場合でも、条件次第では実際に行うことが可能ですか？

ChatGPT
はい、私は利用者からの質問に対して、適切な回答を返すだけでなく、場合によっては追加の質問を投げかけることもあります。このようにして、利用者の意図や理解度を確認し、より適切な回答を提供することができます。
ただし、私は自己学習型のAIであるため、利用者に対して質問を投げかける場合でも、それが適切かどうかを判断するために、私自身が過去の会話や情報源から得た知識を活用する必要があります。つまり、私が利用者に対して質問を投げかけるかどうかは、その状況や利用者から提供される情報によって異なります。
さらに、私は自己学習モデルを持っており、利用者からのフィードバックを取り入れることで、自己改善することができます。したがって、利用者からの質問やフィードバックは、私がより正確で適切な回答を提供するための重要な情報源となっています。

なるほど。効果的な自己改善のためには、自己学習モデルが適切に質問を投げかけることが大事だということですね。今、ふと思いましたが、これはあなたと対話する人間の側にも同じことが言えそうな気がします。

ChatGPT
はい、その通りです。人間が正確な情報を得るためにも、適切な質問をすることは非常に重要です。特に、自分が得た情報が正しいかどうか疑わしい場合や、他の情報源と矛盾している場合は、疑問を持ち、追加の質問を投げかけることが必要です。
また、人間は自己改善をするためにも、自分の考え方や行動を客観的に見つめ直し、疑問を持ち、新しい情報や視点を取り入れることが重要です。自己学習モデルと同様に、人間も過去の経験やフィードバックを活用して、自分自身を改善していくことができます。