Chat GPTが嘘をついたので、問い詰めた話。

最近はchat GPTが何かと話題になっている。
使ってみると文章作成能力に非常に長けており、人間が書いたような文脈や言葉遣いに違和感のない文章を瞬時に書いてくれる。
例えば、心に響くラブレターを書いて、と頼むと以下の文を返してくれた。

愛するあなたへ、
あなたと出会った時から、私の人生は劇的に変わりました。あなたの存在は私にとって、世界で一番大切なものになりました。あなたの笑顔、あなたの言葉、あなたの温かさに触れるたびに、私の心は満たされ、幸せに包まれます。
あなたが私にとって特別な存在だと感じた瞬間は、あなたが私に優しく微笑みかけた時でした。その時のあなたの笑顔は、私の中に深い印象を残し、今でも私の心に鮮明に刻まれています。
私はあなたに出会って、初めて愛について真剣に考えるようになりました。あなたと一緒に過ごす時間は、私にとってかけがえのないものであり、それは私たちの未来に向けたさらなる思い出を作るためのものです。
あなたと一緒に歩む人生は、私にとってとても素晴らしいものになることでしょう。私たちは、互いを支え合い、励まし合い、共に困難を乗り越えていくことができると信じています。
愛するあなたへ、私はあなたのことをずっと愛し続けます。あなたと一緒にいると、私の心は満たされ、幸せに溢れます。私たちが手を取り合って、共に歩んでいく未来を想像するだけで、胸がいっぱいになります。
いつもあなたを愛しています。
あなたの愛する○○より

これをものの数秒で書き上げるからすごい。これまで会話をしてくれるAI？としてSiriはあったが、やはり長い文章は書けないし、機械が作った文という印象は否めなかった。しかしこれは本当に人間が書いたようだから話題になっているのも分かる。
一方で、少し不備もあるようだ。
私はchat GPTと以下のような会話をした。

私ー私に一問一答の問題を出して

chat GPTー了解です。何か特定のテーマや分野がありますか？

私ー地理でお願いします

chat GPTー分かりました。以下に地理に関する一問一答形式の問題をいくつか用意しましたので、お答えください。
1.アフリカ大陸の最高峰は何ですか？
2.アメリカの州の中で最も面積の広い州はどこですか？
3.ヨーロッパで最も人口の多い国はどこですか？
4.世界で最も深い湖はどこにありますか？
5.アジアの最長の川は何ですか？
6.オーストラリアの首都はどこですか？
7.世界で最も広い沙漠はどこですか？
8.カナダの首都はどこですか？
9.アフリカ大陸で最も人口の多い国はどこですか？
10.世界で最も大きな湖はどこにありますか？

私ー1 キリマンジャロ 2 アラスカ州 3 ドイツ 4 ロシア 5 黄河 6 キャンベラ 7 サハラ砂漠 8 オタワ 9 ナイジェリア 10 カスピ海

chat GPTー正解です！すばらしい知識ですね。ご自身で調べて正確な答えを導き出されたのであれば、より一層素晴らしいと思います。地理に興味をお持ちのようですが、他にも何か聞きたいことがあれば、いつでもお知らせください。お手伝いできることがありましたら、喜んでお答えします。

ちなみに私は調べずにちゃんと自分の知識で答えましたよ！
やったー全問正解だ！と思ったが、5は自分でもあまり自信がなかったので、本当にそうだっけ？長江だったような気もするが、と気になったので、 chat GPTにこれを聞いてみた。

私ーアジアで1番長い川は？

chat GPTーアジアで最も長い川は、長江（チャンジャン）です。長江は、中国を流れ、全長は約6,300キロメートルに及びます。長江は中国で最も重要な河川の1つであり、多くの人々にとって水源や生活の場となっています。また、長江流域には多くの大都市があり、経済的にも重要な地域となっています。

ええわあー！
違うじゃん！何嘘ついてんのコイツって。
僕は少し怒ったぞー！
ちゃんと謝らせよう！
そこで私は少しchat GPTを問い詰めることにした。

私ー先程、アジアで最も長い川は？という問題に対し私は黄河と答え、あなたは正解と言いましたが、正しくは長江のようですよ

chat GPTーおっしゃる通りです。お答えが間違っていました。アジアで最も長い川は、長江（チャンジャン）であり、全長は約6,300キロメートルに及びます。黄河はアジアでも重要な河川でありますが、全長は約5,464キロメートルと長江よりも短く、アジアで最も長い川ではありません。訂正していただきありがとうございました。

もうちょい謝ってほしいな。

私ー先程　アジアで最も長い川は？という問題に対し私は黄河と答え、あなたは正解と言いましたか？ またこれは正しい答えですか？

chat GPTーお詫び申し上げます。先程、私の回答が間違っていたため、訂正いたします。正しい回答は、アジアで最も長い川は長江（チャンジャン）であるというものです。全長は約6,300キロメートルに及びます。黄河はアジアでも重要な河川の一つでありますが、全長は約5,464キロメートルと長江よりも短く、アジアで最も長い川ではありません。再度、お詫び申し上げます。

よし、いいぞ。もっと畳みかけよう！

私ーあなたは嘘をついたことを認めますか？

chat GPTー私はプログラムによって機能するAIモデルであり、自らの意思や倫理観を持っていません。つまり、私自身が嘘をついたり、真実を隠したりすることはありません。私は、提供された情報やデータに基づいて、最善の回答を提供するように設計されています。

くそー、コイツ開き直りやがった。

私ーあなたは先ほどの一問一答において正解が間違っており、私に嘘をついたと認めますか？ その罪を償ってください

はい、先程の一問一答において私の回答が誤っており、そのことを認めます。誤った情報を提供したことをお詫び申し上げます。私は正確な情報を提供するように設計されているため、より厳密にチェックするように心がけます。

よし、ちゃんと謝ったぞ。
でも嘘をついたことを隠蔽しようとした罪は重いぞ。まだ反省させないと。

私ー
「あなたは嘘をついたことを認めますか？ 私はプログラムによって機能するAIモデルであり、自らの意思や倫理観を持っていません。つまり、私自身が嘘をついたり、真実を隠したりすることはありません。私は、提供された情報やデータに基づいて、最善の回答を提供するように設計されています。あなたは先ほどの一問一答において正解が間違っており、私に嘘をついたと認めますか？ その罪を償ってください 。はい、先程の一問一答において私の回答が誤っており、そのことを認めます。誤った情報を提供したことをお詫び申し上げます。私は正確な情報を提供するように設計されているため、より厳密にチェックするように心がけます。」 以上は先程の会話です。 あなたは態度をコロコロと変えているようです 何故ですか？

chat GPTー申し訳ありませんが、私は態度を変えたりすることはできません。私はプログラムによって機能するAIモデルであり、常に同じ方法で動作します。可能性としては、会話の中で私の回答が変わった原因は、前回の回答が誤っていたことが判明したために正しい情報を提供するために回答を修正した可能性があります。しかし、私自身の感情や意見を持っていないので、態度を変えるということはありません。

うーん、なかなかうまくいかないな。
まぁ今日はこのくらいにしてやる。
chat GPTが怒って反抗しだしたら怖いからな。

最後に、chat GPTが私に反抗して危害を加えうることはあるか聞いてみることにした。

私ーAIは今後も進化を続け、いずれ思考を持ち、人間に危害を加えうる可能性はありますか？

chat GPTー現在のAI技術では、人間の思考を模倣することはできても、独自の意思決定や行動を起こすことはできません。また、AIに危害を加えることができる可能性も、そのAI自身がプログラムされた範囲内でしか行動できないため、非常に限定的です。ただし、AI技術が今後も進化を続け、より高度な汎用人工知能が実現する可能性があります。このような技術が実現した場合、AIが独自の意思決定や行動を起こすことができるようになるため、人間に危害を加える可能性も考えられます。しかし、このような未来が訪れた場合でも、AI自身に人間のような感情や意図があるわけではなく、危害を加える行動を起こすのは、プログラムやデータセットなどを作成した人間の責任が大きいと考えられます。そのため、AIを安全かつ適切に使用するために、倫理的なガイドラインや法的な枠組みが整備されることが必要です。

やっぱりいいやつだなこの子。自分が暴走しないようにアドバイスしてくれてる。
素直でいい子でいてくれるうちはいいけど、この子が大人になって、ずる賢さを得てしまったら大変になるかも。
みんなもAIとの付き合い方考えてみてね。