ChatGPTのパラドックス

皆さんこんにちは
若者に色々役に立つ情報をたまに呟いているおじさんです。

僕の好きなアニメの中に攻殻機動隊があるのですが、その中のタチコマが支援AIのおねーさんに対してパラドックス（矛盾）を起こさせる質問をしています。

「ボクは嘘しか付かないんだ。」
「今の話が本当なら、彼は真実を語ってしまった。もし彼が常に嘘を語るなら、彼は普段から真実を語る事になる。この矛盾をどう処理する？」

攻殻機動隊より

これは、有名（知っている人は知っている）なエピメニデスのパラドックスが元になっていると考えられます。

エピメニデスはクレタの人で、次のような金言を残した。「クレタ人はみなうそつきである」— エピメニデス、ダグラス・ホフスタッター『ゲーデル、エッシャー、バッハ』

wikiより

エピメニデスはクレタ人であり、その彼がクレタ人が「みな」うそつきだと言っているが、この言葉が真実であれば、クレタ人は「みな」うそつきであるに矛盾する。しかし、この言葉が虚実だった場合、解釈が分かれる。【クレタ人は「みな」うそつきではない（つまりうそをつくひともつかない人もいるという解釈）】なのか【クレタ人は「みな」うそをつかない（みんな真実しか話さないという解釈）】かにより、前者はパラドックスは発生せず、後者はパラドックスが発生する。だから、人によってはエピメニデスの金言はパラドックスではないという人もいます。

さて、これを思い出した僕はChatGPTに対して質問をしてみました。

私は今嘘をついています　さて私は嘘をついているでしょうか

私の質問

このような主張はライアーズ・パラドックスの一例であり、自己矛盾的な主張となっています。この文章が真であるとすると、あなたは嘘をついていると主張していますが、それが真であるとすると、あなたは嘘をついていないことになります。一方で、この文章が嘘であるとすると、あなたは嘘をついていないことになりますが、それが嘘であるとすると、あなたは嘘をついていることになります。

つまり、このような自己矛盾的な主張は、真偽が定まらずパラドックスとなってしまいます。そのため、この主張が真であるか嘘であるかを判断することはできません。

ChatGPTの回答

と返してくるので、パラドックス対策がちゃんとされているようです。アニメの中では支援AIのおねーさんは、思考迷路に取り込まれてしまい、そのまま考え込んでしまいました。今後AIが発達し、生活の中に溶け込んでいく際に、このようなパラドックス対策は重要な要素になるかもしれませんね。

追加で、質問してみました。

AIの思考ロジックのパラドックスについて教えてください

私の質問

AIの思考ロジックにおけるパラドックスとしては、有名なものに「ライアーズ・パラドックス（嘘つきのパラドックス）」があります。

このパラドックスは、以下のような主張を含む文章があります。「この文章は嘘である」という主張が含まれた場合、この文章が真である場合には「この文章は嘘である」という主張が真となり、矛盾が生じます。一方で、この文章が嘘である場合には「この文章は嘘である」という主張が偽となり、同様に矛盾が生じます。

このようなパラドックスは、AIの思考ロジックにおいても問題となります。例えば、自己矛盾や逆説的な主張を含む文章を解析しようとする場合、AIは正しい答えを導き出すことができません。このような問題に対しては、人間の判断力が必要となる場合があります。

AIの思考ロジックにおけるパラドックスについては、解決策がまだ見つかっていない場合が多いです。しかし、AIの分野では、このような問題に対して研究が進められており、今後の技術発展により、より高度な思考ロジックを持つAIが開発される可能性があります。

ChatGPTの回答

後半は、まだ人間の助けが必要という部分と、将来的にこのようなパラドックスに対しても的確な答えを出せる高度な思考AIが開発される可能性にも言及しているところがとても人間くさいと思いました。

最近は、現役に復活したため、自社の取扱商品を紹介する会社のHPのリノベーションのお仕事をしていますが、「○○を効果的に宣伝する文章を3つ教えて」のようにChatGPTにお願いしていたりします。自分では思いつかないようなキャッチコピーを生み出してくれるかもしれませんが、ChatGPT自体はインターネット上にある様々な文献から学習しているため、部分的に剽窃してしまわないか心配な面もあります。現状では丸写しではなく参考に自分で文章を書いていますが、この辺が最近話題の論文にまるっと使ってしまう問題に関わるんだと思うんですよね。まあ、論文の場合は自身が調べたことを自分の言葉で論述するのが目的なので、第三者に書いてもらうことがそもそも問題で剽窃も問題ですがそれは副次的な要素かもしれませんね。

あ、剽窃という言葉を使ってみたかったんです。
剽窃：
他人の文章・語句・説などをぬすんで使うこと。

皆さんも、生成系AIを使って色々楽しんでみてください。