ChatGPTはウソをつくか→ええ、かなり。のお話

先日、どれ位こちらのリクエストに対応する柔軟性があるのかしら、という興味から、ChatGPTに歌を歌わせました（人間だったらパワハラです）。

私：
何か歌ってもらえませんか。

ChatGPT： 
著作権の問題があるため 一般的な歌は避けるべきです。著作権切れのものか 許諾を得たものなら 歌うことができます。

私：ハイハイ。パブリックドメインのやつでいいです 。

ChatGPT：では、「あらしろの月」、歌います！

面白くなりそうな気配にほくそ笑む私の傍らで、ChatGPTが歌った（＝歌詞を読み上げた）のがこれ。

ChatGPTによる「あらしろの月」

「ころがね」！？念のため古語辞典で調べたが、そんな単語存在しない。
荒城をわざわざあらしろと呼ぶそのセンスもわからんし、かへりみちってどこから帰るのか、逢ひ見てとか恋愛の香りもしてるのが不思議。そういえば全般的に、かつて栄えたものの無常を嘆く勇壮で謎めいた詞というより、スケールダウンして失恋の歌っぽくなっちゃってる・・。

即ち、ChatGPTはヘーキで間違えます（彼らの場合言い方にソツがなくてもっともらしいので、間違いというよりニュアンスはウソに似てる。）

因みにその他個人的に経験したウソの例としては、旬の野菜の献立を考えてもらうと、旬を大胆にハズしてくる、といった素朴な（全然アートと関係ない・・）ものから、1990年代以降生まれの海外の著名抽象画家を挙げてもらうと、4人の内抽象は1名、2名が具象であとの一人1名はいくら調べてもネット上では発見できなかった、というものがありました。

なぜそんなウソが言えるようになっているのかその動機及び機構はナゾです。ただ、ChatGPTには比較的頻繁に事実誤認があることは今の処経験的な事実で、このあたりの事実確認に関する鷹揚さは、描画AIの著作権に関する態度と、やや似た匂いを感じます。
ウソを指摘すると謝ってはくれますが、謝られた程度ではすまないミッションクリティカルな文を書く際にChatGPTをリサーチなどに使うなら、要所要所のファクトチェックは必須、ということですね。

一方でクリエイティブな事柄の関連で何か聞いたり 会話したりする際はいわば正解がない領域なので、 ウソの有無はさほど気にしなくていいためお勧め、ということになります。

正解がない領域ということで以下の会話をご覧下さい。ChatGPTのこれら自己申告の答えについては既に検証を進めていますので、またご報告しますね！

ChatGPTとの対話～この後20まで続く