シェア
ChatGPTを始めとする自己回帰型大規模言語モデルは仕組み上、嘘を言わないようにできないという指摘があるとの投稿があった。 しかし考えてみれば、嘘や間違いは人間だって冒すし、DNAの変異が起こるから生物の進化も起こっているわけで、エラーが起こるのはモデルに問題があるというよりも、情報そのものが持つ性質なのではないかとも思う。情報は伝達される中で変化する。 ところでソースを辿ったら、そもそもこのAIモデルが間違いを起こすのは、学習した教材に嘘の情報が紛れ込んでいて、AIは
データを適切に扱う方法や出力結果の意味を考えるのは得意だけれど、データを記憶したり処理をするのは苦手だ。ただ、苦手だからといって克服しようと思ったことがない。それらは機械がすべきことなので。
