量子力学とChatGPTとの共通点:ペンローズのイデア世界と言語モデル
ChatGPTなど大規模言語モデルと、ロジャーペンローズが唱えるイデア世界とは共通点がある。
大規模言語モデルでは、大量の言語を取り込み、言葉の意味を、文章における言葉間の関係性から表すため、言葉をベクトル空間に配置する。
ある言葉の意味は、言葉そのものが保有せず、他の言葉との関係性のよって表現される。例えば犬と猫という言葉の関係性は近いが、犬と哲学という言葉の関係性は遠い。王様から男を引いた値と、女王から女を引いた値は近い。赤い犬から赤を引いた値と、黒い犬から黒を引いた