言葉を造る〜条件付き確率の小さな表現を目指して〜

2024年は毎週土曜の夜に「言葉を創り、残す」ことを習慣化しようと思った。これは、言語モデルの仕組みを勉強していくうちに、GPTっぽくない言葉を使い続けなければ、「自分」という言語モデルが作れないように感じたからだ。 自分しか使わない「言葉」を残し、いつか大規模言語モデルでファインチューニングする。自分のような話し方をするAIを生み出せれば、生産効率も向上するだろう。 ここで落合先生は、自分のような話し方をするAIをすでに作成されている。先生はいくつも論文や著書、メディア出