感想：『ChatGPTの頭の中』

ChatGPTの仕組みを計算式や実例も交えて解説した本
ChatGPTはこちらの指示に対して柔軟な答えを返してくれますが、本書によると、本質的にはある単語の後に続く「単語の確率」を計算することを繰り返して文章を生成しているだけだと説明しています。

The best thing about AI is its ability to
（AIの一番の長所としてあげられるのは）
という文章があった時、次に続く単語は「learn：4.5%」、「predict：3.5%」、「make：3.2%」というように計算をして、確率が高い「learn」を採用するといったことを行い、文章を生成しています。

本書では計算式やアルゴリズムについて詳細に解説がされていますが、ざっくりとChatGPTの原理をまとめると以下の3ステップになります。

1. Webや書籍などから、人が作った文章のサンプルを集める

2. サンプルに似た文章を生成するようにニューラルネットワークを訓練する

3. 人がChatGPTと対話した結果をフィードバックして、さらにニューラルネットワークを訓練する

2023/08のニュースでOpenAIがデータのサンプルを収集しているプログラム「GPTBot」を発表、およびそれをブロックする方法も公開したとのニュースもあり、生成系AIに勝手にデータを使われないようにする動きも出てきています。しばらくはChatGPTをはじめとする生成系AIの話題は続きそうですね。

#読書 #インフォグラフィック #AI #Infographic #ChatGPT

ChatGPTの頭の中

ChatGPTの頭の中 (ハヤカワ新書)