ChatGPTを直感的に理解したい - ChatGPTの頭の中-

PMOとしてビジョン、夢を示したい

私は、現在PMOとして将来的にこのシステムが導入されることによって、どんな世界が待っているのか、そういうことを考えてわくわくしながら仕事をしたいんですよね。
PMOがつまらなそう、悲壮感漂う感じで日頃仕事をしていると、その気は他の人に移るものだと思っています。
それなりに覚悟と夢を持ってビジョンを示さなければならないですよね。
そこで、ここ最近、ずっとHot TopicであるChatGPT（生成AI）が導入された後の世界をイメージしたいので、年初に手を付けてみました。
今日、ご紹介したい著書は"ChatGPTの頭の中"です。

生成AIの先にある世界

ChatGPTの原理がわからなければ、その限界もわからない

ChatGPTの登場から一年が経過しました。
これからのビジネスパーソンの仕事の仕方やビジネスモデルが大きく変化しようとしています。
私はかねてからAI活用の推進を担当していました。
エンジニア経験はないのですが、G検定の勉強をしたり、ビジネス側ではありますがPythonを色々と触ってみたり、機械学習で予測モデルを作っては試してみたりしていたことがありました。
でも、ChatGPTの原理など正直、うまく説明はできません。
基本的な原理くらいは理解しておきたかったので手に取った一冊です。
著者は著名な理論物理学者で、Wolframという関数や人工知能の研究を４０年以上も行っている第一線の研究者です。

ChatGPTの中身はシンプルな原理で成り立っている？

ChatGPTの詳細を全100ページ程度の新書で語ることは到底できません。しかし、Wolframの説明は、LLMの内部で起こっていることを直感的にわかるように概説してくれています。
まず、LLMというのは基本的に次の単語は何が出てくるのかを予測しているに過ぎない原理で成り立っているところから説明は始まります。
しかし、そんな単純な原理からなるモデルであっても、ChatGPTは人が書いたと見間違うほどのクオリティの高い精度で文章を作成することができるようになりました。
ChatGPTはトークンごとに1750億個のパラメータによって演算処理され、次の単語が推測されるのが基本的な仕組みです。しかし、人の考えているかのように見えるアウトプットをたったの1750億個程度のパラメータで成し遂げてしまうのは驚異的ですね。

ChatGPTに人間の言語は理解できているのか？

Wolframの言葉の中で最も印象的であったのは下の文章です。

実は、言語というものがその根本的なレベルでは見かけより単純だからだ、というのが私の考える基本的な答えである。つまり、ChatGPTは、言ってしまえば簡単明瞭なニューラルネットワーク構造でさえ、人間の言語とその背景にある思考の「本質を捉える」ことに成功しているといえるのだ。しかも、その訓練の過程でChatGPTは、それを可能にする言語（と思考）の規則性を、いつの間にか「ひそかに発見」している。

スティ−ブン・ウルフラム, ChatGPTの頭の中 (ハヤカワ新書 009)

人間の言語は本質的に単純で、いつの間にかChatGPTがニューラルネットワークという単純な原理装置を用いて膨大な学習データから導き出してしまったというのです。しかも、ChatGPTは文法的な正しさだけではなく、意味的な文法、さらには論理学（代表的なものが三段論法）までもを習得しているからこそ、人間の納得性が高いアウトプットを導くことができるようになったのです。

人間はChatGPTの学習したものを再現して、理解できるのか？

Wolframは、試験的に帰納的アプローチを用いて、言語の単純性によるChatGPTの学習プロセスを立証しようとします。
しかしながら、当然ですが、ことはそうは単純ではありません。
事例を一つ取り上げて、ある単語とほかの単語との結びつきの強さを調べたところで、ChatGPTが発見したことを人間が経験的にデコードすることはできないのです。
このWolframが論じていた、言語の裏にある単純な規則性の存在がChatGPTの登場によって仮説提唱されることになったという主張が本当に正しいのかどうか、とてもわくわくしますね。

これからの生成系AIのビジネス活用

ChatGPTは非常にシンプルな原理でものすごい多様でクリエイティブなタスクをこなせるようになることが直感的に理解できました。
さて、この先は個人的な妄想の世界ですが、SAPの世界においても、生成系AIの活用はもう目前に迫ってきている、もしくは一部すでに導入済みの段階まで来ています。
生成系AIの良し悪しを決めるのはデータ品質です。
SAP導入によって、業務が標準化されるにしたがい、さまざまなデータが整備されていく中で、これからの企業の競合優位性は高品質のデータを生成系AIに学習させて、いかに質の高いアウトプットをAIから引き出すかで決まるようになります。
しかし、アドオンで開発される分だけ独自のビジネスプロセスが創出され、独自のデータが生まれます。それらのデータ品質は自社で担保しなければならなくなります。1社だけでデータ品質をどこまで維持できるようになるのでしょうか？ERPは今よりもさらに業務標準化のトレンドに乗らなければ、データ品質の面で致命的に出遅れることになりかねない。
そんな未来が自然な考え方ではないでしょうか。

まとめ

以上をまとめます。
1. ChatGPTの原理がわからなければ、その限界もわからない
2. ChatGPTはニューラルネットワークから派生した比較的シンプルな原理で構成されている
3. ChatGPTはもしかすると人間の言語の裏にある単純な規則性を経験的に理解したから、納得性の高い回答を出しているのかもしれない。
4. 生成系AIはこれからもビジネスに活用が進んでいく中で、企業の競合優位性はおそらく生成系AIに学習させるデータの品質で決まるだろう。
5. SAPの標準化はその点からも重みがより増している
ChatGPTに役立つノウハウを期待していたわけではないので、とても満足でした。
これからもAIの進化は加速度的に続いていくのでしょう。
数年後、自分はどのような仕事をAIを使ってどうやってこなしているのか、楽しみですね。