プログラム生成AIの限界についての一考察

今のAI≒深層学習は大量の学習データを読み込んで学習し、生成する際はその学習データに似たものを出力しています。なので基本的に大量の学習データがないとその能力を発揮できません。

そのため例えば量子プログラムのような新しい分野向けのプログラム生成AIというのは作れないのではないかと考えます。新しい分野では十分な量の学習データがないので、どうやて学習するのかという問題に突き当たるでしょう。
または(一般公開されていない)組み込みプログラムのようなものも学習データが不足すると予想されます。一般的なプログラムを学習したAIが特殊な用途を実現するためのプログラムを生成できるのかについては疑問があります。

---

学習データなしに学習できる例外としてAlphaZeroが挙げられるかと思いますが、AlphaZeroは局面を判断（勝ち、負け、未確定、不正）する「教師」を作れたから実現できたと考えます。最初のうちAIは手の良し悪しを考えずランダムに指していても、教師の指導により指し手に評価値を与えられ、結果として学習が進められる、ということです。
言い換えると、プログラムの質を判断する教師がいない(作れない)プログラム生成AIではこの方法は使えない、と考えています。

---

この問題を乗り越える方法としてすぐに思いつくのは、より人間に近い学習方法を実現するというアプローチでしょう。論文や書籍などを読んでプログラミングの方法を学習するAIと、仕様書から人間の期待するプログラムを推察するAIを組み合わせることで、十分な学習データを準備できない分野のプログラムでも生成できるようになると考えます。

プログラミングの方法を学習するAI無しに、仕様書だけでプログラムを生成できるAIが作れれば良いのですが、それだと以前に書いた記事のようにこちらの意図を汲み取ってプログラムを生成してくれるかは分かりかねます。

---

この考察について有識者からのご意見がいただければ嬉しいです。