「ノーム・チョムスキー：ChatGPTの偽りの約束」(ニューヨーク・タイムズ誌）について...意識科学イージー・プロブレム？ハード・プロブレム？（5-1）
表紙写真は筆者が米国大学院生時代に読んだチョムスキーの著作
ノーム・チョムスキー
ノーム. チョムスキー(Noam Chomsky)については改めて説明するまでもありません。言語学、認知科学、政治学などで100冊以上、1000件近くの論文を書き（ChatGPT)、多くの分野に影響を与えてきました。毎年ノーベル賞の受賞者が発表されますが、どの分野の受賞者であれ、Syntactic Structures, Aspects of the Theory of Syntaxをはじめとする言語学の著書論文、または、政治学の著書論文に目を通したことはあるものと思われます。現代を代表するトップ100知識せあることは間違ありません。ChatGPTに"Is Chomsky among 100 most inflential intellectuals?"と質問すると、"one of the most influential intellectuals of the 20th and 21st centuries."との回答が返ってきます。ChatGPTもしっかりデータを入れてます。
ニューヨークタイムズ紙Noam Chomsky: The False Promise of ChatGPT
そのチョムスキーがニューヨーク・タイムズ紙Noam Chomsky: The False Promise of ChatGPT(2023年3月8日付）pdfと題する記事でChatGPTやGoogleを批判しています。
筆者はこれまで表紙写真にあるようなチョムスキーの言語学関係の主要著書そして数十編の主要論文を読んできましたが、政治学ではいざ知らず、言語学で、対象相手（ここではChatGPT)を直接名指して批判する記事を読むのは久しぶりです。筆者の記憶では1960年代に行動主義心理学者The Skinner vs Comsky debate論争以来かとも思われます。
早速各方面から反応が来ているようですが、相変わらず一部を切り取り少々的外れな反応が見受けられます。チョムスキーの著作はその仮説をめぐり緻密な議論が最初から最後まで繰り広げられ全文をしっかり読まないとうかつに同意も反論もできません。この記事はとても読みやすいですが（チョムスキーの著書・論文は難解です）、彼がこれまで述べてきた仮説が底流に流れそれを理解しないと理解できません。いくつか記事後部にあるChatGPTなどにつき「創造性をバランスよく抑制できない（unable to balance creativity with constraint）」とか「盗作（plagiarism）」だけを切り取った反論をよみましたが、争点が合わず糠に釘といった感がしました。
本稿では、読者にまずは全体を読んでいただきたく、筆者が編集し翻訳テキストを(5-1)と（5－2）の2回に分けて掲載し、続く（5-3)で意識科学のイージー・プロブレム、ハード・プロブレム、weak AI, strong AIと絡めて記事の重要ポイントを整理し筆者自らの感想を述べます。
Noam Chomsky: The False Promise of ChatGPT日本語訳（鈴木佑治編訳）前半
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
「ノーム・チョムスキー：ChatGPTの偽りの約束」 Noam Chomsky, Ian Roberts（言語学教授）, Jeffrey Watumull（人口知能スペシャリスト） ニューヨークタイムズ、2023年3月8日)
今日、AIのいわゆる革命的発展は楽観と懸念を引き起こしている。知能は我々の問題解決の手段であるとの楽観論に対し、至極もてはやされてファッショナブルなAI品種である機械学習（machine learning)は、根本的に誤った言語および知識の概念をテクノロジーに組み込んでおり、科学の格を下げ倫理を貶めていると懸念する声がある。
ChatGPT, Google's Bard,Microsoft's Sydneyなどはそうした驚愕の機械学習である。大容量のデータを取り込んでパターンを探し出し、統計学的確率性が高く一見ヒトの言語や思考のようなアウトプットを生成することに益々長けてきている。汎用人工知能 (artificial general intelligence)開発地平線の夜明けの曙光であると叫び、量的には人工知能がついに処理速度と記憶容量で、質的には知的洞察力、芸術的創造力その他の全ての能力で、ヒトの脳を凌ぐとの長きに亙る予言が成就する瞬間であるともてはやす声があがる。
そんな誇張的見出しや思慮のない投資話はともかく、その夜明けはまだ来ないし、来ないであろう。ChatGPTのような機械学習プログラムがAI界を独占する限りありえないと断言する。
これらのプログラムはせいぜいコンピュータ・プログラミングや娯楽詩の音韻探しなどの狭小領域で役立つが、言語を科学する言語学や認識論から見ると、ヒトの判断や言語使用とあまりにも隔たりがある。ヒトのこころは、フンボルトに倣えば、有限の手段を駆使して無限で、しかも、普遍的理解が可能な考えや説を創造できるが、それに比べる、あまりにも些細なことに大金と注意をつぎ込んでいる。
ChatGPTのように何百テラバイトものデータを呑み込んで最も確率性が高そうな答えを乱雑に積み上げる統計マシーンとは違い、ヒトのこころは驚くほど効率的でかつエレガントなシステムであり、少量の情報を基に作動する。巨大データのポイントの相関関係から推論するのではなく、説明(explanations)ができるからだ。[1]
例えば、幼児は発育過程で、耳にする非常に限られた少量のデータから、無意識に、自動的に、短期間に論理的原理とパラメーターで構成され、洗練された文法(grammar)を習得する。[2] この文法(grammar)はヒトに生まれつき遺伝的に備わった処理システムで、複雑な文と長く連なる思考を生成する能力を持つ。よって、幼児の処理システムは、機械学習システムの文法(grammar)と異質のものである。[2]
これらAIプログラムは、認知進化においては前人類(pre-human)または非人類(nonhuman)の段階に留まっているに過ぎない。知能たるものが有すべきもっとも重大な能力が足りないのだ。何がそのケースか、何がそのケースであったか、何がそのケースでありうるかなど、現状の記述（description)と未来の予測(prediction)に加え、もしそのケースではないとしたら何か、また、そのケースになりうるのか、なりえないかなどを説明(explanation)できるのが真の知能であって、これらのプログラムにはそれを示す証拠がない。
一例を挙げよう。あなたが手にリンゴをもっているとしよう。そしてリンゴを手から離す。それを見て「リンゴが落ちる」と言う。これは記述である。予測は「手を離せば落ちるだろう」である。記述も予測も重要であるが、更に重要なのは説明である。説明は記述と予測のみならず現実には見えない仮想、仮定「どんな物体も落ちるだろう」、原因「引力が無ければ落ちない」を含む。これこそが思考である。
機械学習の核は記述(description)と予測(prediction)であり、因果メカニズムや物理法則を想定できない。もちろん、常にヒトの説明が正しいとは限らない、ヒトは誤りを犯しやすいが、それも思考の一部なのである。誤りはあってしかるべき、なんとなら知能は創造的推察と批判から成っているからである。ヒト型の思考は可能性の高い説明と誤りの是正で成り立つ。
CHatGPTと類似プログラムは際限ない学習（正確には記憶）ができる。言い換えれば、可能なものと不可能ものを識別できない。ヒトには、例えば、普遍的文法(grammar)が備わっており、学習できる言語を数学的エレガンスで学習可能な文法のみに制限する。[3] これらの機械学習プログラムは可能な文法であろううが不可能な文法であろうがたやすく無作為に学習してしまう。ヒトが合理的に推測できる説明には限度があるが、機械学習システムは「地球は平である」と「地球は丸い」という主張をそのまま学習してしまい、その後時間とともに変化する確率性で調整する。
当然のことながらこれら機械学習プログラムの予測は浅薄かつ怪しい。英語の統語の規則を説明（解析）できず、“John is too stubborn to talk to”という文を、”John is too stubborn to be reased with"(ジョンは頑固だから理屈で言い聞かせられない)と解析すべきところ、 ”John is so stubborn that he will not talk to someone or other”（ジョンは頑固だから他の誰ともは話さない)と誤って解析してしまう。なぜこんな奇妙な予測をしてしまうのか？ 恐らく、"John ate an apple"と"John ate"などの2文から問題のパターンを推察したのであろう。確かに、"John ate"は"John ate something"であることには間違いない。そこで、"John is too stuborn to talk to"という文は”John ate an apple"とパターンが類似しており"John ate"とも類似していると予測してしまったのであろう。言語の説明は複雑で、ビッグデータを混ぜ合わせてパターンを探し出すだけでは不十分だ。
不思議なことに熱烈な機械学習の推進者の中には自らの創造したものが、例えば物体の動きに関し科学的予測を作り出せると豪語するムキもいる。しかし、ニュートンの法則や万有引力の原則などを引き合いに出して説明せず、疑似科学に過ぎない。科学者が高度の経験的協働に理論を求めるのは確かであるが、哲学者カール・ポッパー提言したように、可能な理論ではなく、説明、すなわち、強力でかつ全く不可能な理論を求めるのである。
リンゴが地に落ちるのはそこがリンゴの本来の場所であるから（アリストテレスの見方）という説は可能であるが、それは別の疑問を起こす。何ゆえに地球がリンゴの本来の場所であるかという疑問である。リンゴは地球に落ちる、なんとなら物体が時間ー空間を曲げるからだ（アインスタインの説）という理論はありそうもないが、それこそが実際何ゆえにリンゴが落ちるかを説明する。真の知能は、思考し、一見ありそうもない、洞察力のある物事を表現する能力にこそ発揮される。
（以上、Noam Chomsky: The Fal:se Promise of ChatGPT鈴木編訳前半、後半は(5-2)にあります。編訳中の誤りは全て鈴木によるものです。）
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝
次回（5-2）Noam Chomsky: The Fal:se Promise of ChatGPT鈴木編訳後半に続く
[1]チョムスキー：科学理論は記述（description/descriptive adequacy)のみならず説明(explanation/explanatory adequacy)を伴う。Aspects of the Theory of Syntaxより。
[2]チョムスキー：文法 (grammar)＝音韻（(phonology)/統語(syntax)/意味(semantics)/辞書 (lexicon)のモジュールから成る体系(すなわち言語)、
中心は統語モジュール；言語生得説（innateness hypothesis）:幼児は乏しくも不完全な言語データ（ meager-degenerate data）から完璧な文法を習得する。Aspects of the Theory of Syntaxより。ただし、言語生得説に異論をとなる言語学者も多いことに注意。(5-3)で取り上げる。
[3]ただし、普遍文法はチョムスキーの生成文法の根幹をなす理論であるが、他の言語学者は言語相対性を唱えて反論していることにも注意。(5-3)で取り上げる。
ーーー
サポートいただけるととても嬉しいです。幼稚園児から社会人まで英語が好きになるよう相談を受けています。いただいたサポートはその為に使わせていただきます。