![見出し画像](https://assets.st-note.com/production/uploads/images/118420558/rectangle_large_type_2_11f498b65c897ccfec0de4031f1d9000.png?width=1200)
ジョン・マッカーシーの批判
史上初の「AI倫理」論争を追って(4)
前回は、書籍『ハッカーズ』を紹介しました。その第1部は1960年代〜70年代に米ボストン・ケンブリッジのテックスクエア界隈で起こった出来事を扱ってますが、その雰囲気を伝える画像を探してみたところ、談笑する4人の男性が写った写真が見つかりました。左からクロード・シャノン(情報理論で有名な大御所です)、ジョン・マッカーシー、エド・フレドキン(前回紹介したWho'sWhoでも見つけられます)、ジョゼフ・ワイゼンバウムです。ヘッダーの写真をご覧ください。両端のシャノンとワイゼンバウムの会話は弾んでいるように見えますが、フレドキンは愛想笑いを浮かべ、マッカーシーに至っては明後日の方向を向いてます😀 どうやらMITの何処かで撮影したようですが、西海岸のロサンジェルス出身のマッカーシーがMITにいたのは1956年〜1962年の7年間ですので、この期間に撮影されたスナップショットだと推定されます。
ここまでは、まるで推理小説の謎解きのような展開ですが…
今回は書評『An Unreasonable Book』を取り上げますが、評者のマッカーシーは、ワイゼンバウムの著書『Computer Power and Human Reason』を徹底的にこき下ろしているだけでなく、多数の実名が登場する事からも尋常ではない印象を受けます。その理由は?と言うと「2人はMITでの同僚だったから」と憶測してしまいます。元々、反りの合わない2人だった?旧知のふたりの諍いがエスカレートした結果、他の誰にも手に負えない状態になってしまったとか?まぁ、二人とも故人なので、今となっては真相は闇の中ですが。次のページに問題の書評の原文、僕がDeepL と ChatGPT を使って翻訳した日本語訳を用意しました。
ちなみにスタンフォード大学のジョン・マッカーシー・ウェブサイトでも、同じ内容の文書が公開されています。
内容は次の7つのパートに分かれ、書評としてはかなり長い文書です。
彼が本当は何を信じているのかを理解するのは難しい
しかし、ここで要約してみよう:
イライザの事例
彼はコンピュータについて何を述べているのだろうか?
不当に攻撃された人々を守るために ー 無実の人々もいる
論争的な罪の要約
コンピュータに関するどのような懸念が正当化されるのか?
この文書を翻訳するにあたり、登場人物が多すぎるので、前回の『ハッカーズ』の「Who's Who」を真似るつもりでリストを作ってみました。
George Birkhoff ジョージ・バーコフ
Daniel G. Bobrow ダニエル・ボブロー
Nicolai Bukharinニコライ・ブハーリン
Eugene Charniak ユージン・シャルニアック
Noam Chomsky ノーム・チョムスキー
Kenneth Colby ケネス・コルビー
Hubert Dreyfus ヒューバート・ドレイファス
Albert Einsteins アルベルト・アインシュタイン
Jacques Ellul ジャック・エリュール
Jay Wright Forrester ジェイ・フォレスター
Edward Fredkin エドワード・フレドキン
Morris Halle モリス・ハレ
Arthur Koestler アーサー・ケストラー
Pierre-Simon Laplace ピエール=シモン・ラプラス
Gottfried Wilhelm Leibniz ゴットフリート・ライプニッツ
James Lighthill ジェームズ・ライトヒル
Warren McCulloch ウォレン・マッカロック
Gregor Mendel グレゴール・ヨハン・メンデル
Marvin Minsky マービン・ミンスキー
Lewis Mumford ルイス・マンフォード
Allen Newell アレン・ニューウェル
Michael Polanyi マイケル・ポランニー
Theodore Roszak セオドア・ロザック
Roger Schank ロジャー・シャンク
Herbert Simon ハーバート・サイモン
Burrhus Frederic Skinner バラス・スキナー
Mortimer Taube モーティマー・タウブ
Yorick Wilks ヨリック・ウィルクス
Terry Winograd テリー・ウィノグラード
William Aaron Woods ウィリアム・ウッズ
実に30人もいるのですが、ざっと見回すとみると…ラプラス、ライプニッツ、アインシュタインといった関係のない歴史上の人物を除くと「1960年代のAI研究を関わった人物」と「いわゆる人工知能批判をおこなった人物」に加え「1970年代の現役AI研究者」の3つのグループに分けられるように思います。
書評をパート毎にチェックしてみると…
パート1はこの手の古い論文によくあるマクラの部分なのでスルー
パート2がワイゼンバウムの著作に対する直接の批判です。これは次回以降でワイゼンバウムの反論とセットで紹介したいのでこの場では割愛します。
普通の書評ならここで終わるのですが、マッカーシーの書評はまだまだ続きます。パート3〜6では、マッカーシーはワイゼンバウムの著作への批判を装って1976年当時の世相に対して言いたいこと言ってる印象があります。またまた先日の年表を引っ張り出しますと…
![](https://assets.st-note.com/img/1696913294728-YCQjB8Kk8h.png)
第1次AIブームは1970年あたりにピークがあり、ブーム加熱から幻滅期に転じます。ワイゼンバウムの著作が出版された1976年は、いわゆる AIの冬の時代 に突入した直後だったので、それまでAIの研究開発を牽引してきた一人であるマッカーシーにとっては鬱憤が溜まる時期だったと想像されます。そのイライラは次の文章からも窺えます。
人工知能を批判した先人たち、 タウブ、ドレイファス、ライトヒルと同様、ワイゼンバウムもせっかちで、 20年経っても問題が解決しないなら、それはあきらめる時だとほのめかす。
この書評でのマッカーシーの攻撃的な物言いには実はこういった裏事情があります。モーティマー・タウブ、ヒューバート・ドレイファス、ジェームズ・ライトヒルといった当時のAI研究に批判的な有名人を挙げて、ワイゼンバウムに彼らに類似する人工知能批判者のラベルを貼りにかかってます。
ですが…
最後のパート7では驚いたことにマッカーシーなりの「AI倫理」を語っています。AI積極派のマッカーシー自身の見解は自ずと想像がつきますが、彼が掲げた次の5つの問いには現在のEUによるAI法規制を連想させるところがあり少し驚いています。現在のAI研究開発を手掛ける研究者やエンジニア、あるいはAIビジネスを志向する経営者には是非問うてみたいところです。
コンピューター・モデルは人間の誤ったモデルにつながるのか?
コンピューターが悪用される危険性は?
人工知能はどのような動機を持つのか?
人工知能は善か悪か?
コンピューターにプログラムすべきでないこととは?
実際、この設問はAI技術を提供する立場の方々にとって、前々回のワイゼンバウムの回顧録で触れた「テクノロジーの逆説的役割」といった文明論のような問いよりは、ずっと答えやすいお題になっているかと…このあたりのAI積極派とAI慎重派の問題認識の距離は50年前と現在でもあまり変わらない「AI倫理」の背景に横たわる課題なんだろうなぁ…と僕は考えています。(つづく)
#10月これやる宣言
#ジョン・マッカーシー
#人工知能
#第1次AIブーム
#MIT
#AIラボ
#人工知能批判
#モーティマー・タウブ
#ヒューバート・ドレイファス
#ジェームズ・ライトヒル
#AI倫理
#AI法規制
この記事が気に入ったらサポートをしてみませんか?