ローマ教皇のAI倫理ハンドブック：世界が注目するバチカンのAI倫理
AIに意識が宿るかどうかは、数十年前から世界中で膨大な数の神経科学者、哲学者、倫理学者、法学者、医学者、生物学者、心理学者、脳科学者、人類学者、物理学者、計算機科学者、ロボット工学者、人工知能研究者、情報工学者、神学者、宗教家、言語学者、人権団体などが議論を続けている課題です。
AIの意識問題に言語学者が関わっている理由
言語学を国語や外国語のみを研究している学問だと誤解している人が多いので補足すると、言語学は物理学や哲学と同じくらい広範な学術分野で、生成言語学や認知言語学のような言語学の応用分野では、AIの意識や認識問題に深く関わっています。意識研究の最先端で知られるアリゾナ大学のマッスィモ・ピアッテッリ・パルマリーニ（Massimo Piattelli-Palmarini）教授は、認知科学者、生物学者、言語学者、進化生物学者として、言語、認知、および進化に関する理論的な問題を探求する論文や講演が多いです。
言語学には、計算言語学、心理言語学、神経言語学、生物言語学など、NLP（自然言語処理）と深く関連する分野も存在し、意識、言語、AIの間には密接な関係があります。以下のパルマリーニ教授のホームページに言語学者の記載もありますが、有名大学の教授が複数の専門分野を持つのは珍しくないことです。寧ろ、他分野の知識がなければ、主要な研究分野を深めることは難しいとも言えます。
アリゾナ大学意識研究センター主催のツーソン会議（Toward a Science of Consciousness：TSC）
AIの意識問題に神学者が関わっている理由
日本では1980年にカール・セーガンのCOSMOSという科学番組が放送され、その時の番組スポンサーが日本IBMだったので、CMの影響で日本IBMに就職した友人が大勢います。この世代のコンピュータエンジニアは、情報工学や計算機科学だけでなく、宇宙、生命、進化、数学、哲学、神学など幅広い分野の造詣が深いです。
カール・セーガン原作のCONTACTという映画では、大統領の宗教問題顧問のパーマー・ジョス（俳優：マシュー・マコノヒー）という神学者が重要な役割を果たしますが、生命や宇宙といった未知の領域では、実際に宗教問題顧問や神学者が、政策決定に重要な役割を果たすことがあります。
イスラム諸国では、国家元首や国王などに、ウラマー（イスラーム法学者）や、イマーム（イスラム共同体の指導者）が顧問の役割を果たしている国が多いです。イスラム金融では、金融や投資の専門家でなくても、ウラマーやイマームが、イスラム教の教義に反する金融・証券制度や、投融資対象を判断することがあります。
神学者も言語学者と同じで、宗教だけを研究しているのではなく、物理学、生物学、情報工学などの分野で秀でた人物は少なくありません。
『メンデルの法則』で有名なグレゴール・ヨハン・メンデルは『遺伝学の祖』と呼ばれていますが、メンデルが遺伝の法則を発見したのは、修道院の司祭として植物栽培をしていた時です。司祭になる前には物理学、数学、植物学、生理学、動物学などを学んで自然科学の教師をしていました。メンデルは司祭をしていた時に、メンデルの法則に関する論文を当時の細胞学の権威カール・ネーゲリに送っていますが、メンデルの法則の数学的で抽象的な解釈がカール・ネーゲリには理解できず、メンデルの法則が再認識されたのは、メンデルの死後30年後でした。
インクルーシブ原則
環境問題やAI問題は、製造者や提供者側だけでなく、ユーザ側（時として『全てのステークホルダー』と表現されることがあります）の権利や意見も最大限取り入れるべきであるという『インクルーシブ原則』の概念が含まれていることが多いです。
生成AIブームの影響で、AIの意識議論にさらに多くの人が参加するようになりました。このことは、インクルーシブ原則の観念からは、歓迎すべきことです。但し、重要なことは、権利は義務と対になっているということです。サスティナビリティ分野では、『作る責任・使う責任』と表現がされることが多いですが、AIに関しても同じことが言えます。
自動車の運転を考えると分かり易いかも知れませんが、自動車の運転免許を所持していて、自動車を使用する資金があれば、誰でも自動車を運転する権利があります。しかし、運転する以上は、道路交通法や道路交通規則を遵守する義務があり、法律や規則を遵守しているつもりでも、加害者として事故を起こした場合は、刑事責任（刑事罰）や民事責任（損害賠償責任）などと対になっています。
AIの開発や利用が自動車運転と異なるところは、AIの開発や利用には特別な免許が必要なく、誰でも開発や利用ができるところです。AIに関連した法的問題に対しては、著作権法、個人情報保護法、消費者保護法、不正競争防止法などで対応できる部分もかなりありますが、対応できない部分が日増しに大きくなっているので、法整備以前の国際的なAIガイドラインの整備が急がれています。
第四次AIブームの到来により、AI関連の開発予算などが増えた結果、他分野からAIの意識に関する研究者が急激に増えています。ところが、それよりも圧倒的に多く参入してきた人々の大半は、AIの魂や意識に関する専門分野とは関係のない一般人たちで、これまでの長年の議論の経緯も技術的な背景も理解していません。
そのため、イリヤ・スツケヴェルのような計算機科学者からの『意識が宿るかもしれない』という発言があるたびに、AIの意識や感情に関する議論が数ヵ月から数年以上遅れることになり、世界中の科学者から以下のような厳しい批判を受けます。
「OpenAI」の主席研究者イリヤ・スツケヴェル（Ilya Sutskever）氏は、今月、「今日の大規模ニューラルネットワークには、わずかな意識があるかもしれない」と衝撃的なツイートをして、ネットを震撼させた。
（中略）
「こうした憶測的なコメントが出されるたびに、AIによるもっと現実的な機会や脅威について話を戻すのに何ヶ月もかかる」（ニューサウスウェールズ大学 トビー・ウォルシュ博士）
（中略）
「この発言には現実的な根拠などまるでなく、単純な統計をやっているだけの新興企業が魔法の技術を喧伝するための売り文句にすぎないとも考えられる」（社会科学技術者 ユルゲン・ゲイター氏）
（中略）
「地球と火星の間のどこかに太陽を公転するティーポットがあるかもしれない。これはイリヤ氏の発言よりはマシだ。軌道させるティーポットは存在するし、その定義もはっきりしている」（コペンハーゲンIT大学 レオン・デルシンスキ准教授）
このような背景は、気候変動問題とも似ています。気候変動問題（あるいは地球温暖化問題）は、1997年の京都議定書締結以前から議論されており、議論に30年以上かかっています。しかし、ある国の代表者（大統領や首相、環境や産業関連の大臣など）の問題発言一つで、COPでの大きな成果が得られなくなることがあります。
国際的なコンセンサスには、バチカンの教皇の発言や方針が大きな影響を持っています。特にバチカンの影響力が強いのは、『脳死は人の死か？』、『人間のクローンを認めるか？』や『AIに魂や意識が宿るかどうか？』といった、生命倫理、医療倫理、AI倫理のような分野です。
バチカンもAIを無視できない。教皇がAI倫理ハンドブックを発表
2023.07.04 22:00
ローマ教皇が統治するバチカンがAIブームに乗り出したようです。先日、ローマ教皇庁は教皇が定義する｢人工知能の倫理に関するハンドブック｣を発表しました。
このガイドラインは、教皇とサンタクララ大学のマーククラ応用倫理センターが共同で作成したもの。両者は｢技術・倫理・文化研究所（ITEC）｣という新組織を立ち上げ、その第1弾プロジェクトとなったのが｢破壊的テクノロジーの時代における倫理：運用ロードマップ｣と題されたハンドブック。
これはAIや機械学習、暗号化、追跡などにおける倫理という、ある意味｢濁流｣を行くハイテク業界を導くために作られたのことです。
ハイテク業界にいる人々に指針を提供
教皇やその周囲の方たちが人工知能について考えるというのは、なんとなく不思議な気もします。
しかし、ロスアルトスにあるセント・サイモン教区のブレンダン・マクガイア神父によれば、このイニシアチブは長年教会が関心を寄せてきたことのいわば集大成だといいます。
ITECのアドバイザーでもあるマクガイア神父は、｢バチカンにはキープレイヤーを交渉のテーブルに連れてくる独自の能力があります｣と主張します。
｢ローマ教皇は常に広い視野で世界と人類を見つめており、テクノロジーは良いものだと信じています。しかし、技術の発展に伴って、より深い疑問を投げかける時が来るのです。
何年も前から、シリコンバレーにあるハイテク企業の重役たちが 、『助けてください、これからたくさんのことが起きようとしているのに、我々はまだ準備ができていません』と私のもとに駆け込んできました。
それはつまり、バチカンの招集力を使って全世界の企業リーダーを一堂に集めようという考えなのです｣
多くのIT支持者や学者、オブザーバーは｢いかに規制当局へのアピールするか｣ということに力を注いでいますが、ITECハンドブックは異なるアプローチを採っています。
政府が業界向けのルールを決めるのを待つのではなく、今すでにAIが抱える大きな難問と格闘するハイテク業界の人々に、指針を提供したいと考えているのです。
上に引用した記事には、他のことについても軽く触れられていますが、(1) AI問題、(2) 環境問題、(3) 人類の破局の回避策の三点はセットで考慮される傾向があります。
以下はバチカンが公表したAI倫理ハンドブックのリンクです。
この記事が気に入ったらサポートをしてみませんか？