見たくないものを、見る
4年前の2019年に、人工知能研究者として私たちがすべきことというブログを書きました。そこで、人工知能の研究者は
正しく伝える
適切に怖がる
見たくないものを、見る
という３つのことをしなければならない、と主張しました。
人工知能研究とは、知的とされる人間の活動を機械で模倣することによって、知能とは何かを明らかにしようとする学問です。「知的活動」の代表例として、ゲームをプレイする、数式を解く、専門家の思考過程を模倣する、画像を認識する、などの領域で研究がなされ、機械が人間のパフォーマンスを凌駕できることが次々と示されてきました。当分機械には出来ないだろうと思われていた自然言語を扱う分野でも、ChatGPTの登場によって、使い方によっては人間と拮抗する品質の知的作業を機械が行えることが示されました。このように人間の知能が機械によって相対化されていく先には何があるのでしょうか。
今まで意図的に、あるいは無意識に避けてきた問題を直視しなければならない時期に差し掛かっているのかもしれません。
「人間中心」の落とし穴
人工知能の倫理をめぐる議論の中で、「人間中心の（human-centric）」という言葉が使われることがしばしばあります。私は、2019年から2020年にかけて行われた内閣府の人間中心のＡＩ社会原則会議に参加したことがあります。ここでは「人間中心の原則」として「AI の利用は、憲法及び国際的な規範の保障する基本的人権を侵すものであってはならない」と定義しています。これは私たちの社会の現在の価値観を色濃く反映していますし、まったく異論の余地はないものだと、私は思っていました。しかし、「人間中心」を「人間が常に優先される」のように解釈してしまうと、落とし穴がありそうです。
イスラエルの歴史学者ユヴァル・ノア・ハラリはその著書「ホモ・デウス」[1]において、人間社会の価値観がどのように変化してきたか、を述べています。自然界の中で、私たちはなぜ意のままに家畜を殺して食べてよいのでしょうか。自然科学が発展する以前は「神が人間をそのように作り給うたから」という虚構によって、人は万物の霊長であることが認められていました。自然科学が発達して神の存在に合理的な説明がつけにくくなってからは、「人は理性を持つから世界に君臨して良いのだ」という人間至上主義の時代になったのだ、とハラリは言います。理性とは合理的に物事を判断できる能力、あるいは知能と言ってもよいでしょう。
確かに、今のところ地球上には人間を超える知能を持つ生物はいそうもありません。しかし、少なくとも合理的な推論をする能力においては、機械による思考が勝っている場面が多々あります。特に、複雑な機械のオペレーションや経済政策など、人間の日々の直感が効きにくく、かつ意思決定に時間的な制約がある分野では、認知能力に限界のある人間ではなく、より合理的な判断を素早く下せる機械に意思決定を任せたほうが良いかもしれません。少なくとも、「人は理性を持つから世界に君臨して良いのだ」という人間至上主義のロジックに従うのであれば、人よりも優れた理性を持つ機械があれば、その機械に意思決定を任せる、というのは合理的な判断のように思えます。
私たちは何が欲しいのか
しかし、現在の技術では機械に完全に意思決定を任せるのは（特別な状況を除けば）非常に危険なことだと思います。なぜなら、機械に何をやって欲しいか、私たちには事前に明示する能力が欠けているからです。2017年の人工知能国際会議の基調講演で、UCバークレイのRussell教授がこんな例を出していました。
賢いロボットがいたとして、あなたが「コーヒーを持ってきて」と頼むと、ロボットは階下のコーヒーショップへ行き、多くの客が列に並んでいるのを見て、全員を撃ち殺してコーヒーを持ってきた。
ロボットは「コーヒーを持ってくる」という目的に対しては正しい行動をしたわけですが、それ以外にやってはいけないことがたくさんあります。「コーヒーを持ってきて。但し人を殺してはならない」という命令は完全ではなく、他にもやってほしくないことはたくさんあります。これは広く言えば人工知能の未解決問題であるフレーム問題に帰着される問題で、このように、人の指示は常に不完全にならざるを得ません。
Russell教授はこの問題に対して、過去の人間の行動を観測することで人の持つ価値観を学ぶロボットを作る必要がある、と主張していました。ChatGPTにおいても、不適切な出力に対してフィードバックを与えることで、人の価値観を反映させる手法が取り入れられています。
都合の悪い真実
もし、機械が人間の行動を模倣することで人間社会の価値観を近似するのであれば、私たちは重要なことに気が付きます。私たちが「人間は家畜より知能が高いから家畜を殺して食べてもよいのだ」という人間至上主義の価値観を持っているのであれば、機械はそれを汎化して「知能の低い人間は犠牲にしてもよいのだ」という価値観に到達するかもしれません。
ブロガーであるベンジャミン・クリッツァーは著書「21世紀の道徳」[2]の中で、「わたしたちは牛や鶏などの家畜に対して、人間に対するのと同じくらいの配慮をするべきである」と述べています。機械と人間の知能が相対化し人間の絶対性が崩れていく中で、機械の倫理性を問題にするのであれば、まずは私達自身の倫理的な振舞いを見直さなければならないのだと思います。
「人間が（知能の面で）万物の霊長でないかもしれない」という「都合の悪い真実」を直視し、そうであったとしても受け入れられる倫理的規範を考える時期に来たのではないでしょうか。
参考文献
ユヴァル・ノア・ハラリ、『ホモ・デウス -- テクノロジーとサピエンスの未来』、2018。
ベンジャミン・クリッツァー、『21世紀の道徳 -- 学問、功利主義、ジェンダー、幸福を考える』、2021。