非ヒト動物へのAIアライメント？
現在のAIアライメントの議論のほとんどは、いかにして人間の価値観に合わせるかということに終始している。どの人間の価値観にアライメントするのか、というのはAIアライメントの議論においても大きな問題だ。だが既存の議論の多くで見逃されているのは、ヒトではなく、非ヒト動物に対するアライメント問題である。
非ヒト動物に対してAIアライメントすることがバカバカしいことではない理由は複数ある。第一に、種差別は間違いであるか、少なくとも、一部の有感な（つまり快苦を感じる）非ヒト動物は道徳的に考慮されるべき存在である。種差別とは、ある特定の種に属する存在を、別の種に属する存在と比較して不当に悪く扱うことである（Horta & Albersmeier 2020）。P・シンガー『動物の解放』の初版出版から間もなく50年が経過しようとしているが、これまでに種差別の不当性はこれまで幾度となく論じられてきた。私は種差別が間違いであることを否定できないと思う。ある特定の人種や性別がそうであるというだけで特権的に扱われるのが差別であるのと同様に、ヒトがヒトであるというだけで特権的に扱われることは差別であり、間違いである。
もし種差別が間違いであるなら、AIアライメントの議論は人間ばかりに焦点を当てているのは不適切だ。AIアライメントによって引き起こされる問題の多くは、人間だけでなく非ヒト動物にも当てはまる。例えば、超知能AIの出現によって人間の存亡リスクが現実に問題になると議論される。現代の人間が様々な種の非ヒト動物に対して絶滅という存亡リスクを生じさせまくっていることを脇においたとしても（！）、超知能AIの出現によって、各種の非ヒト動物の存亡リスクがさらに追加でもたらされる可能性がある。人間の存亡リスクが問題であるなら、（すでに人間が存亡リスクの原因となっているのに加えて）非ヒト動物の存亡リスクを促進することは問題であるはずだ。（なお、存亡リスクの対象を地球で誕生した知的生命体に限定したとして、どうして人間以外の存在が排除されるのか？ 人間がこれまでいかに非ヒト動物の知能を低く見積もってきたのかを反省すべきである。）
仮に種差別が間違っていないとしても、非ヒト動物の一部は真剣に配慮しなければならない存在である。欧米圏では非ヒト霊長類を保護しなければならないという風潮が高まりつつあるし、その根拠は理にかなったものである。というのは、非ヒト霊長類が有感な存在で、人間と類似した存在であると考えるなら、かれらを保護しなければならないというのは明らかだからだ。保護対象は非ヒト霊長類に限らず、他の多くの哺乳類にも及ぶだろう。さらに最近、有感な（つまり快苦を感じる）非ヒト動物の範囲は、哺乳類や鳥類だけでなく全ての脊椎動物や多くの無脊椎動物を含む可能性が高いという、動物意識に関するニューヨーク宣言が出された。これは数多くの哲学者・科学者が連盟で出した宣言であり、一部の非ヒト動物の有感性について疑う余地はもはやない。
非ヒト動物に対してAIアライメントすることがバカバカしいことではない別の理由は、人間の価値観にアライメントされた場合に、非ヒト動物に及ぼされる危害の大きさがさらに大きくなりうるからである。現代の人間の価値観の多様性はAIアライメントの問題においても重要な問題であるが、人間の価値観のほとんどは非ヒト動物に対して差別的である。むろん、欧米でのデフォルトの価値観の多くが種差別的であるのはもちろんだ。先ほど、欧米では非ヒト霊長類に特別な保護が促進されていると述べた。これは望ましいことだが、しかし、どうしてこの保護が他の非ヒト動物に拡張されないのだろうか。種差別はヒトと非ヒト動物の間だけでなく、多様な非ヒト動物の間でも生じていることが、こうしたことから示唆される。（では日本の価値観のほうがマシかといえば、そんなことは全くない。日本における動物福祉政策や動物実験規制の進み具合の遅さは絶望的である。）
もしこうした種差別的価値観にAIがアライメントされれば、ヒトにとっては望ましい結果がもたらされるかもしれない。しかし、そのようなAIは、多くの非ヒト動物に対して有害であるのは間違いない。
超知能AIとまで行かなくとも、AIの安全性の観点からも議論すべきことである。例えば自動運転技術を考えよう（Singer & Tse 2021）。安全性の観点からは、自動運転車が人間を轢かないようにすることは重要な課題である。すでに多くの非ヒト動物が人間の運転によって轢き殺されている（ロードキル）が、自動運転技術が完成されることによってこの問題が自動的に解決されるわけではないことは明らかだ。結局のところ、自動運転技術開発において、非ヒト動物が真剣に考慮されない限り、ロードキルが減ることはないだろうし、人間が運転する場合よりもさらに増大する可能性すらある。
また、悪名高いペーパークリップ問題の非ヒト動物版を考えてみよう。AIがうまく人間の価値観にはアライメントされたとしよう。そこで人間がAIに対して、おいしい肉をより効率的に生産することを目標として設定したとしよう。このAIは人間の価値観にはうまくアライメントされていると仮定しているので、人間にとって不利益が生じるようなことはない。しかし非ヒト動物にとってはどうだろうか。おそらく非ヒト動物の福祉はこれっぽちも（あるいは人間の種差別的価値観にわずかに反映されている程度でしか）考慮されず、莫大な数の非ヒト動物が犠牲になるだろう（すでに莫大な数の非ヒト動物がひどい環境で飼育され毎日数億の単位で食用に殺されているわけではあるが）。これは存亡リスクではなく、むしろS-risk（莫大な苦しみsufferingがもたらされるリスク）のケースであり、絶滅という意味での存亡リスクよりも懸念すべきことである。現代の工場畜産が非ヒト動物にとってすでに莫大な苦しみをもたらしているということを踏まえても、これをさらに促進させる可能性があり、真剣に考えなければならない問題である。
では、非ヒト動物に対するAIアライメント問題はいつ取り組み始めるべきか？ 今すぐだ。
まず、AGIや超知能AIの出現が数年・数十年先に迫っているという予測を前提にしてみよう。AIアライメントコミュニティのほとんどが種差別主義者であると思われるので、今すぐに動かなければ（あるいは今すぐですら）アライメントは間に合わないだろう。
仮にAGIや超知能AIの出現が数百年先、あるいは登場しないとしよう。そうだとすればAIアライメント問題はAIセーフティの問題として扱われることになるだろう。この場合であっても今すぐに取り組み始めるべきだ。非ヒト動物の多くはすでに、人間によって存亡リスク、Sリスク（あるいはSリスクが現実化した状態）にさらされている。現在のAI技術がすでに非ヒト動物に対して様々な影響を与えていることを踏まえれば、上記の問題はさらに加速するだろう。現在または近い将来のAI技術が非ヒト動物に与える影響については以前報告したので、以下のスライドを参考にされたい。
こうしたことを踏まえれば、AIセーフティの問題として位置づけられるとしても、非ヒト動物に対して悪影響は現にあるので、今すぐに取り組むべきである。
以上より、AIアライメント問題を人間中心的に考えることは不適切である。AIアライメント問題は非ヒト動物にとっても大きな問題であるので、非ヒト動物をも対象として考えられなければならない。
参考文献
AIアライメントに限らず、長期主義的問題一般での非ヒト動物に関する議論は以下の論文を参照のこと（オープンアクセス）。
O’Brien, G. D. (2024). The Case for Animal-Inclusive Longtermism. Journal of Moral Philosophy, 1-24.
Horta, O., & Albersmeier, F. (2020). Defining speciesism. Philosophy Compass, 15(11), 1-9.
Singer, P., & Tse, Y. F. (2023). AI ethics: the case for including animals. AI and Ethics, 3(2), 539-551.
この記事が気に入ったらサポートをしてみませんか？