バイアスと善悪

昨日は東京大学の未来社会協創推進本部のアドバイザリー会議だった。未来に向けとても楽しい議論が交わされたが、特に人工知能のバイアスについての議論が興味深かった。バイアスがない状態は作れるのかまた本当にあるのか。

考えてみると善悪がそもそもバイアスと言える。善悪論は誰にとってという前提がないと成立しない。極端なことを言えば、漫画寄生獣であるように、人間自体が地球に与えている悪影響を考えると、地球の立場から見れば人間が一定量いなくなることが善であるという捉え方もできる。

それは行き過ぎとしてでは、人間にとって善であることを考えたとして、一体誰にとっての善かという問題も起こる。首長族は、文化の継承という側面と、女性・子供への人権侵害という側面の両方を持っている。当事者にとての善と、外部にとっての善、今の善と未来の善。それぞれにずれている。

過去も未来も誰にとっても変わらぬ共通善があるはずだという前提に立つならば、議論を交わして矛盾をついていけばいずれ真理に到達するということになるのかもしれない。もちろん人を殺してはならないなどの規範は人類で共有できると思うが、細部に入り込んでいった場合本当にそれは成り立つのか。

人工知能を考えるときに、良い判断ということに対し、誰が良いと定めるのかという問いが残るのだそうだ。そして、この"誰が”こそがバイアスであろうと思う。人間が作る以上”誰が”がない状態はなく、つまりバイアスから逃れられないのではないかと思う。

文明圏ごとに善がずれるならば、もしかすると文明圏ごとに人工知能は違う発展をしていくのだろうか。トロッコ問題も、文明圏で異なる答えになるならば、自動運転のプログラムも文明圏ごとに変わるということはあり得るのだろうか。