人工知能が「完全に倫理的になった」時、果たして社会は機能するか

人工知能の発達と普及につれてそれがもたらす倫理的問題が懸念され、何らかの規制やルールの必要性が訴えられている。それはもちろん重要だが、私はいわば、「逆の」懸念も抱いている。つまり、広範に普及した人工知能が「完全に倫理的になった」時、一体社会には何がもたらされるかということである。

我々はいまだかつて、全員が一切の法律やルールや規範に反すること無く行動した時代など、実は経験したことがない。もちろん悪いものは悪い。しかし、許容可能なごく小規模の「悪いもの」が、逆説的に社会を成り立たせてきたとも言えるのではないだろうか。具体例を挙げる。

日本の狭い道で自動車がすれ違う時、物理的に接触しないためにはどうしてもわずかに歩道や私有地にはみ出したり（もちろん歩行者のいない時に）することになる。そのことが通行を可能にしている。そしてこのような極めて軽微な「違反」は、事実上今日の社会では許容されている。

しかし、これが人工知能を搭載した自動運転車となった場合どうであろうか。アルゴリズムにこのような「違反」を明示的に書き込むことができるか。できるはずがない。なぜなら「違反」なのだから。これは単なる一例だが、実はこうしたことが社会にはおびただしい数存在する。我々自身も例外ではない。

人工知能が広範に普及し、（それが仮に可能だとして）「完全に倫理的になった」時、果たして社会は機能するのだろうか。