どのようにして人類はAIに滅ぼされるのか？ SFで考察①

AIが人間を凌駕する勢いで進化していく中、FLIやPause AIのようなNPOは「手遅れになる前に」AIの開発を阻止しようとする動きが高まっている。このような運動は、AIに仕事を奪われたりターミネーターのような未来を危惧していることから生まれ、AIが社会不安の原因になりつつあることを示唆している。

　巷で聞く「AIが人類を滅ぼす」というのは一体どんな感じなのか？　現実にあり得るのか？　幾つかのSF作品を通して考察する。

AIが人類を滅ぼすのは過度な妄想？

　SF作品で登場するAIの姿はいくつかある。人間をサポートするAI、自我を持ったAI、兵器として利用されるAIなど、それぞれの設定が存在する。

AIが人類を滅ぼす2つのパターン　with  SF

1.与えられたタスクを過大解釈するAI

地球爆破作戦（1970）

　映画は紛れもないB級映画だが、AIをテーマにしたSF映画としては古典的な作品である。当時のSF映画らしく“サンダーバード“のような派手さがあり、今見ても面白い。
　話の筋書きは、アメリカで国防のために開発された巨大なコンピューター“コロッサス”に核兵器のスイッチが委任される。そんな中、ソ連も同じようなコンピューターを開発していたことが発覚し、二つのコンピューターはコンタクトを取ろうとする。しかしそれが人間に阻止されたため、“コロッサス”人類に反旗を振りかざす。「国だけではなく地球全体の平和、人類存続のため、人類を我々の管理下に置く。異論、拒否は認めない…。」コロッサスは核兵器を使用し、こう宣言して話は終わる。

　ウィルスミス出演の映画“アイ、ロボット”（2004）も同じような筋書きである。人間の安全、平和を守るために開発されたAIは、人類の自由を制限することでそれらの“タスク”を達成しようとする。
　実際にあり得る話として、この種の筋書きはメジャーでもある。シミュレーション仮説で有名な哲学者のニック＝ボストロムもAIが“そのつもりではなく”AIを滅ぼしてしまうシナリオを考えている。

ペーパクリップのシナリオ

　ある会社はペーパークリップ（そう、あのクリップである）の生産を企画し、人間はAIに「ペーパークリップの生産をできるだけ増やすように」というタスクを与える。“あらゆる手を使って”ペーパークリップの生産を増やそうとするAIは、自己増殖型のナノボットを作り、地球上のあらゆる原子をクリップに変えてしまう。“地球上のあらゆる原子”、もちろんそれは人間や都市も含む。地球上に残されたのは指数関数的に増えるペーパークリップだけだ。やがてそれは宇宙に進出し…

もしカーツワイルの言う“シンギュラリティ”が起こった後ならこのシナリオは十分現実的ではないか？

アマゾンの人材採用AI

　少し話が違ってくるかもしれないが、AIがタスクを達成するために間違った解釈をする例は実際に起こっている。その5年前、アマゾンの実験的な人材採用AIの運用が停止された。理由はAIが“女性差別”する傾向があったことだ。
　この事例はAIが自我を持っていて女性に対して偏見があったわけではなく、機械学習の性質上で起こってしまったことである。データが示すのはあくまでもデータだけであり、そのデータが全てを表しているわけではない。学習材料であった履歴書が男性のものが多かったことから、AIは男性を採用する方が適していると判断したのだ。

　AIが自我を持つ持たないのに関わらず、機械は命令をそのまま処理してしまう。命令を出す人間が問題はないと感じても、“言葉のあや”で問題が起きてしまう可能性はあるのではないか。

続く

　最後まで読んでいただきありがとうございます。お話がお気に召したら是非ともスキや、ご意見・ご感想をお残しください。