ロボット(AI)は「友人」なのか？「管理者」なのか？｜SF読書録#2「われはロボット」etc
「#1000日チャレンジ」２週目をむかえました。
私のチャレンジは「#SF読書録」
１．SF本(小説・漫画・ライトノベルなど)を1000日で1000冊読む
２．書評をnoteで「#SF読書録 」として1000日で150本書く
というチャレンジです。詳細はこちら↓
このチャレンジ、ワクワクした気持ちでスタートしたものの、SFといっても本当に様々。何から読むべきか？正直定まっていませんでした。
そんな時にSFマスターであるコミュニティのお２人からメッセージを頂き、どう読むか？何から読むか？についてアドバイスをいただきました。何という渡りに船。
「SFどのくらい読んでるの？」から入って、「SF黄金期はいつだと思う？」など私の関心やリテラシーを理解しようとしてくれるお２人。優しすぎる。。
私のSFリテラシーがあまりにもなかったため、逆に困らせてしまったかもしれません。しかし、その中で得たヒントがありました。
「関連読み」
という読み方です。作品を読んでいる中で描かれているテーマやオマージュ、作者で繋ぐなど関連性をつないでいく読み方だと解釈しています。
コレだ！と思い、２週目までに選んだ関連付けは「AI」「ロボット」です。
そこでAI関連の漫画をつまみ食いしながら、約4日間かけて読んだ基礎中の基礎のこの作品の書評を書きたいと思います。
超有名作品なので読んだ方も多いと思います。私も中高生ぐらいの時に読んだ記憶があるのですが、多分途中で挫折していたからかすっかり内容を忘れていました。。
この作品、刊行はなんと1950年だそうです。
そんな時代から、インターネットのような描写や、AIのジレンマなどなど現代でも論じられている内容が描かれています。今読んでも全く色あせない。たくさんのヒントをくれる作品でした。
この作品ではとても有名な「ロボット工学三原則」を基にストーリーが展開されます。
第一条
ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条
ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条
ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
— 2058年の「ロボット工学ハンドブック」第56版、『われはロボット』より
一見シンプルな三原則ですが、めちゃくちゃ深い！
スーザン・キャルヴィンというロボット心理学者が主人公で、彼女がこの三原則とロボットの間で起こる事件を振り返る。というのが物語になっています。
とある一家の少女の「友人」として過ごすロビイという喋ることができないロボットのストーリーから始まり、「人の心が読めるロボット」も出てきます。
最終的には「ロボットが人類永続のために経済を管理する」という話にまで至ります。
最初は「友人」だったはずのロボットが、いつの間にか「管理者」になっている。という展開に驚愕し、震えました。
しかも人類は豊かになっていくのです。戦争も貧困もない社会が３原則を遵守するロボットの世界では実現されています。ストーリー展開を見ていると、人間サイドが気づかないレベルです。きっとみんないつの間にか支配されているという社会だと思います。
もしかしたら未来の選択肢の１つとしてそんな社会も考えられるのかもしれません。実際ネット広告の世界では判断の一部をすでにAIに依存しています。人間の幸福度が目的変数に置かれた場合、最大多数の最大幸福と「人間を傷つけてはいけない」というルールの遵守により、人間を傷つけずに永続させるための人知を超えた方法論をAIがロボットを通じて実現していくなんてこともあるかもしれませんね。
ロボットやAIが身近な存在になった時、我々は彼らとどう付き合っていけばよいのか？
AI時代の倫理とは？
そんなことを考えさせられる作品でした。
話についていくのが大変だったけどおもしろかった。
個人的に「ロボット心理学者」という職業がとてもおもしろく、将来AI時代が来たら目指してみたいなと思いました。
ちなみに、公約通り１週間で７冊本を読んでいます。読んだのは以下のシリーズ。
漫画は1巻1冊カウントなので合計11冊。現在11/1000です。
思ったより順調。いずれの作品も面白く、読んでみるとつながったりいろいろ考えることがあるので関連付けてまとめる書評というよりは考察のような記事も書いてみたいと思います。
来週は伊藤計劃さんの「虐殺器官」が個人的ヒットだったので、早くに亡くなってしまった伊藤計劃さんの作品を中心にサイバーパンク関連の作品などを読んでいきたいと思います。
またAI・アンドロイド系も読みたいな。やっぱりSFおもしろい。
SFに感謝を込めて。それではまた。
読んだ本の数：11/1000 書評；2/150
サポート、こんな私にサポートしてくれる奇特な方がいたら・・・そんな方がいたらとても私にとっては貴重な存在です。