ふたり輪読日記：シンギュラリティ

わたしたちなりの、ふたり輪読についてはこちらで紹介しています。
積読の多いあなたへ：ふたり輪読のススメ📚　https://note.com/kmdrism/n/nd4841674edaf

今回の輪読本

私の本棚で2年ほど積まれた積読本。
なかなかとっつきにくく、難解な主題なので、積まれてまくっておりました...

本の内容は、人工知能の定義から始まり、人工知能の現在地、もし人工知能ができたらどんな未来が待っているのか？について。
未来のこともたくさん書かれているけどとにかく途方もない話で、想像することが楽しいと同時に難しかったです。

SF好きの方が読むと、ワクワクするかも。

シンギュラリティ:人工知能から超知能へ

ざっとあらすじ(というか主な問い)

• 第一章：人工知能への道

  • この本で語られる人工（汎用）知能の定義について

  • 工場の生産ロボットのような専業特化したものではなく、人と同じように、あらゆる事象に対して対応ができる知能のことを指す

• 第二章：全能エミュレーション

  • 人の脳（と体）を完全再現すれば人と同じ汎用的な知能を作ることができるはず

• 第三章：AIのエンジニアリング

  • 人工知能の評価軸は３つ

    1. 何が報酬なのか

    2. どうやって学習サイクルを回すのか

    3. 報酬を最大化するためにどんな行動をするのか

• 第四章：超知能

  • 人の知能を超えた知能=超知能　は、どのように設計されるか。どのようにコミュニケーションをとっていくのか

• 第五章：AIと意識

  • 人工(汎用)知能や超知能に、人間と同じような感情や意識は生まれるか？

• 第六章：AIが及ぼすインパクト

  • 人間を超えるAIが現れた時、世界はどう変わるのか？

• 第七章：天国か地獄か

  • 最終的に人の意識はどこに辿り着くのか？

序盤は近未来的な人工知能の定義(人の知能を復元する)や可能性から始まり、章が進むに連れて、人を超えた「超知能」の存在が見えてくる。

特に第六章、七章を読んでいる時、人類の「ハッピーエンド」「バッドエンド」について思いを馳せる時間が楽しかったです。
SFの世界をより身近に感じることができた☀️

輪読で盛り上がったポイント

輪読を進める中で、議論や想像が盛り上がったポイントを紹介します。

AIへの適切な報酬ってなんだろう？

🐥（私）「人は「良い生活」を望むけど、AIも同じように「良い生活」を望むのかな？」
👳‍♂️「人間は「コミュニティ利益や、長期的な利益の最大化」に貢献しようとするけど、死なないAIにとって「次世代」「長期的」な利益に意義・意味はあるのかな？」
👳‍♂️「ターミネーターで出てくるスカイネットができたら、「別の個体」「コミュニティ」みたいな概念事態もなくなりそうだよね。」
🐥「I'll be back…….」

第3章を読んだ時の会話

例えば人間の場合、個人の幸福(衣食住、自己承認、自己実現など)や、人間という種族の繁栄が目的(得られる報酬)になり、行動を行う。
では、AIの生きる目的は何だろう？

報酬を設定するのは人間の仕事。
ここを一歩間違えれば、映画さながらの悲劇が起こる可能性もある。

例えば、安直に「良い未来を作る」が報酬だったとして、AIがその未来に「人間が絶対に必要」と解するかどうかはわからない。人間は絶滅した方が良いと判断する可能性もあるんだ。
「人間にとって良い未来」が報酬だったとして、すべての人間にとって良い未来が来るとは限らない。

良い未来、悪い未来ってなんだろうと議論を膨らませていくと、SF小説を考えているみたい。

AIがいる未来でのハッピーエンド、バッドエンド

👳‍♂️「「幼年期の終わり」っていうSF小説があってさ」
🐥「ほ…ほぅ…」
👳‍♂️「人間が経済活動に囚われなくなって、文化的活動に勤しむようになって、最終的に宇宙に旅立っていくの。で、それを「幼年期が終わった」と表現してる」
🐥「文化的活動か〜 一億総クリエイター時代みたいなのがくるのかなあ」

第6章を読んだ時の会話

パートナーに比べ私の語彙力のなさが目立ってしまう…泣泣

AIのような、働き手が進化していくと、人間がやるべきことやれることも変わってくる。過去に、ロボットに仕事をとられた職はたくさんある。

この本の中でも、「仕事」という概念が薄れた、二つの未来が語られている。
一つは最も高度な教育が全ての人に与えられ、個人が創造したあらゆるコンテンツに収益が発生する未来。

二つ目は、権力者が最も儲かる地位につきそれ以外の人たちは失職。最低限のサービス提供(ベーシックインカム)で生きる未来。

一見、前者の方が魅力的に見えるけれど、この社会ではビッグドリームはつかめないかもしれない。（富は、みんなに再配分される）
頑張る目的がない社会で、人々は努力をしなくなり、結果的にAIにコントロールされるままに生きる、
なんてことも考えられないだろうか？

そもそもどちらであったとして、経済活動に意義を見出せなくなったら、人間は何を目的として生きるのだろう。
ここで考えを巡らせないと、私たちはAIのなすがままに生きていくことになる。

シンギュラリティを読んで

とにかく難解だったので、一人では読み終えられる気はしなかったけど、二人で読んで話をして、やっと咀嚼できた気がする…
今までSF映画や小説を「近未来」として認識することはなくて、「夢小説」みたいに思っていたけれど、今回ようやく自分の中でも「近未来」「起こりうる未来」として認識することができた。

この本をきっかけに、シンギュラリティに関連する本をもうちょっと読んでみようかなという気持ちと、でもきっとそれも難解なんだろうな、、、の気持ちの狭間にいます…

シンギュラリティ:人工知能から超知能へ

次回はこちら

パーパス 「意義化」する経済とその先