カーツワイルの「シンギュラリティ」最新版その７：危機と対応
カーツワイルの最新シンギュラリティ本の紹介、今回が最終回です。
前回は、これからの健康と福祉、がテーマでした。
今回は、第７章「危機（Peril）」と最終章「カサンドラとの対話」を中心に紹介します。
タイトルのとおり、技術進化による脅威とその対応策について、下記の通り触れています。
核兵器：現在約12,700個の核弾頭が存在し、全面核戦争は二次被害も含めると数十億人に被害を与える。近年は超音速機など防衛を阻止する技術も登場しているが、その潜在的リスクや脅威を検出するのにAIが対抗策となりえる。
バイオテクノロジー：遺伝子工学の進歩により、致命的で伝染性の高いウイルスが作られる可能性がある。しかし、国際的な調整機関の規制や、AIを活用した迅速な対応システムの開発も進んでいる。
ナノテクノロジー：核兵器よりも低価格で生物兵器の開発を可能になる。その脅威は自己複製化で、最悪のシナリオはバイオマスを破壊して自己複製ボットを無限増殖する「グレイグー」シナリオ。これには防御的な「ブルーグー」の開発など、対策が検討されている。
人工知能：誤用、外部ミスアライメント、内部ミスアライメントの3つの主なリスクがある。AIの誤用を防ぐためには倫理的なガイドラインや規制が必要であり、AI自体がこれらのリスクを軽減する手段となることが期待されている。また、AIの倫理的利用を推進するための国際的な取り組みが進行中である。
「グレイグー」について補足しておきます。「ナノテクノロジー」のパイオニアと評価されるドレクスラー（ファインマンも有名ですが、初めにコンセプトを唱えた人で具体的な研究までは行っていない）が名付け親です。本編にも何度か登場します。
ようは、自己複製可能なナノテクの分子ロボットが、暴走して無限増殖する事態を指しており、炭素で出来たバイオマスをその材料とします。
最終章は、レイ（おそらくカーツワイル本人）とカサンドラ（ギリシア神話に登場する予言能力を持った王女が語源）との対話形式です。
批判とそれへの回答形式で締め繰られており、最後にはある程度の合意らしきものを得てこの作品は締められます。
今回でカーツワイルの最新シンギュラリティ本の紹介は終わりますが、前作同様ディテールとそのエビデンスもしっかり載せています。
シンギュラリティへの理解にとどまらず、現在社会の主要な論点が広く掲載されています。
特にAIの攻防はホットトピックですので、全ての方にとっておすすめの本です。ぜひポチって見てください。
この記事が気に入ったらサポートをしてみませんか？