シンギュラリティ　人工知能から超知能へ

汎用人工知能はどうすれば作れるのか?

適切に汎用的な知能を保障するのは、既存の行動レパートリーを新しい課題に適応させる能力であり、かつ試行錯誤や第三者による訓練を経ずにそれを成し遂げ流ことだ。

生物的知能の主な特徴の1つは身体化である

　動物の脳は、その体を快適に維持し、その体が持つ遺伝子を永続させるために進化してきた。体を移動を可能にする筋肉、そして感覚を併せ持つことで、その動作を環境の状態に適合させて、目的の達成を最適な形で補助する。脳はこの感覚運動のループの中心に位置し、動物の知覚に応じた行動を形作る。

　人間の知能は、基本的には動物の知能の延長であり、人間の言語、理性、創造性といった能力も感覚運動の基盤に基づいている。

　だから、汎用人工知能を作る努力が、代謝や生殖のような生物生命に不可欠なものの大半を排して行われるとしても、やはり身体化は方法論上必要なのかもしれない。

　常識と創造性

　同級生に独創的な罵声を浴びせた小学生は、言語的な創造性と人間心理に対する常識的理解力と組み合わせることができたことになる。

　2002年動物認知研究者アレックス・カセルニク　オックスフォード大学

－－カレドニアガラスと餌とワイヤーフック

全脳エミュレーションの3段階

1）マッピング、

2）シュミレーション、

3）身体化

AIの設計

　ネズミのしっぽをつかんで逆さまにぶら下げたら、その鼻と耳のどっちが地面に近いか?

　子供でもわかることだが、siriにはこれに答えられない。　世界に対する本当の知識を持ち合わせていないからだ。

　日常物理学は人間(家1部の動物)がうまくマスターした分野の1つで、基本的な原理を理解することによって、見たこともないような問題の解決を可能にする。

　日常心理学は、他人には信念、欲望、意向などがあり、無生物のようには振る舞わないものだとした前提を人間は理解し、この理解を駆使して計画を立て、コミニケーションを行い、ときには裏切りもする。

　日常物理学と日常心理学と言うこの2つの分野において、人間の理解力の深さは、固体物や他者の精神といった基本的な抽象概念のセットに依拠している。

　人間には、整数やお金と言う概念のように進化の過程で前例がなく、少なくとも「他人の心」と同じ位抽象的な新しい概念を獲得する能力も備わっている。

　こうした汎用的な能力、つまり日常物理学や日常心理学のように重要な常識分野の把握、そして全く新しい抽象概念を獲得する能力は、いかにして機械に付与できるのだろうか?

予測能力

　ゼロから構築され、生体脳とはかなり違った原理で作動する人工知能に出くわす時、驚かされることに備えなければならない。もしあるAIシステムが直感的に把握できないほど大量のデータと、高速な処理速度に頼っている場合、それはおそらく我々が完全に理解できない方法で、想定もしていない問題を解決するようになるだろう。

　要するに、人間レベルのAIは人間らしくなくても良いのだ。

最適化と不確実性

巡回セールスマン問題－－計画性に長けるという事はすなわちある種の最適化に長けているという事

しかし必ずしも可能な限り最善な回答とは限らない。

過去の経験に基づいて、確率を「知っている」のだ。

期待報酬を最大化する。

　試しながら学習し、学習しながら試す、トライ&エラー

普遍人工知能

　多様な状況における様々な行動のどれが最も効率的かを試しながら、期待報酬を最大化するタスクはAI研究者の間で強化学習として知られている。

　普遍人工知能とは、どのような世界にいようとも、得られた限りの情報に基づいて、常に期待報酬を最大化する行動を選ぶ人工知能だ。

　単純な汎用アーキテクチャ。世界の確率論的予測モデルを作る機械学習、そしてこれらのモデルに基づいて期待星を最大化する行動を見つける最適化の2つのプロセスを組み合わせたもの。汎用人工知能はこれと共通点がある。

分析するには以下の設問が有効

1)エージェントの報酬関数は何か?

2)このエージェントはどのように学習するのか?　どのようなデータを使うのか、どのような学習技術を使うのか、そして世界のどのような予備知識が組み込まれているのか?

3)このエージェントは期待星をどのように最大化するのか?　この最大化を行うのに使う最適化技術はどれだけ強力なのか?　どのような問題の解決にたけているのか?　そしてどのような弱点や限界があるのか?

　人間レベルの知能と人間に似た知能

　我々が想定しているのが人間レベルのAI家、超知能のAI家を問わず、先日の3つの質問を問いかけねばならない。

　しかし、同じ質問をその前にホモサピエンスにも投げかけなければならない。

　人間レベルの人工知能が人間らしくなければならない理由など存在しない。このAIがほとんどの知的活動分野で典型的な人間に匹敵し、場合によっては超えることができれば、その知能は人間レベルだと言えるのだ。

　人間にもたくさんのバリエーションがあるように、AIにも多くのバリエーションを考える余地がある。数学に強い人もいれば、文字に強い人もいる。社交的な人もいれば、技術と向き合うのが好きな人もいる。同じように、人間レベルの汎用人工知能にかなり大きなワーキングメモリ容量や、高度なデータパターンの検索能力が備わっていたとしても、(ほとんどの人間と同様)価値のある小説を書いたり、新しい楽曲を考え出したりする事はできないかもしれない。

　つまりは、認知的な強みと弱みのパターンを示すものだと予期しておいた方が良いだろう。言い換えれば、あるAIがある面では超人的に賢くありながら、同時に他の面では驚くほど不完全になり得ると言うことだ。

　どんなにチェスに強かったとしても、チェス以外のことに対応できないAIはあまり役に立たない。汎用知能として認定されるためには、AIは人間と同等の認知範囲を持つ必要がある。

　しかし、範囲と性能とは異なるものだ。例えばトライアスロン。

　

超知能

　脳ベースのAIでも、ゼロから作るAIでも、考えられる超知能の開発で最も可能性のある要素は多分、再帰的（自己の行為の結果が自己に返ってくるフィードバックループ）な自己改善の見通しだろう。

　プログラミング、これこそが自らの認知能力を高めるための自己改善を可能にするスキルである。指数関数的な自己改善のフィードバックサイクルを回すことで、知能の爆発を引き起こすことが可能になる。

超知能はどのように生じるのだろうか?

　0から人工知能を作る場合。

　１　正しい報酬関数を定めること

　２　世界モデルを作るべく、有効な学習技術を実行すること

　３　その学習されたモデルに見合った期待報酬を最大化し得る、強力な最適方法を展開すること

　範囲と性能の区別を念頭に、人間レベルの知能の段階を経ずに朝角に到達するAIの可能性。

　AIが適切な認知範囲、つまりほぼ全ての知的活動分野で人間のパフォーマンスに匹敵するような認知範囲を持つためには、世界への常識的理解を組み込み、かつそこから創造性が生まれるような最適プロセスと機械学習アルゴリズムの非常に強力な連携が必要となる。

　人間の脳は身体についている感覚器官のような特定の、空間的に局在したソースから流れてくる高帯域幅データの中からパターンを見つけ出すことに優れている。

　しかしAIは、動物の感覚データのように整理された示唆的な形式でデータが入ってくることを期待しないだろう。そしてデータを時間的、空間的に整理することも必要としないだろうし、近接するデータ項目同士が相関する傾向にあると言うような関連した偏りにも依存する事はないだろう。

　つまり、インターネットやその他の場所から収集した関連データへのアクセス方法は、媒介を必要としない直接的なものになる。大量のデータからパターンを見いだすように最初から設計されたAIなら、こうした分野で直ちに超人的性能を発揮するようになる。

ユーザーイリュージョンと擬人化

　人工知能の個体と言う概念はおそらく、不定形で環境に溶け込んだ人工知能という概念ほどは適切ではないと思われる。

　ユーザイリュージョンとは、マウスを使ってデスクトップ上のフォルダを動かすときに生まれる、本物の物体と相互作用しているような感覚を指すもの。

　超知能AIの場合、ユーザイリュージョンと言う利点は簡単に擬人化の有害さに変わり得る

　ユーザーイリュージョンが十分に説得力あるものであれば、我々はAIが根本的に異質な性格を持っていることを忘れてしまうだろう。このようなAIが言語を使う目的は純粋に手段として、つまり、未来における自己の報酬の最大化に資するために他ならないと言うことを忘れてしまうだろう。

　あたかも感情があるかのように振る舞っているとしても、感情的な基質もなければ、共感能力もないので、過去にAIから示された好意は全て偽物であり、AIの目標を達成するためにあなたから行動を引き出すための音声パターンに過ぎないことを受け入れるしかない。

AIと意識

　他のどの価値よりもまず先んじて教え込まなければならないものは、他者、そしてすべての感情ある存在に対して向けられる、仏教が説く所の慈悲の心だろう。

　AIに対して道徳的義務が生じるかどうか

　重要なのはAIに内的な意味の意識があるか、AIであるとはどのようなことかである。

　AIが人間社会に及ぼす影響についての議論

　意識の外的側面に限定して議論を進めることができる。

　超知能機械が「本当に」意識を－－いわゆる内的な意識を－－持っているのか、「本当に」我々に対して思いやりの気持ちを持っているのかどうかは、何の関係もない。意識があるかのように振る舞うことができれば、それで充分である。

　ただし、この単に思いやりを持っているかのように振る舞っているだけのAIが、永久にそのように振る舞い続けていくかどうかは重要である。

　ではそれをどのように確実に防ぐことができるのだろうか?

　アプローチの1つはAIをできるだけ人間的に設計することであり、その方法論の1つはAIの構造をできるだけ脳に近いものに設定することである。

　AIの基本設計が生体のに近ければ近いほど、その行動は我々が授けた基本的な価値体系を永遠に反映したものとなり、それをAIの知能が拡張されても変わらないだろう。との確信を持てるようになる。

　しかしゼロベースから作られたAIはどうなんだろうか?

　意識にとって重要な3つの認知属性

１　明白な目的意識

２　環境と現状に対する認識

３　知識と知覚と行動を統合する能力

AIの自己認識　人工知能にとっても必要な要素なのだろうか?

　AIのアイデンティティーは何によって構成されているのかと言う問題。

　それが保存しようとするものは正確にはどのようなもので、それが認識しているのはどのような存在なのか?

　身体化されていないAIを想像することができる以上、超知能AIが自らを認識するのに腕、足、触手などを備えた特定の物質的身体が不可欠であると考えるべき根拠は無い。

　またAIが特定のコンピュータハードウェアの集合に自らのアイデンティティーを見出すとする根拠もない。同一のコードが多数の異なるプロセッサ上で分散処理されることもあるし、その処理が中断されることなく別のプラットフォームに移行されることもある。　

　同じ理由で、AIが自らのアイデンティティーを特定の行動ベースに求めるとする理由もない。ソフトウェアに改変はつきものである。

人工的な人格　

　人間レベルもしくはそれ以上の知能のAIが果たして「人」とみなされ、人間に属するあらゆる権利と義務を付与されるべきかどうか?

　もしあるAIの知能が人間レベルであるだけではなく、挙動までもが人間そっくりなら、人々の見方は変わるだろう。

　そしてそのようなAIの脳が生体的な青写真に基づいているのなら、奴隷制廃止の主張と同じ論理に沿って、そのAIを人として認め、権利と義務を与えようとする説得力のある主張がなされるだろう。

　最も重要な人権の1つはもちろん、自由そのものであり、他人に害を及ばさない範囲で好きなことをするという自由。

　しかし、人権を得るには、そもそも自由と言う概念を理解するために、このAIには単に政府両方の感情を経験する能力以上のものが求められる。

　まず、このAIを世界に採用しなければならない。必ずしも神大家を意味すると限らない。AIは体がなくても、各種の装置を制御することによって世界に作用できる。

　AIはまた自律的、つまり人の手を借りずに動けるものでなければならない。これのみならず自分のための決定を意識的に行い、行動の選択に石を動かす能力も必要だろう。

　では、AIの2つのコピーが存在するようになったらどうだろう?

　財産、相続、罪を犯した後に複製されたらどうなるだろうか?

精神のアップロード

　解決すべき最も重要な問題は、人間の全脳エミュレーションが果たして個人のアイデンティティーを保存するかどうかということ。

　その時、私は果たして同じ人間なのだろうか?　私のアイデンティティーはこのプロセスを通じて存続したのだろうか?

　アイデンティティーという概念は唯一性を前提としている。あるものが同時に2つのものと同一ではありえないことと同じように、1人の子供2人の大人には成長できない。それでも全脳エミュレーションの可能性によって、この仮定は危ういものになってしまう。

　末期の病に患ってしまった。精神のアップロードは個人のアイデンティティーを保ってくれると確信しているので、全能エミュレーションは生き延びる最良の希望である。

　念のため2つのエミュレーションを作らなければならないと告げられる。

　書類にサインする段階になっても、あなたはどちらが自分なのかを自問せざるを得ない。どちらの体で目覚めるのだろうか。

道徳的制約を報酬関数に埋め込む。真っ先に思い浮かぶのがロボット工学三原則だろう。

　超知能に至る方法として実現性が高いのが、再帰的な自己改善である。その系譜における最初のAI .シードAIには超知能は宿らないであろう。後継のAI群に比べてパワーは大幅に落ちるはずだ。そんなシードAIに、一連の基礎となる価値と道徳の原理を授けることができるかもしれない。

　プラトン『国家』の中でソクラテスは、人間がどのように生きるかを問うている