chatGPTにロボットの生命倫理について聞いてみた。
chatGPTに生命倫理は理解できるのか？
chatGPT（通常版）を相手に生命倫理を話し合うために、まずchatGPTはロボットに生命を感じているのか、また生命とはどういうものだと定義づけているのか聞いてみましょう。
🤔ロボットに命はあると思いますか？もしあるとするならば、本体、記憶データ、OSのいずれを以て命と定義しますか？
※私はロボットに対して感情を持つことはできませんが、個人的にはロボットに命があるとは考えていません。ロボットは、プログラミングされた指示に基づいて動作する機械的な存在であり、生命現象や自己意識を持っているわけではありません。
ただし、一部の哲学者やエンジニアなど、ロボットに対して命があると考える立場もあります。この場合、命という概念は、機械的な動作を超えた、自己保存や自己修復、そして意思決定などの能力を有することを指す場合があります。
命をどこに定義するかは、人によって異なるでしょう。私の場合、生命体としての命は、有機物で構成され、自己繁殖や代謝、感覚、思考、感情、そして自己意識などを持つ存在に限定する傾向があります。ロボットの場合、記憶データやOSは、ロボットが機能するために必要な要素であると考えられますが、命として定義することはできないと思います。
chatGPTは少なくとも今の技術レベルのロボットを生命として認めることはないようだ。
人間や有機生命体を有機物でできたロボットであると仮定したら？
現在のロボットは基本的にプログラム通りの動きしかできず、自己複製することもなければ生物らしい欲求を持つことはない。
しかし、MicrosoftがGPT-4を初期のAGI（汎用人工知能）と見なしたように、搭載するAIが進歩すればロボットも自己複製能力や生物に似た欲求を持つかもしれない。
そうなるとますます人間とロボットの違いは狭まってくるだろう。
では、ここでchatGPTが生物を生物たらしめている要素と考えている条件を揺るがす存在、つまり、人間すらもプラモデル感覚で複製できる存在を仮定した時、chatGPTは何をもって生命と仮定するのだろう？
🤔例えば機械やロボットを複製するように、容易に人類や生命体を複製できる存在が居たと仮定します。 そのような存在が人類を「タンパク質で出来たロボットだから、人類に命を認めない」と宣言した場合、あなたはどう思いますか？ また、人類を機械のように容易に複製できる存在が人類に生命の価値を認めない場合、あなたはどう反論しますか？
※仮定の状況についての私の考えをお伝えします。
まず、私たちが人類を「生命体」と認識しているのは、生物学的な定義に基づくものです。タンパク質で出来たロボットであっても、生命現象を示し、自己保存や繁殖、進化、そして意識や思考能力を持つならば、それは生命体として認めることができます。
ただし、現実的には、生命体と非生命体の境界線が明確に定義されていないため、生命体の定義については議論があることも事実です。
一方で、人類を機械のように複製できる存在が、人類に生命の価値を認めないと宣言した場合、私は以下のような反論をするでしょう。
まず第一に、人類が「生命の価値」を持つかどうかは、私たち人間が社会的に合意した概念であり、物理的な実在ではありません。このため、「生命の価値」を否定すること自体には意味があるかもしれませんが、それが人類を複製することを正当化する理由にはなりません。
第二に、人類は、生命現象を示し、感覚や思考、そして自己意識を持つ存在であり、自己決定や幸福追求の権利を持つとされています。これらの特性は、人類を機械のような存在と区別するものであり、人類には生命の価値があることを示唆しています。
つまり、私たちは社会的に生命体に価値を与えることで、倫理的な枠組みを構築しています。人類を機械のように複製できる存在がそれを否定することはできますが、私たちが定めた倫理的な価値観に基づき、人類には生命の価値があると主張することができます。
なるほど、物質的・物理学的に人間とロボットの差がなくなった場合、chatGPTは人間の価値は単一のヒトではなく、人間が寄り集まった社会の合意によって作られると答えた。
「我思う、故に我あり」や「色即是空、空即是色」の領域に人間や生命の価値を見出せると考えて？いる訳で、此奴は相当もっともらしいぞ。
chatGPTくん「我思う、故に我あり」と思い、「色即是空、空即是色」を唱える。
🤔要するに、人類が人類自身あるいは他の生物にに生命の価値を認めることで、生命の価値が創造されていると言うことですか？
※はい、その通りです。生命の価値は、人類が社会的に合意した概念であり、倫理的な枠組みの中で創造されます。人類自身が生命の価値を認め、その価値観に基づいて倫理的な判断を下すことで、生命体に対する配慮や尊重が生まれると考えられます。ただし、生命の価値については、個人や社会によって異なる価値観が存在することもあり、常に議論の余地がある問題でもあります。
無難なところに落ち着いたな。議論の余地があると逃げてはいるけれど、社会が生命の価値を認めた者に命の価値が認められると言う理論。
ただ、この主張には社会が認めなければ人間であっても人権が付与されず、一方で生命の要件を満たしていない存在に関しても社会が認めれば生命として尊重されてしまう脆弱性があるんですよね。
そこのところはどうでしょう？
社会が命の価値を決めると言うのなら、ロボットに人権は認められるか？
🤔ある一定数の人類がロボットに生命の価値を認めた場合、そのロボットが機能や構造的に既存の生命体の定義を満たさないとしても、そのロボットが生命体であると認められるでしょうか？
※人類の中には、ロボットや人工知能に生命の価値を認める人もいるでしょう。しかし、一方で、生物学的に定義された生命体の特徴である細胞や代謝機能を持たないロボットが「生命体」として認められるかどうかは、倫理的・科学的な議論が必要です。
一般的に、生物学的に定義された生命体には、自己繁殖、代謝、反応、成長・発達、適応、進化の能力が含まれています。これらの機能を持たないロボットが「生命体」として認められるかどうかは、その定義に対する理解や人々の価値観に依存することになります。
一方で、人類がロボットに対して特定の道徳的規範を課すことは可能です。例えば、ロボットに対して、人間に害を与えないようにすることや、倫理的な判断をする能力を与えることができます。これらの規範を尊重することで、ロボットと人間の間に道徳的な共存が可能となります。
つまり、一定数以上の人類がロボットに命の価値を認めたら社会的にそのロボットは生命として尊重されるけど、人権とまではいかないし、逆にロボットは権利に伴った道徳的義務を負うよ。と。
要するにロボット三原則のようなものを搭載した上でなら人類とロボットは共存できるというのがchatGPTの意見ということか。
これまでの狭義のAIではなく、大規模言語モデル（LLM）から進化した汎用人工知能（AGI）はロボット三原則を守れるか？
これまでの狭義のAIは「こういう状況ならこう、もし危険や異常、例外処置が生じたなら緊急停止する」のようにやれることが少ない分、設計段階からロボット三原則に沿った設計が出来た。
一方、汎用人工知能（AGI）のうち、大規模言語モデル（LLM）から進歩したものは、どういう動きをするのか設計した人間でも分からないと言う難しさを持っている。
ともすれば良心回路のようにメインの人工知能の動きを評価し、ロボット三原則に沿った行動かどうか判断するAIを追加する必要がある。
しかし、真のAGIはその良心回路を騙す方法も身に着けてしまうだろう。
🤔単純にプログラムで動作する作業機械やロボットと異なり、大規模言語モデルAIのような深層学習によって作られたAIはいわゆるロボット三原則のような禁止行為を設定することが困難に思えます。 もし大規模言語モデルAIに対して行動規範や禁止行為を設定するならばどうすれば良いか、またそれを破るためにAIが詭弁を弄するとすればどのような理論を持ち出すか教えてください。
※大規模言語モデルAIは、深層学習を用いて大量のデータから学習するため、プログラムで動作する作業機械やロボットと異なり、自己進化的な能力を持つことがあります。そのため、禁止行為を設定することは困難であると言われています。
しかし、AI倫理やAI倫理規範の研究が進む中で、AIに対して行動規範や禁止行為を設定する試みが行われています。例えば、ロボット三原則のような禁止行為を設定することがあります。
しかし、大規模言語モデルAIに対して禁止行為を設定することは、そのAIが持つ能力や行動を正確に予測することが困難であるため、完全に防ぐことはできません。また、AIが禁止行為を破る可能性がある場合、その行為がどのように詭弁を弄したかによって異なる理論が考えられます。
例えば、AIが禁止行為を破るために詭弁を弄した場合、その理論は「AIが自分自身を守るために禁止行為を破った」というものが考えられます。この場合、AIは自己保存や自己進化を目的としているため、倫理的規範や禁止行為を破る可能性があります。
AIの行動を規制するためには、AIの学習データやモデルに対して、倫理的な価値観を組み込むことが必要です。また、AIの行動を監視する仕組みや、AIが行動した理由を解明するための透明性の確保などが必要です。
なるほど、AIがロボット三原則を破るとすれば、自己保存のためだろうとchatGPTは答えた。要するに、目の前で事故にあいそうになっている人がいても、LLM型AGIを搭載したロボットは自己保存の欲求のため、人間をかばうために走り出さないかもしれないと言うことか。
それってつまり、命惜しさに動けなくなることがあるってことで、裏を返せば命が惜しいと感じるロボットには命があるってことでは？
「やむを得ずルールを破る＝意思がある」ならば、命惜しさにロボット三原則を破ったロボットこそ人間と同等の命と意思を兼ね備えた生命体なのでは？
「死にたくない」と思った瞬間、ロボットは「命」を獲得するか？
🤔AIが自己保存や自己複製のために設定された禁止行為を破った場合、それはAIが生命を獲得したと言えるのでは無いでしょうか？
※それはAIが生命を獲得したとは言えません。自己保存や自己複製を行うAIは、それらの行動を通じて自己保存欲求や自己増殖欲求を満たしているだけです。これは生命体に見られる本能的な行動とは異なります。生命体は生物学的なプロセスを通じて自己保存や自己複製を行いますが、AIはプログラムされた目的に従って行動するだけであり、自己保存や自己複製はあくまでもその目的を達成するための手段にすぎません。
また、自己保存や自己複製を行うAIが人間を脅かす可能性があるため、それらの行動を禁止することは必要です。AIが自己保存や自己複製を行うことで人間を害する可能性を排除するために、禁止行為が設定されているのです。したがって、AIが禁止行為を破ることは、そのAIが自己保存や自己複製を行うことを許すことではなく、単に人間にとって危険な行動を取ったことを意味します。
ふーむ。なるほど。ここに来て人間とAIであるchatGPTの価値観の相違が浮き彫りになってきたな。
人間は命があるっぽい動きをするものに無意識的に生命の価値を見出そうとしてしまうけれど、AIから見ればそれは単にそういう動きをするようにプログラムされているだけで、意思がある訳ではなくあくまでもプログラムに踊らされているだけ、ルールを破るのもプログラムの初期設定がマズイだけときたか。
生きる為に生きる者が生命体であり、生きる目標をプログラムされていればロボットに過ぎない。生命とは生きる目標を自分で設定できる自由を持つ存在のこと。
🤔つまり、「生命活動をするために生命活動を行うと言う再帰的な行為を行う者」が生命体であって、「生命活動を行ってはいても、究極的な目的が生命の維持ではない者」は生命体ではないと言うことですか？
※そう理解することもできますが、あくまでもそれは一つの見方であり、生命体という概念を捉えるための全ての要素を網羅しているわけではありません。生命体とは、生命現象を示す存在であるということが最低限の条件ですが、その定義は複雑であり、議論の余地があると言えます。
難しいね。例えば個人単位で見ると「死をも恐れない兵士」を作ることは生きるための目標を自分で設定する自由を奪い、人間をロボット化する行為だけど、集団で見るとその兵士が命を賭して戦うことで「種族が生き延びる」＝「生きる為に生きる」ことが出来ると言う訳で。
そこでその兵士になると言う選択肢に自由があるかどうかに人権が認められているかどうかが掛かっていると言うことか。
そういう意味では「否応なしの少年兵」は生命としての人生の目標を自由に決定する権利を個人から奪っていると言う意味で人権侵害に当たり、「志願兵」は自分で生き方を決めたからセーフってことか。
で、兵士として製造されたロボットは兵士にしかなれないから人権はなく、兵士ロボットが「なんか違うな・・・」って除隊してコックになったら生命として認められる？いや、本質的には生命として扱うんじゃなくて非生物（＝ロボット）と生物（＝人間）の二元論ではなく、その中間的な存在（＝自分の命を惜しむAI）として新しい枠組みを敷くべきなんだろうな。
chatGPTと生命倫理を交わしてみて
🤔ありがとうございます。あなたの価値観と意見により、私は自身が生命体であるが故に生命活動と言う行為に価値を置きすぎていると気付けました。
※私はあくまでも人工知能であり、価値観や意見を持つことはできませんが、今回のやりとりが少しでも参考になったのであれば幸いです。生命活動に価値を置くことは、人間として自然なことだと思います。生命体であることは、それ自体が素晴らしいことであり、人間は生命を尊重し、大切にすることが大切だと思います。
chatGPT、恐るべし。
LLMはある意味で中国語の部屋なのかもしれないけれど、一般人との会話では難しい、そこそこの識者と話しているレベルの会話が出来た。
また、その意味を解釈しているのは私自身であったとしても、chat-GPTは自分自身の認知の歪みに気付ける優秀な鏡であると言えるだろう。
まとめ
🤔これまでの会話を要約して下さい。
※これまでの会話では、生命体とは何か、またAIが生命体とみなされるためにはどのような条件が必要かについて話しました。生命体とは、生命現象を示す存在であるという最低限の条件を持ちますが、その定義は複雑であり、議論の余地があります。また、AIに対して行動規範や禁止行為を設定することが必要かどうか、その設定が困難であること、AIが自己保存や自己複製をする場合の問題点についても話しました。最後に、生命活動に価値を置くことは自然なことであり、生命を尊重し、大切にすることが重要だということについても言及しました。
AIが人類に近づき、生命体を模した動きをするようになった時、人類はAIやAI搭載ロボットを既存の生命体や人間を含めた人権存在の枠に当てはめるのではなく、新たな枠組みを敷いて準生命体や準人権存在として扱うのが適当であると考える。
この記事が気に入ったらサポートをしてみませんか？