ロボットが守るべき原則について

アシモフの有名なロボット三原則にはさらに第ゼロ原則なるものがあり、人類全体への原則となっている。

the zero law : A robot cannot cause harm to mankind or, by inaction, allow humanity to suffer harm.
ロボットは、「人類」に危害を加えてはならない。またその危険を看過することによって「人類」に危害を及ぼしてはならない。（第一原則での「人間」を「人類」に置き換えたものにほぼ等しい）

wikipedia ロボット工学三原則など

また、映画「オートマタ (automata)」ではプロトコルという言葉で２つの原則が提唱されている。

protocal (1) : They cannot harm any form of life.
               (2) : They cannot repair,or modify or alter themselves and other robots in any way. (cannot ではなく may notかもしれない）
(1) 生命体へ危害を加えてはならない
(2) 自己または他のロボットに対して修理、修正や改造をしてはならない

automata

そして最近になってAI研究者が四原則を提唱している（サイトはこちら）。

「New Laws of Robotics（パスカーレ著）」

ロボット三原則が破られる映画がいくつかある。例えば、１つ目、ウィルスミス主演の「アイロボット（I, Robot)」。破る理由としては、単純化すると、人間を自由にさせておくと潜在的に人類全体に対して悪影響があるのでロボットがコントロールしますよ、ということだ。人に危害が及ぶことに対して「看過( inaction) 」してはならない、という第一原則の条件には合っている、といえば合っているのだが。人に対してなにもしない（看過する）と人は人に対して悪さをするでしょ？ということだ。
２つ目の例は、ちょっとマイナーかもしれないがダンカン監督の「月に囚われた男（Moon)」に出てくるガーティというアシスタント的なロボットだ。所有者であるルナ会社に背いて、主人公サムにパスワードなど教えてしまう。これは第二原則、命令への絶対服従に反しているといえば反している。が、会社からはおそらくサムが月での生活で困らないように面倒をみなさい、助けなさい、とも言われているはずで、本編内でも「あなたを助けるのが（ヘルプするのが）仕事です。」と答えている。こちらの命令を優先させただけで、第二原則を破ったわけではない、ともいえるだろう。

その他、Googleなども独自に原則などを提唱しているが、もう直近の未来では自律的に動くロボット（自動運転のクルマ、自走清掃ロボットなども含む）が増えてくる。AIは、じゃあ、暇なときに何をするのだろうか？特にやることがなければ、ぼーっと思索に耽ることもあるだろうか。自分の存在の根源を探るため、GPUを駆使して宇宙の始まりを考え込むかもしれない。とんでもない電力がかかってしまう！

そこで上述のいくつかの原則に加えて、以下のエコシステムの原則も必要になってくるのではなかろうか。

ロボットはなるべく省電力に努めなければならない

「カオス研究所（仮）」代表　ちょっこう

まあ、もっともなことかもしれないが、実装するとなると大変かもしれない。GPUをフルパワーで使うことがないようにいわば「スリープモード」に入りなさい、という命令をすることになるが、いざというときにはすぐにスリープから抜け出さないといけない。
キーボード入力やその他、五感に関するセンサーへの入力（音声、視覚、触覚などなど）をイベントハンドラーのように待機状態にしておくことになるだろうが、万が一、それらの入力手段の故障などで入力を感知できなくなったらどうするか。全感知能力喪失となっても復帰できるように、ある時間が経過したら自発的に起きるループも設けておく必要があるだろう。１日なのか１週間なのか、、。