ロボットに殺される世界を回避する

　昨日の地雷の話からの流れで、いわゆるキラーロボットについて少し触れたいと思います。対人地雷禁止条約の成立の裏には各国に働きかけた地雷禁止国際キャンペーン（ICBL）の存在がありました。それと同じように現在国際的に禁止キャンペーンが繰り広げられているのがキラーロボットです。しかしこの話はなかなか前進していません。この問題の論点をいくつか紹介します。

§キラーロボットの問題点。
　一番の問題点は、敵味方の判断だけでなく、軍属の兵士と民間人の区別や、襲ってくる的と降伏の意志を示す敵の区別は困難であるという点。地雷もそうですが、一度導入されたら誰彼構わず殺傷する可能性のある兵器など作られるべきではありません。

§責任の所在
　もう一つの問題点として挙げられるのは、責任の問題。もしキラーロボットが戦争などで使われた場合、開発者が悪いのか、プログラマーが悪いのか、戦場に導入した軍の司令官が悪いのか、その軍を持つ国そのものが悪いのか、責任の所在をどこに求めるのかが難しい。これは車の自動運転の自己責任と同じような話ですね。開発禁止を進める際に技術者レベルにアプローチするべきか、使用者となる軍や国家の関係者にアプローチするべきなのか。

§まだ存在していない兵器の禁止は難しい。
　地雷はすでに存在していたので、何を止めるべきかはっきりしていたし（今は少し複雑化してきていますが）、犠牲者もいて悲惨さや残虐さ、非人道性など訴えやすかったのですが、キラーロボットはまだ存在していないため、何をどのように制限するのが有効なのか非常にイメージしづらいという側面があります。※盲目化レーザーという開発前に禁止された前例はあるようです。

§定義が曖昧。
　その１にも関連しますが、実際に存在せず明確な被害が出ていないだけに、禁止する枠組み、キラーロボットとは何を指すのか、を明確にするための定義がなかなか定まりません。これは結局最後の最後まで残る課題かもしれないそうです。

§ロボットの平和利用を妨げない。
　これは原子力と同じ表裏一体の問題です。キラーロボットの禁止キャンペーンが誤ったイメージを助長して、ドローンなどの先端技術の開発によって得られる恩恵までも阻害するということを懸念するという論調があります。

　そんなこんなで、議論がなかなか深まらず進展しない中、昨年夏に予定されていた国際会議を国連が資金不足を理由に延期するというニュースがありました。しかし、そうした中でテスラのイーロン・マスク氏らがその危険性を訴え、禁止に向けた動きを加速すべきだと表明して話題になりました。
「イーロン・マスクらAI専門家、自律型ロボット兵器の早期禁止を国連に求める公開書簡に署名」（Sustainable Japan）

　戦争や武器の話になると日本は概ね及び腰になりがちですが、すでに日本企業の武器産業への進出は活発になってきています。世界有数の軍事大国である日本もこうした議論の中で一定のプレゼンスを示していく必要があるでしょう。

　で、来週4月17日（火）に衆議院第一議員会館で「キラーロボットのない世界に向けた日本の役割を考える勉強会」というのが開かれるそうですのでご関心のある方は申し込まれてみてはいかがでしょう。
https://www.hrw.org/ja/support-us/event/316520

ちょっと話題がマニアックな方向に傾きすぎかな