AIは人類の驚異になるのか
AIのようなテクノロジーの発展にはポジティブなのですが、いつの時代にも技術の発展へは警鐘を鳴らす声があります。AIの活用が現実的で当たり前になりつつある現在において、どのような「AI驚異論」があるのかを調べてみました。
論文：AI 脅威論の正体と人と AI との共生
総務省のWebサイトに掲載されている学術雑誌『情報通信政策研究』の第4巻第2号（令和3年3月25日刊行）に、「AI 脅威論の正体と人と AI との共生」という論文が掲載されています。
AIが負の影響を与える要素の1つとして、認知バイアスの問題があります。AIはデータから学習をしていきますが、そのデータ一つ一つにバイアスが含まれていれば、そのバイアスも学習されることになり、その結果AIが人種差別をするような判 断をしてしまうといった問題が発生することになります。
そして、次世代のAIは、自動化から自律化へ向かっていきます。自動化とは、製造した人がゴールを設定しますが、自律化はAIがゴールを設定していきます。これが悪い方に応用されると、自らの判断で最後のトリガーを引く兵器になります。数カ国にて開発が行われており、すでに実用化のレベルに到達した兵器も存在しています。
AIの制御可能性についても、常に議論が続いています。現在のITシステムも同じ問題を抱えていますが、万が一、制御できなかった時にはどう対応していくのかの課題は残り続けます。
また、見せ方が誘発する問題もあります。AIが実際の人間に近づけば近づくほど、「不気味の谷」の問題が発生します。不気味の谷とは、AI やロボット技術を用いて、人のような CG やアンドロイドを作ると、人に似せるほどに 人が不気味に思うようになってしまう、という現象のことです。故人をAIで蘇らせるプロジェクトが存在しますが、そこには賛否の意見があります。
【ケース 1】 AIと戦争の危険な合体 忍び寄る新たな戦争の脅威 | NHK
LAWS（致死型自律AI兵器）がすでに開発され、実戦でも使われはじめています。19世紀のダイナマイト、20世紀の核兵器に次ぐ、軍事革命になるとも言われています。
文字通り、自律型 AI を搭載した兵器が、自らの判断で最後のトリガーを引く兵器の開発である。残念ながら数カ国にて開発が行われており、すでに実用化のレベルに到達した兵器も存在している。国連において、LAWS 禁止に向けた取り組みも行われているが、そもそも言語道断である戦争において、さらに言語道断である「機械が人の命を絶つ」ということが現実とならないため、まさに人類の知恵が試されている状況にある。
そして、戦争中のプロパガンダにもAIが活用されつつあります。フェイク動画の作成はAIによってつくることができますが、今後はより瞬時に作成することができるようになり、デマを拡散していくことができるようになると想定されています。
国連の中でもAIを戦争で使うことへの規制を考えるべきだという議論がされてきましたが、今起こっているウクライナでの戦争を見ると、それは機能していませんし、今後、効果的に制限する方法が出てくるのかもわかりません。むしろ、各国はドローン兵器など、軍事分野でのAI活用への投資を加速的に増やしていくのではないでしょうか。
【ケース 2】 自動運転時の事故における責任の所在はどこにあるのか？
現時点の日本においては、以下のようになるようです。
組み込まれたソフトウェアの不具合が原因で自動運転車による事故が発生した場合については、製造物責任法の現行法の解釈に基づき、自動運転車の車両としての欠陥と評価される限り、自動車製造業者は製造物責任を負うほか、ソフトウェア関発者が別途不法行為責任を追及される可能性があるとしている。
ですが、刑事責任関連については、下記のようになります。
今後の交通ルールの在り方に応じて検討が行われるべきものであるとし、自動車事故により死傷結果を生じさせた者に対する刑事責任については、実際の事例ごとに注意義務違反や因果関係の有無などを判断するものとした。
では、次のような「トロッコ問題」が発生した場合、AIはどう判断すべきなのでしょうか？
たとえば，「1台の 自動運転車が，海沿いの崖の上の道路を走行してい たところ，対向するトラックが突然反対車線に飛び 出してきた。このまま直進すれば，トラックに衝突 して自動車の乗員が死亡し，トラックの乗員が負傷 する。左にハンドルを切れば，海に落ちて自動車の 乗員が死亡する。右にハンドルを切れば，乗員は助かるが，歩行者をひいて死亡させる。この場合，自 動運転車は，いかなる選択をなすべきか。乗員が85 歳の老人である場合，あるいは歩行者が乳児を抱い た母親である場合に結論が異なるか？」
功利主義と義務論の対立を扱った倫理学上の問題・課題は、AIが発展したとしても残り続けるのだと思います。
【ケース 3】わたしがAI美空ひばりをゆるさない理由
2019年、「AI美空ひばり」が誕生しました。30年以上前に亡くなった美空ひばりが新曲を歌うという一見不可能だったことを、ヤマハの専門スタッフがディープラーニングを活用して美空ひばりの歌声と歌唱法を追求し、完成させたプロジェクトです。
この年のNHK紅白歌合戦にも登場し、大きな話題となりましたが、批判や問題意識を持った意見が多数出ることになりました。その後、積極的に使われていないことを考えると、現時点の日本では広く好意的に受け取られてはいないように思います。
論点としては主に2つになると思っています。
それは、「本人の意志を無視している」「他人の意志が反映されている」の2つです。
「AI美空ひばり」は、日本を代表する国民的歌手だっただけに、「親しい人々の合意」だけあればよいのだろうか？という問いを投げかけることになりました。
ELSI（エルシー）：進みすぎた科学が抱える「倫理的・法的・社会的な課題」を考える
新規に開発された技術が、社会で広く使われるようになるまでにはさまざまな課題が出てきます。法律や倫理、あるいはその技術が社会に受け入れられるかなども検討する必要が出てきますが、そうした「倫理的・法的・社会的な課題」をまとめて「ELSI」（エルシー）と呼びます。
ELSIとは、以下の略称です。
「E」…Ethical（倫理的）
「L」…Legal（法的）
「S」…Social（社会的）
「I」…Issues（問題）
約30年前、アメリカなどで始まった「ヒトゲノム計画」の中でELSIという言葉が生まれましたが、近年ではAIの分野でも注目されています。
日本でも、2020年頃からELSIの研究拠点を開設する大学が出てきました。これからELSI研究のあり方を検討したり、ELSIに関わる人材が育成されていくことになると思いますが、成熟するのにはもう少し時間がかかるのではないでしょうか。
ドラえもんの世界のように、未来の技術と深い絆で結ばれた友達になれるといいですが、そのためには哲学的・倫理的・法的なガイドラインが必要で、これからのELSIの発展が期待されます。
この記事が気に入ったらサポートをしてみませんか？