【「ＡＩ検察官」が中国で開発される AIの使い方を誤ると恐ろしい結果を生む】
🔷 ＡＩに依存しすぎると恐怖政治を生み出すことになりかねない実例があります。
🔶 ＡＩはビッグデータを超高速で解析できますが、人間が判断しなくなり、ＡＩに判断まで任せていると間違ったことまでが正しいという結論を出しかねません。倫理観まで踏み込んだ判断はまだＡＩにはできません。シンギュラリティ（技術的特異点、ＡＩが人類を超える）は本当に起きるのでしょうか？
Newsweek日本版の記事
Newsweek日本版（2022/01/07 18:30）が取り上げた今回のテーマは、「ＡＩが97％の精度で起訴する『ＡＩ検察官』が中国で開発される」というものです。
さっそく記事を見てみましょう。
▷ 犯罪が疑われる事件の記述をもとに97％超の精度で起訴できる ◁
「この『AI検察官』は、中国で最も広範で多忙な地方検察庁である上海市浦東新区人民検察院によって開発され、試験的に導入された。犯罪が疑われる事件の記述をもとに97％超の精度で起訴できる」
「研究者チームは『意思決定プロセスで、ある程度、検察官に置き換えられる』と評価。『AI検察官』の導入によって、検察官の業務負荷が軽減され、検察官がより難易度の高いタスクに集中しやすくなると期待している」
「中国では、法執行機関においてすでにAI技術が活用されている」
🔶 まず、「97％超」という数値に疑問を感じました。この数値はどのようなプロセスを経て出てきたものなのか明確になっていません。意図的に誤ったプログラムやデータを潜り込ませることで重大な結果をもたらす可能性はあります。データ数だけでは判断材料になりえません。
▷ １万7000件超の刑事事件を用いて学習させた ◁
「研究者チームは、標準的なデスクトップコンピュータで動作する『AI検察官』を開発。2015年から2020年までの1万7000件超の刑事事件を用いて学習させ、人間が作成した事件の記述から1000の特性をもとに起訴できるようにした。 現時点で、上海で犯罪件数の多いクレジットカードの不正利用、賭博、危険運転、窃盗、詐欺、傷害、公務執行妨害のほか、日本語で『騒乱挑発罪』とも訳される『寻衅滋事罪』を起訴する」
４つの疑念
🔶 ４つの疑念が浮かびます。詳細がわからないためです。
１ 1万7000件超というが絶対数が少なすぎないかということ。
２ ＡＩに前もってある意図を持ってプログラミングしていた場合、誤った方向へ導くことが可能であること。
３ ＡＩに判断まで任せて良いのか。
４ 1000の特性とはどのようなものか。
懸念
懸念も示されています。至極もっともなことです。
「『AI検察官』の導入に対し、懸念も示されている。広州市のある検察官は『技術的見地に立てば、97％の精度は高いのかもしれないが、判断を誤る可能性は常にある。間違いが起こったとき、いったい誰が責任を負うのだろうか』と指摘。『AIはミスを見つけるのに役立つかもしれないが、意思決定において人間の代わりにはなりえない』と主張している」
日本でＡＩ検察官あるいはＡＩ警察官の導入はありえない
🔶 日本でもしＡＩ検察官あるいはＡＩ警察官なるものが導入されたら（まずありえませんが）、恐怖政治が行われることは間違いないでしょう。
時の政権にとって都合の悪い人物を逮捕、起訴しようとすれば、できないことではないからです。
『ＡＩの衝撃 人工知能は人類の敵か』小林雅一 著 講談社現代新書
手元に少し古いですが１冊の本があります。
『ＡＩの衝撃 人工知能は人類の敵か』
小林雅一 著 講談社現代新書
2015年3月20日第1刷発行
2017年2月9日第12刷発行
この本の中に、次の一節があります。
フレーム問題という名称の由来ですが、『フレーム』とはある問題を解く上での『枠組み』を意味します。ロボットやＡＩ、もっと広く言えばコンピュータは、ある限定的な枠組み、たとえば『チェス』や『将棋』のようにルールがしっかり定まった限定的な世界であれば無類の力を発揮します。しかし現実世界のように、何が起きるか分からない状況、つまり限定的な枠組みを決めることができない世界では壁にぶち当たります。
（PP.59-60）
ＳＦの世界と現実
🔶 ＡＩは今後も進化していくことでしょうが、ＡＩに人間がコントロールされる社会は絶対に避けなければなりません。ＳＦの世界だけにとどめてほしいですね。
🔶 東野圭吾さんの小説に『プラチナデータ』（発売：2012年7月5日）という面白い小説があります。ＡＩそのものを扱った小説ではありませんが、ＤＮＡ捜査システムから重要なデータを故意に削除したことにより、被疑者の特定を誤り事件が起こる・・・という内容です。
＜参考サイト：総務省による文献＞
🌟 AI 脅威論の正体と人と AI との共生
https://www.soumu.go.jp/main_content/000740728.pdf
出典元
🌟 ＡＩが97％の精度で起訴する「ＡＩ検察官」が中国で開発される
https://www.newsweekjapan.jp/stories/world/2022/01/ai97ai_1.php
サポートしていただけると嬉しいです。 サポートしていただいたお金は、投稿のための資料購入代金に充てさせていただきます。