政治（科学技術）講座ⅴ1696「AIによる核兵器管理の是非」
人工知能は万能でない。そして、神ではない。時々チャットに質問するが理論的な回答は支離滅裂なのである。学習機能AIも所詮はアルゴリズムという人間が作成したプログラムによってその指示通りに知識を検索して活用するものである。そのアルゴリズムの不出来によって性能が決まるのであるが、そこにプログラマーの恣意的なアルゴリズムがあるととんでもない動作を起こすことになる。そのようなアルゴリズムに最終兵器たる核兵器の判断と管理を委ねて良いものであろうか。否。今現在、小学生の算数の問題に対してもまともな回答が得られない状態に安心して管理を委ねる人の常識を疑う。今回はAIの導き出した小学生の算数の回答を例として掲載する。
皇紀2684年3月21日
さいたま市桜区
政治研究者 田村 司
AIの導き出した小学生の算数の回答
小学4年生の算数の問題
問題
アナログ時計がある。今、その時計の針の大きい針と小さい針が零時を刺して大きい針と小さい針が重なっている状態である。この時計が再度大きい針と小さい針が重なる時刻は、いつか？
読者の皆様も挑戦してみてください。試しにAIの回答と比べると面白い。コメント欄に回答を乞う。
ご参考：AIの誤回答をコピーした。
アナログ時計 針 重なる 時刻 を検索しています。
回答を生成しています…
アナログ時計の短針と長針が重なる時刻を求める問題は、中学受験の算数に出てくる問題の一つです. 短針と長針が重なるというのは、長針が短針に追いつくことを意味します。短針と長針の進む速度は決まっています。短針は1分間に0.5°進み、長針は1分間に6°進みます.
問題文によると、現在の時刻は0時で、短針と長針が重なっています。短針と長針が重なるというのは、長針が短針に追いつくことを意味します。短針と長針が重なるまでの時間を求めるために、短針と長針のあいだの距離を求めます。0時のときの短針と長針の角度は90°です。短針と長針のあいだの距離は90°です。短針と長針のあいだの距離を縮めるのに必要な時間は、短針と長針の進む速度から求めることができます。短針と長針のあいだの距離を縮めるために必要な時間は、90°÷5.5°≒16.36分です。よって、再度短針と長針が重なるのは、0時から16分36秒後になります。
感想
残念！間違いです！0点！呵々！
アルゴリズムを作っているプログラマーの皆さん、頑張ってください！
次に報道記事を紹介する
「核兵器管理にＡＩ」懸念、上川外相が国連安保理で表明へ…中露念頭に「人間の関与」求める
読売新聞 によるストーリー
＝帖地洸平撮影© 読売新聞
１８日に米ニューヨークで開かれる国連安全保障理事会での「核軍縮・不拡散」に関する閣僚級会合で、上川外相が行う演説の原案が判明した。核兵器の運用・管理にＡＩ（人工知能）が利用される可能性に懸念を表明し、核保有国の中国やロシアを念頭に「人間による管理と関与の維持」を呼びかける。
上川氏は演説で、核兵器について「ＡＩなどの新興技術が及ぼし得る影響を、非常に高い関心を持って注視している」と強調。核保有国の米国、イギリス、フランスが人間による関与をすでに表明していることを受け、「他の核兵器国も同様の宣言を表明することを期待する」と述べる。
また、宇宙での大量破壊兵器の配置禁止を定めた１９６７年の宇宙条約などを踏まえ、「宇宙空間は核兵器のない領域であり続けるべきだ。宇宙条約など既存の法的枠組みの順守は我々の責務だ」と訴える。
このほか、ウクライナを侵略するロシアによる核の威嚇を「あってはならない」と非難し、米露間の核軍縮枠組み「新戦略兵器削減条約（新ＳＴＡＲＴ）」への復帰を促す。北朝鮮の核・ミサイル開発も批判し、「核実験を含め、さらなる挑発のおそれもある」との認識を示す。
日本は３月の安保理議長国で、閣僚級会合では上川氏が議長を務める。ロシアのウクライナ侵略が始まった２０２２年２月以降、安保理で核軍縮が議題となるのは初めてで、ロシア側の発言も注目される。
家や職失う｢巨大冤罪｣招いたアルゴリズムの怖さ オランダ政府は激しく非難され､内閣も総辞職
ジョージナ・スタージ,尼丁 千津子 によるストーリー
（写真：ANP Photo/アフロ）© 東洋経済オンライン
昨今、AI（人工知能）の急激な発達が注目されている。まるで人間のように自然な会話ができるサービス「Chat GPT」が話題になったのも記憶に新しい。一方で、こうしたAIやアルゴリズム（問題解決や目標達成のための計算・処理手続き）に意志決定や判断を委ねることへの危惧も広まりつつある。2010年代のオランダでは、アルゴリズムの判断によって大規模な冤罪事件が生じてしまったことがある。やはり最終的には人間の判断が必要になってくるのだろうか。統計学者のジョージナ・スタージ氏が上梓した書籍『ヤバい統計』から一部を抜粋して紹介する。
アルゴリズムが原因で起こった大規模冤罪事件
アルゴリズムは自分自身をつくりだすことはしないと前編で述べたが、それは完全なる真実ではない。アルゴリズム自体がみずからをつくりだすアルゴリズム、あるいは少なくとも、何をするかの判断をアルゴリズム自体に委ねたものは存在する。
【写真】ジョージナ・スタージ著の『ヤバい統計』は政府統計の世界を知りつくす著者が、多彩な事例を用いながら、その舞台裏を紹介する。
通常、アルゴリズムに与えられるタスクは、与えられたデータのパターン、つまり、物事のあいだの関連性を見つけることだ。ときには、ある問題のさまざまな側面に関するデータを与えられ、どれが「重要」なのかを判断するよう指示される場合もある。
オランダ政府は2010年代に、後者のたぐいの突然変異アルゴリズムの犠牲になった。一連の組織的な社会福祉給付金詐欺事件が世間の注目を集めたことによって、国税関税執行局は詐欺を根絶するためのさらなる対策を取ることにした。
同局は、過去に詐欺を働いた犯人たちのデータをアルゴリズムによって分析し、結果として得られた情報から、いま詐欺を行っている可能性のある人物を選び出した。
そうして、「あなたの社会福祉給付金を打ち切ります。過去数年にわたって支払われていた給付金を返納するように」という内容の通知が、政府から送られてくる人が出はじめた。
なかには、何万ユーロも返納するよう命じられた人もいた。なかなか返納しようとしなかった人には罰金が科せられた。その結果、仕事を辞めざるをえなくなったり、保育料が支払えなくなったりする人が出て、しまいには家を失うことになる人まで出た。
2018年、ジャーナリストたちは弁護士から聞いた数々の話や、巷で多く耳にする噂を詳しく調べはじめた。そうやって手に入れた情報をまとめると、非常に気がかりな傾向が浮かび上がった。
二重国籍をリスク要因とみなしていた
要は、詐欺を疑われた人々のなかで、移民やその子どもたちの割合が不釣り合いに大きかったのだ。その後、2020年の夏にようやく真相が明らかになった。国税関税執行局で使われていたアルゴリズムは、「二重国籍」を詐欺の強力な「リスク要因」とみなしていたのだ。
近年の大規模な詐欺事件で二重国籍者が犯人だった場合が多かったことから、アルゴリズムはそれを「重要な要因」とみなすようになったのかもしれない。
だが、詐欺の犯人に二重国籍者が多かったことを、単なる連想や偶然の一致としてではなくリスク要因として捉えるのは、果たして適切なことなのだろうか。
たとえ、特定の移民コミュニティ内で組織的詐欺の証拠が発見されていたとしても（実際、ブルガリア人に関するそうした例があった）、その国籍であることを理由に犯人だと判断するのは、政治的に慎重な対応とはとてもいえない。
しかも、「二重国籍」という要因はあまりに曖昧なため、現実的に詐欺の犯人かどうかの判断材料にはとうていなりえない。
アルゴリズムが出した結果を見た同局は、オランダ以外の194カ国のいずれかとつながりのある人のほうが、オランダ国籍しかもっていない人より詐欺師になる可能性が高いと、本気で納得したのだろうか。
このアルゴリズムは、完全に自身の裁量に任されていたため、いわばブラックボックスのなかで働いていたようなものだった。もし誰かがときどき箱のふたを開けて、アルゴリズムが何に取り組んでいるのかを確認していたら、問題はもっと早く見つかったかもしれない。
この不祥事で、内閣も総辞職
「児童手当事件（toeslagenaffaire）」として知られるようになった、国税関税執行局によるこの不祥事によって、オランダ政府は10億ユーロ（約1298億円）を超える補償金を払うことになると考えられている。人種差別、人権侵害、市民に対する「前代未聞の不当行為」を行ったとして、政府は激しく非難された。総選挙を2カ月後に控えた2021年1月、この不祥事の責任を取って、首相をはじめ内閣が総辞職した。
確かに、「アルゴリズムは公平な判断に基づいて機能している」「アルゴリズムは監視しなくてもいい」と思ったほうが楽であり、「どのみち高度すぎて、一般の人には理解できないものだ」と考えるのも当然のことだ。
「最初のころは、アルゴリズムは本物の魔法にしか思えない」と、数学者のハンナ・フライは記している。「だが、しだいにその仕組みがわかってくると、謎めいた雰囲気は消え去ってしまう。ほとんどの場合、あの見た目の裏に潜んでいるのは、笑ってしまうほど単純なもの（あるいは不安になるほど無鉄砲なもの）なのだ」。
封をされた箱のなかで物事を進めているアルゴリズムのふたを実際に開けて見た人は、何もかもがひどく乱れた状態が内部でつくりだされていることに気づいて恐ろしくなり、箱と中身をできるだけ遠くに投げてしまいがちだ。
このように、コンピューターに簡単に罪を負わせてしまえることにより、自分は責任を取らずにすむという問題がある。しかも、コンピューターのせいにすることによって、本来なら向き合わなければならない不都合な真実を直視しなくなるという恐れもある。
ここまで見てきたとおり、アルゴリズムは、光合成をする植物とは違って大気からデータを吸収するようなまねはできず、人間が与えたデータを使うしかない。
怖いのは、（アルゴリズムが使われている）こうした機械は、封をされた箱のなかですべての作業をこなすという点だ。機械が自分自身にどんな指示を与えているのか、外からはまったく見当もつかない。
この状況は、ダグラス・アダムスが『銀河ヒッチハイク・ガイド』（河出文庫）で描いた世界とさほど変わらない。そこでは、スーパーコンピューター「ディープ・ソート」が「生命、宇宙、万物についての究極の疑問」の答えを見つけるよう命じられていた。その結果、750万年後にディープ・ソートが出した答えは「42」という数字だった。結果にひどく落胆した人々に対して、ディープ・ソートは「何を探すべきかをきちんと指示されたことは、一度もなかった」と不満を訴えるのだった。
統計モデリングやアルゴリズムには、計り知れない力が備わっている。正しく利用すれば、何百万個、さらには何十億個ものデータポイントを瞬時に分析できる。
パターンを読み取り、因果関係を確認でき、しかも探し出すのが非常に難しいものも見つけられる。「ビッグデータ」「機械学習」「人工知能」といった技術が実現してくれそうな効率性と徹底性における改善を、うまく活用できればと政府が熱を入れるのは、当然といえば当然だ。
アルゴリズムは優れた判断を下せないことも
結局のところ、現実を反映していないモデルは、正確な答えを人間に与えてくれないということだ。現実では成り立たない仮定に依存しているアルゴリズムは、優れた判断を下せないはずだ。
もし、機械に与えられたのが「バッドデータ」（特定の人口集団がそっくり除外されたデータ、時代にそぐわない古いデータ、目的との関連性が薄いデータ、当てにならない予測に基づいたデータ）であれば、出てくる結果も同じぐらい悪いか、さらにひどいものとなる可能性が高い。
私たちがモデルや機械の仕組みを理解していなければ、それらがいつどこで間違えるのかを把握できない。あるいは、なぜ間違えるのかを把握できないのだ。
参考文献・参考資料
「核兵器管理にＡＩ」懸念、上川外相が国連安保理で表明へ…中露念頭に「人間の関与」求める (msn.com)
家や職失う｢巨大冤罪｣招いたアルゴリズムの怖さ オランダ政府は激しく非難され､内閣も総辞職 (msn.com)
政治（科学技術）講座ⅴ1608「AIの能力を小学4年の算数の応用問題で確かめた」｜tsukasa_tamura (note.com)
この記事が気に入ったらサポートをしてみませんか？