待ち遠しいような・・・でも心配

徒然ちょこっとエッセー　第40回

これまでも、自動運転の待ち遠しいポンコツ老人
の投稿を多数したけど

この記事で少し心配になりました。

生成AIの科学　「人間らしさ」の正体に迫る（別冊日経サイエンス263） | 日経サイエンス編集部 |本 | 通販 | Amazon

第4章　騙されるAIより（理化学研究所、瀧雅人）

悪意をもって誘導すると，人間なら決してしないような誤った判断を下すことも明らかになってきた。

例えば「止まれ」と書かれた標識の一部にシールを貼るだけで，「時速45km制限」の標識だと誤認する。

　厄介なことに，誤認を誘導する方法はわかっているが，AIがなぜそんなに簡単に騙されるのか，そこにどんなメカニズムが働いているのかはわかっていない。したがってそうした攻撃を根本的に防ぐ方法は見つかっておらず，研究においても騙す側と防ぐ側のいたちごっこが続いている。

暗殺の危険を常に考える政府要人は絶対に自動運転を使わないと思うが

ある企業の自動運転に対して
悪意のある敵対攻撃を
身代金目的のマフィア等がする
ことあり得るのかなあ・・・？

ポンコツ老人でも被害者になりえるから

自動運転は待ち遠しいような・・・でも少し心配