Off Topic #166 AGIの影響と安全性【PIVOTコラボ】

OffTopicの番組を聞いて個人的にまとめ画像を作っているmemofleetのnoteです。
今回は#166「AGIの影響と安全性【PIVOTコラボ】」のまとめです。

ポッドキャストはこちらです。

#166のインフォグラフィック

#166 AGIの影響と安全性【PIVOTコラボ】

インフォグラフィックについて

PIVOTさんとのコラボレーションシリーズの後半でした。
AIの危険性について深堀する内容を具体化していくと怖いグラフィックになりそうだったので、それを避けた形にしました。

Instrumental convergence

翻訳しても難しくなってしまう言葉ですね。機械的収束と書かれているのが多かったです。
例として挙げられているペーパークリップ・マキシマイザーは分かりやすくて、クリップをたくさん作るという単一の目的であってもそのためには、邪魔になる要素を排除していくようなサブ目的が発生するという理解です。

ドラえもんはよくできていますね

ドラえもんにはSF的な未来予測を嚙み砕いてグラフィック化した側面があると思います。便利なひみつ道具のひとつひとつがAIサービスで、これを間違った使い方をしてしまう愚かな人間がのび太です。ドラえもんはひみつ道具を提供するときに必ず注意事項を申し渡すけど、のび太はこれを守れない。

ドラえもん自体は中立的なポジションをとっていて、道具は貸すけど使い方は人間に任せるAIアシスタントです。そしてしっぽを引っ張ると停止する機能があって、リスク考慮のひとつですね。

ハセンさんもおっしゃっていましたが、AGIが今どういう方向で開発されているのか分からないながら、もう止められない流れになっていると感じました。そして急にパフォーマンスが向上する理由も不明という事なので、人間の手に負えない機能が走り出さないようにするにはどうしたらよいのか。

ドラえもんを読んでいると、どう考えても取り返しのつかない状態で結末を迎えるトピックがよくあります。物語の型でいうと、０から開始して秘密道具でいったん上昇、そのあと間違えて無限にマイナスに落ちていくパターンです。
現実の世界でこうならないよう、ルール作りも進めていけるとよいのかと思いました。

以上です。
お読みいただきありがとうございました。

参考リンク