百円コンサルティング８月号　メディアで語れない本当のAIの暴走とは何か？

未来予測専門の経済評論家の鈴木貴博が好き勝手に書くWEB経済紙「百円コンサルティング」です。今月はAIの暴走に関わる問題提起です。

毎月のこのレポートでは、面白くて有用だけれどもメディアで取り上げるのが難しい情報を中心に記事にしています。今回はその意味でど真ん中の記事です。世界でAI規制が叫ばれていて、EU中心に生成AI開発のルールが議論されています。しかしその議論から隠されている本当のAIの暴走リスクが存在しているというのが今回の記事のテーマです。

百円コンサルティングは３か月過ぎるとバックナンバーは販売停止になります。一度購入された雑誌はnoteがある限りは読み続けられます。

メディアで語れない本当のAIの暴走とは何か？

欧州中心に進められている生成AIのルール作りでは、主に著作者の創造性をどう保護するのかという観点でルール化が議論されています。過去の著作物から生成AIが学習してしまうことで、現実にクリエイティブな仕事が消滅し始めています。

イラストレーターの仕事はイラストを描くことから生成AIに対してプロンプトを入力する仕事へと変わり始めています。生成AIへの指示プロンプトを「もう少し表情が萌えた感じで」「少し恐怖感を強めに」といった具合に調整する文章力があれば、誰でもよりよいイラストが描けてしまうように業界のルールが定まり始めています。

エンタメ業界では俳優や脚本家、音楽アーティストの仕事のうち、比較的無名なひとたちが生成AIに置き換えられそうです。そうやって創造的な仕事が乱暴に消滅していくことを制御しようと生成AIのルールが検討されています。それは一定の効果はあると思いますが、本質的には仕事がAIに置き換えられるスピードを遅くする程度の役割しか果たせないかもしれません。

さて、ここからが本題です。こういったAIのルール議論の中で、意図的に議論がなされていない、ないしは後回しにされている重要な論点があります。

それが「権力者によるAIの濫用」です。もう少し具体的に言えば、政府組織による生成AIの利用をどう制御するかです。アメリカを例にとれば軍と諜報機関をどう制限するか、日本でいえば公安や警察のAI利用をどこまで制限するかがこの問題に関係してきます。

映画『ターミネーター』シリーズをイメージするとわかりやすいと思いますが、AIに兵器を組み合わせることで殺りくが容易になります。こういった自律型攻撃兵器の出現はふたつの異なる、どちらも不都合なディストピア的な未来につながる技術です。