AIのリスクに対する技術解決主義の限界
こんにちは！エジンバラ大学大学院在学中の菊地です。
大学院ではAIリスク・AI倫理等を中心にデジタル社会学を学んでいます。このブログでは、大学院の学びについて書いていきます。
今回はテクノロジーが社会課題を解決するという信念を持つ、技術解決主義とその問題点について考察していきます。
2023年11月17日、OpenAIのCEOであるサミュエル・アルトマン氏が、ステークホルダーへの透明性の欠如を理由に取締役会によって解任された。この出来事は、技術の急速な進歩と企業における技術開発の安全性との間の対立を浮き彫りにしている。AIなどの技術が社会問題の解決策になりうると主張する楽観主義者もいれば、技術開発が社会に重大なリスクをもたらすと指摘する声もある（Hendrycks, Mazeika and Woodside, 2023）。これらの対立する意見は、技術がAIのリスクに対する決定的な解決策を提供できるのか、それとも技術解決主義という信念が社会問題の本質を見落としているのかという疑問を投げかけている。
技術解決主義の根源
デジタル技術の社会的影響に関する研究者であるエフゲニー・モロゾフは、技術解決主義の概念を紹介し、複雑な社会問題はすべて計算可能であり、アルゴリズムの最適化によって解決できると説明した（Morozov, 2013）。この概念の基礎は、エンジニアリングと起業家文化に根ざしている。エンジニアリングの視点から見ると、技術解決主義者は社会問題を技術によって修正できるバグと見なし、社会問題をユーザーの需要を満たすビジネスチャンスと捉えている。要するに、技術解決主義者は解決策の効率性と市場中心のアプローチを支持し、社会的変革をポジティブに捉えている（Nachtwey and Seidl, 2023）。
AIの社会的リスク等に対する技術解決主義の可能性と限界
技術解決主義者は、AIの社会的リスクにどのように対処するのだろうか。2024年は各国で選挙が行われる選挙イヤーである。選挙期間中における生成AI等による誤情報・フェイクニュースは重要な問題である。これらの問題に対してMetaやGoogleは、誤情報を検出し、レコメンデーションシステムでの目立ちにくくする等の対策を取っている。このアプローチは大規模かつ自動的に誤情報・フェイクニュースをチェックできるという点で非常に有用な手段である。一方、どのニュースを誤情報・フェイクニュースとするのかは、政治的な判断を必要とするセンシティブな問題であり、一企業がその政治的な判断をすることには正当性の観点で疑問が残る。このように技術解決主義は非常に効果的で大規模な解決策を提示する可能性があるが、一方でテクノロジーの社会実装を進める際には、社会規範や公共性を検討する必要があり、そこに技術解決主義の限界も現れることが多い。
技術解決主義に対する批判的視点
では技術解決主義に関して、一般にどのような批判が寄せられるのだろうか。技術解決主義者が技術がすべての問題の解決策であると信じている一方で、この概念には主に二つの批判的な視点がある。
技術解決主義は社会構造や問題の根源を無視しており、その表面的な解決策は既存の不平等を持つ社会構造を維持する可能性がある（Cunningham et al., 2023）。たとえば、誤情報・フェイクニュースの検出技術がメディアに導入されたとしても、その判断基準が透明でオープンに共有されていなければ、メディアに対する不信感という点では問題は解決しない可能性がある。
技術解決主義者は革新的な解決策を商業化しようとするため、公共の利益よりも個人の利益が優先されるリスクがある（Nachtwey and Seidl, 2023）。たとえば、広告収入を優先するプラットフォームがフェイクニュース検出アルゴリズムを導入しても、利益が減少するため、徹底した対策が取られない可能性がある。
技術解決主義は、個別問題の最適化を目指すが、社会全体の最適解を見落とすリスクがある。それにより、個人の公平な政治・経済活動が阻害してしまうかもしれない。
テクノロジーを超えて：社会問題に対する解決策
ソーシャルメディア上のAIリスクを考慮すると、技術解決主義にとどまらず、外部組織や政府と協力して問題に取り組むことが重要だと考える。第三者の関与は、ソーシャルメディア上のAIリスクを評価するための客観性と説明責任を強化することができる。技術解決主義を超えて問題に取り組むことは、社会問題とその根源にアプローチし、社会の公共の利益を実現するために重要である。
技術解決主義の基礎はエンジニアリングと起業家文化の交差点にある。この概念は一部の問題を効果的に解決するが、社会構造の複雑さを見落とし、個人・企業の利益が公共の利益よりも優先されることが批判されている。AIリスクの文脈では、ソーシャルメディア上の誤情報は民主主義社会において重大な問題だ。技術解決主義のアプローチがアルゴリズムシステムを用いることが不十分であり、技術解決主義を超えた解決策を考慮する必要があることを心に留めておきたい。技術の進歩を追求する中で、技術は道具であり、どのように使うか万能薬ではないことを忘れてはならない。
If you think technology will solve your problems, you don’t understand technology — and you don’t understand your problems.
英語版ブログ：Medium
Cotter, K., DeCook, J.R. and Kanthawala, S. (2022) ‘Fact-Checking the Crisis: COVID-19, Infodemics, and the Platformization of Truth’, Social Media + Society, 8(1), p. 20563051211069048.
Cunningham, J. et al. (2023) ‘On the Grounds of Solutionism: Ontologies of Blackness and HCI’, ACM Transactions on Computer-Human Interaction, 30(2), pp. 1–17.
Hendrycks, D., Mazeika, M. and Woodside, T. (2023) ‘An Overview of Catastrophic AI Risks’. arXiv.
Hern, A. (2020) ‘Twitter apologises for “racist” image-cropping algorithm’, The Guardian, 21 September.
Morozov, E. (2013) To Save Everything, Click Here: The Folly of Technological Solutionism — University of Edinburgh.
Nachtwey, O. and Seidl, T. (2023) ‘The Solutionist Ethic and the Spirit of Digital Capitalism’, Theory, Culture & Society, p. 02632764231196829.
Samuel, S. (2023) OpenAI’s board may have been right to fire Sam Altman — and to rehire him, too, Vox.
The Economist (2023) ‘The Sam Altman drama points to a deeper split in the tech world’, 19 November.
この記事が気に入ったらサポートをしてみませんか？