AIの脅威は，AIに聴いてみる
昨今，AIの脅威についてメディアでよく語られてる．先日も，ヒントン博士がGoogleをやめたのは，AIの脅威についてもっと考えたいし訴えたいからだった．
実際，その脅威は広範囲に及ぶ，
プライバシーやセキュリティといった個人に関わる問題から，
AIの道徳的地位や存在論的な意味といった哲学・倫理の問題，
それに関わるAIを法的にどのような存在として位置付けるべきか，
さらに，そのAIが莫大な電力を消費することで地球環境に負荷をかけ続けることの問題….
とくに，環境への負荷は特にあまりメディアでも取り上げられていない．OpenAIを使うたびに相当な電力が消費されているらしい…といいながら，私もどんどん使ってしまってるのだが…．
また，西洋的な価値観からは，AIがどうも（一神教的な）神のような存在になっていくという信念が形成されるようで，超知能が生まれることで人間がその奴隷のようになるといった脅威がよく語られている．
これらが未整理のまま語られると，何が問題なのかよくわからなくなる．実際，AIの問題は漠然としやすい．
そこで，金夜9時-10時の定例「技哲ナイト！」では，5/19から何回かにわたってここを整理していく．登壇メンバーは，いつもの信原せんせと，カナダから参加いただく米倉さん．信原せんせは，JST（科学技術振興機構）のあるAI倫理プロジェクトでアドバイザーもつとめているし，米倉さんは昨年よくテレビでも露出していた「デジタルクローン」を作成していた人だ．3人で数年前から，こうしたテーマについて議論してきた．
参加はこちらから↓
そして，AIのことはAIに聴いてみようというこで，取り急ぎGPT4に聴いたAIの脅威について資料としてアップしておく．
これは，なかなか良い指摘ばかりで，こういう「網羅」の作業は圧倒的なパワーを発揮するのがGPT．よき相棒である．しかし，相棒の仕事を細かくまだチェックしていないので，もしかしたら相棒が変なこと言ってるかもしれない．そのときは，代わりに私が謝りますので．笑
こういうことをしていると，知的労働を奪うというのはよくわかる．いまはまだわたしは，情報整理などのベーシックな知的労働をやってもらって，想像的で創造的な仕事を，人間がやるような構図でAIとコラボしているが，これがいつまで続くかわからない．
GPT4が考える「AIの脅威」
Q. AIの脅威を列挙してください．
A. AI（人工知能）は様々な利点を持つ一方で、いくつかの重要な脅威やリスクも持っています。以下にいくつかを挙げてみます：
ジョブの自動化: AIと自動化は労働市場を変える可能性があります。繰り返しの仕事やルーチンワークはAIに取って代わられ、多くの人々が仕事を失う可能性があります。一方で、AIは新しいジョブも生み出すかもしれませんが、それには新たなスキルセットが必要となるでしょう。
プライバシーの侵害: AIは大量のデータを必要とし、その中には個人情報も含まれます。これにより、個人のプライバシーが侵害される可能性があります。
バイアス: AIはその学習データに基づいて決定を行います。そのデータが偏っている場合、AIもまた偏った結果を出す可能性があります。これは特に人種、性別、年齢などの公平性に重大な問題を引き起こす可能性があります。
セキュリティ: AIはセキュリティシステムを強化する一方で、サイバーセキュリティの脅威となる可能性もあります。AIはサイバー攻撃をより洗練され、効率的にする可能性があります。
AIの理解不足: AIの動作を完全に理解するのは難しい場合があります。これは「ブラックボックス」問題として知られており、AIがなぜ特定の決定を下したのかを説明することが難しいことを指します。
AIの誤使用: AIは悪意のある人々によって誤用される可能性があります。例えば、ディープフェイク技術は、人々の顔や声を偽造し、偽のビデオを作成するのに使用される可能性があります。
AIと人間の関係: AIがより進化するにつれて、人間の対人関係や社会構造に影響を与える可能性があります。これは、AIが人間の役割を奪う可能性や、人間とAIとの関係性に対する問題を引き起こす可能性があります。
スーパーインテリジェンスの登場: AIが人間の知識や能力を超えて進化し、自己改善のループに入る可能性があります。これは「シンギュラリティ」や「スーパーインテリジェンス」と呼ばれ、その結果として人間が制御不能となる可能性があります。
道徳的・倫理的問題: AIが人間と同様の意識や感情を持つと仮定すると、それが倫理的な扱いを受けるべきかどうかという問題が生じます。また、AIが損害を引き起こした場合、誰が責任を負うべきかという問題もあります。
経済的不平等: AI技術へのアクセスは企業や国家間で不均等であり、それが経済的な不平等をさらに深刻化する可能性があります。
武器化: AIは軍事技術にも利用され、ドローンや自動化された武器システムなど、新しい形の戦争を引き起こす可能性があります。特に、自律的な致命的な自動兵器（LAWS）は、倫理的な議論の対象となっています。
AI依存: 我々がAIに過度に依存することで、基本的なスキルや能力を失う可能性があります。例えば、自動運転車が普及した場合、人間が運転する能力が低下するかもしれません。
人間性の損失: AIが人間の日常生活の一部となるにつれて、人間らしさや人間の経験が失われる可能性があります。人間の感情や親密さを模倣できるAIが増えるにつれ、人間間のコミュニケーションや関係性が希薄になる恐れがあります。
AIの不透明性: AIアルゴリズムはしばしば複雑で、その動作原理は不透明であることが多いです。このため、AIがどのように結論を導き出したのか、どのように動作したのかを理解するのは難しい場合があります。これは特に、AIの決定が重要な影響を及ぼす場合（例えば、医療診断や司法判断など）に問題となります。
規制の欠如: 現在の法律や規制は、急速に発展するAI技術に対応しきれていない場合があります。これは、AIの misuse または abuse、または予期せぬ結果を引き起こす可能性があります。
AIの信頼過剰: AIの結果に対する盲目的な信頼は問題を引き起こす可能性があります。AIは完璧ではなく、間違った結果を出すこともあります。しかし、人々がAIの提供する情報や結果に対して過度に信頼すると、誤った決定を下す可能性があります。
デジタルデバイドの拡大: AIへのアクセスは地域や社会経済的な条件により異なり、デジタルデバイドを拡大する可能性があります。特に、開発途上国はAI技術の導入や活用において後れを取る可能性があり、経済的な不平等を引き起こす可能性があります。
エコシステムへの影響: AIの訓練には大量の計算リソースが必要で、それがエネルギー消費と環境負荷の増加につながる可能性があります。
以上のような問題は、AI技術の発展と共に考慮すべき重要な課題です。それらに対する適切な対策と規制が必要となります。
Q. 作成してもらった18の脅威を分類してください．
A. AIの脅威は、その性質や影響を考慮して以下のようなカテゴリに分類することができます：
労働と経済：これらの脅威は、AIが労働市場や経済全体に及ぼす可能性のある影響に関連しています。具体的な項目としては「ジョブの自動化」と「経済的不平等」があります。
社会と倫理：これらの脅威は、AIが社会や倫理に関する問題を引き起こす可能性についてです。具体的な項目としては「プライバシーの侵害」、「バイアス」、「道徳的・倫理的問題」、「AIと人間の関係」、「人間性の損失」があります。
セキュリティとプライバシー：これらの脅威は、AIが個人のプライバシーやセキュリティに対する脅威となり得ることに関連しています。具体的な項目としては「セキュリティ」、「AIの誤使用」があります。
技術的問題：これらの脅威は、AI自体の技術的な性質やその理解の困難さから生じる問題に関連しています。具体的な項目としては「AIの理解不足」、「AIの不透明性」があります。
依存性と人間性：これらの脅威は、AIへの過度な依存や人間性の損失に関連しています。具体的な項目としては「AI依存」があります。
軍事と戦争：これらの脅威は、AIが軍事技術に利用され、新しい形の戦争を引き起こす可能性に関連しています。具体的な項目としては「武器化」があります。
超知能：この脅威は、AIが人間の知識や能力を超えて進化し、自己改善のループに入る可能性に関連しています。具体的な項目としては「スーパーインテリジェンスの登場」があります。
Q. それらが脅威だと思わない人の傾向と理由を挙げてください．
GPTが考える「AIの脅威への考察」
以下は以上のAIの脅威について，
それは既存のテクノロジーでもあった問題なのか，AIによって新規に生じた問題なのか．またその理由．
それらに関する哲学的テーマ
を聴いて，GPT4が生成した表である．
（noteは表を組めないのとGPT4は一度に生成する情報量が制限されているのでいくつかの表にわけて掲載する）
続きは，技哲ナイト！で．
PS
ちなみにこれは上記の表を生成するGPT4の動画だが，こうして人間の知的労働がAIに置換されていくのだろうと，感じられてこないだろうか．
恐ろしさすら，感じるんだよな．この処理能力．そういう相棒がいるのは，ほんと心強い． pic.twitter.com/ukdSMjCZWr
— 七沢智樹 - #テクノロジーの哲学 (@TNanasawa) May 12, 2023
この記事が気に入ったらサポートをしてみませんか？