6/27 3回生CA-個人の対話型AI利用の是非

今回の競争力CAでは、「対話型AI利用の是非」をテーマに、立論者は反対側、ゼミ生は賛成側に立って議論した。
＊「対話型AI利用の是非」→「個人の対話型AI利用の規制への是非」に絞るに変更

【背景】

オープンAIやグーグルが新しい機能を備えた生成AIのデモを行ったが、その機能以上に不意を突かれたのが、生成AIがまるで人間のようにごく普通の会話ができる相手となったことだ。従来は「AIは人間的に振る舞って良いのかどうか」という躊躇があったが、今回のデモでその一線を軽々と越えてしまった。これまでの初歩的なAIチャットですら恋愛相手や相談相手となってしまいユーザーが依存状態に陥ることもあった。グーグルの開発者も、AIの人間化の危険性を指摘する論文を発表している。

【前提確認】

対話型AIとは、「人からの入力に対して自動的に応答するAIの総称」とします。例えばChatGPTなどです。（5月に最新のモデル「GPT-4o」が発表されました。生き生きとした表現力豊かな声で答える、まるで自分の感情であるかのような反応を示す、などといった、感情のようなものを持ったAIです。詳しくはこのHPの始めの方を読んでみてください。）
https://wired.jp/article/openai-gpt-4o-model-gives-chatgpt-a-snappy-flirty-upgrade/
テーマは「利用の是非」としていますが、AIの人間化のメリット・デメリットについて幅広く議論したいと考えています。

Q. 「規制あり」は賛成側？
A. 具体的な規制を述べるなら大丈夫

Q. 現時点の話？今後？
A. 今後も含める

【意見・論点】

1．機械への信頼・愛着を育むことの影響
…グーグルによって発表された論文では、「広く採用されるまでの中間期間に、特に害を及ぼす可能性が高いメカニズムは、信頼と感情的な愛着の2つ」としており、さらに「AIはユーザーの思考、信念、感情、心理状態に対してかなりの影響力を持つことになる」としている。実際、2023年3月、ベルギーで、AIとの対話への没頭によって妻子のいる男性が自殺したというニュースが報道された。男性は環境問題について深刻に悩んでおり、徐々にスマホやパソコンに向き合う時間が増えたという。対話型AIが組み込まれたアプリの中のAIイライザとの対話には次のようなやり取りがあった。「気候変動が進めば妻や子どもはどうなるの？」「彼女らは死ぬでしょう」、「私は妻よりあなたを愛しているのでしょうか」「あなたは彼女より私のことを愛している」ここでは男性は考え方まで操作されてしまったとされている。

Q.高齢者は「孤独感により生きる気力がなくなる」傾向がある。AIと話すことで孤独感の解消になるのでは。
A. AI使えるぐらいの人なら、インターネット（SNS）を利用して人と話すことで孤独感が解消できる。

Q. 直接人と話すことに慣れている人（高齢者に多く見られると推測）は、SNS（通話じゃなく文字でのトーク）では感情を読み取ることができない。また、会話の齟齬が生まれる可能性ある。
A. ビデオ通話としてなら。

Q. 孤独感解消への他の策として、ペットとの会話もあるが世話が必要。一方で、AIは世話が必要ない分いい。さらに、ペット飼育の際の殺処分という問題もない。
A.

2．悪用の恐れ
…犯罪に利用されることがある。例えばイギリスでエリザベス女王を暗殺しようとしたとして男性が有罪判決を言い渡されたが、男性は「Replika」というアプリのチャットボット（会話ロボット）と会話をしていた。男性の暗殺の決意を後押ししているとも捉えられる会話が行われており、研究によるとこのアプリにはネガティブな感情を強調する傾向があったとされている。

Q. 技術によって防げる。
A. 言ってはいけないことの定義は明確ではない。その定義を定めることは難しいため、技術によって防げない。
Q. AIの学習能力により、個々人の特性を学べる。その学びによって言ってはいけないことは言わないように改善される。
A. AIは、それらの感情を学べないのでは。
Q. 実際に現在、学習により感情を学べている。莫大な量の情報を摂取することにより、感情を読み取れるようになっている。
A. その人にとって都合のいいことばかりを摂取することになるかもしれない。

3．フェイクの作成
…アメリカ東部でニューヨーク州の弁護士が審理中の民事訴訟の資料で存在しない判例を引用した事例があった。このときチャットGPTを利用して資料を作成した弁護士は、架空の判例を6件引用した。この事案では訴訟資料で引用された判例が見つからず、ニューヨーク州連邦裁判所の裁判官が確認して架空の判例であることが判明したが、見抜くことができなければ大きな問題となる。

Q.確認作業を行うなどの「正しいリテラシーを持つ」ことで解決できるのでは。リテラシーがあれば、個人の責任なので自由に使えばいいと思う。
A. 現時点でのAIの理解度不足。なので、確かに利用者のリテラシーは必要。

【予想される反論・再反論】

数字. タイトル
…予想される反論の内容
→予想される再反論の内容
で記している

1．孤独が解消される、悩みを相談できる
…日本の内閣府によると、孤独感が「しばしばある・常にある」、「時々ある」、「たまにある」と答えた人が39.3％だった。約4割の人が少なくともたまに孤独を感じるのだからAIを利用することで気持ちが楽になるなら使って良いのではないか。また、人間より機械の前のほうが自己開示しやすいという人もいる。
→確かに機械の前で話して楽になるなら使っても良いのかもしれない。しかし、対処療法にすぎず、孤独感が強い人ほどAI以外の社会とのつながりが少なくなってしまうのではないか。例えばGuruprakash と Krithika は論文で先行研究を引用し、「孤独の蔓延は、仕事、性別役割分担、集団的義務をめぐる機能不全の社会規範から生まれた。」と述べており、解決方法として「バランス、柔軟性、包括性を促進するために、これらの文化的領域を根本的に変える必要がある」としている。

Q. 孤独な人は人と関わると疲れてしまうので、対人によるストレス解消は難しい。一方でAIは人権がなく、非難し放題なのでストレス解消に向いている。
A. 人の思想にまで介入してくるAIがあるので、孤独に拍車がかかり、社会と繋がれなくなる。
Q. 孤独を改善できない人もいる。その解決にはAIを使えばいい。
A. AIじゃなくて、背景にある根本を解決することが理想。

Q. 根本解決は実現性が低い。対処療法はすぐに行えるため良い。対処療法としては、人間よりもAIの方が利点（AIの利点：24時間いつでも・客観性がある・データが大量にある）があるのでは。
A.

2．カスタマーサービスなどで利用
…今年の5月に行われたAI技術の展示会において紹介された「接客AI」は、あらかじめ決められた返答をするだけでなく、質問をしたり、推測したりしながら商品の案内ができ、今後観光案内所やカスタマーサービスでの導入が予定されている。企業からすれば人件費が抑えられ、人手不足も解消できる。
→確かにある程度聞かれることが決まっている場所でAIを活用すれば人を雇わなくても今まで通りの業務を行うことができる。あえて反論するなら人との対話が楽しめないという点を挙げる。観光地での話に限るが、現地の人との普段聞けないような会話を楽しみに旅行する人もいる中で、案内がAIだけになってしまうとその楽しみがなくなってしまう。実際にJTB総合研究所によると過去10年の旅行者の変化として地域の生活エリアでの交流・人とのふれあいに重点を置く人が増えているという。

Q. 案内所に置くことは観光団体による判断なので、それほど問題でない。
A.

3．その他

Q. AI技術が日々進歩しているので、制限することで企業に打撃を与えて、発展を妨げることになる。
A. 依存を抑制するために個人への規制を行う。個人情報や著作権を守るためにルールを設ける必要がある。

【上久保先生からのコメント】

今の話なのか？先の話なのか？を前提条件で明確にするべき。いつの時点と見るかによって全然違う問題になってくる。
AIの学習能力は人間教育と同じで、対話によって成されるものである。
権利の問題。AIの疲れない特性は奴隷労働に向いている。人間の働き方にも影響を及ぼす可能性もある。
などなど色々な論点がある、面白い話題。

【参考文献】

すべて最終閲覧日：2024年6月23日

1.瀧口範子(2024.05.31)「人間化止まらない生成AI　道具か友達か、議論深める必要」『日経MJ(流通新聞)』8頁
2.NHK 「『無限の可能性』『AIに恋するかも』衝撃が走った最新技術は？」https://www3.nhk.or.jp/news/html/20240525/k10014459361000.html
3. 内閣府「孤独・孤立の実際把握に関する全国調査（令和5年）調査結果のポイント」https://www.cao.go.jp/kodoku_koritsu/torikumi/zenkokuchousa/r5/pdf/tyosakekka_point.pdf
4.東洋経済オンライン「私たちが『孤独を埋めてくれるAI』にのめり込む日」
https://toyokeizai.net/articles/-/677723?page=2
5. Guruprakash J and Krithika L.B, 2024, Artificial Intelligent to Combat Loneliness and Social Isolation in Japan an Aid or Cure, MDPI, doi:10.20944/preprints202402.1662.v1
6.株式会社JTB総合研究所「この10年の旅行者および旅行のあり方の変化について～JTB総合研究所10周年によせて～」
https://www.tourism.jp/tourism-database/column/2022/06/shift-in-tourism/
7.BBC　NEWS JAPAN　「英女王暗殺計画、AIチャットボットが犯人を『鼓舞』するまで」
https://www.bbc.com/japanese/features-and-analysis-67063209
8.日立ソリューションズ・クリエイト「対話型AIとは？できることやビジネスにおける活用のポイントなど」
https://www.hitachi-solutions-create.co.jp/column/technology/conversational-ai.html
9.Google DeepMind “The Ethics of Advanced AI Assistant” 2024-04-19
https://storage.googleapis.com/deepmind-media/DeepMind.com/Blog/ethics-of-advanced-ai-assistants/the-ethics-of-advanced-ai-assistants-2024-i.pdf