人工無能とイライザ効果

新年、明けましておめでとうございます。

2022年はAIの進歩の速さに目を見張るものがありました。今年も、いろいろと面白いことが起こることを期待しています。いろんな記事を書いていく予定です。

さて、去年の後半に登場したChatGPTは非常に優秀なチャットボットであり、とても自然な会話を生成することが可能です。ディープラーニングの進歩を示す良い実例となりました。

ChatGPTとの会話

人工無能

しかし、以前のチャットボットの多くはニューラルネットワークを使わないものでした。例えば、ゲームに登場するNPC（Non-Player Character、プレイヤー以外のキャラクタ）などは、決まり台詞を返してきたり、ある程度のルールに従った反応を言葉にします。RPG（Role Playing Game、ロールプレイゲーム）で村に入ると村人がつぶやいてきたりするのが代表的な例です。

このように人間が設定した対応をするプログラムを人工無能と呼びます。人間的な会話の成立を目指したプログラムで、いろいろな質問などに対する自然な応答を事前に準備しておく手法を使っています。

イライザ（ELIZA）

イライザは元祖の人工無能で、1966年にジョセフ・ワイゼンバウムが発表しました。単純な自然言語処理プログラムですが、カウンセラーのように人間と対話できると評判になりました。

LinuxやmacOSで使えるエディタのemacsに標準でインストールされておりESC、x、doctorとタイプすると起動することができます。

ELIZAとの会話

実際に使ってみると、たしかに本物の人間と話しているような巧みさを感じます。もちろん、イライザはChatGPTほどではないですし、ユーザー側もイライザはルールが設定されたコンピュータのプログラムであることを理解しているのですが、無意識に人間らしさをその反応の仕方に感じてしまうところがあります。むしろ、相手が人間でないから安心して心を開いてしまうのかもしれません。

イライザ効果

このように、人間が思い込みによってコンピュータへの感情移入をする傾向をイライザ効果と呼びます。無意識的にコンピュータの動作が人間と似ていると錯覚してしまうのです。

イライザを開発したワイゼンバウムは、ユーザーがイライザに心を開く様子にショックを受けました。真偽の程は定かでは無いですが、ワイゼンバウムの秘書は、彼女とELIZAが真の会話をすることができるように、ワイゼンバウムに部屋を出るように頼んだと言われています。

やがて、ワイゼンバウムはコンピュータの技術に対してある意味では批判的にさえなりました。

「人間らしい感情や知恵を欠くので、コンピュータに人間にとって重要な決定を任せてはいけない」と主張したそうです。

このような警告は現代のチャットボットにも通じることはあるでしょう。盲目的にチャットボットの言うことを信用したり、重要な決断を委ねたりするのは危険です。まだ現状のチャットボットの性能だと、そんな危険は少ないでしょう。しかし、近年の進歩のスピードを見ていると、近い将来に我々は様々な用事をチャットボット相手にこなす世界で生活するようになってもおかしくはないです。そこで情報操作による思想の誘導や悪意のあるビジネスが行われたとしたら…。

ワイゼンバウムはユダヤ教徒で、ナチス・ドイツから逃れて米国に渡った経緯もあり、全体主義によるテクノロジーの悪用を特に警戒していたそうです。

人工無能とChatGPTの組み合わせ

イライザに話を戻すと、その成功は、後のチャットボットやスマホの音声対話システムなどに影響を与えました。チャットボットの開発と進歩は着々と進み、ゲームだけでなく、多くのウェッブサイトでは人間に変わるアシスタントとしてチャットボットが利用されています。

むしろ、人工無能的なルールに従ったチャットボットの方がビジネスでの利用には合っていることでしょう。顧客からの質問への対応など限られた用途では自由な返答よりも定型的なものが利便性が高くなる場合もあります。巨大なデータベースを準備してAIの学習を行う必要もありません。

また、自由な会話をするチャットボットと比べヘイトスピーチや偏見などが会話に登場するリスクも避けやすいです。ChatGPTでは他人になりすましたり、個人情報を醸したりしないように十分な注意が払われていますが、人工無能であればそもそもの問題が生じません。

なので今後のチャットボットのビジネスやサービスでの実用的な利用ではChatGPTのような言語を理解し自然な会話を生成する能力とエライザのようなルールに従った応答を併用することが考えられます。