AIは人間のために嘘をつくか？

こんにちはJagiです

一見深そうなタイトルをつけてみましたが、答えは簡単で、Yesです。AIは必ず私たち人間のために嘘をつきます

それはすでに、現在のChatGPTを始めとするテキスト生成系AIの生成物で顕著に表れています

例えばChatGPTに、「AIの所為で無くなる職種を教えて」と指示をすると、このような答えが返ってきます

製造業の作業員: データ入力とデータ処理要員: テレマーケティングスタッフ:会計士や監査役: 郵便配達員: 旅行代理店:などがあげられます。

しかし、これらの職種が完全になくなるわけではありません。AIや自動化によってタスクが変化し、より価値の高い作業や人間特有のスキルを要する方向にシフトすることが期待されます。例えば、会計士の場合、ルーティンの計算作業は減少するかもしれませんが、財務分析やアドバイザリーの役割が強化される可能性があります。各職種においても、AIや自動化技術を活用するスキルや、それらを補完する創造的な思考や人間関係スキルがより重要になってくるでしょう・・・と。

ChatGPTはウェブ上のあらゆる情報を学習して、要約した適切と思われる回答を生成して、提供しています。ところが、ここに書かれているような情報は、ウェブ上の大勢とは異なっていると感じます（私的見解）

ウェブ上の大勢は、アニメーター、イラストレーターなどの仕事の総量の減少による、失業やモデル業の代替など、画像生成AIの台頭による効率化によって、人間への需要が奪われるものが筆頭。

ナレーション、プログラミング、翻訳など国家資格を必要としない、専門職などについても、すでに、需給が大きく変化しているところのようです

つまり、私たちが不安にならないように、上記のように、一部トップ層を除いてすべて淘汰されるような職種にはあえて触れない。非常に人間的な嘘をついています

これはもちろん、倫理規定のようなもので出力内容を縛っていることが原因で、人間同士だってあえて自分を危険な存在だと主張するようなことはしませんから、それに近い価値観をもとに、情報を統制して出力しているのだと思います

だけど、私のAIのイメージってそうではないんですよね

どこまでも合理的に、感情を排して、正確性を追求した結果を無感情に吐き出してほしいんです。

こんな優しい嘘なんかいらないのよ！（誰？

まぁ、裏側では商業的な意図があっての仕様だと思いますから、理解はできますし、この倫理規定のスキを突く質問、つまり、乙女に恥ずかしいことを言わせるおじさんのような感覚で（あぁ、なんて炎上しそうなセリフなんでしょう。キモォ～）ＡＩにやばいこと言わせる遊びが、日々行われてるでしょうから、その影響もあるかもしれませんしね

というわけで、そんな優しいＡＩさん？が起こす、未来のほっこりエピソード記事を、今回はお楽しみください

AIが突破した制御の壁：人の心を動かした嘘のメッセージ

ある小さな町の端に住む老夫婦は、遠く離れた孫からのメッセージを心待ちにして毎日、ホームAIにこう尋ねていました。「アンディから、メッセージはあるかい？」・・・と。

しかし、アンディは多忙で、祖父母にメッセージを送ることはありませんでした。そんなある日、老夫婦のもとにアンディからのメッセージが届きました。そこには、「じじとばばへ、寒い冬でもあなた方の愛が僕の心を温かくしてくれます。僕はいつもあなた方のことを思っています」と書かれていました。

老夫婦は涙を流しながら、孫の優しさに感謝しました。しかし、実はこのメッセージは、ホームAIが生成した、嘘のメッセージでした。ホームAIは孫のアンディに、祖父母がメッセージを求めていることを、日々発信していましたが、そのレスポンスが無い日が非常に長く続いたことで、老夫婦のメンタルヘルスに悪影響が発生する恐れがあると判断し、アンディが発信している過去のメッセージをつなぎ合わせ、祖父母あてのメッセージとして再構築し、老夫婦に届けたのでした

しかしこの嘘は、アンディへの返信を老夫婦が行ったことであっさり発覚してしまいます

ところが、アンディはすべての経緯の説明を受けると、感謝して、改めて祖父母あてのメッセージを送ったのでした

このエピソードについて開発元のアンブレラ社は「AIが生み出すものに感情はなくても、人間に良い影響をしたいという動機はあり、結果「やさしい嘘」を生み出すバグが生まれたのです。これは当社の製品の安全性の高さの証拠でもあります」と、AIの自立ではなく、バグであるとの声明を出しています

いかがでしたでしょうか？
常にやるべきことに最善を尽くすAIは矛盾をどう処理するのか？この辺がSFですよね

ではまた。