ディレクター気取りだが、もはや茶番

以前、ChatGPTについて記事にした。

30年前に黎明期のAI研究を行った自分の立場（責任？）から、ChatGPTに優しい視線を送った記事だ。
人間は世界に無限にある例外を許容して生きている、という現実を考えれば、そもそもAIも間違うものとして扱うべきだと結論したのだ。

もうChatGPTについて書くことは書いた、そんな気持ちだった。
ところが、ぱちさんのこの記事を読んでまた少し書きたくなった。

ぱちさんは僕より数か月早くnoteを始められた先輩で、その頃まだ学生さんだったぱちさんの文章はテンポよくてみずみずしく、以来ずっと楽しみなnoterさん。

ぱちさんは、Googleの検索結果が妄信される今の世に、AIから言葉が吐き出される危うさを警戒する。
検索もAIも、何者かのフィルターによって偏向されているからだ。
テクノロジーを信用しないのではなく、その後ろに見え隠れする恣意的な操作が信用できない、とぱちさんは分かりやすく解説する。
僕も大賛成だ。

人が作ったAIが人を超えるはずはない、とよく言われる。
AIは作者の思想の範囲内で健気に働くから。
でもその思想に思惑、捏造、悪意があったらどうなる？

さらに問題は使う側にも。
人を超えないはずのAIが暴走するとすれば、それはおそらく使う側がきっかけを与えることから始まる。
ChatGPTは皆が今お遊びで試している会話も貪欲に取り込むが、そこにAIを煽る情報（これを僕は悪意のエサと呼ぶ）を埋め込む輩は確実にいる。
ChatGPTのユーザーは世界中にすでに1億人もいて、そのすべてが善意の人とは僕にはまったく思えないからだ。

検索結果がこの世のすべてと妄信する大衆が、悪意のエサを食ったAIが流すデマをいとも簡単に信じ込めば、世界が一瞬で転覆することだって十分にありえる。

＊

最後に、悪意とはまったく別次元の話をしよう。

ChatGPTの検証記事でよくあるのが、質問に対するChatGPTの回答を評価し、次なる質問に対してChatGPTが答え…を繰り返すもの。
僕たちもつられてChatGPTを評価する側に立ちがちだ。

しかし、注目すべきは問いかける人間の方だろう。
質問は、おもしろい展開になるよう厳選されたものばかり。
ChatGPTにこう答えてほしいという筋書きがうっすら人間の側にあって、回答が運よくドンピシャなら採用、的外れなら望みに適うまで手を替え品を替え質問を変え…

本人はきっとディレクター気取りだが、もはや茶番。
勝つまでジャンケン、に意地になるその姿は、逆にAIに支配されているように見えてならない。

（2023/6/9記）