Chat-GPT をいまいち使う気になれない理由

前置き

ソフトウェアテストの手法に「ブラックボックステスト」「ホワイトボックステスト」というものがあります。
ブラックボックステストというのは、プログラムの中身については何も知らない状態で出鱈目な入力値を準備して動作テストを行う手法で、ホワイトボックステストというのは、プログラムの中身を理解した上で、バグとみなされる動作をしそうな入力値を狙って動作テストを行う手法です。
このブラックボックス、ホワイトボックスという表現に関連して思うことなのですが、人間の使う道具というものは、どんな場合でもある程度のホワイトボックス感が重要だと思います。
例えば、自転車なら「またがってペダルを漕ぐと前に進む」だとか、自動車なら「アクセルを踏むと加速し、ブレーキを踏むと減速する」とか、鉛筆なら「黒い部分で紙を引っ掻くと、黒い線が引ける」など、その道具がどういう性質でどう扱うものなのかをみんなある程度理解しているから、便利に使うことができます。
これはウェブサービスに当てはめても同じことで、Googleで検索を行う場合には、「ネット上のWebページの中から、検索ワードに関連するページをリスト表示してくれる」「検索ワードとの関連性やSEO対策の高い順に上から表示してくれる」など、どのような機能を提供してくれるのかある程度理解した上で利用すると思います。また、UIやUXのデザインをする方は、「どんな風に使うと、どんな機能を提供してくれる」サービスなのか、ユーザーが画面を見ただけで感覚的に理解できるデザインにするために苦心されていることと思います。
このように、道具を便利に使うためには、ホワイトボックス感を感じられることが非常に重要ではないかと思います。

Chat-GPT について

我々のどんな質問も理解して、それらしい回答を準備してくれるChat-GPT君。皆さんは、彼がどこからどのようにしてその答えを導き出しているのか想像できますか？彼の導き出した答えが信頼に足るものかどうか、判断する基準をお持ちでしょうか？(または持つことができるようになるでしょうか？)
そこが完全なブラックボックスと化しているChat-GPTに頼る時、我々は彼を「完全に信頼してしまう」か「完全に疑って自分で裏どりをする」かの二択を迫られてしまいます。
そんな道具が、実際に役に立つ日がこの先やってくるのでしょうか？

それが、昨今もてはやされているChat-GPTに対して僕が懐疑的にならざるを得ない理由の一番大きなものです。

今後の展開予想

もちろん、このサービスが世間のAI期待値を大きく超えたものであったというインパクトは、しばらく続くでしょう。

検索エンジンを使うよりもリサーチの効率が上がったり、アイディアの叩き台を出してくれたり、楽しい使い方もいくらでもありそうです。

でも、人々の仕事のあり方そのものを変えてしまうには、まだ道のりは遠いように思えます。

ChatGPTが仮にオープンソースであったとしても、その複雑な仕組みを理解して「ホワイトボックス化」するには、ユーザー側も相当なレベルが求められるでしょう。
(そこにもビジネスチャンスがあるのかもしれませんが)

「合格点」があふれる未来

ChatGPTは、すでに現時点でまずまず合格点の回答を返してくれます。
それも、驚くべきスピードと低コストで。

このサービスが世界を敷衍したら、世の中には「合格点的コンテンツ」があふれるようになる可能性があります。

ChatGPTを使う気になれない本当の理由は、ここにあるかもしれません。
間違った返答をされるリスクではなく、目をみはるようなものとの出会いや、感動を体験する機会がどんどんなくなっていくことへの恐れ。

僕の意見は、もしかしたらあまりにもジョージ・オーウェル的すぎるのかもしれません。
でも、人々がこういったサービスを使い、無難な回答やコンテンツに慣れる危険性も、少しは考慮してみてもいいのではないでしょうか。

ふと、Siriに「すみません、よく分かりません」と言われることに安心感を覚えた今日でした。