元広告マンが見るポストGPTのマーケティング風景（後編）

(前編）では、GPTのような生成系AIの登場で、デジタル・マーケティングがフレームデザイン型から、これまで機械化が難しかったプロポーザルデザイン型へと拡張する可能性を予想した。（後編）では、理屈はそうでも、それってどうよ？というちゃぶ台をひっくりかえす考察をしてみようと思う。

ロボットは幻覚を見る？GPT 4.0のHallucination（幻覚）問題

チャットGPTの開発元であるOpen AIは、GPT4.0になっても、根本的で重要な問題が解決されていないことを認めている。その問題とは「幻覚（Halucination）」と呼ばれている。平易に言えば、現在のGPTが「いけしゃあしゃあと嘘をつくこと」である。

生成される内容に、ただ嘘が交じるのではない。「いけしゃあしゃあと」嘘がまじる、ここのところが、根深い問題なのである。

流行りの単語を時折織り交ぜながら、ところどころに嘘も混ぜ込みつつ、よどみなく且つ即座に打ち返す反射神経的なその話術は、口の達者なホステスも顔負けだ。GPT4.0は、その流暢さ・もっともらしさをバージョンが上がるごとに飛躍的に進化させることはできているが、内容の正確性を高める点については、Open AI内でも未だ解決策が見つかっておらず、課題が置き去りになっているという。つまり、今後GPTが進化するほど、不正確な情報を、より滑らかに、もっともらしく語るようになる。進化するほど、より巧妙な嘘つきになっていく、ということになる。嘘がバレて、それを反省し、さらに巧妙に嘘をつけるよう、天文学的なフィードバックをもとに学習していくというのは、オレオレ詐欺が、おばあちゃんが賢くなって騙しづらくなるにつれ、次はあの手・この手で手口が巧妙になっていく、これと同じではないか？

「殺人事件の凶器が出刃包丁なら、包丁職人を罰するのか」といわれる。しかし、作り手自らが、決定的な欠陥が解決していないと明言している出刃包丁で、力いっぱい鯛のお頭を割るのは勇気のいる話だ。イノベーション後進国に落ちぶれた日本を憂うIT賢者達は「しのごの言わず使いながら考えよ」というが、簡単な問題ではないような気がする。現に、AIのゴッドファーザー、ジェフリーヒルトン氏（元Google）も、強い懸念を示している。ここについては、しばらく態度を留保してもう少し考えたいと思う。

ただ、こうした倫理的な大問題を深慮する以前に、そもそも生成系AIが、人間に代わってマーケティング的な提案ができるのか？マーケターの私としてはむしろ、そこになにか、ひっかかりを感じるのである。「提案が最適化される」という事自体が、大きな矛盾を孕んでいるように思うので、最後にそれをのべてみる。

生成系AIの生み出す「最適な提案」？

今後、仮になんらかの方法で生成系AIの「しゃあしゃあと嘘をつく問題」を克服できる方法が見つかったとしても、それでもなお、私の中にひっかかっていることがある。それは「生成系AIに提案はできるのか？」という問いである。

そもそも「最適な提案」とはなんだろう？提案とは、いつも要望に最適であるべきなのだろうか？

無理に英語にしてみると「Optimized Proposal」。Optimize（最適化する）とは、すでに存在するものを調整する話であり、Proposal（提案）はそこにない考えをテーブルに上げる行為である。なので、この2つの組み合わせが、どうもしっくりこないのである。

そもそも提案とはなにか？

すでに客が自ら思案しているものを、敢えて客に提示するなら、それは「案」ではない。だから「提案」ではない。

提案とは、客の課題について思案を尽くし、客の思案やニーズを超えたよりよいもので、客に「なるほど」と言わせることだ。想定外だがより良い提案が、人の機会を広げ、世界観を広げ、行動を変え、未来を拡げる。客が、人々が、暗黙に囚われているフレームを押し広げること。それが提案であると、前職の広告会社での20年間、色々な先輩方に叩き込まれてきた。

機械学習を使ったレコメンドエンジンは、ユーザーの行動履歴からユーザーの想定内のものに序列をつけて「最適な推奨」をする。「推奨」ならクリックはするかもしれない。しかし、それは思考のフレームを押し広げるだろうか？むしろ、人々を囚えている暗黙のフレームそのものを、より強固にしてしまうことではないのか。その先の人々の社会はどうなっていくのか。

最適化ばかりを突き詰め、社会・文化・国境・人種の分断化がすすんだこの10年を見るにつけ、本当にマーケティングの提案も機械による「最適化」でよいのか。

GPTが作る提案がそこにあるなら、それを反面教師にして、それを超える案を絞り出す。そこに、これからの人間力・クリエイティブ力が問われると思う。

次は、「思考拡張」の観点から、このGPTをどう料理してやるべきかを語りたい。ただ、これはすこしばかり、先になると思う。