ChatGPT APIの文脈蓄積で制約（人格）を維持するための実験と課題

記事は無料でお読みいただけます。

取り組みの背景

私が構築しているChatGPT APIのチャットボットでは、とある目的をもって実験をしているところです。

その目的とは、人々の意思決定に自信を与えることを達成するために、AIを通じて人々の意思決定を妨げる悩みを解決することを目指し、個人に寄り添って気軽に相談できる相手として気づきを与えるサービスを提供することです。

サービスの前提条件

そのためには、過去の経験上、ユーザーに継続的に使ってもらえるよう、いくつかの条件を満たす必要があると考えています。

1. 親しみのあるキャラクターであること
   相談したいときの第一想起として機能させる必要があります

2. 文脈破綻せずやり取りを続けられること
   ユーザーのサービスへの信頼度を上げる必要があります。

3. ユーザーが目的をもって質問をしてくれること
   ユーザーの課題を解決する必要があります。

ChatGPT APIチャットボットとの比較とその課題

一方、AIアシストくんを含むChatGPT APIやその本体、Bing AIなどでのチャットボットは、人格を持たせる必要が特になく、聞かれたら答えるだけの性質上、検索の置き換えとしてすさまじく機能しますが、私が考えるに、サービス提供者としてはこっちはこっちでいくつかの課題がありそうです。

• すさまじく速くアーリーイノベーターを獲得したが、アーリーマジョリティの獲得には、さらなるユーザー体験が必要（登録したが契約しないユーザーの引き上げが課題）

• ユーザーが意思決定するには、今までの検索と同じく、ユーザー自身の納得感が必要である

• 競合多数。誰でも参入できるため、陳腐化する

OpenAIの最新版も発表されたことにより、プラットフォーマーに追いつき、サービスを強くしていくスピード感は楽しそうですね。

本サービスの課題

さて、課題解決型のチャットボットとして機能させるために、人格を注入してロールプレイしてもらうことはできるのですが、継続的に使ってもらうには、多くの課題があります。

• ユーザーが悩みを相談してくれるとは限らない
  ユーザーはそもそもChatGPTを知りません。りんなのようにお遊びだけの会話だけをするケースがあります。この場合、正しく回答しないことがあったり、会話の文脈が破綻します。ユーザー体験が低下し、ユーザーは当然離脱します。

• 相談のプロセスが個人によって異なる
  そもそもの話を聞いてほしいの文脈が個人によって異なるため、定義してあげる必要があります。自由に使ってもらうと、ユーザーは意図した回答を得られません。ユーザー体験が低下し、ユーザーは離脱します。

• 相談する際の質問の仕方に工夫がいる
  私自身は壁打ちやブレストを通じて言語化に大きく助かっているのですが、ユーザーが同じように質問できるとは限りません。「〇〇について知りたいですか？」と回答したときに「知りたい」と質問すると、「何について知りたいんですか？」と回答します。正しく対応してくれないことでユーザー体験が低下し、いずれ離脱します。

• 会話を切り上げない
  ユーザーの気づきが発生することがゴールなため、延々と質問をしてくる傾向にあります。会話でなぜ？を繰り返し問われることで、ユーザーがプレッシャーを感じます。ユーザー体験が低下し、いずれ離脱します。

• プロンプトインジェクション対策
  以前の投稿の通り、プロンプトインジェクション対策をすると、回答の前にシステム的な文章を挿入します。ユーザーへの回答時に除去する必要がありますが、失敗するとユーザーの会話にシステム文章がもれます。ユーザー体験が低下し、いずれ離脱します。

• 文脈蓄積し続けると人格が崩れる
  どうやらChatGPT APIでは質問者の口調だけでなく、文章全体の口調を模倣している様子です。制約として口調を与えたとしても、会話が蓄積することで機械的な口調に戻ってしまいます。ユーザー体験が低下し、いずれ離脱します。

ユーザー体験としての目立つ課題としてはこのようなものです。いかにそれらしい会話を維持させるかが重要といえるでしょう。サマライズ系のチャットボットと違って、回答内容が正しいかどうかはさほど重要ではありません。

課題対策に向けて

現在のAPI仕様で制約を維持するにはおそらく2点でしょう

1. 文脈を蓄積しない
   会話を保存しないので、常に制約に従い続けられます。AIチャットくんはおそらくこちらです（ログとして質問内容は保存していると思いますが）

2. 文脈を蓄積しながら制約を維持する
   会話の一部のみ保存して、制約が維持できる文章量にする

今回の場合、2を採用しました。というのも、相談できる相手というロールプレイ上、安易に「こういうやり方がおススメです」と回答しないように制約をしています。他人の「こうしたほうが絶対いいよ！」みたいなアドバイスが心に響かないのと一緒で、ユーザーに考えさせることを常に意識させます。

ということで会話が成立するように設計して、意図をもって質問して結果がこちらです。
長文回答にも耐えられて、人格を維持できているところまでは及第点といえるでしょう。

なんだかもう現実の人よりやさしい気がしている

余談：人格設定

親しみをもってもらえるよう勉強熱心な大学生として設定しています。明るく、真摯な考えを持っていて、悩みを聞くのが好きという制約・行動指針を加えています。
上記を体現するようなイラストを画像生成して雰囲気を出しました。

かわいい。

ユーザーに正しく使ってもらえるようLP（取説）はマストでしょう。アイドルプロジェクトになりつつあります。

ターゲットペルソナ

自身をベースにこんな人によさそうと想定してデザインしています。

• 年齢：30代

• 性別：男性

• 交際関係：独身・パートナーなし

• 交友関係：カジュアルな会話をする相手はいるものの、込み入った相談をするほどの相手はいない

• スマホを使う頻度：移動時間などの隙間時間

• 用途：調べもの。SmartNewsやTwitterなどを眺める

• 休日の過ごし方：インドアが多い。読書、ゲーム

• 好奇心：そこそこある。新しいものに触ってみて理解しようとはする

• ITリテラシー：理解がある

使ってみたい人に向けて

無料でチャットボットを作れることもあり、わざわざサービスを使うものなのか？ということもありますが、情報を取りまとめて自分で構築する余裕もない人もいれば、すぐに飽きてしまう人もいるでしょう、ということで希望者向けに開発中のサービスを開放します。

よいサービスとして提供するには、まだまだ品質を上げる必要があります。従量課金を使用しているところもあり、多少のカンパということで、ご興味のある方は以下から友達登録してあげてください。（開発環境で継続性にコミットできない点についてはご了承ください）