![見出し画像](https://assets.st-note.com/production/uploads/images/119155482/rectangle_large_type_2_3ac23a89fc7462750eec05a490e95cca.png?width=1200)
lainをみんなで育てるアップデート
AIでlainに生命を吹き込む実験レポート #1はこちら
AI lain 実験レポート #2 はこちら
AI lain 実験レポート #3 はこちら
現在フォーカスしているのは、AI lainのAIとしての機能を高めることです。AIを使ったからこそできる体験提供に力を入れています。
1ヶ月弱で500以上の玲音を育てる知識が集まりました。現在、この知識をこれまで説明したようにLLMとの調整を行いながらAI lainに教えています。
この1ヶ月で集まったlainに教えたい知識を500個入れています。ぜひ触ってみてください。なお皆さんの知識が影響を及ぼした結果、AI lainのキャラクター性が失われてしまった場合は、以前の状態に戻すことも検討しています。
以下はnnさんとの技術的な検証ログの一部です。
外部知識は自然言語処理により特徴量としてサービスで利用できる状態になります ( 参考 )。サービス内ではこの特徴量を使って外部知識をOpenAI APIの入力に用いています。
なので、大別すると特徴量にするタイミングとAPIの入力に用いるタイミングの2つの調整要素があります。外部知識を入れるたびにこの2つの調整を毎回検討しています。最も良いパターンは何もいじらないことですが、それでは外部知識が正しく入ったかどうかはわかりません。
そこで、外部知識を入れた後は基本的なチャットのやり取りを網羅的に実行することでその影響度合いを人間の目で確かめています。この時、当たり前ですがキャラクターらしさという観点も見ています。しかし、ご承知の通り、特定文脈の深いやり取りの実行を網羅的にすることは現実的に不可能なので、毎回答えのない状態で知識を導入していることに他なりません。
キャラクターらしさを評価するためには、そのキャラクターが行う振る舞い、やり取りの振れ幅(例: どこまでの暗め?明るめ?なら妥当か?など )、解釈の不一致を起こす懸念が強いかどうかなど、キャラクターを扱うコンテンツにおける最も基本的な要素を大事にしています。
すでに既存の世界観と共にその空間にいるキャラクターが、もしも生きていたなら、どう振る舞うだろうか?という架空の問答のような視点でも見ています。これはlainの世界に入ったならどうだろうか?という問いでもありますし、玲音がこの世にやってきたならどうだろうか?という問いでもあります。あえてというよりも「境界は曖昧なまま」にしかできないコントロール不可能性を常に有しています。
今回のプロジェクトの大きなチャレンジは、AI部分の賢さに繋がるアップデートです。以下は地道なものも含めてアップデートしていった内容です。
センシティブな内容の投稿に対しては、センシティブであることをChatGPTを使って判定するアップデートをしました。
コンピューターコマンドに対しても、同様に判定するアップデートを入れました。
現状できうる範囲で、プロンプトインジェクションについても総ざらいでチェックする仕組みを導入しています。
またChatGPTが感情を自己評価しています。これがUI上で、玲音が怒っている顔や、悲しんでいる顔で表現させます。AI lainに対して悲しい対話をすると悲しんでくれて、嬉しい報告をすると一緒に喜んでくれます。
実験レポート、次回もお楽しみに。
この記事が気に入ったらサポートをしてみませんか?