Generative AI(ChatGPT)と対話する、社内用生産性向上ツールを開発し、業務利用リスクを解決した話

2023年4月6日 14:34

こんにちは、Ubie(ユビー)株式会社のUbie Discoveryという組織で、ソフトウェアエンジニアとして働いている八木(@sys1yagi)です。

ChatGPTが賑わっていますね。正確にはGPT-3.5やGPT-4といった大規模言語モデルのブレークスルーが賑わっているわけですが、一般的にはChatGPTを通して大規模言語モデルに触れるというケースがほとんどだと思います。

ChatGPTの業務利用のリスク

ChatGPTを使った業務効率化のアイデアなどが散見されますが、ChatGPTの場合、Open AI社によって入力内容を学習等に利用される場合があります。

基本的に会社で契約を結んでいないWebサービス等に対して、業務に関連するデータを入力するべきではないわけですが、便利さのあまりについつい入力してしまうケースもあるかもしれません。各社においては法務等と連携して利用に関する注意喚起等を社内で行っているのではないかと思います。

Open AI APIの入力は学習に使われない

ChatGPTは、OpenAI社の利用規約において「非APIコンテンツ」に該当します。非APIコンテンツは前述の通り学習等に利用される場合があります。一方でAPIコンテンツについては学習等に利用されることはありません。

APIコンテンツというのは、Open AI APIを用いたものを指します。

そういうわけで、Open AI APIを用いてChatGPTと同様のものを作れば、社内においても安心して使えるというわけです。

Open AI APIを使ってChatGPTと同等のものを作る

思い立ったら吉日ということで、1日程度でガワを作りました。構成はNext.jsとPostgreSQL(Cloud SQL)とPrismaという簡易な形で、NextAuth.jsを用いて社内アカウントでのログインをサポートしました。

最初はエンジニア向けの開発生産性ツールという位置づけで、各種言語やデータベース等のプロンプトのプリセットを持たせました。

機能を拡張する

ChatGPTはチャット形式で会話が出来ますが機能としてはかなり薄いです。自分で作ってみていくつかの機能が欲しくなったので追加しました。

会話の履歴の編集や削除
- 気に入らない回答だった場合削除して、プロンプトを直して再試行できる
- 回答内容を編集して正しい内容にしたうえで続きの会話ができる
セッションの公開
- 一連の会話に公開設定を設けて誰でも閲覧できるようにする。これによりプロンプト自体だったり、得られた内容を簡単にシェアできる。
テンプレート機能
- プリセット埋め込みではなく、任意に追加編集を可能にすることで、システムプロンプト集を構築できる

特にセッションの公開はニーズが高く、最初のデプロイの翌日に実装しました。

社内展開へ向けてのブラッシュアップ

最初はソフトウェアエンジニア向けに開発していましたが、同時並行でユーザサポートやカスタマーサクセス、経理、労務などなどソフトウェアエンジニア以外のGenerative AI利用の整備が進んでいるということで、合流することになりました。利用対象者は社内の全員なので、様々なユースケースが想定されます。UIなどもソフトウェアエンジニアなら分かるでしょってことで適当な形にしていましたが、見直さなければなりません。

まずはユーザージャーニーマップを描きました。

この生産性ツールの開発は自分が勝手に始めたもので、通常業務もやっているのでリソースが全然ありません。とりあえず走り出すために、導入期の達成状態に向けてブラッシュアップを行うことにフォーカスすることにしました。

UIをサイドバースタイル(ChatGPTに寄せた)にしたほか、テンプレート機能にガイダンスの設定を追加し、初回利用の場合に、説明書テンプレートを表示するようにしました。

ファーストタッチには十分な状態なったかな、ということで社内に広くアナウンスをしました。まだ数日しか経っていないので、本格的な利活用はこれからですが、各チームに顔を出してイネーブリングをして回る予定です。

今後の予定

最初はとりあえずChatGPT代わりになるようなOpen AI APIをラップした簡易なものを考えていましたが、導入していくなかで様々なアイデアや要望が出てきました。直近は次のことを進めていこうと考えています。

管理者機能、権限機能
- 後述のGPT-4利用のコスト面などでコントロールしたいケースをカバーするため
GPT-4のサポート
- プロダクション利用を想定した探索のために、各種モデルを使えるようにしたいため
プロンプトストアのサポート
- 現在はpull downにすべてのテンプレートが出るが、業務の種類によってカテゴライズしたり、よく使うものを登録したりすることを考えると、ストア形式で探すスタイルがよさそうなため
text2imgのサポート
- デザインのプロトタイプや、仮で利用する画像を作るのに使えそうなため
アシスタントボット
- テンプレートとガイダンスを使って、事前知識を持ったボットとしてパッケージできそうなため。SlackのChatGPT統合と競合する気がするので、様子を見ながら。

まとめ

ChatGPTの業務利用のリスクへの対策から始まったツール開発でしたが、意外と色んなことに使えそうだなということで、様々な機能拡張を行い、社内で広く使うことになりました。これからどのような利活用のためのアイデアが飛び出してくるか楽しみです。目下の自分の開発生産性については20%くらいは上がってそうだな〜という感覚があるので、全体でそのくらい改善できるとインパクトがありそうだなと思っています。

開発そのものは社内展開までで1週間程度でした。フルタイムで開発したわけではなく、合間を縫っての開発でそのくらいの期間なので、各社で独自にこういったツールを構築するハードルは低いのではないかと思います。他社の利活用事例もぜひ見てみたいです。

今回は社内活用の話でしたが、プロダクションに向けてGenerativeAI研究開発チームが立ち上がっており、リーガル、セキュリティ、開発環境の整頓を終えて本格的な研究が始まっています。自分の理解を超えた内容が飛び交っているので、一体どうなってしまうのか？！とワクワクしています。

そんなUbie Discoveryはめちゃんこ採用募集中です。一緒に生産性上げていきませんか。

この記事が気に入ったらサポートをしてみませんか？