様々な LLM を簡単に使える Slack アプリ「Hallu」を作ってみた

世はまさに大規模言語モデル時代

世はまさに大規模言語モデル（LLM）時代・・・ということで、様々な基盤モデルや関連する論文が次々に出てくるこの頃です。既に多くの人が業務へ LLM を取り入れているかと思います。

有名どころから出ている言語モデルを Slack 上で簡単に利用開始できるアプリを（ほぼ自分用ですが）作ってみました。

Slack App : Hallu （インストールはこちらから）

なにができるの？

LLM が裏で動いている Bot と、チャンネルではメンションした際に、もしくは Bot と DM することでスレッド内で会話することが可能です。（チャットする以外の機能はつけていません）

その他、以下のような設定が変更可能です。

設定から変更するだけで好きな言語モデルとチャットすることが可能です。

Large Language Model

好きなシステムメッセージ（プロンプト）を追加可能です。

System message

LLM を呼び出す際の認証情報は自分のものを利用可能です。

Credentials

なぜつくったのか？

慣れ親しんだ Slack 上で扱いたい

ChatGPT や Claude Chat など簡単に試すことが出来る Web アプリケーションはありますが、それぞれアカウントや契約が個別になるため煩雑だなぁと思い Slack 上で利用したいと思いました。

自分のクレデンシャルを使いたい

似たような Slack App は多数ありますが、どこの誰が管理してるか不明な OpenAI アカウント等を経由していたりしており、データのセキュリティまわりが気になりました。API 経由で LLM を利用するにしても自分の管理しているアカウントや環境を利用したいと考えました。

業務に取り込めているのは一部のスタートアップだけ

開発力のある、知見のあるスタートアップ等は既に自社で同等のものを作っているかと思いますが、Web 開発や Slack App に明るくないスタートアップにも活用してもらいたいなと思い自分向けに作ったものですが App Directory で公開することにしました。

FAQ

Q. 裏はどうなってるの？
A. API Gateway + Lambda + SQS で動いています。

Q. お前がデータ抜くんじゃないのか？
A. 後ほどコードは整理して公開する予定で、しれっとデータを抜くことはできないようにしています。

Q. もっと高機能なソリューションアーキテクトのように振る舞う Bot がほしいです。
A. そのうち出すかもです。（そっちを開発していたのですが、副産物としてできたこっちを先に公開してみました）

Q. なんでこんな単機能なしょぼいやつ出したの？
A. 自分で色々試すにあたって、単機能なしょぼいやつが欲しくなったからです。

Q. なんで Hallu ?
A. Hallucination（幻覚）からとりました。Hallucination も含めて楽しんで使ってください。