ngrokを使ってChainlitで作ったチャットボットを公開する

現在こちらの書籍でLnagChainの勉強をしているのですが、その中で簡単にチャット画面を作ることができるChainlitというライブラリが紹介されています。

LangChain完全入門　生成AIアプリケーション開発がはかどる大規模言語モデルの操り方

このChainlitで作ったチャットボットを、ラズパイとngrokを使って公開することができたので、その方法をその方法を書きます。

なお、ラズパイとngrokのインストールや設定につきましては、私が出した「ラズパイとFlaskでつくる！Webアプリ開発入門」という技術同人誌で解説していますので、読んでいただけると嬉しいです。

ラズパイとFlaskでつくる!Webアプリ開発入門：ノンプログラマーのためのスキルアップ研究会

ラズパイで行うこと

特別に行う設定はありません。書籍のコードを書いて、モジュールを起動させればOKです。

なお、書籍ではAPIキーの読み込みをCLI上で行っていますが、以下の記事

で解説した.envファイルによりAPIキーの読み込みを行うこともできます。

ngrokの起動

モジュールの起動後に、別のLXTerminalからngrokを以下のコマンドで起動させます。

ユーザー名@raspberypi:~ $ ngrok http 8000

Chainlitを書籍の方法に従って起動すると「http://localhost:8000」でチャットボットが起動するので、ngrokを起動する際のポートも8000にすることで外部からアクセスできるようになります。

ngrokが起動したら、画面で表示されるURLにアクセスしましょう。

Chainlitの画面に遷移し、AIと会話を行うことができます。

なお、ngrokでのコマンド入力により、固定URLや認証機能も使うことができます。

この「LangChain完全入門」は内容が分かりやすいので、おススメの書籍です。生成AIアプリ開発の学習をするうえで、読んで損のない書籍だと思います。