【イベントレポーㇳ】LLM Night〜生成AIソフトウェアアーキテクチャ〜

こんにちは、尾崎(@FooOzaki)です。 PharmaXでは、月1ペースでテックイベントを開催しています。

PharmaX

6月は「LLM Night〜生成AIソフトウェアアーキテクチャ〜」というテーマでイベントを開催し、生成AI/LLMアプリケーションを実際に開発・運用している各社にお集まりいただき、各社のソフトウェアアーキテクチャ設計事例、アプリケーション開発上の工夫や苦労、最新のモデルや機能をどう捉えているか、などを語り合いました。

本記事では、そのイベントで話し合われた内容をご紹介します。

株式会社Algomatic

登壇者： シゴラクAIカンパニーCTO 菊池琢弥 様

電気通信大学、同大学院にて自然言語処理分野の研究に従事。その後、フィンテックスタートアップにおいて開発リードやVPoEとして開発組織構築を担当したほか、モバイルオーダープラットフォームを手がけるShowcase GigではVPoTとして技術領域全般を管掌。2023年、AlgomaticにカンパニーCTOとして参画。

LTタイトル： RAGをテーマに考える、LLMの認知アーキテクチャとソフトウェア設計

Algomaticは、生成AIを活用した事業を同時多発的に立ち上げている会社です。その中で、1年ほど前から「シゴラクAI」という法人向けChatGPTを提供しており、RAGをベースとした社内FAQBotを手軽に構築できる「社内ナレッジチャット」という機能を搭載しています。本LTでは、弊社におけるRAG機能の開発事例をテーマとして、LLMを活用した情報処理のパターンを分類した「認知アーキテクチャ(Cognitive Architecture) 」という概念と、実際のソフトウェア設計への活用についてお話しします。

Spiral.AI株式会社

登壇者： シニアエキスパート　木村祐輔 様

東京大学文学部卒業。諸々を経てweb系エンジニアとして活動中。現在はSpiral.AI株式会社にて、LLM関連のプロダクトを開発（主にバックエンドを担当）。PythonとGoを使うことが多い。

LTタイトル：より柔軟に応答するLLMアプリケーションを目指して

本LTでは、LLMの応答に柔軟性・拡張性をもたせる為に弊社が行っている工夫を紹介します。
・基本プロンプト
・RAGで埋め込む知識
・LLMのテキスト応答と同時に生成する音声
などを柔軟に切り替えてユーザーの「痒いところに手が届く」を実現する為に、どのような仕組みを用意しているのかお話します。 また、webアプリとしての弊社プロダクトのインフラアーキテクチャなどの周辺知識も共有する予定です。

PharmaX株式会社

登壇者：取締役・エンジニアリング責任者 上野彰大

東京大学農学生命科学研究科卒業。大阪府堺市出身。新卒でIGPI（経営共創基盤）に入社し、2018年12月にPharmaX株式会社（旧・株式会社YOJO Technologies）を共同創業。全社戦略、エンジニアリング責任者。趣味でエンジニアリング勉強会を数年続けている。得意なのは、統計、機械学習、データ分析。

LTタイトル：LLMチャットアプリケーション・アーキテクチャの工夫

PharmaXは、オンライン完結で医薬品を購入可能な薬局を運営するスタートアップです。PharmaXでは、薬剤師がチャットする内容をLLMでサジェストするシステムを本番運用しています。 チャットアプリケーションにLLMを組み込むには、バックエンド・フロントエンド双方で様々な工夫が必要です。今回はアプリケーションとしての設計の工夫に重点を置いてお話いたします

アーカイブ動画（LLM Night〜生成AIソフトウェアアーキテクチャ〜）

アーカイブ動画もございますので、ぜひご覧になってください。

次回イベントのお知らせ

7月18日に『LLM as a judge〜PharmaXでの「LLMによる評価」活用の課題と今後の展望〜』というイベントを開催予定です。 先着順ですので、お早めに参加の申し込みをお願いいたします。

LLM as a judge〜PharmaXでの「LLMによる評価」活用の課題と今後の展望〜 (2024/07/18 19:00〜)

PharmaX株式会社の採用情報

私たちとともにオンラインを中心とした新しい医療体験を一緒に作ってみたいと思った方、もっとPharmaXについて知りたいと思った方はぜひ弊社の採用情報をご覧になってください！カジュアル面談も大歓迎会です！

PharmaX採用情報