見出し画像

【開催レポ】LLM in Production Meetup #2 LLMの勘所 -コスト・精度・パフォーマンス

Yuto

先日 LLM in Production、第3弾！まとめていきます。2か月おきの開催を実施しております。

"LLM in Production." と題して、LLMのプロダクション導入・サービス実装を中心に扱うコミュニティです。LLMのアプリ実装に関わる方の技術情報交換の場になればと思っております。

今回は、 "LLMの勘所 -コスト・精度・パフォーマンス-"がテーマです。プロダクションレベルのLLMソリューションが少しずつ増えてきておりますが、各社どのようにコスト見積もりをしながら精度・パフォーマンスチューニングを行っているか、多くのインサイトが共有されました。

今回の記事はその開催レポを兼ねてのプレゼンテーション資料まとめです。LLM Meetup Tokyo の開催レポが良かったのでマネしています（LLM Meetup Tokyo #2 開催レポ＆LTまとめ｜mah_lab / 西見 公宏 (note.com)）

イベントの connpass リンクはこちら

掲載ポリシー

  • #LLMProdのハッシュタグで共有されたものだけ掲載します

  • LT以外にも濃厚なパネルディスカッションがあったのですが、こちらはオンサイト参加者限定としてとっておきます。

メインプレゼンテーション

メルカリにおけるLLMを用いたプロダクト開発（メルカリ Andre さん）

契約書プラットフォームでのRAGのタスク設計（MNTSQ 堅山さん）

マルチモーダルモデルと自動運転 車載モデルのコスト・スループット・レイテンシ（Turing 山口さん）

LLM in Production #2 Meetup 231023_AI inside（AI inside 井上さん）


当日の様子

今回はメルカリさんのオフィスをお借りし、開催致しました！

素敵なオフィスで来場者の方のボルテージも上がっておりました！
懇親会ではメルカリ石川さんに乾杯の挨拶を頂きました

Twitterでの反応

参加できなかった方は、#LLMProd をチェック！

嬉しいコメント！

TuringさんのユースケースにはLLM投資が必須、という話は非常に興味深かったですね。

この話

イベント内のトピックきっかけで有用な資料のシェアに繋がるのいいですよね

LLM活用した開発したい方はぜひDMください！（宣伝）

所感


「LLMを活用したアプリケーション開発をされている方？」と質問した際に、過去回と比べて挙手が増えていたのが印象的でした。（開場の6割くらい）

ではまた！


この記事が気に入ったらサポートをしてみませんか？