LLMをサービス導入するための7つのアクションまとめ

データサイエンティスト/プロデューサーの @honake です。 LLM（大規模言語モデル）の利活用が各企業で進んでいますが、実際にサービスに導入してリリースしていくにはさまざまなニーズやハードルがあります🧐 たとえば、 医療や法律など特定のタスクに特化させたい 最新の質問にも答えられるようにしたい レスポンス（応答速度）を早くしたい LLMが期待したレスポンスをできているか定量的に評価をしたい といったようなものです。 このようなニーズに対して、LLMをサー