見出し画像

ローカルLLMの情報まとめ

「ローカルLLM」の記事が増えてきたのでまとめました。

「Llama 2」ベースのローカルLLMについては、以下でまとめています。


1. 推論

1-1. 実践

1-2. 情報

2. SFT (Supervised Fine-tuning)

2-1. 実践


2-2. 情報

3. RM (Reward / preference modeling)

4. RLHF (Reinforcement Learning from Human Feedback)

4-1. 実践

4-2. 情報

5. 高速推論

6. 評価

7. データセット

※ OpenAI APIはローカルLLMではありませんが、ローカルLLMのデータセット作成の参考になるためリストアップ。

8. 事前学習

9. LlamaIndex ・ LangChain

10. マルチモーダル

11. Web UI

関連

【令和最新版】対話型AI、ローカル支部最前線レポート - Qiita
数値で整理する大規模言語モデル(LLM) の メモリ


この記事が気に入ったらサポートをしてみませんか?