マガジンのカバー画像

ローカルLLM関連:初心者の取り組み

141
ローカルで動かす試み関係の記事をまとめてマガジンにしました。
運営しているクリエイター

#return

Fugaku-llm-13BをMacで動かしてみる

昨日プレスリリースが発表された富岳を使った日本製LLMをMacで動かしてみました。 さて、以下…

Lucas
5か月前
23

日本語ファインチューニングされたLlama-3-8Bを MLX & Gradioで試してみる

Llama-3が発表されてすぐにPhi-3が登場してきて賑やかしい日々です。 そんななかLlama-3-8Bに…

Lucas
6か月前
8

Rakuten/RakutenAI-7B-chat を試してみる ~ Gradioつかって

楽天グループが7Bのモデルを発表しました。 このなかの、Rakuten/RakutenAI-7B-chat を発表日…

Lucas
7か月前
14

Gradioの`ChatInterface`こと始め その5:Ollama API編

Ollama-Pythonモジュールでは、細かい設定はできません。ollama のAPIを使う方法を次に試して…

Lucas
7か月前
5

Gradioの`ChatInterface`こと始め その3:ドロップダウンの選択追加して、c4ai-comman…

Gradioの"ChatInterface"のこと始めの3です。 前回の続きで、additionの部分にドロップダウン…

Lucas
7か月前
3

Gradioの`ChatInterface`こと始め その2:システムプロンプト設定画面の追加

昨日の続きです。以下を参考にしながら進めました。 今回は、システムプロンプトの設定画面と…

Lucas
7か月前
2