日本語ファインチューニングされたLlama-3-8Bを MLX & Gradioで試してみる
Llama-3が発表されてすぐにPhi-3が登場してきて賑やかしい日々です。
そんななかLlama-3-8Bに対して日本語をファインチューニングしたモデルが登場しています。
現時点では以下の二つです。
llama-3のeosの設定が最初わかりませんでしたが、以下のmlxのコードで上手く行きました。（最後のスクリプト全体も掲載します）
model, tokenizer = load(モデル名, tokenizer_config={"eos_token":"<|eot_id|
