🌈大規模言語モデルのllamafileがVer 0.7に。l

lamafileと言えば4GBの1つのファイルで、ローカル環境で実行できるLLM。

今回のバージョンはAMDのZen4採用のCPUで以前より10倍速くなったらしいです。

この記事が気に入ったらサポートをしてみませんか?