マガジンのカバー画像

ローカルLLM

28

本

ローカルLLM関連は主にブログで更新しています。 https://sc-bakushu.hatenablog.com/

運営しているクリエイター: Baku

#Mixtral

【ローカルLLM】Mixtral-8x7bをllama.cppで試す

2023/12/12：llama.cppで「Mixtral-8x7b」のGGUF量子化モデルを試しました（現時点でまだmerge…

6か月前

18