フォローしませんか？
シェア
2023/12/12：llama.cppで「Mixtral-8x7b」のGGUF量子化モデルを試しました（現時点でまだmerge…
せっかくなのでLlama 2を触ってみようと思っていたところ、以下のスレッドに「Exllamaで16Kの…
「LLongMA 2」という長いコンテキストに対応したLlama-2派生モデルが話題になっていたので、Go…
「llama.cpp」はMacBookなどでLlamaベースの大規模言語モデルを動かすことを目標とするアプリ…
