フォローしませんか？
シェア
言語モデルの研究領域の一つに「知識編集(Knowledge Editing)」というものがあるらしい。 近…
llama.cppのCPUオンリーの推論について CPUでもテキスト生成自体は意外にスムーズ。なのに、…
2023/12/05：llama.cppが「Qwen」に対応したので試しました。 「Qwen」は中国Alibabaグループ…
2023/12/12：llama.cppで「Mixtral-8x7b」のGGUF量子化モデルを試しました（現時点でまだmerge…
