GGMLからGGUFへ:llama.cppのファイルフォーマット変更
RedditのローカルLLM板に以下の投稿があった。週明けに「llama.cpp」で使われているGGMLファイルが「GGUF」という新フォーマットに変更されるとのこと。
フォーマット変更の要点
GGUFは、GGMLよりも拡張性の高いファイルフォーマット。「.bin」から「.gguf」になる。
これにより、Llama以外の言語モデル(falcon, rwkv, bloom, etc.)がllama.cppでサポートできるようになる。サポートするモデルは段階的に増える予定。