【Flux.1】 モデル形式はどれが良い? FP16 / Q_8 / Q_4 / NF4 を徹底比較!
はじめにこんにちは、kimamanaDr です。
今回は Flux.1 を使う上で悩みどころであるモデルの圧縮形式について考えてみます。
Flux.1 のモデルには様々な圧縮形式があるので、分かりやすく整理してみました。
圧縮形式を比較する時の注意!まず、検証を始める前にいくつか気をつけたいポイントがあります。
Forge 及び NF4 形式 の提供者の Illyasviel 氏は、量子化圧縮技術はばらつきが大きいので一つの画像で比較するべきではない と述べています。