【V2】flux1-dev-bnb-nf4-v2とは？【FLUX.1】
※ NF4モデルの改良版がアップデートされていました。
NF4版とは？
FLUX.1には「上位版：Pro」「中位版：Dev」「下位版：Schnell」が存在し、公開されローカルで利用できるのは「Dev」と「Schnell」です。
※ 中位版・下位版は、上位版：Pro版の蒸留モデル（より大規模なPro版と同等の性能を持てるように、Pro版の出力で学習＆軽量化したもの）との事です。
（Pro版はオンラインのみなので、）ローカルで利用できる中位版と下位版はそれぞれ次のものが入手可能です。
中位版（dev）※ 商用利用不可
①フルサイズ
②NF4量子化版（離散化して軽量化したもの）←これ
下位版（Schnell）
③フルサイズFP16
④半分精度FP8
家庭用パソコン（一般的な中程度のゲーミングPC）では、②か④が現実的な選択になります。この２つを比較したものが下記事です。
Schnellよりも上位であるはずのDev版の方が、メモリ利用と速度でも上回っているので、生成画像のみを扱うようなライセンスに問題がない用途であれば、dev版一択で構わないように思います。
このNF4版のV2版がリリースされたので比較してみました。
比較
セットアップは次のものを利用しています。
まとめ
V2は二回目の量子化をよりよい方法で改良したそうです。一部の精度を落とさずにフル精度で保持しているので、0.5GBファイル容量が増加したとのこと。そして精度を落としていないので、元に戻す必要がなく高速化したとのこと。（READMEより）
筆者環境では47秒が31秒になりました。（RTX 3060 12GB）
画質はよくわかりません。少なくとも悪くはありません。
以下、関連記事の【PR】です。
この記事が気に入ったらサポートをしてみませんか？