次回のnoteの更新(金曜日くらい)で、Stable Diffusionの量子化を試した結果を公開するので、興味があったら見に来てください。
Stable Diffusionのモデルを量子化(Q8)して推論した結果がこちら・・・ 1step: 8秒(512*256) * 16STEPなので、おおよそ2分/枚で作成される。もちろん、GPUは使用していない。画像のサイズで生成時間が大きく変動。CPUで変わるかは気になる