破損モデルのマージによる破損状態の引継ぎについて

ここでは、破損モデルを修復せずにそのままマージした場合について、簡単に検証した内容を記載します。
検証記事となりますので、淡白な内容になります。ご容赦ください。



記事公開時 拡張機能バージョン
Toolkit:aa22150a (Wed Apr 12 10:35:33 2023)



1.検証使用モデル

破損検証用モデル:Elysium_Anime_V3.safetensors
マージ用モデル :realMaxV34_v34.safetensors


2.破損モデルの動作検証

Elysium_Anime_V3.safetensors の破損状況を確認
結果:破損している

Elysium_Anime_V3.safetensors で画像生成確認
プロンプト:chibi girl
結果:1トークン目の chibi が無視されている

プロンプトの先頭に「,」を追記し、トークンをずらす
プロンプト:,chibi girl
結果:先ほど無視されていた chibi が反映されている

Elysium_Anime_V3.safetensors をToolkitで修復

修復したモデルの破損状況を再確認
結果:破損なし

修復後のモデルで画像生成
プロンプト:chibi girl
結果:1トークン目の chibi が反映されている


3.SuperMergerで破損モデルを使用する

破損モデルを使用してマージ

・Model A:Elysium_Anime_V3.safetensors
・Model B:realMaxV34_v34.safetensors
・Merge Mode:Weight sum
・alpha:0.5
・プロンプト:chibi girl

結果:1トークン目の chibi が無視されている

マージモデルの破損状況を確認
結果:破損している

プロンプトの先頭に「,」を追記し、トークンをずらす
プロンプト:,chibi girl
結果:Genで画像生成後、先ほど無視されていた chibi が反映されている


Model AとBを入れ替えてマージ

・Model A:realMaxV34_v34.safetensors
・Model B:Elysium_Anime_V3.safetensors
・Merge Mode:Weight sum
・alpha:0.5
・プロンプト:chibi girl

結果:1トークン目の chibi が反映されている

マージモデルの破損状況を確認
結果:破損なし


破損モデルをModel Aに使用し、fp16でマージ

・Model A:Elysium_Anime_V3.safetensors
・Model B:realMaxV34_v34.safetensors
・Merge Mode:Weight sum
・alpha:0.5
・fp16:チェック
・プロンプト:chibi girl

結果:1トークン目の chibi が無視されている?

マージモデルの破損状況を確認
結果:破損なし

t2iでfp16のマージモデルを使用し画像生成確認
結果:1トークン目の chibi が反映されている


4.まとめ

  • Model A側に破損モデルを使用した場合は破損状態を引き継ぐ。

  • Model B側に破損モデルを使用した場合は修復される。

  • Model A側に破損モデルを使用した場合でも、fp16形式でマージすると修復される。ただし、Merge&Genで生成した画像が破損時のものになる。