マガジンのカバー画像

調査

3
本
運営しているクリエイター
bbcmc

[調査] Smile Test: Elysium_Anime_V3 問題を調べる #3

前々回、前回、と「1 token目が無視される」問題について調べてきたが、恐らく破損箇所と修正方法がわかった。 さらに、修正の効果の検証と、修正の副作用についてもまとめた。 クイックまとめ・「1token目が無視される」問題について、モデル内の破損箇所を特定した ・複数の修正方法を確認した（記事内参照） ・修正した場合の影響をまとめた ・モデル内のチェック用 Extension を追記した (06/02) 破損箇所を発見？Arenaさん（sd-tagging-helper

bbcmc

[調査] Smile Test: Elysium_Anime_V3 問題を調べる #2

前回の検討の中で、提示されていた再現パターンについて、確認できていなかったので、追加確認を行う。 ※ご指摘ありがとうございます！ 超クイックまとめ１．提示してもらった手順で、smileテスト問題は再現した 　・すなわち「Add Difference で、TextEncoder は壊せる」 ２．マージ対象は TextEncoder, U-Net, AutoEncoder の全てを含んでいる 　（マージ処理内容について勘違いしていた！） ３．Add difference がモデ

bbcmc

[調査] Smile Test: Elysium_Anime_V3 問題を調べる #1

「プロンプトの一つ目のトークン無視」問題が発生！という話を聞いたので調査してみる。 念のため。現在主に利用されているマージ手法では TextEncoder部は破損しない現時点では、 「Add Difference を行うと、TextEncoder が壊れる」は誤り で、 「破損した TextEncoder を持つモデルを A としてマージを行うと、破損部分が引き継がれる」 が正しいと考えられる。 理由は、現在利用されているマージは、AUTO1111 のもの、その基とされる

bbcmc