【Forgeは終わり？】

僕はStable Diffusion Forgeを使って画像生成しているのですが、コストが高いからForgeユーザーはAutomatic1111に戻れみたいなこと言ってる。
1111になるとメモリー不足でローカルできなくなるんだよな～
ローカルの味知っちゃったし…ForgeもVRAM消費少なくてうれしかったんだけどな～

とりあえず完全に使えなくなるまでこのままで
アップデートしなければ大丈夫なのだろうか…

Hi forge users,

Today the dev branch of upstream sd-webui has updated many progress about performance. Many previous bottlenecks should be resolved. As discussed here, we recommend a majority of users to change back to upstream webui (directly use webui dev branch or wait for the dev branch to be merged to main).

At the same time, many features of forge (like unet-patcher and modern memory management) are considered to be too costly to be implemented in the current webui’s ecosystem.

Forge will then be turned into an experimental repo to mainly test features that are costly to integrate. We will experiment with Gradio 4 and add our implementation of a local GPU version of huggingface space’ zero GPU memory management based on LRU process scheduling and pickle-based process communication in the next version of forge. This will lead to a new Tab in forge called “Forge Space” (based on Gradio 4 SDK @spaces.GPU namespace) and another Tab titled “LLM”.

These updates are likely to break almost all extensions, and we recommend all users in production environments to change back to upstream webui for daily use.

We invite a small group of users to stay here to test Gradio 4, since feedback and extensions for Gradio 4 are also necessary for upstream’s considerations or adaptations, with regard to gradio’s recent advancement in LLM interface and streaming system, image editors and displays, and Gradio sdk’s seamless integration of zero-gpu computation management system.

Finally, we recommend forge users to backup your files right now (or just change back to upstream webui if possible). If you mistakenly updated forge without being aware of this announcement, the last commit before this announcement is 29be1da

フォージユーザーの皆さん、

今日、アップストリーム sd-webuiの開発ブランチでは、パフォーマンスに関する多くの進捗が更新されました。以前のボトルネックの多くは解決されるはずです。ここで説明したように、大多数のユーザーにはアップストリーム webui に戻すことをお勧めします (webui の開発ブランチを直接使用するか、開発ブランチがメインにマージされるまで待機します)。

同時に、Forge の多くの機能 (unet-patcher や最新のメモリ管理など) は、現在の WebUI のエコシステムに実装するにはコストがかかりすぎると考えられています。

その後、Forge は、主に統合コストのかかる機能をテストするための実験的なリポジトリになります。Gradio 4 で実験し、LRU プロセス スケジューリングと pickle ベースのプロセス通信に基づく huggingface space のゼロ GPU メモリ管理のローカル GPU バージョンの実装を、次のバージョンの Forge に追加します。これにより、Forge に「Forge Space」(Gradio 4 SDK@spaces.GPU名前空間に基づく) という新しいタブと、「LLM」という別のタブが追加されます。

これらのアップデートにより、ほぼすべての拡張機能が壊れる可能性があるため、実稼働環境のすべてのユーザーには、日常使用ではアップストリームの WebUI に戻すことをお勧めします。

gradio の LLM インターフェイスとストリーミング システム、イメージ エディターとディスプレイにおける最近の進歩、および Gradio SDK のゼロ GPU 計算管理システムのシームレスな統合に関して、アップストリームの検討や適応には Gradio 4 のフィードバックと拡張も必要であるため、少数のユーザーをここに残して Gradio 4 をテストするよう招待します。

最後に、Forge ユーザーに今すぐファイルのバックアップを取ることを推奨します (または、可能であればアップストリームの WebUI に戻すだけです)。このアナウンスに気付かずに誤って Forge を更新した場合、このアナウンス前の最後のコミットは29be1daです。