雑記 Rocm7.2 ComfyUI RX9070XT vs RX6800/衝動買い/生存報告

日常ComfyUI,ComfyUI-Zluda,rocm,ネタ

Contents

1. 知ってたけど
2. ComfyUI(Rocm7.2版)をRX9070XTで実行、RX6800との比較
- 2.1. 生成速度
- 2.2. ZLUDA(参考値 RX6800)
3. 衝動買い再び
4. プラグマタの幼女アンドロイド、ディアナをめぐって騒動
5. 〆

知ってたけど

Windows11のUIや設定回りが、無能の働き者になってる感じがつらい

GitHub

Releases · valinet/ExplorerPatcher

https://github.com/valinet/ExplorerPatcher/releases

This project aims to enhance the working environment on Windows - valinet/ExplorerPatcher

ExplorerPatcherでだいぶマシにはなりましたが、細かな設定が分かりにくいっすねえ；
一番面倒なのは、今まで構築した環境をそのまま移行できないっていう

あといくらやってもLANの名前解決できてなくてぶち切れ
最近の仕様変更(SMB1廃止)でIP直打ち前提になったそうでね…

ComfyUI(Rocm7.2版)をRX9070XTで実行、RX6800との比較

サクッと導入！普通に動作！

ComfyUIの方はRocm版を入れて普通に動作しました

ガデログ

【Windows】RadeonでStable Diffusion環境構築【ComfyUI+ROCm7.2】

https://gadelog.com/【windows】radeonでstable-diffusion環境構築【comfyuirocm7-2】/#toc7

先日ROCｍ7.1.1での環境構築記事を公開したが、なんと一ヶ月経たずに7.2が公開されてしまい、情報が古くなってしまった。そこでこの記事では、Radeon RX 9070 XT環境にて、WSL2等を使用せずにWindowsネイティブでCo...

sage-attentionは通常インストール
venv/Scripts配下で activate.bat を実行
venv環境で以下を入力
(venv) pip install sageattention

3ファイルをComfyUI-Zludaパッチに手動で差し替えればOK

attn_qk_int8_per_block.py
attn_qk_int8_per_block_causal.py
quant_per_block.py

生成速度

IllustriousXLベースで解像度1536×1536
Lora6個、サンプラーはEula_dyにスケジューラーはnormal
普段使いのワークフローで速度をしらべました
なおRX9070XTはデフォルト設定の運用となっています

rocm7.2同士のcomfyUI
sage-attentionで2.33s/it(RX6800)から

sage-attentionで1.69s/it(Rx9070XT)

上記で画像1枚出力するのに70秒前後が25秒前後(TiledVAE)に改善しました
そこそこ動いてしまうゲームとは違って、RX6800比では圧倒的な差が出ますね
これがハードの進化とRocm Windows版の最適化のお陰っぽいです。

サクサクと出力されるようになりました
複数のAIに聞くと大体RTX4080か同super位は出てるって話です
本当かどうかは裏取ってませんが、もう少し話題になっていいのになあ！
SDXLなら遊べる位の性能は出ますね

個別に面倒なことがあるので、他人のワークフローを弄りたいとかなら
すなおにGeforce RTX4080やsuperをオススメいたします、特にガチの人は。

ZLUDA(参考値 RX6800)

RX6800の通常版Zludaは2.96s/it 1枚105秒で、もはや選ぶ理由がない感じかなぁ
Rocm7.2版でも30秒近く短縮ができているのでかなりの最適化差がついた印象ですし
何よりメモリを食いつぶすこともありませんからね。

おま環で高機能版がtriton他でエラー吹くんで検証できないのですが；