前言：所有 Comfy 用户都绕不开的痛点
单卡显存永远不够用。跑 WanVideo 2.2、FLUX、LTX、Qwen 图像大模型，刚加载 UNet 就弹出 OOM；想生成 4K 长视频、高分辨率图，CLIP+VAE+UNet 堆叠直接占满显存；多显卡设备却只能闲置副卡内存、大容量系统 DRAM 白白浪费。
传统--lowvram、模型量化治标不治本，要么速度暴跌，要么画质受损。今天给大家介绍一款彻底解决显存瓶颈的开源插件 ——ComfyUI-MultiGPU v2，基于全新 DisTorch2 分布式推理技术，一键拆分模型到 CPU 内存 / 多块 GPU，把所有硬件资源全部榨干，单 12G 显存卡也能跑超大视频模型。
项目地址：https://github.com/pollockjj/ComfyUI-MultiGPU
显存优化前后对比
一、核心技术：DisTorch2 分布式 Torch 原理
DisTorch 全称distributed torch，是插件的底层核心逻辑，和原生低显存模式完全不同：
- 分层卸载逻辑 将模型静态权重层（UNet、CLIP、VAE） 从主计算 GPU 剥离，转移到「捐赠设备」——CPU 内存或其他副 GPU；主 GPU 只保留采样、潜空间计算等高实时性任务，这才是真正吃显存的环节。
- 资源利用率质变 从上图对比可见：4070 12G 显卡 + 16G 内存的普通配置，优化前闲置 9GB 资源，最高仅支持 1920×1088 短画面；开启 DisTorch2 后，全部内存 / 显存拉满，直接输出 736×1280 超长视频，分辨率、时长上限大幅提升。
- 两大运行模式，新手 / 专业用户全覆盖
1）普通模式（小白首选）
单滑块一键控制，参数virtual_vram_gb设置想要释放的显存大小，donor_device选择 cpu/cuda:1 等设备，插件自动分层分配，零学习成本。
普通模式节点面板
2）专家精准分配模式（多卡重度用户）
支持三段式自定义分配字符串，精细化控制每块设备加载多少模型权重，三种分配规则：
- Bytes（推荐）：按固定容量分配 示例：
cuda:0,2.5gb;cpu,*主卡存 2.5GB 模型，剩余全部交给内存 示例：cuda:0,500mb;cuda:1,3.0g;cpu,5gb*双卡 + 内存分层 - Ratio 比例模式：按百分比拆分模型 示例：
cuda:0,25%;cpu,75%主卡 25% 权重，内存 75% - Fraction 显存占比模式：按设备总显存比例分配 示例：
cuda:0,0.1;cpu,0.5占用主卡 10% 显存、内存 50% 存放模型
模型分层分配日志输出
二、ComfyUI-MultiGPU v2 五大核心升级亮点
1. 全格式通用支持，不再局限 GGUF
初代仅适配 GGUF 量化模型，v2 实现全部.safetensors 原生兼容，FLUX、WanVideo、SDXL、LTX、Mochi 等主流图像 / 视频模型开箱即用，GGUF 推理速度相比 v1 再提升 10%GitHub。
2. 深度适配主流视频框架 WanVideoWrapper
内置 8 个专属 MultiGPU 节点，完整支持 WanVideo 全链路：文本编码、图生视频、视频解码、ControlNet、T5 编码器全部支持分层卸载，是目前跑 Wan2.2 14B 大模型最优显存方案。
WanVideoWrapper适配展示
3. 超全节点生态，覆盖全工作流
插件自动生成全部加载器的 MultiGPU/DisTorch2 版本，节点菜单统一归类在multigpu分类下，包含：
- 基础图像：Checkpoint、UNET、CLIP、VAE、ControlNet、Diffusers 全系列多 GPU 加载器
- GGUF 专用：适配 ComfyUI-GGUF 的 GGUF UNet/CLIP 加载节点
- 第三方插件适配：WanVideo、Florence2、LTX Video、MMAudio、PuLID、FLUX ControlNet 等数十款热门插件专属节点 70 + 节点自带内置帮助文档，选中节点点击问号即可查看参数详解。
4. 完美兼容原生 Comfy 动态显存 aimdo
开启 Comfy 内置 DynamicVRAM 后，插件不会冲突；主 GPU 保留动态显存机制，副卡 / CPU 依旧支持模型分层分发，新旧显存方案共存。
5. 硬件门槛极低，单卡 / 多卡都能用
- 单显卡用户：仅靠大容量 CPU 内存即可扩容虚拟显存，12G 卡也能跑 20G + 大模型
- 多显卡用户：自由拆分模型到 cuda:0/cuda:1/cuda:2，充分利用闲置副卡显存 实测兼容 2×3090、单 4070、3090+1070Ti 等 Windows/Linux 多套硬件环境，附带现成测试工作流。
多卡实时监控+工作流实操界面
三、两种安装方式（推荐 ComfyUI-Manager）
方式 1：ComfyUI 管理器一键安装（新手首选）
- 打开 ComfyUI-Manager 面板
- 搜索插件名称：
ComfyUI-MultiGPU - 点击安装，重启 ComfyUI 即可在节点列表找到
multigpu分类
方式 2：手动 Git 克隆（进阶用户）
bash
# 进入自定义节点文件夹
cd ComfyUI/custom_nodes
# 拉取源码
git clone https://github.com/pollockjj/ComfyUI-MultiGPU.git
# 重启ComfyUI完成部署
四、典型使用场景与配置思路
场景 1：单 12G 显存跑 WanVideo 2.2 14B 视频模型
硬件：RTX4070 12G + 32G DDR5 内存
配置方案：使用UNETLoaderDisTorch2MultiGPU
- virtual_vram_gb = 4
- donor_device = cpu 效果：UNet 近 4GB 权重转移到内存，主卡完整留给视频帧潜空间，可生成 720×1280 99 帧长视频，不再爆显存。
场景 2：双显卡均衡负载（cuda:0 主计算，cuda:1 存模型）
硬件：RTX4090 24G + RTX4070Ti 16G
专家分配字符串：cuda:0,8gb;cuda:1,*
主卡仅存放 8GB UNet 层，剩余全部交给副卡，双显卡显存同时利用，批量生成速度大幅提升。
场景 3：GGUF 量化 FLUX 大图像模型
搭配 ComfyUI-GGUF，使用UnetLoaderGGUFDisTorch2MultiGPU，推理速度比原生 GGUF 加载器快 10%，显存占用直接减半，批量高清图无压力。
五、配套资源：开箱即用示例工作流
项目仓库example_workflows文件夹内置大量测试工作流，覆盖主流模型：
- DisTorch2 图像类：FLUX、SDXL、Qwen 图像、Mochi
- DisTorch2 视频类：Wan2.2 T2V/I2V、LTX Video
- WanVideoWrapper 全套视频生成管线
- GGUF 量化模型专用工作流 全部经过 Windows、Linux 多硬件测试，下载导入即可直接修改参数使用。
六、总结：谁一定要装这款插件？
✅ 12G/16G 小显存显卡，经常跑视频大模型爆显存的创作者
✅ 拥有多块 NVIDIA 显卡，但不会分配资源、副卡长期闲置的用户
✅ 重度使用 WanVideo、FLUX、LTX、GGUF 量化模型的工作流玩家
✅ 需要生成超长视频、4K 高分辨率图像、批量出图的生产力用户
相比传统低显存方案，ComfyUI-MultiGPU 没有画质衰减、没有模型加载卡顿，以极低速度损耗换取显存空间成倍扩容，是目前 ComfyUI 生态最完善、兼容性最强的分布式显存解决方案。
如果你长期被 OOM 报错困扰，不妨装上 DisTorch2 试一试，彻底释放显卡全部潜力。
