
设备环境:显卡4060TI 16G,32G内存,最新1.10版本webui,torch: 2.3.1+cu121•xformers: 0.0.27,n卡驱动目前最新560.81版本,秋叶整合包-启动器。

高级选项为默认设置,cross-attention优化方案:xf flash attention(默认的这个也是比较好的)。内存优化:12G无优化。利用率100%超显存而爆,导致黑图OutOfMemoryError。
之后开始一步步调试:
1.关闭vae半精度优化和数值溢出检查,稍有缓解。

2.开启使用
共享显存:可能稍有所缓解,但更多是性能降级,出图更慢。
3.开起CL内存格式优化,感觉没什么用,问过群友居然会有负提升。
4.显存优化改为8G,有些用处,但出现了显存使用率60%左右却黑图,剩余的显存没有被使用因而不够满足爆显存,而且出图速度被降了大概40%。

5.在webui-user.bat里设置max_split_size_mb大小,我设置成32都没什么用,与4问题同出现了显存使用率50%左右却黑图。
6.增加虚拟内存,有所缓解,最好最大值20G以上,C盘空间不够可以换到其他盘。
7.关闭n卡控制面板中的系统
内存回退政策,感觉有用!是英伟达在536.40驱动版本上新增的功能,此功能也是为了应用于SD绘画而专门做了说明,修改时建议是在单独程序设置里定位到跑图使用的python程序,如秋叶整合包根目录下的python\python.exe,选择偏好无系统内存回退,然后应用。如果你的显存够大却黑图发现还有专用显存没有使用上,就选择关闭它;若你的显存不够因爆显存而黑图,则选择偏好开启,非驱动默认值。

8.手动清理显存:通过显式调用torch.cuda.empty_cache() 释放未使用的内存,应该是有用的,暂未尝试。
综上尝试使用1,4,5,7手段来解决,在能较少的降低出图速度的情况下而不会因为CUDA out of memory而黑图,目前显存使用率在90%左右暂时没有出现黑图,速度比最初无显存优化慢了30%左右。
而当出现了明明还有多余的显存空间却没有被使用而黑图爆显存,是因为显存分配问题,我想是由于经上次的出图后缓存在VRAM内未被卸载释放被错误的当做正在使用中而被隔离无法使用,在被第7条方法中修正?另外a111说设置里有个可以将模型缓存从VRAM卸载至RAM中,可以缓解VRAM的占用率,这也许有效?我还没有尝试。
到目前未出现OutOfMemoryError黑图情况,在我的设备上貌似此问题已解决。