公告:新站新QQ群:281257170

1、本站为非营利性小站,其内容收集整理于网络,其中内容若有侵犯您的权益,请留言告知;

2、本站概不提供真人lora模型,且本站模型仅为爱好者之间互相交流学习之用,严禁商业用途;

3、ckpt或safetensors结尾的主模型(2G以上)放在models/stable-diffusion文件夹里;lora模型(几十至几百M大小)放在models/lora,VAE放在models\VAE;

开挂?小显存的超大图实战

admin 教程 2023-03-24 2568 0

作者:残梦新生

备注:转此贴略有修剪...巴拉巴巴啦~~~

N卡用户

VAE移动到CPU计算,可以直接解决最后潜空间图像转换成可见图像时爆显存的问题。(说人话:AI的草稿转成看得见的作品的时候,最占用显存,让CPU代劳可以节省宝贵的显存。)

修改位置上图。 

processing.py第632行后,蓝色高亮区。 
samples_ddim = samples_ddim.to(devices.dtype_vae).to("cpu") 

x_samples_ddim = decode_first_stage(p.sd_model, samples_ddim) 

1.jpg


lowvram.py第51行,蓝色高亮区。#

2.jpg


由于我是N卡用户,N卡能调用半精度性能,所以这里我对原文启动参数本身做了魔改。上图。 
webui-user.bat,启动参数,蓝色高亮区。 
--lowvram --no-half-vae 


3.jpg改好之后,显卡单步速度相对于原文参数大大提升,显存占用直接砍半,综合表现直接吊打纯CPU,8G显存成功实战2048x2048的超大图。 

=============

前排提示,本功能对于2G显存的N卡是巨大利好,体验是从不能玩到能玩。

注意:本模式仅限冲击极限,有诸多限制,例如不能使用xformers,要开低显存模式等。

==========

温馨提示:在修改文件之前,先把修改的文件提前备份

站长这里把需要修改的文件已经打包好了,自己下载覆盖就好。

整理包.zip


本文转载自互联网,如有侵权,联系删除

发布评论