作者能否分享这个模型的具体量化流程呢?我想对一些其他的sdxl模型进行gguf量化但苦于不懂具体做法
#1
by sothmik - opened
希望能得到帮助:)
使用llama.cpp的llama-quantize.exe直接转换即可
或者去使用一个叫做“EasyQuantizationGUI”的项目，里面是图形化转换，适配了主流的文生图模型
使用llama.cpp的llama-quantize.exe直接转换即可
或者去使用一个叫做“EasyQuantizationGUI”的项目，里面是图形化转换，适配了主流的文生图模型
谢谢你！
但是如何将多合一的checkpoint里的unet拆出来量化呢？
但是如何将多合一的checkpoint里的unet拆出来量化呢？
可以先使用forge把unet提取出来再处理，或者直接使用EasyQuantizationGUI也能自动提取出来