Spaces:
Build error
Build error
llm模块训练过拟合严重
#1
by popchen - opened
我根据仓库的说明，用该数据集对cosyvoice的原始llm.pt进行微调时，训练集上的accuracy和loss表现正常，但是CV验证集上的accuracy先快速下降，后缓慢上升，但升的不多；验证集上的loss则快速上升，且一直保持较高损失。这一现象应该表明模型出现了严重的过拟合。请问你们当时微调时是否也有出现这个情况呢？如果有的话，是如何解决的呢？
popchen changed discussion title from llm模块训练不正常 to llm模块训练过拟合严重