手把手教你:loss 不降反升,先别怀疑模型结构|AI工程师踩坑实录·第12篇 - 大雾的小屋

Wait 5 sec.

【摘要】本文通过四组严格对照实验,揭示loss持续上升的三大主因:学习率过大、数据噪声与量纲失控,模型结构实为次要因素。实验表明,损失飙升多源于优化与数据问题——前几十步上涨提示学习率过高,训练降验证升则指向脏数据或量纲失衡。正确排查顺序应为:先看上升时机,再析训练-验证分叉,最后才考虑模型结构。建议建立基... 阅读全文