【摘要】本文通过真实复现两个经典 loss 变 NaN 场景，揭示其根源：过大学习率导致梯度溢出，或自定义损失中 log(0) 引发 inf 传导至 NaN。借助 PyTorch forward hook 逐层监控，可精准定位首现 inf 的层与步数，实现“烟感报警式”快速诊断。结合二分法调参与数值稳定写法... 阅读全文