2 篇文档带有标签「优化器」

从公式和实现层面，深入理解 Adam 和 AdamW 的核心区别。

Adam (Adaptive Moment Estimation) 是目前深度学习领域最流行、最常用的优化器，简直就是优化器界的"瑞士军刀"。