统计与数据科学学院 张德邻 报道
2025年5月20日上午10：30，西北工业大学数学与统计学院预聘副教授谭承利应邀为我院师生做学术讲座。讲座在位育楼417会议室举行，由南京审计大学统计与数据科学学院黄性芳教授主持。
在本次讲座中，谭博士首先介绍了锐度感知优化算法的提出背景：随着深度学习发展，近年来涌出大量用于提升模型训练速度与泛化能力的优化算法。受模型锐度与泛化关系启发，一类基于锐度最小化的优化算法备受关注。此类算法能够显著提升过参数化神经网络泛化能力，但其泛化能力的理论研究仍待深入。谭博士从这一角度出发，向广大师生介绍了锐度感知最小化优化策略（SAM）的理论知识，并将其与随机梯度下降（SGD）优化策略进行对比，证明了SAM优化策略在泛化能力方面的优势。
随后谭博士介绍了SAM方法难以逃离鞍点的问题，鞍点即多元函数在某一点的梯度为0的点，在处理非凸函数方面有着关键的意义。谭博士指出SAM相比于SGD更容易陷入鞍点且需要更多时间逃离鞍点的问题，并提出了稳定锐度感知最小化优化策略（SSAM）来解决这一问题。谭博士介绍了SSAM优化策略的思想，并展示了在不同学习率下SSAM、SGD、SAM等策略收敛到全局最小值的百分比，直观的展示了SSAM策略的优势。最后谭博士总结了研究的主要内容和未来展望，结束了本次讲座的讲解环节。
在讲座的讨论环节，与会教师围绕谭博士的讲座内容展开了深入的探讨，就相关学术问题进行了多角度、多层次的思想碰撞。本次学术讲座以高水准的内容输出与高质量的互动交流圆满收官，帮助我院师生扩展了的学术视野，为我院师生提供了极具价值的研究思路参考。
