蚂蚁科技自主研发的优化器WSAM成功入选KDD Oral

《AIGC动态欢迎阅读》

原标题：蚂蚁自研优化器WSAM获KDD Oral选拔，更通用、更有效

关键词：极值、损失、权重、基础、函数

文章来源：机器之心

内容字数：11790字

内容摘要：机器之心编辑部的蚂蚁AI Infra团队一直致力于深度学习中优化器的创新与发展，旨在实现资源节约、加速训练收敛和提高泛化能力等目标。团队即将推出“优化器三部曲”系列文章，本篇为系列的首发。深度神经网络（DNNs）的泛化能力与极值点的平坦程度密切相关，因此提出了Sharpness-Aware Minimization (SAM)算法，以寻找更平坦的极值点以提升泛化性能。本文重新…

原文链接：阅读原文：更通用、有效，蚂蚁自研优化器WSAM入选KDD Oral

联系作者

文章来源：机器之心

作者微信：almosthuman2014

作者简介：专业人工智能媒体和产业服务平台