5月25日，应数学与统计学院邀请，广西大学袁功林教授做客“牧野格致”讲堂为学院师生作题为“A Biased Stochastic Conjugate Gradient Algorithm for Machine Learning of Empirical Risk Minimization”的学术讲座，学院相关研究方向师生参加此次讲座，裴永刚主持。
共轭梯度（CG）算法因其计算成本低于二阶方法且收敛性优于梯度下降法，被广泛应用于机器学习问题。袁功林教授提出一种具有自适应步长的偏置随机共轭梯度（BSCG）算法，将随机递归梯度法（SARAH）与改进的Barzilai-Borwein（BB）技术融入经典随机梯度算法中。相较于现有大多数随机梯度方法需精心选择固定步长，而可能导致无法获得最优解，BSCG算法在不增加计算成本的前提下，利用二阶信息动态获取合适步长。袁功林教授不仅证明了该算法能收敛至全局最优解，还建立了其在非凸目标函数下的线性收敛速率。最后，两类机器学习模型的数值实验验证了BSCG算法的优越性。报告结束后，袁功林教授针对与会师生提出的相关问题进行了详细解答，并与大家展开深入的讨论交流。
专家简介：
袁功林，广西大学数学与信息科学学院，教授，博导，副院长，广西应用数学中心(广西大学)常务副主任，国家一流专业负责人；主要从事优化理论与方法及其应用方面研究，主持国家基金、广西杰出青年基金、广西重点基金、中央主导地方科技发展基金、广西科技基地和人才专项基金等项目；宝钢教育奖，广西十百千第二层次人选，广西特聘青年专家，广西卓越学者计划人选，南宁市高层次人才；以第一或通讯作者发表SCI论文60余篇，成果发表在SIAM J. Optim.,，COAP，JOTA，JOGO，EXPERT SYST APP，STAT COMPUT等期刊，其中0.1%论文2篇、1%论文6篇、专著2部；入选 2024全球2%顶尖科学家榜单，获得广西自然科学奖二等奖2项；任中国数学会理事、中国运筹学会理事、中国运筹学会数学规划分会理事、中国运筹学会算法软件与应用分会理事、广西数学会常务理事、广西运筹学会副理事长。
（数学与统计学院 王敬一 梁彦超 裴永刚）
最新通知