(通讯员 吴志伟 肖缤阳)2024年10月18日下午15:00,统计与数学学院主办的“Decentralized Reduced Rank Regression for Response Partition ”学术报告讲座在文波楼401会议室成功举办。本次讲座由上海交通大学长聘教轨副教授毛晓军主讲,统计与数学学院章晓菲老师主持,学院师生积极参与。
毛老师首先阐述了去中心化网络中的分布式学习在各种机器学习场景中的应用,并指出已有研究多关注基于样本的数据分割领域,响应分割场景尚未得到充分探索。针对分布式学习中响应向量不同组件在多代理网络中分散存储导致的信息损失问题,他们提出使用降秩回归(RRR)模型建立响应组件之间的联系。随后,在矩阵分解的框架下,构建了一个包含局部和全局参数的优化问题,以捕捉节点间和节点内的相关性。他最后还介绍了一种基于去中心化梯度下降与梯度跟踪(DGGT)的算法,并增加了局部估计的步骤。理论分析表明,该方法提供估计误差和一致误差的非渐近性误差界,且随着迭代次数趋于无穷大,统计误差率将收敛到集中式情况下的理想性能。
本次学术讲座让学生深入了解了一种基于去中心化梯度下降与梯度跟踪的算法,具有很强的理论性和前沿性,为我院研究生提供了一个开阔学术视野、掌握学术前沿动态的宝贵平台。