报告题目:Exact Penalty Function for L21 Norm Minimization with Orthogonality Constraints
报告时间:2020年5月23日(周六)下午16:20—17:05
报告人:刘歆教授
报告地点:Zoom云会议(ID:937 6354 7091, 密码:nanxinda60)
报告摘要:L21 norm minimization with orthogonality constraints, feasible region of which is called Stiefel manifold, has wide applications in statistics and data science. The state-of-the-art approaches adopt proximal gradient technique on either Stiefel manifold or its tangent spaces. The consequent subproblem does not have closed-form solution and hence requires an iterative procedure to solve, which is usually time consuming. In this paper, we discover that the Lagrangian multipliers of the orthogonality constraints in this class of problems are of closed-form expressions. By using this closed-form expression, we introduce a penalty function for this type of problems. We theoretically demonstrate the equivalence between the penalty function and the original L21 norm minimization under mild assumptions. Based on the exact penalty function, we propose an inexact proximal gradient method in which the subproblem is of closed-form solution. The global convergence and the worst case complexity are established. Numerical experiments illustrate the efficiency of our new proposed algorithm, when comparing with the existing methods.
欢迎广大师生踊跃参加!
数学与统计学院
2020年5月22日
附:专家简介
刘歆,中国科学院数学与系统科学研究院,研究员、博士生导师。2004年本科毕业于北京大学数学科学学院;2009年于中国科学院研究生院获得博士学位;毕业后留所工作至今。期间分别在德国ZIB研究所、美国RICE大学、美国纽约大学Courant研究所进行过长期访问。主要研究方向包括:正交约束矩阵优化问题,线性与非线性特征值问题,及其在电子结构计算中的应用;非线性最小二乘的算法与理论,分布式优化算法设计,及其在机器学习中的应用。刘歆在2016年8月获得国家自然科学基金委优秀青年科学基金;2016年10月获得中国运筹学会青年科技奖;2017年2月入选中国科学院北京分院“启明星”优秀人才计划。于2015年7月起担任《Mathematical Programming Computation》编委;2016年10月起担任中国运筹学会理事;2017年7月起担任《计算数学》编委;2018年6月起担任《物理学报》特约栏目编辑;2019年5月起担任中国工业与应用数学会副秘书长;2019年12月当选中国青年科技工作者协会理事。