凸优化理论与应用内点法.ppt

凸优化理论与应用 第 9 章 内点法 1 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn ? 则优化问题具有强对偶性，其对偶问题亦可解。 ? 假设存在 ，满足严格不等式条件 不等式约束优化问题 ? 问题描述： 0 minimize ( ) subject to ( ) 0, 1,..., i f x f x i m Ax b ? ? ? ? 为凸函数，且二次连续可微，且 ( ) i f x , , rank p n A R p n A p ? ? ? ? ? 假设最优值 存在； * p dom x f ? % ( ) 0 i f x ? 2 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn ? 不具备良好的连续可微性，考虑用对数阀函数来 近似替代。 不等式约束的消去 ? 示性函数消去不等式约束： 0 1 minimize ( ) ( ( )) subject to m i i f x I f x Ax b ? ? ? ? ? 0 0 ( ) 0 u I u u ? ? ? ? ? ? ? ? ( ) I u ? 3 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn ? 令 对数阀函数 ? 对于 ， 是 的光滑逼近。且 当 时，有 0 1 minimize ( ) ( ), 0 subject to f x x t t Ax b ? ? ? ? ( ) I u ? 0 t ? 1/ log( ) t u ? ? 1/ log( ) ( ) t u I u ? ? ? ? t ? ? 1 ( ) log( ( )) m i i x f x ? ? ? ? ? ? ? 带示性函数的优化问题可近似为： 4 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn ? 对数阀函数二阶连续可微，导数为： 对数阀函数 ? 对数阀函数 是凸函数 1 1 ( ) ( ) ( ) m i i i x f x f x ? ? ? ? ? ? ? ( ) x ? 2 2 2 1 1 1 1 ( ) ( ) ( ) ( ) ( ) ( ) m m T i i i i i i i x f x f x f x f x f x ? ? ? ? ? ? ? ? ? ? ? ? 5 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 中心线 ? 对数阀近似问题的等价问题： ? 最优解为 ，则最优解集 称为优化问 题的中心线。 0 minimize ( ) ( ), 0 subject to tf x x t Ax b ? ? ? ? * ( ) x t * { ( ) | 0} x t t ? 6 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 中心线的对偶点 ? 设 ，则存在 满足 KKT 条件： ? 为对偶问题的可行解。 * * * 1 ( ) , ( ) / ( ( )) i i t t w t tf x t ? ? ? ? ? * ( ) x x t ? w 0 1 1 ( ) ( ) 0, ( ) m T i i i t f x f x A w Ax b f x ? ? ? ? ? ? ? ? ? ? 令 则 是拉格朗日函数 的最小值 解。 * ( ) x x t ? * * ( , ( ), ( )) L x t t ? ? * * * * 0 1 ( , ( ), ( )) ( ) ( ) ( ) ( )( ) m i i i L x t t f x t f x t Ax b ? ? ? ? ? ? ? ? ? ? * * ( ( ), ( )) t t ? ? 7 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn 中心线的对偶点 ? 设 为原始问题的最优值，则有： * p ? 因此，当 时，有 。 为原始问 题的 次优解。 * * * * * * * 0 ( ( ), ( )) ( ( ), ( ), ( )) ( ( )) / p g t t L x t t t f x t m t ? ? ? ? ? ? ? ? t ? ? * * 0 ( ( )) f x t p ? * ( ) x t / m t ? 8 信息与通信工程学院 庄伯金 bjzhuang@bupt.edu.cn ? 更新 ： 阀方法 ? 初始化：给定严格可行解 ， ， ，及 x t / m t ? ? 0 t ? 1 ? ? 0 ? ? ? LOOP ： ? 中心步骤：以 为初始点求解优化问题 ， ? 迭代： ? 终止条件：若 ，则终止