约束最优化方法

约束最优化问题的求解要比无约束问题的求解复杂得多, 也困难得多, 因而求解方法也更多种多样, 内容更为丰富. 这里只讨论可行方向方法中的简约梯度法和增广目标函数方法中的惩罚函数法. 一: 约束优化问题的最优性条件 KKT最优化条件是Karush[1939]以及Kuhn和Tucker[1951]先后独立发表出來的. 这组最优化条件在Kuhn和Tucker 发表之后才逐渐受到重视, 因此许多书只记载成「Kuhn-Tucker 最优化条件(Kuhn-Tucker conditions)」. KKT条件处理不等式约束时, 可以把它变换成一组等式约束. KTT条件是指在满足一些有规则的条件下, 一个非线性规划(Nonlinear Programming)问题能有最优化解法的一个必要和充分条件. 这是一个广义化拉格朗日乘数的成果. 一般地, 一个最优化数学模型的列标准形式如式(1), 所谓 Karush-Kuhn-Tucker 最优化条件,就是指上式的最优点\({{\bf{x}}^ * }\)必须满足下面的条件: 1). 约束条件满足\({g_i}({{\bf{x}}^ * }) \le 0,i = 1,2,…,p\), 以及\(,{h_j}({{\bf{x}}^ * }) = 0,j = … 继续阅读

最优化理论与KKT条件

1. 最优化理论(Optimization Theory) 最优化理论是研究函数在给定一组约束条件下的最小值(或者最大值)的数学问题. 一般而言, 一个最优化问题具有如下的基本形式: \[\min .:f({\bf{x}})\] \[\begin{array}{*{20}{c}} {{\rm{s}}{\rm{.t}}{\rm{.:}}} & {{g_i}({\bf{x}}) \le 0,i = 1,2,...,p,} \\ {} & {{h_j}({\bf{x}}) = 0,k = 1,2,...,q,} \\ {} & {{\bf{x}} \in \Omega \subset {{\bf{R}}^n}} \\ \end{array}\] 其中. \(f({\bf{x}})\)为目标函数, \({g_i}({\bf{x}}) \le 0,i = … 继续阅读