最优化理论第五章-惩罚函数法课件

惩罚函数法有约束最优化：可行域定义：局部极小点，局部严格极小点一阶条件（必要条件）二阶条件（必要条件）惩罚函数法可行方向法，二次规划1.外点罚函数法外点罚函数法1.1 罚函数概念a 对于等式约束：对于线性约束可消元处理很大的正数第2项很大转化为罚回来c.一般情况：b.不等式约束过大，计算困难太小，远离约束问题的最优解收敛于称为SUMT方法序列无约束极小化方法基本步骤：1.3.外点法收敛性定理3：的最优解。定理2：2.2.内点罚函数法内点罚函数法2.1 思想：从内点出发，保持在可行域内部进行搜索。只适用于不等式约束问题两种形式：原始问题的解2.2 r如何取值？r太大，问题的解不精确例题：解得：计算步骤：2.3.收敛性 定理：问题 外点法 内点法应用序列无约束极小化方法，简单增大成为病态矩阵无法求解其中：，Lagrange函数罚函数3.3.乘子法（乘子法（Hestenes,PowellHestenes,Powell）提出）提出3.1.基本思想：等式约束问题：的局部最优解，且满足二阶充分条件，的局部最优解的二阶充分条件，衡量快慢3.2 计算步骤（等式约束）例：乘子法求解：3.3.不等式约束的乘子法转化为等式定义增广Lagrange函数。求得原问题的解增广Lagrange函数变为用配方法整理则有：一般问题例题：则作业：阅读MATLAB中optimization toolbox 中的Quasi-Newton Method 和 Least-Squares Method 算法，用Lsqnonlin（）函数 求解2.阅读MATLAB中有约束优化函数 fmincon()并编程求解课堂练习：外点法求解