跳转至

Lagrange 乘子怎样处理正则等式约束?

先备知识

掌握隐函数定理、梯度、切空间与一阶必要条件。

学习目标

  1. 先检查正则性;2. 推导 Lagrange 乘子条件;3. 不把必要条件误作最优证明。

牵引问题

受约束方向减少后,目标梯度为何不必为零,而必须落在约束法向方向中?

探索与猜想

对标量约束 \(g(x)=0\),正则点满足 \(\nabla g(a)\ne0\)。可行切向量 \(v\) 满足 \(\nabla g(a)^\mathsf Tv=0\)。极值点又满足 \(\nabla f(a)^\mathsf Tv=0\),所以两个 梯度平行。

概念与理论

正则约束与必要条件

\(f,g\in C^1\)\(g(a)=0\),且 \(a\) 是约束集上的局部极值。若 \(\nabla g(a)\ne0\)正则或约束资格成立),则存在 \(\lambda\) 使

\[ \nabla f(a)+\lambda\nabla g(a)=0,\qquad g(a)=0. \]

符号约定可把 \(\lambda\) 换号。证明用隐函数定理参数化约束集,再对参数化后的目标 使用一阶条件;等价地,目标梯度属于切空间的正交补。

这是 Lagrange 乘子的一阶必要条件。求得方程解后仍需检查可行性、边界结构、 异常点和目标值。

约束资格先行

\(\nabla g(a)=0\),乘子结论可能丢失真实极值,也可能产生无信息等式。 必须先做约束资格检查,失败时直接分析可行集。本单元只处理光滑等式约束, 不覆盖不等式约束,也不建立一般 KKT 理论

例题与迁移

例 1:圆上极值

\(x^2+y^2=1\) 上极值化 \(x+y\)。方程 \((1,1)+\lambda(2x,2y)=0\)\(x=y=\pm1/\sqrt2\),比较得最大最小值。

例 2:退化约束

约束 \(g(x,y)=(x^2+y^2)^2=0\) 的可行集只有原点,但 \(\nabla g(0)=0\)。 原点对任何目标都是可行集上的极值,却未必满足有信息的正则乘子推导。

即时检验与回望

即时检验 1

为什么要同时写驻点方程和 \(g(a)=0\)

答案

乘子方程本身不保证候选点可行。

即时检验 2

\(\nabla g(a)=0\) 时能否直接丢弃该点?

答案

不能;它是异常点,应直接检查可行集与目标。

常见误区与后续

  • 先检查约束正则性,再写乘子方程。
  • 乘子解只是候选。
  • 不等式约束需要额外互补与可行方向理论,本章不覆盖。

习题与答案

习题 1

写出 \(x+y\) 在单位圆上的乘子方程。

答案

\((1,1)+\lambda(2x,2y)=0,\ x^2+y^2=1\)

习题 2

单位圆约束在哪些点正则?

答案

圆上所有点,因为 \((2x,2y)\ne0\)

习题 3

乘子符号为何可有两种约定?

答案

可写 \(\nabla f=\lambda\nabla g\)\(\nabla f+\lambda\nabla g=0\),只差换号。

习题 4

正则水平集的切向量满足什么?

答案

\(\nabla g(a)^\mathsf Tv=0\)

习题 5

为什么目标梯度属于法向空间?

答案

它对所有可行切向量的内积为零。

习题 6

若约束集紧致且目标连续,乘子条件是否负责存在性?

答案

不负责;存在性先由紧致性定理给出。

习题 7

约束 \(x^2+y^2=0\) 在原点正则吗?

答案

不正则,梯度为零。

习题 8

不正则点应如何处理?

答案

保留为候选并直接分析局部可行集和目标值。

习题 9

乘子方程解是否自动为极值?

答案

不是,仍可能是约束鞍型候选或非最优候选。

习题 10

本单元为何不处理 \(g(x)\le0\)

答案

不等式需活动集、互补条件等额外理论,超出本章边界。