跳转至

多个约束、几何解释和异常点怎样处理?

先备知识

掌握单约束乘子法、矩阵秩、隐函数定理与正交补。

学习目标

  1. 写出多约束乘子条件;2. 检查约束梯度线性无关;3. 单独处理异常点。

牵引问题

多个约束的法向可能相互依赖。此时乘子方程为何会失真,候选又该怎样补回?

探索与猜想

\(G=(g_1,\ldots,g_m)\)。若 \(DG(a)\) 满行秩,则可行切空间是 \(\ker DG(a)\),其正交补由各约束梯度张成。

概念与理论

多约束必要条件

\(G:\mathbb R^n\to\mathbb R^m\)\(C^1\)\(G(a)=0\),且约束梯度 \(\nabla g_1(a),\ldots,\nabla g_m(a)\) 梯度线性无关。若 \(a\) 为约束局部极值, 则存在 \(\lambda\in\mathbb R^m\) 使

\[ \nabla f(a)+DG(a)^\mathsf\lambda=0,\qquad G(a)=0. \]

这就是多个约束的正则乘子条件。几何上目标梯度属于法空间 \(\operatorname{range}DG(a)^\mathsf\)

异常点

\(\operatorname{rank}DG(a)<m\),该点为本框架下的异常点。不能因约束资格失败 而删除它;应:

  1. 解出或描述退化可行集;
  2. 改用独立约束子集(若合法);
  3. 沿可行曲线或直接比较目标;
  4. 把结论与正则候选共同汇总。

这叫直接检查,不是把零梯度约束硬塞进正则定理。本章仍不覆盖不等式约束, 不建立一般 KKT 理论。

例题与迁移

例 1:球面与平面

约束 \(x^2+y^2+z^2=1,\ z=0\) 在交圆上梯度 \((2x,2y,0),(0,0,1)\) 线性无关, 故可使用两个乘子。

例 2:重复约束

\(g_1=x,\ g_2=2x\) 的梯度处处相关。可行集其实只是 \(x=0\),应删除冗余描述后直接 按单约束分析,而不能声称满秩。

即时检验与回望

即时检验 1

\(m\) 个约束的 Jacobian 满行秩是多少?

答案

秩为 \(m\),因此必须有 \(m\le n\)

即时检验 2

异常点能否因乘子定理不适用而忽略?

答案

不能,它可能正是真实极值点。

常见误区与后续

  • 约束方程数量不等于独立约束数量。
  • 先验检查秩,再解释乘子。
  • 异常点需要直接几何或参数化分析。

习题与答案

习题 1

写出两个约束的乘子方程。

答案

\(\nabla f+\lambda_1\nabla g_1+\lambda_2\nabla g_2=0,\ g_1=g_2=0\)

习题 2

重复约束为何导致乘子不唯一?

答案

法向量线性相关,同一法向组合有多组系数。

习题 3

满行秩时切空间是什么?

答案

\(\ker DG(a)\)

习题 4

法空间是什么?

答案

\(\operatorname{range}DG(a)^\mathsf\),由约束梯度张成。

习题 5

球面与 \(z=0\) 的交集局部维数是多少?

答案

\(3-2=1\)

习题 6

秩下降是否必表示可行集不存在?

答案

不表示,可能是交叉、尖点、冗余描述或其他退化。

习题 7

发现冗余约束后能否随意删除?

答案

需先证明删除后局部可行集不变。

习题 8

异常点的首要处理是什么?

答案

直接描述其附近可行集,而非套用正则乘子定理。

习题 9

多个约束下目标梯度位于哪里?

答案

正则点处位于约束梯度张成的法空间。

习题 10

本章对不等式约束作何处理?

答案

明确排除,留给后续 KKT 与可行方向理论。