跳转至

Fréchet 微分怎样刻画最佳线性近似?

先备知识

会使用线性映射、Euclid 范数和一元局部线性化。

学习目标

  1. 写出 Fréchet 可微定义;2. 证明导数唯一;3. 推出可微必连续和方向导数公式。

牵引问题

一个多元一阶模型必须同时处理大小和方向都变化的增量。怎样用一个量词合同表达?

探索与猜想

寻找线性映射 \(A:\mathbb R^n\to\mathbb R^m\),使

\[ f(a+h)=f(a)+Ah+r(h),\qquad \frac{\|r(h)\|}{\|h\|}\to0. \]

概念与理论

若存在上述线性映射,则称 \(f\)\(a\) Fréchet 可微,记 \(Df(a)=A\)。 余项条件控制所有 \(h\to0\),所以比逐方向极限强。

导数唯一

\(A,B\) 都满足定义,固定任意 \(v\),令 \(h=tv\),则

\[ \|(A-B)v\|\le\frac{\|r_A(tv)\|+\|r_B(tv)\|}{|t|}\to0. \]

\((A-B)v=0\) 对所有 \(v\) 成立,\(A=B\)

由定义,

\[ \|f(a+h)-f(a)\|\le\|A\|\|h\|+\|r(h)\|\to0, \]

所以可微必连续。令 \(h=tv\) 又得 \(D_vf(a)=Df(a)v\),方向导数对 \(v\) 线性。

最佳线性近似

“最佳”指误差相对于 \(\|h\|\) 为高阶小量,并非最小二乘意义。矩阵只是选定坐标后 表示线性映射 \(Df(a)\) 的工具。

例题与迁移

例 1:仿射映射

\(f(x)=Mx+b\) 在每点可微,\(Df(a)=M\),余项恒为零。

例 2:平方范数

\(f(x)=\|x\|_2^2\) 满足

\[ f(a+h)-f(a)=2a^\mathsf Th+\|h\|^2, \]

\(Df(a)h=2a^\mathsf Th\)

即时检验与回望

即时检验 1

为什么余项必须除以 \(\|h\|\)

答案

这样才表达误差比任何一阶增量更小,区分真正线性化与仅仅误差趋零。

即时检验 2

可微为何推出所有方向导数存在?

答案

代入 \(h=tv\),除以 \(t\),余项除以 \(|t|\) 仍趋零。

常见误区与后续

  • 余项 \(r(h)\to0\) 不够,必须有 \(r(h)=o(\|h\|)\)
  • 导数是线性映射,Jacobian 是它在坐标中的矩阵。
  • 可微只是一点的局部性质,不自动给全局误差界。

习题与答案

习题 1

证明常值函数的导数为零映射。

答案

\(A=0\),余项恒为零。

习题 2

求坐标投影 \(f(x)=x_i\) 的导数。

答案

\(Df(a)h=h_i\)

习题 3

证明可微函数在该点局部有界。

答案

可微推出连续,连续函数在该点某邻域内函数值接近有限的 \(f(a)\)

习题 4

\(f(x,y)=(x+y,x-y)\) 的导数。

答案

它本身线性,导数矩阵为 \(\begin{pmatrix}1&1\\1&-1\end{pmatrix}\)

习题 5

\(r(h)=O(\|h\|^2)\),是否满足定义?

答案

是,因为 \(\|r(h)\|/\|h\|=O(\|h\|)\to0\)

习题 6

为什么 \(f(x)=\|x\|\) 在原点不可微?

答案

若可微,方向导数必须关于方向线性,但沿 \(v\) 的单侧变化率为 \(\|v\|\)

习题 7

证明导数唯一时为何可固定任意方向?

答案

得到 \((A-B)v=0\) 对每个 \(v\) 成立,即两个线性映射处处相同。

习题 8

解释“局部线性”中的局部。

答案

合同只描述 \(h\to0\) 时的相对余项,不约束远离 \(a\) 的行为。

习题 9

从定义推出 \(f(a+h)-f(a)=O(\|h\|)\)

答案

线性项被 \(\|A\|\|h\|\) 控制,余项最终也被 \(\|h\|\) 控制。

小结

Fréchet 微分是对所有小增量统一有效的唯一线性映射。它自动带来连续性与方向导数, 并为后续链式法则和条件数建立正确对象。