---
url: /integral/integral-33/index.md
---
## Part 5 无条件极值

**定义1 (极值)**.

> 设 $f: A \to \mathbb{R}$ 为多元函数，其中 $A$ 为 $\mathbb{R}^n$ 中的子集，$x^0 = (x\_1^0, \cdots, x\_n^0) \in A$. 如果存在 $\delta > 0$，使得
> $$
> f(x^0) \ge f(x) \quad (\text{或 } f(x^0) \le f(x)), \quad \forall\ x \in A \cap B\_\delta(x^0) - {x^0},
> $$
>
> 则称 $x^0$ 为 $f$ 的极大（小）值点，$f(x^0)$ 为 $f$ 的极大（小）值. 当上式中 “$\ge$”（“$\le$”）换成 “$>$”（“$<$”）时，相应地把 $x^0$ 称为严格极值点，$f(x^0)$ 为严格极值.

**命题1 (达到极值的必要条件)**.

> 设 $x^0$ 为 $f$ 的极值点，如果 $x^0$ 为 $A$ 的内点，且 $f$ 在 $x^0$ 处存在一阶偏导数，则
> $$
> f'*{x\_1}(x^0) = f'*{x\_2}(x^0) = \cdots = f'\_{x\_n}(x^0) = 0.
> $$

/proof/

> 以 $f'\_{x\_1}$ 为例，考虑一元函数 $\varphi(x) = f(x, x\_2^0, \cdots, x\_n^0)$，则 $\varphi$ 可导，且以 $x\_1^0$ 为极值点.
>
> 由 Fermat 定理知 $\varphi'(x\_1^0) = 0$，即 $f'\_{x\_1}(x^0) = 0$.

**定理2**.

> 设 $U$ 为 $\mathbb{R}^n$ 中开集，$f: U \to \mathbb{R}$ 具有二阶连续偏导数，$x^0$ 为 $f$ 的驻点. 则
>
> (1) 如果 $x^0$ 为 $f$ 的极小（大）值点，则 $\operatorname{Hess}(f)(x^0)$ 为半正（负）定方阵；
>
> (2) 如果 $\operatorname{Hess}(f)(x^0)$ 为正（负）定方阵，则 $x^0$ 为 $f$ 的严格极小（大）值点；
>
> (3) 如果 $\operatorname{Hess}(f)(x^0)$ 为不定方阵，则 $x^0$ 不是 $f$ 的极值点.

/proof/

> 证明的思想是在 $x^0$ 附近利用 $f$ 的 Taylor 展开：
>
> $$
> \begin{aligned}
> f(x^0 + h) - f(x^0) &= Jf(x^0) \cdot h + \frac{1}{2} h^T \cdot \operatorname{Hess}(f)(x^0) \cdot h + o(|h|^2)\\\\
> &= \frac{1}{2} h^T \cdot \operatorname{Hess}(f)(x^0) \cdot h + o(|h|^2).
> \end{aligned}
> $$
>
> (1) 设 $x^0$ 为 $f$ 的极小值点，$v$ 为任意固定的单位向量，在上式中取 $h = t \cdot v$，$t \in \mathbb{R}$，则当 $|t|$ 充分小时，
>
> $$
> 0 \le f(x^0 + h) - f(x^0) = t^2 \left\[ \frac{1}{2} \cdot v^T \cdot \operatorname{Hess}(f)(x^0) \cdot v + o(1) \right],
> $$
>
> 上式两边除以 $t^2$，然后令 $t \to 0$ 得
>
> $$
> 0 \le v^T \cdot \operatorname{Hess}(f)(x^0) \cdot v, \quad \forall\ v \in \mathbb{R}^n,\ |v| = 1.
> $$
>
> 这说明 $\operatorname{Hess}(f)(x^0)$ 为半正定方阵. $x^0$ 为极大值点时证明完全类似.
>
> (2) 如果 $\operatorname{Hess}(f)(x^0)$ 正定，则
>
> $$
> \lambda\_0 = \min\_{|v|=1} v^T \cdot \operatorname{Hess}(f)(x^0) \cdot v > 0.
> $$
>
> 从而当 $|h|$ 充分小时
>
> $$
> \begin{aligned}
> f(x^0 + h) - f(x^0) &\ge \frac{1}{2} |h|^2 \cdot \lambda\_0 + o(|h|^2)\\\\
> &= |h|^2 \left( \frac{1}{2} \lambda\_0 + o(1) \right) \ge \frac{1}{4} \lambda\_0 \cdot |h|^2,
> \end{aligned}
> $$
>
> 即 $x^0$ 为严格极小值点. $\operatorname{Hess}(f)(x^0)$ 负定的情形类似.
>
> (3) 证明与 (1), (2) 类似

/example/  求 $f(x, y) = x^4 + y^4 - (x + y)^2$ 的极值.

> 先求驻点：
>
> $$
> 0 = \frac{\partial f}{\partial x} = 4x^3 - 2x - 2y, \quad 0 = \frac{\partial f}{\partial y} = 4y^3 - 2x - 2y.
> $$
>
> 上式有三个解
>
> $$
> m\_0 = (0, 0), \quad m\_1 = (1, 1), \quad m\_2 = (-1, -1).
> $$
>
> 为了判极大、极小值，再在驻点处求 Hessian：
>
> $$
> \operatorname{Hess}(f)(x, y) =
> \begin{pmatrix}
> \dfrac{\partial^2 f}{\partial x^2} & \dfrac{\partial^2 f}{\partial x \partial y} \\\\
> \dfrac{\partial^2 f}{\partial y \partial x} & \dfrac{\partial^2 f}{\partial y^2}
> \end{pmatrix}
> =============
>
> \begin{pmatrix}
> 12x^2 - 2 & -2 \\
> -2 & 12y^2 - 2
> \end{pmatrix}.
> $$
>
> 在 $m\_1, m\_2$ 处，Hessian 正定，从而 $m\_1, m\_2$ 为极小值点，此时
>
> $$
> f(m\_1) = f(m\_2) = -2.
> $$
>
> 在 $m\_0$ 处 $\operatorname{Hess}(f)$ 退化，用 $\operatorname{Hess}(f)$ 无法判别 $m^0$ 是否为极值点. 但对于 $0 < x < 1$，令 $y = x$，则
>
> $$
> f(x, y) = 2x^4 - 4x^2 < 0;
> $$
>
> 令 $y = -x$，则 $f(x, y) = 2x^4 > 0$，这说明 $m\_0$ 不是极值点.

**最小二乘法**：

> 设 $(x\_1, y\_1), \cdots, (x\_n, y\_n)$ 为平面 $\mathbb{R}^2$ 上 $n$ 个点，求一条直线 $y = ax + b$，使得
>
> $$
> F(a, b) = \sum\_{i=1}^n (ax\_i + b - y\_i)^2
> $$
>
> 最小.

/proof/

> 函数 $F(a, b)$ 是关于 $(a, b)$ 的光滑函数. 先求驻点：
>
> $$
> 0 = \frac{\partial F}{\partial a}(a, b) = 2 \sum\_{i=1}^n (ax\_i + b - y\_i)x\_i, \\
> 0 = \frac{\partial F}{\partial b}(a, b) = 2 \sum\_{i=1}^n (ax\_i + b - y\_i),
> $$
>
> 当
>
> $$
> n \cdot \sum\_{i=1}^n x\_i^2 - \left( \sum\_{i=1}^n x\_i \right)^2 = \frac{1}{2} \sum\_{i+j} (x\_i - x\_j)^2 \ne 0
> $$
>
> 时，上述二元一次方程组有唯一的解（驻点），在此驻点处，$F$ 的 Hessian 为
>
> $$
> 2
> \begin{pmatrix}
> \displaystyle\sum\_{i=1}^n x\_i^2 & \displaystyle\sum\_{i=1}^n x\_i \\\\
> \displaystyle\sum\_{i=1}^n x\_i & n
> \end{pmatrix},
> $$
>
> 它是正定方阵，故该驻点为极小值点. 由于当 $(a, b) \to \infty$ 时 $F(a, b) \to +\infty$，故该驻点为唯一的最小值点（见下面的引理）.
>
> 为了写出直线方程，我们注意到，当 $(x, y)$ 在此直线上时，
>
> $$
> \begin{pmatrix}
> x & y & 1 \\\\
> \displaystyle\sum\_{i=1}^n x\_i & \displaystyle\sum\_{i=1}^n y\_i & n \\\\
> \displaystyle\sum\_{i=1}^n x\_i^2 & \displaystyle\sum\_{i=1}^n x\_i y\_i & \displaystyle\sum\_{i=1}^n x\_i
> \end{pmatrix}
> \cdot (a, -1, b)^T = 0,
> $$
>
> 这说明
>
> $$
> \left|
> \begin{matrix}
> x & y & 1 \\\\
> \displaystyle\sum\_{i=1}^n x\_i & \displaystyle\sum\_{i=1}^n y\_i & n \\\\
> \displaystyle\sum\_{i=1}^n x\_i^2 & \displaystyle\sum\_{i=1}^n x\_i y\_i & \displaystyle\sum\_{i=1}^n x\_i
> \end{matrix}
> \right| = 0,
> $$
>
> 这也就是所求直线方程.

**引理3**.

> 设 $f: \mathbb{R}^n \to \mathbb{R}$ 为连续函数，则
>
> (1) 如果 $\displaystyle\lim\_{|x| \to \infty} f(x) = -\infty$，则 $f$ 在 $\mathbb{R}^n$ 上达到最大值；
>
> (2) 如果 $\displaystyle\lim\_{|x| \to \infty} f(x) = +\infty$，则 $f$ 在 $\mathbb{R}^n$ 上达到最小值.

/proof/

> 以 (1) 为例，取 $x^0 \in \mathbb{R}^n$，由已知条件，存在 $R > 0$ 使得 $|x| \ge R$ 时，
> $$
> f(x) < f(x^0).
> $$
>
> 则 $f$ 在 $\bar{B}\_R(0)$ 上的最大值即为 $f$ 为 $\mathbb{R}^n$ 上的最大值.

## Part 6 条件极值

设 $U$ 为 $\mathbb{R}^n$ 中开集，$f: U \to \mathbb{R}$ 为 $U$ 上多元函数，$\Phi: U \to \mathbb{R}^m (m < n)$ 为 $C^1$ 映射，令

$$
A = {x \in U \mid \Phi(x) = 0},
$$

$f$ 在 $A$ 上的极值称为条件极值，方程 $\Phi(x) = 0$ 称为约束条件.

### · Lagrange 乘数法

> 如果 $A$ 为 $\mathbb{R}^n$ 中的 $C^1$ 曲面，$x^0 \in A$ 为 $f$ 的条件极值点，则对于 $A$ 上经过 $x^0$ 的任何可微曲线 $\sigma(t)$ ($\sigma(0) = x^0$)，$t = 0$ 为 $f(\sigma(t))$ 的驻点，因此
>
> $$
> 0 = \left. \frac{d}{dt} \right|\_{t=0} f(\sigma(t)) = Jf(x^0) \cdot \sigma'(0),
> $$
>
> 即 $f$ 在 $x^0$ 处的梯度 $Jf(x^0)$ 与 $A$ 在 $x^0$ 处的切向量 $\sigma'(0)$ 正交. 这说明此时 $Jf(x^0)$ 是 $A$ 在 $x^0$ 处的一个法向量.
>
> 利用隐（函数）映射定理，我们可以更准确地将上述想法总结为下面的结果.

**定理1 (Lagrange 乘数法)**.

> 设 $f \in C^1(U)$，$x^0 \in A$ 为 $f$ 的条件极值点. 如果 $J\Phi(x^0)$ 的秩为 $m$，则存在 $\lambda \in \mathbb{R}^m$，使得
> $$
> Jf(x^0) - \lambda \cdot J\Phi(x^0) = 0. \tag{\*}
> $$

/proof/

> 不妨设 $\Phi = (\varphi\_1, \cdots, \varphi\_m)$，且
> $$
> \det
> \begin{pmatrix}
> \dfrac{\partial \varphi\_1}{\partial x\_1} & \cdots & \dfrac{\partial \varphi\_1}{\partial x\_m} \\\\
> \vdots & \ddots & \vdots \\\\
> \dfrac{\partial \varphi\_m}{\partial x\_1} & \cdots & \dfrac{\partial \varphi\_m}{\partial x\_m}
> \end{pmatrix}
> (x^0) \ne 0.
> $$
>
> 由隐映射定理，存在点 $z^0 = (x\_{m+1}^0, \cdots, x\_n^0)$ 的开邻域 $V$ 以及 $C^1$ 映射 $g: V \to \mathbb{R}^m$ 使得
>
> $$
> y^0 = g(z^0), \quad \Phi(g(z), z) = 0, \quad \forall\ z \in V,
> $$
>
> 其中 $y^0 = (x\_1^0, \cdots, x\_n^0)$，$y = (x\_1, \cdots, x\_m)$，$z = (x\_{m+1}, \cdots, x\_n)$，$x = (y, z) \in U$. 在 $x^0 = (y^0, z^0)$ 处求导，有
>
> $$
> Jg(z^0) = -(J\_y\Phi)^{-1}(x^0) \cdot J\_z\Phi(x^0). \tag{1}
> $$
>
> 由于 $x^0$ 为 $f$ 的条件极值点，故 $z^0$ 为 $f(g(z), z)$ 的极值点（驻点），在 $z\_0$ 处求导，得
>
> $$
> J\_yf(x^0) \cdot Jg(z^0) + J\_zf(x^0) = 0. \tag{2}
> $$
>
> 将 (1) 式代入 (2)，得
>
> $$
> J\_zf(x^0) = J\_yf(x^0) \cdot (J\_y\Phi)^{-1}(x^0) \cdot J\_z\Phi(x^0). \tag{3}
> $$
>
> 记 $\lambda = J\_yf(x^0) \cdot (J\_y\Phi)^{-1}(x^0)$，即
>
> $$
> J\_yf(x^0) = \lambda \cdot J\_y\Phi(x^0). \tag{4}
> $$
>
> (3) 式可用 $\lambda$ 改写为
>
> $$
> J\_zf(x^0) = \lambda \cdot J\_z\Phi(x^0).
> $$
>
> (4) 和 (5) 式结合起来就得到
>
> $$
> Jf(x^0) - \lambda \cdot J\Phi(x^0) = 0.
> $$
>
> 这就证明了定理.

> \[!important]
>
> (1) 在定理的条件下，$A$ 在 $x^0$ 附近是 $n - m$ 维隐式曲面，它在 $x^0$ 处的法空间由 $J\varphi\_1(x^0), \cdots, J\varphi\_m(x^0)$ 张成，(\*) 式就是说 $Jf(x^0)$ 是法向量.
>
> (2) 在实际应用中，(\*) 式通常解释为：如果 $x^0$ 为条件极值点，则 $(x^0, \lambda)$ 为辅助函数
>
> $$
> F(x, \lambda) = f(x) - \sum\_{i=1}^m \lambda\_i \cdot \varphi\_i(x)
> $$
>
> 的驻点.

/example/  求圆周 $(x - 1)^2 + y^2 = 1$ 上的点与固定点 $(0, 1)$ 的距离的最大值、最小值.

> 在约束条件 $(x - 1)^2 + y^2 - 1 = 0$ 下求距离函数 $d = \sqrt{x^2 + (y - 1)^2}$ 的最大值和最小值. 考虑辅助函数
>
> $$
> F(x, y, \lambda) = x^2 + (y - 1)^2 - \lambda\[(x - 1)^2 + y^2 - 1],
> $$
>
> 求其驻点：
>
> $$
> F'\_x = F'*y = F'*\lambda = 0
> \iff
> \begin{cases}
> x - \lambda(x - 1) = 0 \\\\
> y - 1 - \lambda y = 0 \\\\
> (x - 1)^2 + y^2 - 1 = 0
> \end{cases}
> \implies
> \begin{cases}
> x = \dfrac{-\lambda}{1 - \lambda} \\\\
> y = \dfrac{1}{1 - \lambda} \\\\
> \lambda = 1 \pm \sqrt{2}
> \end{cases}
> $$
>
> 在驻点处
>
> $$
> d^2 = \lambda^2, \quad \Rightarrow d = |\lambda|,
> $$
>
> 由于 $d$ 在圆周上达到最大、最小值，故其最大值必为 $\sqrt{2} + 1$，最小值必为 $\sqrt{2} - 1$.

/example/  设 $\alpha\_i > 0$, $x\_i > 0$, $i = 1, \cdots, n$. 证明

$$
x\_1^{\alpha\_1} \cdots x\_n^{\alpha\_n} \le \left( \frac{\alpha\_1 x\_1 + \cdots + \alpha\_n x\_n}{\alpha\_1 + \cdots + \alpha\_n} \right)^{\alpha\_1 + \cdots + \alpha\_n},
$$

等号成立当且仅当 $x\_1 = x\_2 = \cdots = x\_n$.

> 考虑函数
>
> $$
> f(x\_1, \cdots, x\_n) = \ln(x\_1^{\alpha\_1} \cdots x\_n^{\alpha\_n}) = \sum\_{i=1}^n \alpha\_i \ln x\_i
> $$
>
> 在约束条件 $\displaystyle\sum\_{i=1}^n \alpha\_i x\_i = c$ ($c > 0$) 下的条件极值. 令
>
> $$
> F(x, \lambda) = \sum\_{i=1}^n \alpha\_i \ln x\_i - \lambda \left( \sum\_{i=1}^n \alpha\_i x\_i - c \right),
> $$
>
> 求驻点：
>
> $$
> F'*{x\_i} = F'*\lambda = 0
> \implies
> \frac{\alpha\_i}{x\_i} = \lambda \alpha\_i, \quad \sum\_{i=1}^n \alpha\_i x\_i - c = 0
> \implies
> x\_i = \frac{c}{\sum\_{i=1}^n \alpha\_i}, \quad i = 1, \cdots, n.
> $$
>
> 因为在集合
>
> $$
> D: x\_i \ge 0, \quad \sum\_{i=1}^n \alpha\_i x\_i = c
> $$
>
> 的边界上，$f$ 取值为 $-\infty$，因此 $f$ 在 $D$ 的内部取到最大值，上述唯一驻点必为最大值点，从而
>
> $$
> \ln(x\_1^{\alpha\_1} \cdots x\_n^{\alpha\_n}) \le \sum\_{i=1}^n \alpha\_i \ln \frac{c}{\sum\_{i=1}^n \alpha\_i},
> $$
>
> 即
>
> $$
> x\_1^{\alpha\_1} \cdots x\_n^{\alpha\_n} \le \left( \frac{\alpha\_1 x\_1 + \cdots + \alpha\_n x\_n}{\alpha\_1 + \cdots + \alpha\_n} \right)^{\alpha\_1 + \cdots + \alpha\_n}.
> $$

### · 二次型与极值

在利用 $\operatorname{Hess}(f)$ 判别极值时，需要判别其正定或负定性. 我们下面给出判别一个对称方阵为正定阵的方法.

> 设 $A$ 为 $n$ 阶对称实方阵，$A$ 可以视为线性映射 $A: \mathbb{R}^n \to \mathbb{R}^n$. 另一方面，$A$ 也诱导出函数 $Q: \mathbb{R}^n \to \mathbb{R}$，
>
> $$
> Q(x) = \langle x, Ax \rangle = \sum\_{i,j=1}^n a\_{ij}x\_i x\_j, \quad A = (a\_{ij})\_{n\times n}.
> $$
>
> 因为 $n-1$ 维球面
>
> $$
> S^{n-1} = \left{ x \in \mathbb{R}^n \mid \sum\_{i=1}^n x\_i^2 = 1 \right}
> $$
>
> 为有界闭集，故 $Q$ 在 $S^{n-1}$ 可以取到最小值和最大值.

**引理1**.

> $Q(x)$ 在 $S^{n-1}$ 上的最小值必为线性映射 $A$ 的特征值.

/proof/

> 记 $\lambda\_0 = \min\_{S^{n-1}} {Q(x)}$，则存在 $x^0 \in S^{n-1}$，使得
> $$
> \lambda\_0 = Q(x^0).
> $$
>
> 因此有
>
> $$
> Q(x) \ge \lambda\_0 \cdot |x|^2, \quad \forall\ x \in \mathbb{R}^n.
> $$
>
> 特别地，对任意 $y \in \mathbb{R}^n$, $t \in \mathbb{R}$，有
>
> $$
> \varphi(t) = Q(x^0 + ty) - \lambda\_0 |x^0 + ty|^2 \ge 0.
> $$
>
> $\varphi(t)$ 关于 $t$ 为光滑函数，$t = 0$ 时取到最小值 $0$，故 $\varphi'(0) = 0$，简单的计算表明
>
> $$
> \langle y, Ax^0 \rangle + \langle x^0, Ay \rangle - \lambda\_0 (\langle x^0, y \rangle + \langle y, x^0 \rangle) = 0.
> $$
>
> 由 $A$ 为对称方阵得
>
> $$
> \langle y, Ax^0 - \lambda\_0 x^0 \rangle = 0.
> $$
>
> 取 $y = Ax^0 - \lambda\_0 x^0$，由内积的正定性，有
>
> $$
> Ax^0 - \lambda\_0 x^0 = 0.
> $$
>
> 即 $\lambda\_0$ 为特征值.

这个引理的证明可以推广如下：设 $V \subset \mathbb{R}^n$ 为子向量空间，如果 $AV \subset V$，则称 $V$ 为 $A$ 的一个不变子空间. 令

$$
\mu = \inf { Q(x) \mid x \in V,\ |x| = 1 },
$$

则完全类似的证明可以推出 $\mu$ 为 $A$ 的特征值.

如果 $V$ 为不变子空间，则其正交补

$$
V^\perp = { y \in \mathbb{R}^n \mid \langle y, x \rangle = 0,\ \forall\ x \in V }
$$

也是 $A$ 的不变子空间；而如果 $\mu$ 为特征值，则特征子空间

$$
V(\mu) = { x \in \mathbb{R}^n \mid Ax = \mu x }
$$

是不变子空间. 因此，如果重复上面的证明过程，我们就可以得到 $A$ 的所有特征值

$$
\lambda\_0 \le \lambda\_1 \le \cdots \le \lambda\_r, \quad r \le n.
$$

其中

$$
\lambda\_i = \min { Q(x) \mid x \perp V(\lambda\_0) \oplus V(\lambda\_1) \oplus \cdots \oplus V(\lambda\_{i-1}),\ |x| = 1 }, \quad i \ge 1.
$$

从而有

**引理2**.

> 设 $A$ 为 $n$ 阶实对称方阵，则
>
> (1) $A$ 的特征值全为实数；
>
> (2) $A$ 为正定矩阵 $\iff$ 其特征值都是正实数.

/proof/

> (1) 以及 (2) 的 “$\Rightarrow$” 部分已证.
>
> (2) 的 “$\Leftarrow$”：如果 $A$ 的特征值 $\lambda\_0, \cdots, \lambda\_r$ 均为正数，则 $\mathbb{R}^n$ 有正交分解
> $$
> \mathbb{R}^n = V(\lambda\_0) \oplus V(\lambda\_1) \oplus \cdots \oplus V(\lambda\_r).
> $$
>
> 任给 $x \in \mathbb{R}^n$, $x \ne 0$，$x$ 有正交分解
>
> $$
> x = x\_0 + x\_1 + \cdots + x\_r, \quad x\_i \in V(\lambda\_i),
> $$
>
> 从而
>
> $$
> Q(x) = \sum\_{i=0}^r \lambda\_i \cdot |x\_i|^2 > 0.
> $$
>
> 即 $A$ 是正定方阵. 或者这样证：由于特征值都大于零，因而最小特征值也大于零，由引理1的证明即知 $A$ 是正定的.

**引理3**.

> 设 $A$ 为 $n$ 阶实对称方阵，其正特征值个数（含重数）为 $k$，如果 $V$ 为 $\mathbb{R}^n$ 的子向量空间，且对任意 $x \in V$ ($x \ne 0$)，均有 $Q(x) > 0$，则 $\dim V \le k$.

/proof/

> （反证法）设 $\dim V > k$，记 $A$ 的正特征值对应的特征子空间的直和为 $V\_0$，则 $\dim V\_0 = k$. 考虑正交投影
> $$
> P: V \to V\_0,
> $$
>
> 因为 $\dim V > \dim V\_0$，故 $\ker P \ne {0}$. 从而存在 $x \in V$ ($x \ne 0$) 使得 $x \perp V\_0$. 由引理2 的证明易见，此时必有 $Q(x) \le 0$，这就导出了矛盾.

现在我们就得到了矩阵正定性的如下判别法：

**定理4**.

> $A = (a\_{ij})*{n\times n}$ 为正定方阵
> $$
> \iff \det(a*{ij})\_{\substack{1 \le i \le k \ 1 \le j \le k}} > 0,\ \forall\ 1 \le k \le n
> $$

/proof/

> “$\Rightarrow$” 如果 $A$ 正定，则显然 $(a\_{ij})\_{\substack{1 \le i \le k \ 1 \le j \le k}}$ 正定，其特征值全为正实数，故行列式为正（行列式为特征值之积）.
>
> “$\Leftarrow$” 对 $n$ 用归纳法. $n = 1$ 显然.
>
> 设命题对 $n-1$ 成立，则对于 $n$ 阶方阵，由归纳假设，$(a\_{ij})\_{\substack{1 \le i \le n-1 \ 1 \le j \le n-1}}$ 正定，这说明 $A$ 在子向量空间 $\mathbb{R}^{n-1} = { x \in \mathbb{R}^n \mid x\_n = 0 }$ 上正定.
>
> 由引理3，$A$ 至少有 $n-1$ 个正的特征值. 又因为 $\det A > 0$，故所有特征值均为正数，由引理2 即知 $A$ 是正定的.

### · 函数的相关性和独立性

在线性代数中，向量空间中的一组向量有线性相关或线性独立的说法. 我们现在考虑多元函数的类似概念. 设 $f\_i: U \to \mathbb{R}$ ($1 \le i \le m$) 是定义在开集 $U \subset \mathbb{R}^n$ 上的一组连续可微函数. 这一组函数也可以看成向量值函数

$$
F: U \to \mathbb{R}^m, \quad F(x\_1, x\_2, \cdots, x\_n) = (f\_1(x\_1, x\_2, \cdots, x\_n), \cdots, f\_m(x\_1, x\_2, \cdots, x\_n))
$$

的分量. 如果存在开集 $V \supset F(U)$ 上定义的连续可微函数 $\Phi: V \to \mathbb{R}$，使得

$$
\Phi(F) = \Phi(f\_1, f\_2, \cdots, f\_m) = 0, \quad \text{且} \quad \nabla \Phi(y) \ne 0, \quad \forall\ y \in V,
$$

则称 ${f\_i}$ 在 $U$ 上函数相关.

> 如果 ${f\_i}$ 函数相关，则根据隐函数定理，存在局部定义的连续可微函数 $\Psi$，使得 ${f\_i}$ 中的某一个函数，比如 $f\_j$，可以表示为
>
> $$
> f\_j = \Psi(f\_1, f\_2, \cdots, f\_{j-1}, f\_{j+1}, \cdots, f\_m),
> $$
>
> 这种等式也可以用来给出函数相关性的定义.

如果在任意点 $x^0 \in U$ 附近，${f\_i}$ 均不是函数相关的，则称 ${f\_i}$ 是一组彼此独立的函数. 如何判断函数的相关性或独立性呢？我们仍然用微分学的基本手段，即作线性化来研究这一问题.

如果 ${f\_i}$ 是函数相关的，则对等式 $\Phi(F) = 0$ 求导，得到下面的 Jacobian 之间的等式
$$
J\Phi \cdot JF(x) = 0, \quad \forall\ x \in U.
$$

因为 $J\Phi = \nabla \Phi \ne 0$，上式表明 $\operatorname{Rank} JF(x) < m$, $\forall\ x \in U$，其中 $\operatorname{Rank}$ 表示矩阵的秩.

特别地，我们就得到如下函数独立性的一个判别方法.

**定理5**.

> 设 $m \le n$, ${f\_i}$ 如上. 如果 $\operatorname{Rank} JF(x) = m$, $\forall\ x \in U$，则 ${f\_i}$ 彼此独立；
>
> 特别地，当 $m = n$ 且 $\det JF(x) \ne 0$ $\forall\ x \in U$ 时，${f\_i}$ 彼此独立.

> \[!important]
>
> $\operatorname{Rank} JF(x) = m$ 等价于说向量 ${\nabla f\_i(x)}\_{i=1}^m$ 线性无关.

/example/

> 设 $f\_i(x) = \displaystyle\sum\_{j=1}^n a\_{ij}x\_j$ ($1 \le i \le n$) 为 $\mathbb{R}^n$ 上的一组线性函数，则当 $\det A = 0$ 时 ${f\_i}$ 函数相关；
>
> 当 $\det A \ne 0$ 时 ${f\_i}$ 彼此独立，其中 $A = (a\_{ij})\_{n\times n}$.

现在我们注意如下事实：

> 如果作变量替换 $x = \varphi(u)$，则 ${f\_i(x)}$ 的函数相关性和独立性与 ${f\_i(\varphi(u))}$ 的函数相关性和独立性是一样的. 利用这件事实，我们考虑这样一个特殊情形，即假设 Jacobian $JF$ 的秩满足条件
>
> $$
> \operatorname{Rank} JF(x) \equiv l < m, \quad \forall\ x \in U.
> $$
>
> 我们来说明在这种情形下，${f\_i}$ 在任何一点 $x^0 \in U$ 附近都是函数相关的. 事实上，由于 $JF(x^0) = l$，不妨设
>
> $$
> \det \left( \frac{\partial f\_i}{\partial x\_j} \right)\_{\substack{1 \le i \le l \ 1 \le j \le l}} (x^0) \ne 0.
> $$
>
> 考虑函数
>
> $$
> G: U \to \mathbb{R}^n, \quad G(x\_1, x\_2, \cdots, x\_n) = (f\_1(x), f\_2(x), \cdots, f\_l(x), x\_{l+1}, \cdots, x\_n),
> $$
>
> 易见 $\det JG(x^0) \ne 0$，因此，根据逆映射定理，$G$ 在 $x^0$ 附近可逆，其逆映射 $\varphi = G^{-1}$ 也是连续可微的，$x = \varphi(u)$ 可视为变量替换. 在这个变量替换下，$F$ 可写为
>
> $$
> F \circ \varphi(u) = (u\_1, u\_2, \cdots, u\_l, F^{l+1}(u), \cdots, F^n(u)).
> $$
>
> 因为 $\operatorname{Rank} J(F \circ \varphi) = \operatorname{Rank} JF = l$，从上式可知
>
> $$
> \frac{\partial F^i}{\partial u\_j} = 0, \quad \forall\ l+1 \le i,\ j \le n.
> $$
>
> 这说明，在 $u^0 = G(x^0)$ 附近，$F^i$ ($l+1 \le i \le n$) 只依赖于变量 $u\_1, \cdots, u\_l$. 特别地，映射 $F \circ \varphi$ 的分量在 $u^0 = G(x^0)$ 附近是函数相关的，因此 $F$ 的分量在 $x^0$ 附近函数相关.
>
> 令
>
> $$
> \operatorname{Rank} JF = \max\_{x \in U} \operatorname{Rank} JF(x),
> $$
>
> 称 $\operatorname{Rank} JF$ 为 $F$ 在 $U$ 上的秩.
>
> 如果 $JF$ 在 $x^0 \in U$ 处达到此秩，则在 $x^0$ 附近 $JF$ 的秩也是 $\operatorname{Rank} JF$.
>
> 利用上述讨论，我们立即得到如下推论.

**推论6**.

> 设 ${f\_i}$ 以及 $F$ 如上. 如果 $JF$ 在 $x^0 \in U$ 达到最大秩 $l$，则它的 $l$ 个分量在 $x^0$ 附近是彼此独立的，而其余的分量均和这 $l$ 个分量函数相关.