第二章

2-1 内积空间的概念

内积就是点乘

2-1-1 内积空间的定义

假设 V 是数域 F上的线性空间，在 V 上定义了一个二元函数 $⟨ α, β ⟩$ ，若

$⟨ α, β ⟩ = \overline{⟨ β, α ⟩}$
$\forall α, β, γ \in V, ⟨ α + β, γ ⟩ = ⟨ α, γ ⟩ + ⟨ β, γ ⟩$
$\forall α, β \in V, k \in F, ⟨ k α + β, β ⟩ = k ⟨ α, β ⟩$
$\forall α \in V, ⟨ α, α ⟩ \geq 0$ ；且等号成立当且仅当 $α = θ$ 则称 $⟨ α, β ⟩$ 是 $α, β$ 的内积。

定义了内积的线性空间称为内积空间
当 $F = R$ 时，称 V 是欧基里德空间，简称欧氏空间
当 $F = C$ 时，称 V 是酉空间

欧基里德空间和酉空间统称为内积空间

迹（trace）：主对角线元素之和，也是特征值之和

标准内积：

在空间 $V = R^{n}$ 上定义内积 $⟨ α, β ⟩ = β^{T} α$ ,则 $R^{n}$ 是欧氏空间
在空间 $V = C^{n}$ 上定义内积 $⟨ α, β ⟩ = β^{H} α$ ，则 $C_{3} [x]$ 是酉空间

2-1-2 内积空间的性质

$⟨ α, β + γ ⟩ = ⟨ α, β ⟩ + ⟨ α, γ ⟩$
$⟨ α, k β ⟩ = \overset{ˉ}{k} ⟨ α, β ⟩$
$⟨ \sum_{i = 1}^{s} k_{i} α_{i}, \sum_{j = 1}^{t} l_{j} β_{j} ⟩ = \sum_{i = 1}^{s} \sum_{j = 1}^{t} k_{i} \overset{ˉ}{l_{j}} ⟨ α_{i}, β_{j} ⟩$
对任意 $α_{i} nV, ⟨ α, θ ⟩ = ⟨ θ, α ⟩ = 0$

设 $ε_{1}, ε_{2}, \dots, ε_{n}$ 是 V 的基， $α, β \in V$ 的坐标是 $X = (x_{1}, x_{2}, \dots, x_{n})^{T}, Y = (y_{1}, y_{2}, \dots, y_{n})^{T}$ 则 $⟨ α, β ⟩ = \sum_{i = 1}^{n} \sum_{j = 1}^{n} x_{i} \overset{y_{j}}{ˉ} ⟨ ε_{i}, ε_{j} ⟩ = X^{T} A \overline{Y}$ 其中， $A = (⟨ ε_{i}, ε_{j} ⟩)_{n \times n}$ ，称 A 是 V 在基 $ε_{1}, ε_{2}, \dots, ε_{n}$ 下的度量矩阵

若 $F = R$ ，则度量矩阵是对称矩阵： $A = A^{T}$ ；
若 $F = C$ ，则度量矩阵是Hermite矩阵： $A = A^{H}$

度量矩阵须为正定阵

2-1-3 模与正交性

定义：设 $α \in V, α$ 的模（长度）定义为 $∥ α ∥ = ⟨ α, α ⟩$ ，若 $∥ α ∥ = 1$ ，则称 α 是单位向量。

性质：

$\forall α \in V, ∥ α ∥ \geq 0$ ，且 $∥ α ∥ = 0 \Leftrightarrow α = θ$ ；
$∥ k α ∥ = ∣ k ∣∥ α ∥$ 故若 $α \neq = θ$ ，则称 $\frac{1}{∥ α ∥} α$ 是单位向量

柯西不等式： $\forall α, β \in V, ∣ ⟨ α, β ⟩ ∣ \leq ∥ α ∥∥ β ∥$ ，当且仅当 $α, β$ 线性相关时等号成立，即两者平行

可以从夹角公式 $cos φ = \frac{⟨ α , β ⟩}{∥ α ∥∥ β ∥}$ 推出柯西不等式 $a c + b d \leq (a^{2} + b^{2}) (c^{2} + d^{2})$

线性相关：向量组不全两两正交。若只有两个向量，则两者平行
线性无关：向量组两两正交

三角不等式： $\forall α, β \in V, ∥ α ∥ + ∥ β ∥ \geq ∥ α + β ∥$

向量距离： $d (α, β) = ∥ α - β ∥$

三角不等式的距离形式： $\forall α, β, γ \in V, d (α, γ) \leq d (α, β) + d (β, γ)$

正交性：若向量 $α, β$ 的内积为零，则称 $α, β$ 是正交的，记 $α ⊥ β$

勾股定理：若 $α ⊥ β$ ，则 $∥ α + β ∥^{2} = ∥ α ∥^{2} + ∥ β ∥^{2}$

由两两正交的非零向量组成的向量组称为正交向量组
由两两正交的单位向量组成的向量组称为标准正交向量组
由正交向量组组成的基称为是正交基
由标准正交向量组组成的基称为是标准正交基

标准正交基下的内积

设 $ε_{1}, ε_{2}, \dots, ε_{n}$ 是 V 的标准正交基， $α, β \in V$ 在 $ε_{1}, ε_{2}, \dots, ε_{n}$ 下的坐标是 X,Y 则 $⟨ α, β ⟩ Y^{H} X = ⟨ X, Y ⟩_{C^{n}}$

2-1-4 Schmidt 正交化方法

设 $α_{1}, α_{2}, \dots, α_{s} \in V$ 是线性无关的，

正交化： $β_{1} = α_{1}$ $β_{2} = α_{2} - \frac{⟨ α _{2} , β _{1} ⟩}{⟨ β _{1} , β _{1} ⟩} β_{1}$ $β_{3} = α_{3} - \frac{⟨ α _{3} , β _{2} ⟩}{⟨ β _{2} , β _{2} ⟩} β_{2} - \frac{⟨ α _{3} , β _{1} ⟩}{⟨ β _{1} , β _{1} ⟩} β_{1}$ $\dots$ $β_{s} = α_{s} - \frac{⟨ α _{s} , β _{s - 1} ⟩}{⟨ β _{s - 1} , β _{s - 1} ⟩} β_{s - 1} - \dots - \frac{⟨ α _{s} , β _{1} ⟩}{⟨ β _{1} , β _{1} ⟩} β_{1}$
单位化： $γ_{i} = \frac{1}{∥ β _{i} ∥} β_{i}, i = 1, 2, \dots, s$ 则 $γ_{1}, γ_{2}, \dots, γ_{s}$ 是与 $α_{1}, α_{2}, \dots, α_{s}$ 等价的标准正交向量组

推导： $β_{2} = α_{2} - k β_{1}, β_{2} ⊥ β_{1}$

2-1-5 酉矩阵

定义：若 n 阶复矩阵 A 满足 $A^{H} A = I$ ，则称为酉矩阵

A 是酉矩阵 $\Leftrightarrow A^{- 1} = A^{H} \Leftrightarrow A$ 的行/列向量组是 $C^{n}$ 的标准正交基

定理设 $α_{1}, α_{2}, \dots, α_{n}$ 是 V 的标准正交基， $(γ_{1}, γ_{2}, \dots, γ_{n}) = (α_{1}, α_{2}, \dots, α_{n}) U$ 则 $γ_{1}, γ_{2}, \dots, γ_{n}$ 是标准正交基 $\Leftrightarrow U$ 是酉矩阵.

Schmidt正交化方法的应用

== $(A B)^{H} = B^{H} A^{H}$ ==

若 A,B 是同阶酉矩阵，==则 $A^{- 1}, A B$ 都是酉矩阵==
假设 A 是上（下）三角矩阵，若 A 是酉矩阵，则 A 是对角阵，且其主对角元的模均等于1.

如果 $α_{1}, α_{2}, \dots, α_{n}$ 是 V 的基，则有标准正交基 $γ_{1}, γ_{2}, \dots, γ_{n}$ 使 $(γ_{1}, γ_{2}, \dots, γ_{n}) = (α_{1}, α_{2}, \dots, α_{n}) T$ 其中，T是上三角矩阵，且其主对角元均大于零

推论：若 $W \leq V$ ，则 $(W^{⊥})^{⊥} = W$

2-2-2 $R (A)^{⊥}$ 和 $K (A)^{⊥}$

定理： $R (A)^{⊥} = K (A)^{H}, K (A)^{⊥} = R (A)^{H} = R (A^{H})$

2-2-3 正投影

已知 $W \leq V, α \in V$ ，若 $η \in W$ 满足 $d (α, η) = ξ \in W min d (α, ξ)$ 则称 $η$ 为 $α$ 在 W 中的正投影

定理：假设 $W \leq V, α \in V$ ，则

若 $α$ 在 W 中的正投影存在，则正投影必定是唯一的；
$η \in W$ 是 $α$ 在 W 中的正投影当且仅当 $η - α ⊥ W$

定理：如果 $W \leq V$ 是有限维的，则任意 $α \in V$ 在 W 中的正投影必定存在

2-2-4 应用

最小二乘解：设 $A \in C^{s \times n}$ ，线性方程组 $A x = b$ 的最佳近似解为 $A^{H} A x = A^{H} b$ 的解

2-3 等距变换

定义：设 V 是内积空间， $f \in Ho m (V, V)$ ，若 $⟨ f (α), f (β)⟩ = ⟨ α, β ⟩, \forall α, β \in V$ 称 $f$ 是等距变换

若 $V = R$ ，称 $f$ 是正交变换
若 $V = C$ ，称 $f$ 是酉变换

充要条件 设 V 是内积空间， $f \in Ho m (V, V)$ ，下述条件等价：

$f$ 保持长度不变
$f$ 保持内积不变
$f$ 将标准正交基变为标准正交基
$f$ 在标准正交基下的矩阵是酉矩阵

镜像变换

假设 V 是一个欧氏空间， $ω \in V$ 是一个单位向量，映射 $f : V \to V, α \to α - 2 ⟨ α, ω ⟩ ω$ 则是 V 上的等距变换（正交变换）

镜像变换在任意一组基下的矩阵都相似于 $d ia g (- 1, 1, \dots, 1)$