『linear algebra-5』inner product space

内积空间

本篇是对高等代数中"内积空间"的定义、性质、定理以及计算方法的速记，不涉及严密的推导证明。

一、\(n\) 维内积与欧氏空间

• 内积定义：设 \(\alpha=(a_1, \dots, a_n)^T, \beta = (b_1, \dots, b_n)^T \in \mathbb{R}^n\)，定义内积 \((\alpha, \beta) = \alpha^T \beta = \beta^T\alpha = \sum a_ib_i\)
• 内积运算性质：
  • 对称性：\((\alpha, \beta) = (\beta, \alpha)\)
  • 线性加法：\((\alpha + \beta, \gamma) = (\alpha, \gamma) + (\beta + \gamma)\)
  • 线性数乘：\((k\alpha, \beta) = k(\alpha, \beta)\)，\(k \in \mathbb{R}\)
  • 正定性：\((\alpha, \alpha) \ge 0\)，且 \((\alpha, \alpha) = 0 \Leftrightarrow \alpha = 0\)
• 向量的几何性质：用内积定义
  • 向量的长度：\(||\alpha|| = \sqrt{(\alpha, \alpha)}\)
  • 向量间的夹角：\(<\alpha, \beta> = \arccos{\dfrac{(\alpha, \beta)}{||\alpha|| \cdot ||\beta||}}\)
• \(\text{Cauchy-Schwarz}\) 不等式：\(|(\alpha, \beta)| \le ||\alpha|| \cdot ||\beta||\)
• 三角不等式：\(||\alpha + \beta|| \le ||\alpha|| + ||\beta||\)；当 \(\alpha \bot \beta\) 时 \(||\alpha + \beta||^2 = ||\alpha||^2 + ||\beta||^2\)（勾股定理）
• 欧氏空间：定义了内积运算的 \(n\) 维实向量空间称为 \(n\) 维欧氏空间，记作 \(\mathbb{R}^n\)

---

二、\(\text{Schmidt}\) 正交化

• 标准正交基：设 \(\alpha_1, \dots, \alpha_n \in \mathbb{R}^n\)，若有 \[ (\alpha_1, \alpha_j) = \begin{cases} 1 & \text{when } i = j \\ \\ 0 & \text{when }i \ne j \end{cases} \] 则称 \(\{\alpha_1, \dots, \alpha_n\}\) 是 \(\mathbb{R}^n\) 的一组标准正交基

• "正交基" 与 "线性相关性"：\(\mathbb{R}^n\) 中两两正交且不含零向量的向量组是线性无关的

• 施密特正交化：借助线性无关的 \(\{\alpha_1, \dots, \alpha_n\}\) 构造一组标准单位正交基 \(\{\eta_1, \dots, \eta_n\}\)，步骤如下

  • 迭代开始：初始时直接令 \(\beta_1 = \alpha_1\)

  • 迭代过程：取 \(\beta_j = \alpha_j + k_{j-1,j}\beta_{j-1} + \dots + k_{2, j}\beta_2 + k_{1,j}\beta_{1}\)，令 \((\beta_j, \beta_i) = 0\)，其中 \(i = 1, \dots, j-1\)

    解得 \(k_{i,j} = -\dfrac{(\alpha_j, \beta_i)}{(\beta_i, \beta_i)}\)，\(i = 1, \dots, j-1\)，即使得任意 \(\beta_i\) 之间都正交

  • 标准化：取 \(\eta_i = \dfrac{\beta_i}{||\beta_i||}\)，即把 \(\beta_i\) 的长度全部化作 1，算法结束

---

三、正交矩阵

• 实正交矩阵的定义：设 \(\text{A} \in \text{M}_n(\mathbb{R})\)，如果 \(\text{A}^T\text{A} = \text{I}\)，则称 \(\text{A}\) 为实正交阵

  \(\text{A}\) 的列分块表示为 \((\alpha_1, \dots, \alpha_n)\)，\(\text{A}^T\text{A} = \text{I}\) \(\Leftrightarrow\) \((\alpha_i, \alpha_j) = 1 \ 且 \ (\alpha_i, \alpha_j) = 0\)

• "正交"从何而来：\(\text{A}\) 的行（列）向量组是单位正交向量组

• 正交矩阵的性质：

  • 行列式值的绝对值为 1：\(\det {\text{A}} = \pm 1\)
  • 逆阵 等于 转置阵：\(\text{A}^{-1} = \text{A}^T\)，可用于快速求逆；且 \(\text{A}^{-1}\) 和 \(\text{A}^T\) 也是正交阵
  • 乘积保持正交：若 \(\text{A, B}\) 是正交阵，则有 \(\text{AB}\) 是正交阵

• "正交变换" 与 "几何度量"：正交变换不改变向量的长度、向量间内积、向量间夹角，即

  • \(||\text{A}x|| = ||x||\)
  • \((\text{A}x, \text{A}y) = (x, y)\)
  • \(<\text{A}x, \text{A}y> = <x, y>\)