第2章有限维向量空间 - 维度与基 (Finite-Dimensional Vector Spaces)

一、导读

2.1 本章学习目标

通过本章的学习，你将能够：

理解基的定义和性质：掌握基作为"最小生成集"和"最大线性无关组"的双重含义

掌握维度的概念：理解为什么有限维向量空间的基的大小是唯一的，以及维度的几何意义

熟练进行基变换：能够在不同基之间转换向量的坐标表示

理解子空间的维度关系：掌握维度公式 $\dim(U + W) = \dim U + \dim W - \dim(U \cap W)$

掌握替换引理（Steinitz Exchange Lemma）：理解其在证明维度唯一性中的关键作用

能够构造向量空间的基：从生成集中提取基，将线性无关组扩展为基

将基和维度概念应用于实际问题：如数据降维、信号压缩、方程组求解

2.2 为什么本章如此重要

如果说第1章建立了向量空间的舞台，那么本章则揭示了这个舞台的"尺寸"和"坐标系"。基和维度是线性代数中最核心的概念之一，它们将抽象的向量空间与具体的数值计算联系起来。

从理论的角度看，基的存在性和维度的唯一性是有限维向量空间理论的基石。这两个定理保证了我们可以用有限的数字来描述向量空间中的任何元素，使得线性代数成为一门可计算的学科。

从应用的角度看：

计算机图形学：选择不同的基可以简化旋转、缩放等变换的计算
数据科学：主成分分析（PCA）的本质是寻找最优的基，使得数据在新基下的表示最紧凑
信号处理：傅里叶变换、小波变换都是基变换，将信号从时域转换到频域
量子计算：量子比特在不同基下的测量得到不同的结果
机器学习：特征工程、嵌入表示都涉及选择合适的基来更好地表达数据

从认知的角度看，本章帮助你建立"坐标思维"。同一个向量在不同基下有不同的坐标，但向量本身是不变的。这种"不变量"思维是现代数学的核心思想之一。

2.3 核心问题引导

在学习本章时，请持续思考以下问题：

为什么有限维向量空间的所有基都有相同的大小？ 这个看似显然的事实需要严谨的证明，关键在于替换引理。

基是唯一的吗？ 如果不是，不同基之间有什么关系？如何从一个基变换到另一个基？

维度有什么几何意义？ 为什么 $\mathbb{R}^n$ 的维度是 $n$？子空间的维度与原空间的维度有什么关系？

如何判断一个向量组是否是基？ 需要同时验证线性无关和张成空间吗？在有限维空间中有没有更简便的方法？

给定一个线性无关组，如何将其扩展为基？ 给定一个生成集，如何从中提取基？

两个子空间的和的维度如何计算？ 为什么 $\dim(U + W) = \dim U + \dim W - \dim(U \cap W)$？

在编程中，如何处理基变换？ 如何用矩阵表示基变换？坐标变换的公式是什么？

二、核心概念详解

2.1 基的定义

定义 2.1（基）

设 $V$ 是向量空间。向量组 $v_1, v_2, \ldots, v_n \in V$ 称为 $V$ 的一个基（Basis），如果：

线性无关：$v_1, v_2, \ldots, v_n$ 线性无关

张成空间：$\text{span}(v_1, v_2, \ldots, v_n) = V$

换句话说，基是既能生成整个空间又没有冗余的最小向量组。

关键洞察：基有两个等价的理解方式：

- 基是最小的生成集：去掉任何一个向量就无法张成整个空间

- 基是最大的线性无关组：添加任何一个向量就会变得线性相关

例 2.1：$\mathbb{F}^n$ 的标准基

在 $\mathbb{F}^n$ 中，定义标准基（Standard Basis）：

$$e_1 = (1, 0, 0, \ldots, 0), \quad e_2 = (0, 1, 0, \ldots, 0), \quad \ldots, \quad e_n = (0, 0, 0, \ldots, 1)$$

可以验证：

$e_1, \ldots, e_n$ 线性无关（只有平凡线性组合得到零向量）
$\text{span}(e_1, \ldots, e_n) = \mathbb{F}^n$（任意向量 $(x_1, \ldots, x_n) = x_1 e_1 + \cdots + x_n e_n$）

因此 $e_1, \ldots, e_n$ 是 $\mathbb{F}^n$ 的一个基，且这个基有 $n$ 个向量。

例 2.2：多项式空间 $P_n(\mathbb{F})$ 的基

在 $P_n(\mathbb{F})$ 中，向量组 $1, z, z^2, \ldots, z^n$ 是一个基，称为标准基。

线性无关：如果 $a_0 + a_1 z + \cdots + a_n z^n = 0$（零多项式），则所有系数 $a_i = 0$
张成空间：由定义，$P_n(\mathbb{F})$ 中的任何多项式都可以写成这些幂次的线性组合

这个基有 $n+1$ 个向量，所以 $\dim P_n(\mathbb{F}) = n + 1$。

注意：$P_n(\mathbb{F})$ 的维度是 $n+1$ 而不是 $n$！因为次数从 $0$ 到 $n$ 共有 $n+1$ 个幂次。

例 2.3：非标准基

在 $\mathbb{R}^2$ 中，除了标准基 $e_1 = (1, 0), e_2 = (0, 1)$ 外，以下向量组也是基：

$(1, 1), (1, -1)$
$(2, 0), (0, 3)$
$(1, 2), (3, 4)$

只要两个向量线性无关（即不成比例），它们就构成 $\mathbb{R}^2$ 的基。

2.2 维度的定义与唯一性

定理 2.1（替换引理 / Steinitz Exchange Lemma）

设 $V$ 是向量空间，$v_1, \ldots, v_m$ 线性无关，且 $w_1, \ldots, w_n$ 张成 $V$。则 $m \leq n$，且可以用 $v_1, \ldots, v_m$ 替换掉 $w_1, \ldots, w_n$ 中的某 $m$ 个向量，使得替换后的向量组仍然张成 $V$。

证明：

我们对 $m$ 进行归纳。

基础情况：$m = 1$。由于 $v_1 \neq 0$ 且 $w_1, \ldots, w_n$ 张成 $V$，存在不全为零的系数使得 $v_1 = \sum_{i=1}^n \lambda_i w_i$。至少有一个 $\lambda_j \neq 0$，不妨设 $\lambda_1 \neq 0$。则：

$$w_1 = \frac{1}{\lambda_1}\left(v_1 - \sum_{i=2}^n \lambda_i w_i\right)$$

这说明 $w_1$ 可以由 $v_1, w_2, \ldots, w_n$ 线性表示，因此 $\text{span}(v_1, w_2, \ldots, w_n) = \text{span}(w_1, \ldots, w_n) = V$。

归纳步骤：假设对 $m-1$ 成立。考虑 $v_1, \ldots, v_m$ 线性无关，$w_1, \ldots, w_n$ 张成 $V$。

由归纳假设，可以用 $v_1, \ldots, v_{m-1}$ 替换掉某 $m-1$ 个 $w$，不妨设替换后为 $v_1, \ldots, v_{m-1}, w_m, \ldots, w_n$，且仍张成 $V$。

现在 $v_m \in \text{span}(v_1, \ldots, v_{m-1}, w_m, \ldots, w_n)$，所以：

$$v_m = \sum_{i=1}^{m-1} \alpha_i v_i + \sum_{j=m}^n \beta_j w_j$$

由于 $v_1, \ldots, v_m$ 线性无关，$v_m$ 不能仅由 $v_1, \ldots, v_{m-1}$ 线性表示，所以至少有一个 $\beta_j \neq 0$。不妨设 $\beta_m \neq 0$，则可以将 $w_m$ 替换为 $v_m$，得到 $v_1, \ldots, v_m, w_{m+1}, \ldots, w_n$ 仍张成 $V$。

因此 $m \leq n$（否则如果 $m > n$，替换后没有剩余的 $w$，矛盾）。$\square$

重要意义：替换引理是线性代数中最深刻的定理之一。它表明线性无关组的大小不能超过生成集的大小，这为维度的唯一性奠定了基础。

定理 2.2（维度的唯一性）

设 $V$ 是有限维向量空间。则 $V$ 的任何两个基都有相同的大小。

证明：设 $v_1, \ldots, v_m$ 和 $w_1, \ldots, w_n$ 是 $V$ 的两个基。

由于 $v_1, \ldots, v_m$ 线性无关且 $w_1, \ldots, w_n$ 张成 $V$，由替换引理得 $m \leq n$
由于 $w_1, \ldots, w_n$ 线性无关且 $v_1, \ldots, v_m$ 张成 $V$，由替换引理得 $n \leq m$

因此 $m = n$。$\square$

定义 2.2（维度）

设 $V$ 是有限维向量空间。$V$ 的维度（Dimension）定义为 $V$ 的任意基中向量的个数，记作 $\dim V$。

规定 $\dim\{0\} = 0$（零空间的维度为 0）。

如果 $V$ 不是有限维的，称 $V$ 是无限维的。

例 2.4：常见向量空间的维度

$\dim \mathbb{F}^n = n$
$\dim P_n(\mathbb{F}) = n + 1$
$\dim \mathbb{F}^{m \times n} = mn$（矩阵空间）
$\dim \mathbb{C}$（作为 $\mathbb{R}$ 上的向量空间）$= 2$，基为 $\{1, i\}$

2.3 基的性质与构造

定理 2.3（基的等价刻画）

设 $V$ 是有限维向量空间，$v_1, \ldots, v_n \in V$，其中 $n = \dim V$。则以下条件等价：

$v_1, \ldots, v_n$ 是 $V$ 的基

$v_1, \ldots, v_n$ 线性无关

$\text{span}(v_1, \ldots, v_n) = V$

证明：

$(1) \implies (2)$ 和 $(1) \implies (3)$ 由基的定义直接得到
$(2) \implies (1)$：如果 $v_1, \ldots, v_n$ 线性无关，假设它们不是基，则 $\text{span}(v_1, \ldots, v_n) \subsetneq V$。存在 $v \in V \setminus \text{span}(v_1, \ldots, v_n)$，则 $v_1, \ldots, v_n, v$ 线性无关（否则 $v$ 可由前 $n$ 个向量线性表示）。但这与 $\dim V = n$ 矛盾（线性无关组长度不能超过维度）。因此 $\text{span}(v_1, \ldots, v_n) = V$，即是基。
$(3) \implies (1)$：如果 $\text{span}(v_1, \ldots, v_n) = V$，假设它们线性相关，则可以去掉某个向量后仍张成 $V$。重复此过程直到线性无关，得到的基的长度小于 $n$，与 $\dim V = n$ 矛盾。因此线性无关，即是基。$\square$

实用价值：在有限维空间中，如果已知向量组的长度等于空间维度，只需验证线性无关或张成空间中的一个条件即可判定是否为基。

定理 2.4（从生成集中提取基）

设 $V$ 是有限维向量空间，$S$ 是 $V$ 的生成集（即 $\text{span}(S) = V$）。则可以从 $S$ 中提取出一个基。

证明：如果 $S$ 线性无关，则 $S$ 本身就是基。否则，存在冗余向量，去掉后仍张成 $V$。重复此过程，由于 $V$ 有限维，过程必在有限步终止，得到线性无关的生成集，即基。$\square$

定理 2.5（将线性无关组扩展为基）

设 $V$ 是有限维向量空间，$v_1, \ldots, v_k$ 线性无关。则可以将这组向量扩展为 $V$ 的基。

证明：设 $\dim V = n$。如果 $k = n$，则 $v_1, \ldots, v_k$ 已是基。否则，存在 $v_{k+1} \in V \setminus \text{span}(v_1, \ldots, v_k)$，则 $v_1, \ldots, v_{k+1}$ 线性无关。重复此过程直到有 $n$ 个向量，即为基。$\square$

2.4 子空间的维度

定理 2.6（子空间的维度不超过原空间）

设 $U$ 是有限维向量空间 $V$ 的子空间。则 $\dim U \leq \dim V$。

证明：设 $u_1, \ldots, u_k$ 是 $U$ 的基。由于 $U \subseteq V$，$u_1, \ldots, u_k$ 也是 $V$ 中的线性无关组。由替换引理，$k \leq \dim V$。因此 $\dim U \leq \dim V$。$\square$

推论：如果 $U$ 是 $V$ 的子空间且 $\dim U = \dim V$，则 $U = V$。

定理 2.7（维度公式）

设 $U$ 和 $W$ 是有限维向量空间 $V$ 的子空间。则：

$$\dim(U + W) = \dim U + \dim W - \dim(U \cap W)$$

证明：

设 $\dim(U \cap W) = k$，取 $U \cap W$ 的基 $v_1, \ldots, v_k$。

由扩展定理，可以将 $v_1, \ldots, v_k$ 扩展为 $U$ 的基 $v_1, \ldots, v_k, u_1, \ldots, u_m$，其中 $m = \dim U - k$。

同样，可以将 $v_1, \ldots, v_k$ 扩展为 $W$ 的基 $v_1, \ldots, v_k, w_1, \ldots, w_p$，其中 $p = \dim W - k$。

我们断言：$v_1, \ldots, v_k, u_1, \ldots, u_m, w_1, \ldots, w_p$ 是 $U + W$ 的基。

张成空间：任意 $x \in U + W$ 可写为 $x = u + w$，其中 $u \in U$，$w \in W$。$u$ 可由 $v_1, \ldots, v_k, u_1, \ldots, u_m$ 线性表示，$w$ 可由 $v_1, \ldots, v_k, w_1, \ldots, w_p$ 线性表示。因此 $x$ 可由 $v_1, \ldots, v_k, u_1, \ldots, u_m, w_1, \ldots, w_p$ 线性表示。

线性无关：设

$$\sum_{i=1}^k \alpha_i v_i + \sum_{j=1}^m \beta_j u_j + \sum_{l=1}^p \gamma_l w_l = 0$$

令 $u = \sum_{i=1}^k \alpha_i v_i + \sum_{j=1}^m \beta_j u_j \in U$，$w = \sum_{l=1}^p \gamma_l w_l \in W$。则 $u + w + \sum_{i=1}^k \alpha_i v_i = 0$，即 $u = -w - \sum_{i=1}^k \alpha_i v_i$。

注意到 $u \in U$ 且 $-w - \sum_{i=1}^k \alpha_i v_i \in W$（因为 $w \in W$，$v_i \in U \cap W \subseteq W$），所以 $u \in U \cap W$。

由于 $u \in U \cap W$，$u$ 可由 $v_1, \ldots, v_k$ 线性表示：$u = \sum_{i=1}^k \delta_i v_i$。

但 $u$ 也可由 $v_1, \ldots, v_k, u_1, \ldots, u_m$ 线性表示，且这是 $U$ 的基，所以表示唯一。比较两种表示，由于 $u_1, \ldots, u_m$ 不在 $U \cap W$ 的基中，必须有 $\beta_1 = \cdots = \beta_m = 0$。

类似地，可以证明 $\gamma_1 = \cdots = \gamma_p = 0$。最后，$\sum_{i=1}^k \alpha_i v_i = 0$，由于 $v_1, \ldots, v_k$ 线性无关，$\alpha_1 = \cdots = \alpha_k = 0$。

因此所有系数为零，线性无关得证。

基的大小为 $k + m + p = k + (\dim U - k) + (\dim W - k) = \dim U + \dim W - k = \dim U + \dim W - \dim(U \cap W)$。

而 $\dim(U + W)$ 等于这个基的大小，所以公式成立。$\square$

例 2.5：维度公式的应用

在 $\mathbb{R}^3$ 中，设 $U$ 是 $xy$ 平面（$\dim U = 2$），$W$ 是 $yz$ 平面（$\dim W = 2$）。

$U \cap W$ 是 $y$ 轴，$\dim(U \cap W) = 1$
$U + W = \mathbb{R}^3$，$\dim(U + W) = 3$

验证：$3 = 2 + 2 - 1$，公式成立。

2.5 坐标与基变换

定义 2.3（坐标）

设 $V$ 是有限维向量空间，$v_1, \ldots, v_n$ 是 $V$ 的一个基。对于任意 $v \in V$，存在唯一的 $\lambda_1, \ldots, \lambda_n \in \mathbb{F}$ 使得：

$$v = \lambda_1 v_1 + \cdots + \lambda_n v_n$$

称 $(\lambda_1, \ldots, \lambda_n)$ 为 $v$ 在基 $v_1, \ldots, v_n$ 下的坐标（Coordinates），记作 $[v]_{\mathcal{B}} = (\lambda_1, \ldots, \lambda_n)^T$，其中 $\mathcal{B} = (v_1, \ldots, v_n)$。

关键洞察：坐标依赖于基的选择。同一个向量在不同基下有不同的坐标，但向量本身是不变的。

例 2.6：坐标计算

在 $\mathbb{R}^2$ 中，设基 $\mathcal{B} = ((1, 1), (1, -1))$。求 $v = (3, 1)$ 在基 $\mathcal{B}$ 下的坐标。

解：设 $(3, 1) = \lambda_1(1, 1) + \lambda_2(1, -1) = (\lambda_1 + \lambda_2, \lambda_1 - \lambda_2)$。

解方程组：

$$\begin{cases} \lambda_1 + \lambda_2 = 3 \\ \lambda_1 - \lambda_2 = 1 \end{cases}$$

得 $\lambda_1 = 2$，$\lambda_2 = 1$。所以 $[v]_{\mathcal{B}} = (2, 1)^T$。

基变换矩阵

设 $\mathcal{B} = (v_1, \ldots, v_n)$ 和 $\mathcal{C} = (w_1, \ldots, w_n)$ 是 $V$ 的两个基。基变换矩阵（Change of Basis Matrix）$P_{\mathcal{C} \to \mathcal{B}}$ 是将 $\mathcal{C}$ 基下的坐标转换为 $\mathcal{B}$ 基下坐标的矩阵。

具体地，如果 $[v]_{\mathcal{B}} = P_{\mathcal{C} \to \mathcal{B}} [v]_{\mathcal{C}}$，则 $P_{\mathcal{C} \to \mathcal{B}}$ 的第 $j$ 列是 $w_j$ 在基 $\mathcal{B}$ 下的坐标。

例 2.7：基变换矩阵

在 $\mathbb{R}^2$ 中，设 $\mathcal{B} = (e_1, e_2)$ 是标准基，$\mathcal{C} = ((1, 1), (1, -1))$。

$w_1 = (1, 1) = 1 \cdot e_1 + 1 \cdot e_2$，所以 $[w_1]_{\mathcal{B}} = (1, 1)^T$
$w_2 = (1, -1) = 1 \cdot e_1 + (-1) \cdot e_2$，所以 $[w_2]_{\mathcal{B}} = (1, -1)^T$

因此 $P_{\mathcal{C} \to \mathcal{B}} = \begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix}$。

验证：对于 $v = (3, 1)$，$[v]_{\mathcal{B}} = (3, 1)^T$，$[v]_{\mathcal{C}} = (2, 1)^T$。

$$P_{\mathcal{C} \to \mathcal{B}} [v]_{\mathcal{C}} = \begin{pmatrix} 1 & 1 \\ 1 & -1 \end{pmatrix} \begin{pmatrix} 2 \\ 1 \end{pmatrix} = \begin{pmatrix} 3 \\ 1 \end{pmatrix} = [v]_{\mathcal{B}}$$

三、程序员的视角

3.1 在机器学习中的应用

主成分分析（PCA）：PCA 的核心是找到数据协方差矩阵的特征向量，这些特征向量构成一组新的基。数据在这组基下的表示具有最大方差，从而实现降维。本质上，PCA 是在寻找"最优"的基，使得信息最紧凑。

词嵌入：Word2Vec、GloVe 等模型将单词映射到高维向量空间。不同预训练模型相当于选择了不同的基。迁移学习中，有时需要对嵌入进行基变换以适配目标任务。

稀疏表示：在信号处理和图像压缩中，我们希望找到一组基，使得信号在这组基下的表示是稀疏的（大部分系数为零）。小波基、离散余弦基（DCT）在这方面表现优异，被广泛应用于 JPEG、MP3 等压缩标准。

3.2 常见陷阱与误区

误区 1：认为基是唯一的

基不唯一！任何线性无关且张成空间的向量组都是基。标准基只是众多基中的一种特殊选择。

误区 2：混淆"坐标"与"向量"

坐标是向量在特定基下的表示，依赖于基的选择。向量本身是抽象的几何对象，不依赖于坐标系统。

误区 3：认为维度是向量的"长度"

维度是空间的属性，不是向量的属性。向量的长度由范数定义，与维度无关。

误区 4：忽略基变换的方向

基变换矩阵 $P_{\mathcal{C} \to \mathcal{B}}$ 和 $P_{\mathcal{B} \to \mathcal{C}}$ 互为逆矩阵。搞反方向会导致错误。

3.3 与其他层级的联系

与线性映射的联系：线性映射在不同基下的矩阵表示不同，基变换公式为 $A' = P^{-1}AP$
与特征值的联系：特征向量构成特殊的基，使得线性映射的矩阵表示为对角矩阵
与内积空间的联系：在内积空间中，可以选择正交基或标准正交基，简化计算
与数值计算的联系：条件数、数值稳定性与基的选择密切相关

四、代码实战

4.1 判断向量组是否构成基

python

import numpy as np

def is_basis(vectors, dim=None):
    """
    判断向量组是否构成向量空间的基
    
    参数:
    vectors: 向量列表，每个向量是一维 numpy 数组
    dim: 空间维度（可选，如果不提供则从向量推断）
    
    返回:
    bool: 是否构成基
    """
    if dim is None:
        dim = len(vectors[0])
    
    # 基的向量个数必须等于空间维度
    if len(vectors) != dim:
        return False
    
    # 组成矩阵并计算秩
    matrix = np.column_stack(vectors)
    rank = np.linalg.matrix_rank(matrix)
    
    return rank == dim

# 示例
v1 = np.array([1, 0, 0])
v2 = np.array([0, 1, 0])
v3 = np.array([0, 0, 1])

print(is_basis([v1, v2, v3]))  # True

v4 = np.array([1, 1, 0])
print(is_basis([v1, v2, v4]))  # False，只有2个线性无关向量

4.2 计算向量在给定基下的坐标

python

import numpy as np

def compute_coordinates(vector, basis):
    """
    计算向量在给定基下的坐标
    
    参数:
    vector: 目标向量
    basis: 基向量列表
    
    返回:
    numpy 数组: 坐标
    """
    # 将基向量组成矩阵（每列是一个基向量）
    basis_matrix = np.column_stack(basis)
    
    # 解线性方程组 basis_matrix @ coords = vector
    coords = np.linalg.solve(basis_matrix, vector)
    
    return coords

# 示例
basis = [np.array([1, 1]), np.array([1, -1])]
vector = np.array([3, 1])

coords = compute_coordinates(vector, basis)
print(f"坐标: {coords}")  # [2. 1.]

# 验证
reconstructed = coords[0] * basis[0] + coords[1] * basis[1]
print(f"重构向量: {reconstructed}")  # [3. 1.]

4.3 基变换矩阵的计算与应用

python

import numpy as np

def change_of_basis_matrix(basis_B, basis_C):
    """
    计算从基 C 到基 B 的基变换矩阵
    
    参数:
    basis_B: 目标基向量列表
    basis_C: 源基向量列表
    
    返回:
    numpy 矩阵: 基变换矩阵 P_{C->B}
    """
    # P_{C->B} 的第 j 列是 C 的第 j 个基向量在 B 基下的坐标
    n = len(basis_B)
    P = np.zeros((n, n))
    
    # 将 B 基向量组成矩阵
    B_matrix = np.column_stack(basis_B)
    
    for j, w_j in enumerate(basis_C):
        # 解 B_matrix @ coords = w_j
        coords = np.linalg.solve(B_matrix, w_j)
        P[:, j] = coords
    
    return P

# 示例
basis_B = [np.array([1, 0]), np.array([0, 1])]  # 标准基
basis_C = [np.array([1, 1]), np.array([1, -1])]

P = change_of_basis_matrix(basis_B, basis_C)
print("基变换矩阵 P_{C->B}:")
print(P)

# 测试：将 C 基下的坐标 (2, 1) 转换为 B 基下的坐标
coords_C = np.array([2, 1])
coords_B = P @ coords_C
print(f"C 基下坐标 {coords_C} 转换为 B 基下坐标: {coords_B}")  # [3. 1.]

五、深入思考

5.1 历史背景

基和维度的概念经历了长期的发展：

19世纪：Grassmann 引入了"扩张"的概念，隐含了维度的思想
1888年：Peano 给出了向量空间的公理化定义，明确提出了基的概念
20世纪初：Hilbert、Banach 等人将有限维理论推广到无限维空间
1930年代：von Neumann 在量子力学的数学基础中系统使用了 Hilbert 空间的基理论

Axler 的教学方法强调先建立向量空间和线性映射的抽象理论，再引入矩阵表示，这种顺序更符合数学的逻辑结构。

5.2 前沿方向

压缩感知：传统采样理论要求采样率至少是信号最高频率的两倍（Nyquist 定理）。压缩感知发现，如果信号在某个基下是稀疏的，可以用远少于 Nyquist 率的采样恢复信号。这在医学成像、雷达等领域有重要应用。

字典学习：在机器学习中，我们不预先指定基，而是从数据中学习一组"原子"（过完备的基），使得数据在这组基下的表示最稀疏。这被称为稀疏编码或字典学习。

拓扑数据分析：将数据的拓扑结构（如连通性、洞的数量）与向量空间的维度联系起来，使用持久同调等工具分析高维数据。

5.3 延伸阅读

Sheldon Axler, Linear Algebra Done Right, 3rd Edition, Springer, 2015 - Chapter 2

Gilbert Strang, Introduction to Linear Algebra, 5th Edition - Chapter 3

Michael Nielsen, "Neural Networks and Deep Learning" - 关于表示学习的讨论

Emmanuel J. Candès, "Compressed Sensing" 综述文章

3Blue1Brown, "The Essence of Linear Algebra" 第6-8集

六、实验笔记

实验 1：探索不同基下的坐标表示

目标：理解基变换对坐标的影响

步骤：

在 $\mathbb{R}^2$ 中选择三组不同的基：标准基、旋转 45° 的基、缩放的基

选择一个固定向量，计算它在三组基下的坐标

绘制向量本身（与基无关）和各基下的坐标表示

观察坐标如何随基的变化而变化，但向量本身不变

扩展：实现一个交互式可视化工具，允许用户拖动基向量，实时查看坐标变化。

实验 2：维度公式的数值验证

目标：验证 $\dim(U + W) = \dim U + \dim W - \dim(U \cap W)$

步骤：

在 $\mathbb{R}^5$ 中随机生成两个子空间 $U$ 和 $W$（通过指定生成向量）

计算 $\dim U$、$\dim W$

计算 $U \cap W$ 的基和维度（提示：$v \in U \cap W$ 当且仅当 $v$ 同时可由 $U$ 和 $W$ 的生成向量线性表示）

计算 $U + W$ 的基和维度

验证维度公式

挑战：设计算法高效计算两个子空间的交集的基。

七、本章小结

本章深入研究了有限维向量空间的结构，核心内容包括：

核心概念：

基是线性无关且张成空间的向量组，是最小生成集和最大线性无关组的统一
维度是基的大小，对于有限维空间是唯一定义的
坐标是向量在特定基下的表示，依赖于基的选择
基变换矩阵描述了不同基之间坐标的转换关系

关键定理：

替换引理：线性无关组的大小不超过生成集的大小
维度唯一性定理：任何两个基有相同的大小
维度公式：$\dim(U + W) = \dim U + \dim W - \dim(U \cap W)$
在 $n$ 维空间中，$n$ 个向量线性无关当且仅当它们张成空间

几何直觉：

基为向量空间提供了"坐标系"
维度反映了空间的"自由度"
子空间的维度越小，约束越多

编程实践：

用矩阵秩判断基
用线性方程组求解坐标
用矩阵乘法实现基变换

基和维度是线性代数的核心，下一章我们将研究保持线性结构的函数——线性映射。

八、习题

基础题

判断下列向量组是否构成 $\mathbb{R}^3$ 的基：

- (a) $(1, 0, 0), (0, 1, 0), (0, 0, 1)$

- (b) $(1, 1, 0), (0, 1, 1), (1, 0, 1)$

- (c) $(1, 2, 3), (4, 5, 6), (7, 8, 9)$

求多项式 $3 + 2z - z^2$ 在基 $\{1, 1+z, 1+z+z^2\}$ 下的坐标。

设 $U$ 是 $\mathbb{R}^4$ 的子空间，$\dim U = 2$。证明存在子空间 $W$ 使得 $\dim W = 2$ 且 $U \cap W = \{0\}$。

在 $\mathbb{R}^3$ 中，设 $U = \text{span}((1, 0, 1), (0, 1, 1))$，$W = \text{span}((1, 1, 0), (0, 1, 1))$。计算 $\dim(U \cap W)$ 和 $\dim(U + W)$。

进阶题

设 $V$ 是 $n$ 维向量空间，$v_1, \ldots, v_k$ 线性无关。证明：存在 $n - k$ 个向量 $v_{k+1}, \ldots, v_n$ 使得 $v_1, \ldots, v_n$ 是 $V$ 的基。给出构造算法。

设 $\mathcal{B} = (v_1, v_2, v_3)$ 和 $\mathcal{C} = (w_1, w_2, w_3)$ 是 $\mathbb{R}^3$ 的两个基。已知：

$$w_1 = v_1 + v_2, \quad w_2 = v_2 + v_3, \quad w_3 = v_1 + v_3$$

求基变换矩阵 $P_{\mathcal{C} \to \mathcal{B}}$ 和 $P_{\mathcal{B} \to \mathcal{C}}$。

设 $U$ 和 $W$ 是有限维向量空间 $V$ 的子空间。证明：$\dim(U \cap W) \geq \dim U + \dim W - \dim V$。

设 $V$ 是 $n$ 维向量空间，$T: V \to V$ 是线性映射。证明：如果 $T$ 将某个基映射为线性无关组，则 $T$ 是单射。

挑战题

设 $V$ 是有限维向量空间，$U_1, U_2, U_3$ 是子空间。推导 $\dim(U_1 + U_2 + U_3)$ 的公式（用各子空间及其交的维度表示）。

证明：在 $n$ 维向量空间中，任意 $n+1$ 个向量必线性相关。进一步，证明存在某个向量可以表示为其他向量的线性组合。

第2章 有限维向量空间 - 维度与基 (Finite-Dimensional Vector Spaces)

一、导读

2.1 本章学习目标

2.2 为什么本章如此重要

2.3 核心问题引导

二、核心概念详解

2.1 基的定义

定义 2.1（基）

例 2.1：$\mathbb{F}^n$ 的标准基

例 2.2：多项式空间 $P_n(\mathbb{F})$ 的基

例 2.3：非标准基

2.2 维度的定义与唯一性

定理 2.1（替换引理 / Steinitz Exchange Lemma）

定理 2.2（维度的唯一性）

定义 2.2（维度）

例 2.4：常见向量空间的维度

2.3 基的性质与构造

定理 2.3（基的等价刻画）

定理 2.4（从生成集中提取基）

定理 2.5（将线性无关组扩展为基）

2.4 子空间的维度

定理 2.6（子空间的维度不超过原空间）

定理 2.7（维度公式）

例 2.5：维度公式的应用

2.5 坐标与基变换

定义 2.3（坐标）

例 2.6：坐标计算

基变换矩阵

例 2.7：基变换矩阵

三、程序员的视角

3.1 在机器学习中的应用

3.2 常见陷阱与误区

3.3 与其他层级的联系

四、代码实战

4.1 判断向量组是否构成基

4.2 计算向量在给定基下的坐标

4.3 基变换矩阵的计算与应用

五、深入思考

5.1 历史背景

5.2 前沿方向

5.3 延伸阅读

六、实验笔记

实验 1：探索不同基下的坐标表示

实验 2：维度公式的数值验证

七、本章小结

八、习题

第2章有限维向量空间 - 维度与基 (Finite-Dimensional Vector Spaces)