Appearance
线性代数
线性代数是机器学习和深度学习的数学基础。本页按照概念的依赖关系整理基础知识,而不是按照题目出现的顺序堆叠结论。
主线是:
- 向量与运算;
- 向量空间、子空间、基与维度;
- 基坐标与坐标变换;
- 矩阵、初等变换与秩;
- 向量组与线性方程组;
- 行列式、逆矩阵与可逆性;
- 特征值、特征向量与对角化;
- 二次型与正交变换。
公式书写约定
本项目已启用 MathJax。独立公式统一使用成对的双美元符号,行内公式使用成对的单美元符号。方括号本身只是普通 Markdown 文本,不能作为数学公式的定界符。
例如,L1 范数应写成:
而不是把公式直接放在普通的方括号中。
一、向量基础
1.1 向量与坐标
在列向量约定下,
标准基为:
任意向量都可以写成:
这里的坐标数字依赖于所选基。同一个几何向量换一组基后,向量本身不变,但坐标表示可能改变。
1.2 范数
范数用来衡量向量的大小。常见范数有 L1、L2 和无穷范数。
L1 范数
对向量
计算方法是先对每个分量取绝对值,再求和。例如:
L2 范数
L2 范数就是通常所说的欧氏长度。
无穷范数
L1 正则化中的
1.3 点积
对两个同维向量
点积的结果是标量,满足双线性和对称性:
零向量与任意向量的点积恒为零:
点积还可以表示夹角:
当两个非零向量满足
柯西–施瓦茨不等式
右侧是两个 L2 范数的乘积,不是范数之和。等号成立的典型条件是两个非零向量线性相关。
1.4 叉积
标准叉积是
则:
也可以用行列式形式记忆:
例如:
则:
叉积的主要性质:
同时垂直于 和 ; ,等于平行四边形面积; - 三角形面积为
; - 满足反交换律
,交换顺序会改变方向; 当且仅当两个向量线性相关; - 对两个输入分别线性,但一般不满足结合律。
方向使用右手定则判断。叉积常用于求平面法向量、三角形面积、力矩
叉积是三维空间中的专门运算,不能把三维叉积公式直接套到普通高维机器学习特征向量上;高维场景通常使用点积、范数、矩阵乘法或外积。
1.5 张量阶数与指标收缩
张量可以用多个指标表示。指标的个数称为张量的阶数:标量是
张量收缩是指让两个指标配对,并对这个配对指标求和。被求和的指标称为哑指标,最终仍然出现在结果中的指标称为自由指标。每收缩一对指标,张量阶数减少
例:收缩三阶张量的第 1 个和第 3 个指标
设有三阶张量:
对第
此时
从阶数上也可以直接判断:
如果
所以:
确实是一个向量。若题目选项中把结果的阶数列为
矩阵迹是张量收缩的特例
对于二阶张量(矩阵)
两个指标都被求和后不再有自由指标,因此结果是
在爱因斯坦求和约定或 einsum 一类表达中,重复出现并参与求和的指标就是收缩指标;没有被求和、保留在结果下标中的指标就是自由指标。判断张量收缩题时,先数原始指标,再标出被求和的指标,最后数剩余的自由指标。
二、向量空间、子空间与基
2.1 线性组合与张成
向量
所有这样的线性组合构成的集合称为张成空间:
张成空间表示这组向量能够覆盖的全部方向。
2.2 子空间
设
- 包含零向量:
; - 对加法封闭:任意
,都有 ; - 对数乘封闭:任意
、 ,都有 。
实战中先检查零向量:若
也可以把后两个条件合并成线性组合判定:
例如:
是子空间,因为零向量满足条件,向量相加或数乘后仍然满足坐标和为 0。
而:
不是子空间,因为
2.3 线性相关与线性无关
向量组
如果只有所有系数都为 0 才能得到零向量,则向量组线性无关。
常用判断:
- 向量组包含零向量时,一定线性相关;
- 在
中,超过 个向量一定线性相关; - 若一个向量可以由其余向量线性表示,则向量组存在冗余;
- 线性无关描述“没有冗余”,张成描述“覆盖范围”,二者不是同一个条件。
2.4 基与维度
向量空间
- 线性无关;
- 张成整个空间。
因此:
零向量不能属于任何基。若向量组包含
存在不全为 0 的系数使线性组合为零,所以该向量组线性相关。
有限维向量空间的维度是任意一组基中向量的个数:
由于
基的选择不唯一,但同一个有限维空间的所有基包含相同数量的向量。
2.5 子空间的和、交集与维数
两个子空间的交集
交集仍然是一个子空间。与之对应,子空间的和定义为:
有限维子空间满足维数公式:
由于
例:判断 中两个子空间交集的维数
设:
每组中的两个向量都不是倍数关系,因此:
它们都是
从而:
因此交集不可能只有零向量。
但仅凭这个不等式还不能直接断定交集维数就是
本题中两个平面确实不同。例如,
因此
但
所以:
接着找一个同时属于
对
所以
因此:
几何上,在
三、基坐标与坐标变换
3.1 基坐标不等于标准坐标
设
若:
它表示:
不是说
3.2 过渡矩阵
把
于是:
本题中:
所以:
过渡矩阵的第三列就是
反方向的过渡矩阵为:
不同教材对“过渡矩阵”的箭头命名可能相反,所以做题时首先写清楚矩阵的作用方向。本题中:
因此这三个向量确实构成一组基。
3.3 为什么基向量按列排列
若向量在基
基矩阵按列排列:
矩阵乘法正好给出:
因此
同理,若线性变换
矩阵的第
3.4 线性变换的换基公式
设:
在旧坐标系下的矩阵为
输入端:
经过原线性变换:
输出端满足:
所以:
因此:
坐标流程是:
对应矩阵依次为
如果定义域和值域使用同一个新基,即
3.5 非正交基下的点积
在标准正交基下:
但在一般基
则:
记:
因此一般公式是:
只有当
若基只正交但没有单位化,
3.6 线性变换的矩阵表示
设
原因是,若输入向量的
矩阵乘法正是把输入坐标的各个系数,分别乘到
若定义域和值域使用同一个基
例:多项式空间中的线性变换
给定有序基
以及线性变换
依次把基向量
对第一个基向量:
所以:
对第二个基向量:
注意前面的系数
对第三个基向量:
题目规定
从而:
把三个坐标列向量按基的顺序拼接:
这里的
不属于
这类题的固定套路是:
- 确认定义域和值域的有序基,以及基向量的排列顺序;
- 依次计算
; - 将每个结果表示成值域基下的坐标;
- 按顺序把这些坐标作为矩阵的列。
3.7 像空间、核空间与秩-零度定理
把线性变换
像空间是所有可能输出的集合:
它是值域
核空间是所有被变换为零向量的输入的集合:
它是定义域
最容易混淆的一点是:核空间看的是“哪些输入会变成零”,像空间看的是“能够得到哪些输出”。例如:
对任意
因此:
而
这是
秩-零度定理
对有限维空间中的线性变换
其中
特别地,如果:
因为像空间是
从而:
因此核空间至少是一维,必然包含一条经过原点的直线。若像空间维度为
例:由两个基向量的像判断像空间和核空间维数
若已知:
考察这两个输出向量是否线性无关:
所以
于是:
所以核空间恰好是一条经过原点的直线。即使
矩阵语言
若
因此秩-零度定理也写成:
这里
四、矩阵、初等变换与秩
4.1 矩阵的基本表示
一个
它有
矩阵的列向量构成列空间:
矩阵的行向量构成行空间:
4.2 初等行变换
三类初等行变换是:
- 交换两行:
; - 某行乘以非零常数:
,其中 ; - 某行加上另一行的倍数:
。
这些变换都可逆,因此不改变矩阵的秩。对增广矩阵进行这些变换时,也不改变对应线性方程组的解集。
4.3 行阶梯形与行最简形
行阶梯形矩阵满足:
- 所有零行位于非零行下方;
- 下一行的主元严格位于上一行主元的右侧;
- 每个主元下方的元素为 0。
行最简形矩阵还需要满足:
- 每个主元都是 1;
- 每个主元所在列除主元外其余元素都是 0。
实际消元时可以分为两阶段:先化为行阶梯形,再把主元化为 1 并消去主元上方的元素。
4.4 矩阵的秩
矩阵
- 将
化为行阶梯形; - 统计主元个数,或统计非零行数;
- 该数量就是
。
若
4.5 行秩等于列秩
对任意矩阵:
也就是:
理解方式如下:将
因此实际做题时不需要分别计算行秩和列秩,消元后数主元即可。主元列的位置可以用来确定原矩阵的极大线性无关列组,但最终选取的向量要回到原矩阵中取得。
五、向量组的秩与线性关系
5.1 向量组的秩
设向量组为
则向量组的秩就是矩阵
本质上,向量组的秩就是其中最多能选出的线性无关向量个数。
5.2 极大线性无关组
求一个向量组的极大线性无关组:
- 将向量按列组成矩阵;
- 对矩阵做行变换;
- 找出行阶梯形中的主元列位置;
- 回到原矩阵,取这些位置对应的原列向量。
极大线性无关组中向量的个数等于向量组的秩。行变换后的列向量通常不是原向量,不能直接把它们作为答案。
代表例题:从四个向量中找极大线性无关组
给定
先考察
再检查其余向量是否能由它们表示:
所以
同理,
因此
并且
这里“极大”不是指向量的大小,而是指不能再从原向量组中加入其他向量而保持线性无关。例如:
所以
**易错点:**若题解写成
正确关系是
5.3 判断线性表示
要判断
则:
也可以直接求解:
若有解,解向量
六、线性方程组
6.1 矩阵形式
线性方程组写成:
其中
6.2 用秩判断解的情况
设未知数个数为
无解的典型行是:
它对应矛盾式
6.3 求通解
求通解的步骤:
- 写出增广矩阵;
- 化为行最简形;
- 找出主元变量和自由变量;
- 用自由变量表示主元变量;
- 令自由变量为参数,整理成向量形式。
例如,若化简后得到:
令自由变量
向量形式为:
自由变量的个数就是解的自由度。齐次方程组
七、行列式、逆矩阵与可逆性
7.1 行列式
行列式只对方阵定义。二阶行列式:
7.2 初等变换对行列式的影响
| 行变换 | 行列式变化 |
|---|---|
| 交换两行 | 变为原来的相反数 |
| 某行乘以 | 行列式乘以 |
| 某行加上另一行的倍数 | 行列式不变 |
将矩阵化为上三角矩阵后,行列式等于主对角线元素之积:
若消元中交换过行或对某行做过倍乘,必须把相应的符号和倍数变化记录下来。
常用性质:
- 两行相同或成比例时,
; - 某行或某列全为 0 时,
; ; 。
7.3 逆矩阵与可逆性
对
则
7.4 Gauss–Jordan 求逆
把
对整个增广矩阵做行变换,直到左半部分变成单位矩阵:
右半部分就是逆矩阵。如果左半部分不能化为
八、特征值、特征向量与对角化
8.1 定义
若存在非零向量
则
要存在非零解,必须有:
8.2 求特征值
对
- 构造
,只对主对角线元素减去 ; - 计算
; - 令特征多项式等于 0,解出
。
特征值按代数重数计算通常有
8.3 求特征向量
对每个不同的特征值
- 构造
; - 对系数矩阵做行化简;
- 求齐次方程组的通解;
- 通解中的参数不能全部为 0,所有非零解都是对应的特征向量。
对应特征值的全部特征向量连同零向量构成特征子空间:
8.4 重根与可对角化
特征值重复出现时,不能只看特征值的代数重数,还要看特征向量是否足够多。
若
则:
从而:
这里
若
这称为正交对角化。
九、二次型与正交变换
9.1 二次型的矩阵表示
二次型可以写成:
通常取
读出矩阵时:
的系数直接放在 ; 的系数要在 和 之间平分; - 对称位置满足
。
例如:
对应矩阵为:
交叉项
9.2 正交变换化标准形
对于实对称矩阵
令:
则:
标准流程是:
- 从二次型写出对称矩阵
; - 求
的特征值和特征向量; - 将特征向量单位化,组成正交矩阵
; - 写出正交变换
; - 用特征值写出标准形。
9.3 正交变换保持的几何量
若实方阵
则
正交变换可以理解为对整个空间进行旋转或反射。它保持欧氏几何中的长度、内积、夹角和欧氏距离,但不保证保持每个坐标分量或所有范数。
内积与 长度
对任意向量
因此正交变换保持内积:
令
所以:
欧氏距离与夹角
两个向量之间的欧氏距离是差向量的
因此:
对于非零向量,余弦相似度也保持不变:
所以正交变换保持向量之间的夹角和余弦相似度。
范数一般不保持
旋转会改变这些坐标分量,因此一般不能推出
则:
但:
所以:
注意“通常不保持”不是“任何正交矩阵都不保持”。坐标置换、坐标符号翻转等特殊正交矩阵仍然保持
因此,遇到
十、统一做题顺序
遇到线性代数基础题,可以先根据题目对象定位:
- 看到基坐标:先确认坐标属于哪一组基,不能默认是标准坐标;
- 看到过渡矩阵:明确矩阵的转换方向,基向量通常按列排列;
- 看到点积:确认当前基是否正交归一;一般基要使用 Gram 矩阵;
- 看到叉积:确认是三维向量,并注意结果方向和输入顺序;
- 看到子空间:先检查零向量,再检查加法和数乘封闭;
- 看到矩阵秩:消元后数主元或非零行;
- 看到向量组:按列组成矩阵,用秩判断相关性和极大无关组;
- 看到线性表示:比较
与 ; - 看到方程组:比较系数矩阵和增广矩阵的秩;
- 看到逆矩阵:使用
; - 看到特征值:解
; - 看到特征向量:解
,但解不能取零向量; - 看到二次型:交叉项系数平分到对称矩阵的两个位置;
- 看到正交矩阵:利用
判断内积、 长度、距离和夹角是否保持,不要默认 范数也保持。
必背结论
正交矩阵还满足:
这些结论分别对应空间结构、坐标转换、秩与独立性、方程组、可逆性、特征问题和二次型的主线。做题时先识别对象和坐标系,再选择对应定理或消元方法。