线代笔记

SYH
  2022-05-08 2022-05-08 创建   2023-10-16 03:07:40 2023-10-16 03:07:40 更新    

看的GS的课 B站上有很多

记录一下学的时候产生的问题和搜到的、思考的答案，以及速成备考的时候的笔记

§ 矩阵的乘法和逆

Q1. 如何证明矩阵乘法的结合律

线性组合、往后学就理解了

Q2. 如何理解矩阵的分块相乘

第三节讲的第五种矩阵乘法方法

看的时候并没有像弹幕一样一眼理解 人比较笨。。

令矩阵 分为

，
分为
，

当然分出来的小矩阵 之间满足矩阵乘法的要求，即 列的划分和 行的划分相同

以
,

为例，先考虑 只划分列， 只划分行时候的情况，即 不变



这个过程过程意味着用 作为系数，对 进行线性组合，所以 划分行 划分列的运算是成立的，即加法的结合律

这样重复下去， 只有列的划分 最终分为 行， 中只有行的划分，最终分为 列，线性组合得到一个 的矩阵

同样，用矩阵分块去理解前四种方法，也是很显然的事情

Q3. 如何证明 左逆等于右逆

这个知道了矩阵乘法的含义就没有问题,设 是 的矩阵，，如果，那么在 的时候，就有，交换结合顺序，自然对于每个 有

所以

§ 的 分解

P1. 转置矩阵

上来一个 转置矩阵 ，查了维基百科：

在线性代数中，矩阵 的转置是另一个矩阵 ，由下列等价动作建立

  • 把 的列写作 的行
  • 把 的行写作 的列

还看了一些性质，等到之后有知识储备了再弄吧

Q1. 为什么对于置换矩阵 有

考虑一个置换矩阵
， 如果要求一个 使得 ，那么对于 的第一个主元，由 的第一行和 的第一列点乘得到，显然只有 得到 ，别的都会是 ，对于别的主元也是一样，因此在这个例子里很容易得到 ，对于所有的置换矩阵都是如此，即 的第 行必须是 的第 列，即有

Q2. 关于 分解对比 求逆方法

高斯消元的时候，左乘消元矩阵的过程会产生交叉：

其中 左下角的10就是由于消元时使用的是新的第二行，因此要加回10倍的第一行

这样的话，一个单位操作算成一个位置上的乘法和减法，整体消元过程就是 的复杂度

但是在求解L的时候，可以直接把 、 填入，

因为这个过程中，在处理第 行时依赖的是 行，倒推不会产生传递，因此每行之间没有影响

除去了矩阵乘法的过程，这个分解使得求逆的复杂度变低

§ 转置、置换、向量空间

wxy说严格来讲一般矩阵乘列向量称为线性组合，抛开翻译不谈，Gilbert课上说的也只是combination..

§ 列向量和零空间

听的异常轻松，可能是我有地方自以为理解了其实不然

看书的时候再好好看、好好做题吧，这个不预习可能不太行

§ ：主变量、特解

这个矩阵不难理解，就是A消元、回代然后矩阵分块

这个过程我唯一不理解的是为什么可以写成的形式，然后xy说是行交换，然后我不理解，那的怎么办，然后xy说也交换就好了..

就好了..

§ ：可解性和解的结构

就 和 的理解可能有一点小区别，我问了xy，说是一样，就是矩阵张成的空间维数，wxy说是行最简式和列最简式的区别，这样理解也对（虽然我学的都是行消元，对列最简式这个东西没概念..）

Q1. 为什么可逆方阵一定满秩

发现自己关于逆矩阵含义的笔记基本没有，因此看书补充

然后我才发现书上2.5这节提前的写了很多蛋疼的结论：

  1. The algorithm to test invertibility is elimination: A must have n(nonzero) pivots.
  2. The algebra test for invertibility is the determinant of A: det A must not be zero.
  3. The equation that tests for invertibility is must be the only solution.

看完第9节就解决这个问题了，考虑逆矩阵 使得

考虑 消元到 的过程，如果 中各列线性无关，此时 就是 ，没什么好说的， 就是 ，即可逆方阵一定满秩

Note

时， 有无数解

时， 有0或1解，看特解是否存在

时， 有且仅有1解

时， 无解或者无穷多解

有解的充要条件是

§ 线性相关、基、维数

线性相关、张成一个空间，作为一个basis的对象都是向量组 a bunch of vectors 而非矩阵

definition - 如果不存在结果为零向量的组合，向量组线性无关(except the zero comb)

definition - Vectors span a space means: This space consists of all combinations of those vectors

definition - Basis for a space is a sequence of vectors with 2 properties:

  • They are independent
  • They span the space

n vectors gives basis if matrix is invertible.

他一直在讲可逆，但是又没教…

基向量的个数就是空间的维数

因此对于 的矩阵 ，若秩为 ，那么 的维数是

§ 四个基本子空间

when A is 四个基本子空间

一般管 叫左零空间

  1. dim of

通过初等行变换和消元可知

  1. dim of

有 个自由列，故有 组特解构成零空间

  1. dim of dim of

消元到 reduced row echelon form 的时候，列向量会因为行变换改变，但是行空间的基两者还是一样的，秩为 ，那么 的行空间的维数就是 ，要注意的是基和列空间不同，只是维数相同

  1. dim of
    考虑 中的向量 ，存在

这也是为什么习惯叫 N(A^T) 为左零空间的原因

补充：

左乘构造矩阵是行变换，例如

右乘构造矩阵是列变换，例如

左乘

即

类似高斯消元，只不过这里 而非 所以

那么 这个动作之后会得到 个零行， 的维数就一目了然了

而基则是 中对应的行向量，一目了然，因为对应的行向量其实就是我们找的

§ 正交向量和子空间

两个向量 和

如果他们正交(orthogonal)，即垂直，有

不难从勾股定理证明得到

即

一个向量空间 正交于另一个向量空间 意味着 都有

行空间正交于零空间，这个由定义和式子

列空间正交于左零空间，只不过是 罢，一样的道理

Nullspace and row space are orthogonal complements in for the reason Nullspace contains all vectors row space (空间意义上，所谓正交补)

是一个对称方阵， 且 rank of () = rank of ()

前一条结论说明 可逆仅当 各列线性无关

这两个结论证明详见 P15

§ 正交基、正交矩阵、正交化法

对于正交基 : Orthogonal basis 有

有标准正交列的矩阵 ，，只当它为方阵的时候我们称作正交矩阵，显然

一些符合要求的正交矩阵
、


如此里面的列向量都在正交基里

证明正交矩阵：每列都是单位向量，并且两两正交

QR分解 最小二乘什么的，暂时先放掉、、

§ 行列式的性质

从这一节开始 不再研究Ax=b (A不一定为方阵 b不一定为零向量的问题，所以我真搞不懂上来行列式干什么，特别是用同济教材还不一定铺垫前置的空间解析几何，真就国情特殊，服务考研、课时？)，转而研究 的行列式与特征值

先从性质入手

性质1

性质2 交换方阵的两行，行列式符号改变


，

性质3

  • 性质3.a

  • 性质3.b

性质4 若有两个相同的行则矩阵行列式为0

只要用性质2就可以证明

性质5 消元不改变行列式，即

证：

性质6 有一行 向量则

随便用一个 就整出来了

性质7 一个上三角矩阵


有 ，证明： 可以消元回去得到一个对角矩阵 ，只留下了主对角线上的 然后利用性质123即得

性质8 奇异矩阵行列式为 ，可逆矩阵行列式不为

这里因为我跳着看的，没学过，百度搜了一下，定义是反过来的，奇异矩阵是行列式为 (不满秩)的矩阵

后半条性质很好说，搞成对角矩阵 ，主元不为 ，提出来变成一个系数乘 就好了

性质9

用这个性质可以知道 ，

  • 证明：

考虑
，将 消元得到对角矩阵 ，有

，而对角矩阵给B的影响是 不为 其实是给 的第 行乘它本身，那么可以用

的性质把因数提出来，也就有

，因为线性组合的关系，不难发现
，考虑 不满秩的情况，等式仍然成立

另一种证明方法是考虑证明 ，分类讨论 ，用前三条性质证明它就是 的行列式

性质10

推论是全

列的存在使行列式也是

，交换两列也会改变符号，证明该性质：

，，又有 , 虽然是上三角矩阵，但是主对角线上还是 ，所以 ，对于 而言也是同样的道理，得证

最后，从性质2可以得知，任何一种行交换得到的置换，都可以区分奇偶，那就是国内教材从排列引出行列式的另一种方式了

到这里，满足前三个性质的值称为行列式，但是它的意义我还不理解，维基百科上 说是在方块矩阵上计算得到的标量，几何意义后面也讲了，二阶的、三阶的行列式可以表示面积、体积

§ 行列式公式 & 代数余子式

要求 n阶行列式的计算方法，先从 的矩阵开始考虑

而对于一个三阶的行列式

我们考虑将其拆分的过程，也就是每行每列只留下一个元素，再排除那些包含零行的情况，得到:

我们考虑每个数字下表中列的部分，可以发现 ：交换行的次数奇偶性 和按照行固定顺序后，列数字里面的逆序数奇偶性有关系，这就决定了正负号

至此我们可以尝试推出 阶矩阵行列式的计算方法(有一说一如果这种方法去算行列式，按所谓逆序数的数量去交换行是一件很慢的事情，能不能用双指针去固定一个个行的位置？然后做完这件事情？)

可以知道 阶的时候我们要考虑 项，那么行列式公式