高等代数 五 矩阵的相抵与相似
矩阵的相抵与相似
没有视频课？？？
希望把矩阵分类
定义1, S非空集合, $W$是$S\times S$的一个子集,叫做二元关系, $(a,b)\in W$,那么称它们有该二元关系$aWb,a\sim b$
定义2, 等价关系
- $a\sim a$ 反身性
- $a\sim b\rightarrow b\sim a$ 对成性
- $a\sim b,b\sim c\rightarrow a\sim c$ 传递性
定义3, $\sim$是等价关系$\bar{a}$表示等价类
$a,b\in S$
- $\bar{a}=\bar{b}$或$\bar{a}\cap\bar{b}=\emptyset$
定义4, $S=\cup S_i,S_i\cap S_j= \emptyset$ 则是$S$ 的一个划分$\pi(S)$
所有等价类组成划分
定义5, $\sim$是$S$ 上的一个等价关系, 有所有等价类组成的集合称为$S$对于关系$\sim$的商集, 记作$S/\sim$
例子,
- 实数集R,二元关系 $a\sim b, a-b\in Z$, 再附加 $\sigma : R/Z \to [0,1)$
- 实数集R, 二元关系$a\sim b,\lfloor a\rfloor = \lfloor b \rfloor$
- 平面点集$\pi$, $p_1\sim p_2, x_1-x_2\in Z 且 y_1-y_2\in Z$
矩阵的相抵
数域K上$A_{sn},B_{sn}$
如果A经过一系列初等变化 变成 矩阵B,那么A与B相抵
- 存在可逆矩阵P,Q, 使得$PAQ=B$
定理1 设r=rank(A),则A相抵于 $[I_r,0;0,0]$ 相抵标准形
定理2 A,B形状相同，那么rank(A)=rank(B) <-> 相抵
5.3 广义逆矩阵
Ax=b
- 如果A可逆，唯一解
- 如果不可逆，且有解 如何找到这个“表达”
- 希望找到 $AXA=A$ 说实在的还是 神奇中有些自然，自然中有些神奇
- $A_{sn}=P_s[I_r,0;0,0]Q_n$, 其中$P,Q$是可逆的
- $X=Q^{-1}[I_r,B;C,D]P^{-1}$, 其中B,C,D是 任意的 （这里B,C,D的观感的确没有SVD好，但是从这个角度上给出了 多个广义的逆
- 记作$A^{-}$
$Ax=b$ 有解的充要条件是$b=AA^{-}b$
通解为$A^{-}\beta$: 说人话就是i任意一个解$x$可以找到对应$A^{-}$使得 $x=A^{-}\beta$
- 同样按照上面 拆A,的方式去凑
- 这样看来又比SVD的好，因为SVD的视角是唯一的
1 | 1 0 1 |
1 | A=[1,0,1;0,1,1;0,0,0]; |
1 | U: |
这里的P,Q没有个一个具体的实践方案，主要讨论其存在性和可表示性，而svd切实的提出了 通过$AA^T$和$A^TA$的特征向量组成的单位正交基矩阵
$Ax=0$的通解为 $x=(I_n-A^{-}A)Z$, Z是$K^n$中任意向量 (可证明充要性)
因此$Ax=b$的通解还可以写做 $x=A^{-}b+(I_n-A^{-}A)Z$
Penrose 方程组
定义 Morre-Penrose 广义逆 满足
- $AXA=A$
- $XAX=X$
- $(AX)^H=AX$
- $(XA)^H=XA$
定理5: 复数域上 非零矩阵，Penrose方程组总是有唯一解（这就是SVD的那个解吧）？
$A=BC$,其中B和C分别是 列满秩和行满秩的矩阵
则唯一解是 $X=C^H(CC^H)^{-1}(B^HB)^{-1}B^H$, 不是这然后就带入证明了？？？这突兀感觉太强了。TODO 如何drop from sky的
你看SVD的理论基础 矩阵Ax如果x属于行向量空间那么输出和列向量空间一一对应且满足线性关系，所以才有了 (A * (行向量空间的基+nullspace的基))=(列空间基+nullspace(A^T)的基) * 对角Sigma的想法，就感觉上更自然，这里直接甩我一个表达式，然后证明 是解又唯一真的怪
5.4 矩阵的相似
好好好，先讲相似后讲特征值是吧！？！？
定义还是 $A=QBQ^{-1}$
- 行列式相等
- 同时可逆或不可逆（由上）
- 相等的rank
trace(AB)=trace(BA) ： 证明：展开对角项 （这里其实 需要保证A和B^T的形状相同）
- 相似有 trace相等, trace(A)=trace(QBQ^{-1})=trace(Q^{-1}QB)=trace(B)
可对角化: n个线性无关的列向量, $Q^{-1}AQ=\Lambda$，写了特征值形式，但没提到特征值
5.5 特征值与特征向量
- 定义与等价命题
- 特征多项式的根 对应特征值(注意不是充要 比如
[1,1;0,1]和[1,0;0,1])`- 相似矩阵特征多项式相同 $|A-xI|=|QBQ^{-1}-xQQ^{-1}|=|Q||B-xI||Q^{-1}|$
- 对于“重复特征值”
- 对应的特征向量 维度 叫做 几何重数
- 对于 特征多项式根的重数 叫做 代数重数
- 几何重数 <= 代数重数: 证明: 维数选基 => 类似对角化 => 特征多项式 => 幂次不少于
5.6 可对角化条件
- n个线性无关的特征向量
- 不同特征值对应的 特征子空间维数 和为n
- 不同特征值 的特征向量 两两线性无关
- 不同特征值 的特征向量 任意个线性无关
- n个不同特征值 一定可以对角化
- 定理5： 全部复根属于数域K,且每个特征值的几何重数=代数重数
幂等矩阵
- 一定可以对角化:
- 特征值0和1 : $(\lambda-\lambda^2)b=0$
- 0特征值 对应解空间 rank(A)=n-r
- 根据4.5章节通过分块证明了 幂等矩阵充要 rank(A)+rank(I-A)=n
- 所以1的特征值 对应 n-rank(I-A)=r个特征向量
- 相似trace不变 ，所以trace = trace(对角化后) = 特征向量1的个数 = rank(A)
例3. $\sum_i^s A_i=I$, 且$A_i$全为幂等矩阵，那么$\sum_{i=1}^s rank(A_i)=n$
- n=trace(I)=trace(sum ai)=sum trace(ai) = sum rank(ai)
例4, 不为零矩阵的幂零矩阵不能对角化
- 幂零矩阵特征值 只有0
- 0 = det 0 = det A^l = (det a)^l
- det a = 0, 所以0是特征值
- $\lambda^lb=A^lb=0b=0$ 只有0
- 0对应特征空间维数 < n
- 0 = det 0 = det A^l = (det a)^l
5.7 实对称矩阵的对角化
$x^2+4y^2+z^2-4xy-8xz-4yz=1$
1 | (x,y,z) (1 -2 -4) (x) |
$a^TAa$的形式
希望把$A$对角化 $a^TQ^{-1}\Lambda Qa$ 这样反过去$Qa$对应新的$x,y,z$ 变来只有平方项的表达
实对称矩阵
- 每个特征值都是实数
- 不同特征值 的特征向量正交
- 一定 正交相似于 对角矩阵
- 归纳法+分块
正交相似于对角矩阵一定是对称矩阵
- $A^T=(Q\Lambda Q^{-1})^T=(Q^{-1})^TB^TQ^{T}=QBQ^{-1}=A$
两个实对称 正交相似 充要条件 它们相似, 从而有了传递性
- 额外的 两个矩阵正交相似 则有相同的 特征方程，这两个矩阵可以不是实对称
实对称矩阵+幂零矩阵=> A=0, 证明: 因为可以相似对角化
$A^TA$ 的特征值都是非负实数
实矩阵A正交相似于 上三角矩阵 充要条件 A的特征多项式在复数域中的根都是实数
- 必要性：正交相似 于B 所以A,B特征多项式相同，所以特征值为B的对角线的值
- 充分性：归纳法+分块
A的特征多项式在复数域中的根都是实数，且$AA’=A’A$那么A是对称矩阵
- 因为都是实数， 所以A正交相似于一个上三角矩阵
- 带入得$Q^{-1}UQ (Q^{-1}UQ)^T=(Q^{-1}UQ)^TQ^{-1}UQ$, 其中$U$是上三角实(?)矩阵
- 即 $Q^{-1}UU^TQ=Q^{-1}U^TUQ$
- 即 $UU^T=U^TU$
- 考虑 结果的对角线上的两边相等，可推出$U$是对角矩阵
- 所以$A$是 对称矩阵
- 考虑 结果的对角线上的两边相等，可推出$U$是对角矩阵
任意复矩阵一定相似于一个上三角矩阵
- 类似的： 归纳法+分块
$A=-A^T$ 则 特征多项式在复数域的根为 0 或 纯虚数
- 特征值+共轭 => $(\lambda+\bar{\lambda})\alpha^T\bar{\alpha}=0$