矩阵的相抵与相似

没有视频课？？？

希望把矩阵分类

定义1, S非空集合, $W$是$S\times S$的一个子集,叫做二元关系, $(a,b)\in W$,那么称它们有该二元关系$aWb,a\sim b$

定义2, 等价关系

• $a\sim a$ 反身性
• $a\sim b\rightarrow b\sim a$ 对成性
• $a\sim b,b\sim c\rightarrow a\sim c$ 传递性

定义3, $\sim$是等价关系$\bar{a}$表示等价类

$a,b\in S$

• $\bar{a}=\bar{b}$或$\bar{a}\cap\bar{b}=\emptyset$

定义4, $S=\cup S_i,S_i\cap S_j= \emptyset$ 则是$S$ 的一个划分$\pi(S)$

所有等价类组成划分

定义5, $\sim$是$S$ 上的一个等价关系, 有所有等价类组成的集合称为$S$对于关系$\sim$的商集, 记作$S/\sim$

例子,

• 实数集R,二元关系 $a\sim b, a-b\in Z$, 再附加 $\sigma : R/Z \to [0,1)$
• 实数集R, 二元关系$a\sim b,\lfloor a\rfloor = \lfloor b \rfloor$
• 平面点集$\pi$, $p_1\sim p_2, x_1-x_2\in Z 且 y_1-y_2\in Z$

矩阵的相抵

数域K上$A_{sn},B_{sn}$

如果A经过一系列初等变化 变成 矩阵B,那么A与B相抵

• 存在可逆矩阵P,Q, 使得$PAQ=B$

定理1 设r=rank(A),则A相抵于 $[I_r,0;0,0]$ 相抵标准形

定理2 A,B形状相同，那么rank(A)=rank(B) <-> 相抵

5.3 广义逆矩阵

Ax=b

• 如果A可逆，唯一解
• 如果不可逆，且有解 如何找到这个“表达”
  • 希望找到 $AXA=A$ 说实在的还是 神奇中有些自然，自然中有些神奇
  • $A_{sn}=P_s[I_r,0;0,0]Q_n$, 其中$P,Q$是可逆的
  • $X=Q^{-1}[I_r,B;C,D]P^{-1}$, 其中B,C,D是 任意的 （这里B,C,D的观感的确没有SVD好，但是从这个角度上给出了 多个广义的逆
• 记作$A^{-}$

$Ax=b$ 有解的充要条件是$b=AA^{-}b$

通解为$A^{-}\beta$: 说人话就是i任意一个解$x$可以找到对应$A^{-}$使得 $x=A^{-}\beta$

• 同样按照上面 拆A,的方式去凑
• 这样看来又比SVD的好，因为SVD的视角是唯一的

1
2
3

1 0 1
0 1 1
0 0 0

1
2
3
4

A=[1,0,1;0,1,1;0,0,0];
[U,S,V]=svd(A);
W=[1/sqrt(3),0,0;0,1,0;0,0,0];
RA=V*W*U'; 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18

U:
1/sqrt(2)  -1/sqrt(2)
1/sqrt(2)   1/sqrt(2)
                      1
  
S:
sqrt(3)
        1
           0
           
V:
1/sqrt(6)  -1/sqrt(2) -1/sqrt(3)
1/sqrt(6)   1/sqrt(2) -1/sqrt(3)
2/sqrt(6)   0          1/sqrt(2)

这里 A= U*S*V'

发现 A*RA = [1,0,0;0,1,0;0,0,0] 但是RA*A并不如此好看， 不过这样 是满足了这里的 A*RA*A = A (容易证明)

这里的P,Q没有个一个具体的实践方案，主要讨论其存在性和可表示性，而svd切实的提出了 通过$AA^T$和$A^TA$的特征向量组成的单位正交基矩阵

$Ax=0$的通解为 $x=(I_n-A^{-}A)Z$, Z是$K^n$中任意向量 (可证明充要性)

因此$Ax=b$的通解还可以写做 $x=A^{-}b+(I_n-A^{-}A)Z$

Penrose 方程组

定义 Morre-Penrose 广义逆 满足

• $AXA=A$
• $XAX=X$
• $(AX)^H=AX$
• $(XA)^H=XA$

定理5: 复数域上 非零矩阵，Penrose方程组总是有唯一解（这就是SVD的那个解吧）？

$A=BC$,其中B和C分别是 列满秩和行满秩的矩阵

则唯一解是 $X=C^H(CC^H)^{-1}(B^HB)^{-1}B^H$, 不是这然后就带入证明了？？？这突兀感觉太强了。TODO 如何drop from sky的

你看SVD的理论基础 矩阵Ax如果x属于行向量空间那么输出和列向量空间一一对应且满足线性关系，所以才有了 (A * (行向量空间的基+nullspace的基))=(列空间基+nullspace(A^T)的基) * 对角Sigma的想法，就感觉上更自然，这里直接甩我一个表达式，然后证明 是解又唯一真的怪

5.4 矩阵的相似

好好好，先讲相似后讲特征值是吧！？！？

定义还是 $A=QBQ^{-1}$

• 行列式相等
• 同时可逆或不可逆（由上）
• 相等的rank

trace(AB)=trace(BA) ： 证明：展开对角项 （这里其实 需要保证A和B^T的形状相同）

• 相似有 trace相等, trace(A)=trace(QBQ^{-1})=trace(Q^{-1}QB)=trace(B)

可对角化: n个线性无关的列向量, $Q^{-1}AQ=\Lambda$，写了特征值形式，但没提到特征值

5.5 特征值与特征向量

• 定义与等价命题
• 特征多项式的根 对应特征值(注意不是充要 比如 [1,1;0,1]和[1,0;0,1])`
  • 相似矩阵特征多项式相同 $|A-xI|=|QBQ^{-1}-xQQ^{-1}|=|Q||B-xI||Q^{-1}|$
• 对于“重复特征值”
  • 对应的特征向量 维度 叫做 几何重数
  • 对于 特征多项式根的重数 叫做 代数重数
    • 几何重数 <= 代数重数: 证明: 维数选基 => 类似对角化 => 特征多项式 => 幂次不少于

5.6 可对角化条件

• n个线性无关的特征向量
  • 不同特征值对应的 特征子空间维数 和为n
• 不同特征值 的特征向量 两两线性无关
  • 不同特征值 的特征向量 任意个线性无关
  • n个不同特征值 一定可以对角化
• 定理5： 全部复根属于数域K,且每个特征值的几何重数=代数重数

幂等矩阵

• 一定可以对角化:
  • 特征值0和1 : $(\lambda-\lambda^2)b=0$
  • 0特征值 对应解空间 rank(A)=n-r
  • 根据4.5章节通过分块证明了 幂等矩阵充要 rank(A)+rank(I-A)=n
    • 所以1的特征值 对应 n-rank(I-A)=r个特征向量
  • 相似trace不变 ，所以trace = trace(对角化后) = 特征向量1的个数 = rank(A)

例3. $\sum_i^s A_i=I$, 且$A_i$全为幂等矩阵，那么$\sum_{i=1}^s rank(A_i)=n$

• n=trace(I)=trace(sum ai)=sum trace(ai) = sum rank(ai)

例4, 不为零矩阵的幂零矩阵不能对角化

• 幂零矩阵特征值 只有0
  • 0 = det 0 = det A^l = (det a)^l
    • det a = 0, 所以0是特征值
    • $\lambda^lb=A^lb=0b=0$ 只有0
  • 0对应特征空间维数 < n

5.7 实对称矩阵的对角化

$x^2+4y^2+z^2-4xy-8xz-4yz=1$

1
2
3

(x,y,z) (1  -2 -4) (x)
        (-2  4 -2) (y)
        (-4 -2  1) (z)                  

$a^TAa$的形式

希望把$A$对角化 $a^TQ^{-1}\Lambda Qa$ 这样反过去$Qa$对应新的$x,y,z$ 变来只有平方项的表达

实对称矩阵

• 每个特征值都是实数
• 不同特征值 的特征向量正交
• 一定 正交相似于 对角矩阵
  • 归纳法+分块

正交相似于对角矩阵一定是对称矩阵

• $A^T=(Q\Lambda Q^{-1})^T=(Q^{-1})^TB^TQ^{T}=QBQ^{-1}=A$

两个实对称 正交相似 充要条件 它们相似, 从而有了传递性

• 额外的 两个矩阵正交相似 则有相同的 特征方程，这两个矩阵可以不是实对称

实对称矩阵+幂零矩阵=> A=0, 证明: 因为可以相似对角化

$A^TA$ 的特征值都是非负实数

实矩阵A正交相似于 上三角矩阵 充要条件 A的特征多项式在复数域中的根都是实数

• 必要性：正交相似 于B 所以A,B特征多项式相同，所以特征值为B的对角线的值
• 充分性：归纳法+分块

A的特征多项式在复数域中的根都是实数，且$AA’=A’A$那么A是对称矩阵

• 因为都是实数， 所以A正交相似于一个上三角矩阵
  • 带入得$Q^{-1}UQ (Q^{-1}UQ)^T=(Q^{-1}UQ)^TQ^{-1}UQ$, 其中$U$是上三角实(?)矩阵
  • 即 $Q^{-1}UU^TQ=Q^{-1}U^TUQ$
  • 即 $UU^T=U^TU$
    • 考虑 结果的对角线上的两边相等，可推出$U$是对角矩阵
      • 所以$A$是 对称矩阵

任意复矩阵一定相似于一个上三角矩阵

• 类似的： 归纳法+分块

$A=-A^T$ 则 特征多项式在复数域的根为 0 或 纯虚数

• 特征值+共轭 => $(\lambda+\bar{\lambda})\alpha^T\bar{\alpha}=0$

矩阵的运算

P55-65

n维向量空间$K^n$

P19-P55

定义

$K^n:=\lbrace (a_1,a_2,\cdots,a_n) | a_i\in K,i=1,2,\cdots,n \rbrace$

其中$K$是数域

规定:

1. 向量相等:对应位置元素相等
2. 向量相加:对应位置元素相加
3. 数量乘法:所有元素乘上k倍
4. 零向量:所有元素都为0

对应映射$f: A\to B$ , $a$ 在$f$下的像$f(a)$, $a$是$f(a)$的一个原像

满射:$f(A) = B$

单射:不同$a$的$f(a)$不同

双射(一一对应): 单射+满射

笛卡尔积: $A\times B = ((a_1,b_1),(a_2,b_2),\cdots,(a_n,b_n))$, $A$,$B$等长

线性空间

线性空间 = 4条加法法则+4条数乘法则

第2章 行列式

视频 p8~p18

1. 希望不做消元探索矩阵性质
2. 考虑2阶矩阵有唯一解充要, 定义行列式代数表达式和符号记法
3. 从2阶拓展到n阶的表达式定义和符号技法(n元排列知识,交换操作与逆序对性质)
4. 相关性质研究(转置,交换,倍数一行, 倍数一行加到另一行上)

为什么要行列式

在没有行列式时, 只有对方程组的系数矩阵消元以后,才知道解的情况, 期望不需要处理矩阵,就能知道相关性质

第1章 线性方程组的解法

视频 p3~p7

什么是线性代数

1. 数
2. 代数
3. 方程
4. 方程组
5. 系数矩阵

ISBN 978-7-302-22518-8

b站: https://www.bilibili.com/video/BV1jR4y1M78W

TODO

• II 页的总览图
• 序 其实就是整个脉络，学完后可以保留序

随想

视频 相对于书的优点是push和动态清晰

书相对于视频的优点是，自我节奏和多页快速来回翻看

函数

三角横等式

$\tan^2x+1=\sec^2x$

$\sinh x = \frac{e^x}{2} - \frac{e^{-x}}{2}$

$\cosh x = \frac{e^x}{2} + \frac{e^{-x}}{2} = \sqrt{1+\sinh^2x}$

$sech(x) = \frac{2}{e^x + e^{-x}}$

$sin(x)cos(y) = \frac{sin(x+y) + sin(x-y)}{2}$

$sin(x)sin(y) = \frac{cos(x-y) - cos(x+y)}{2}$

$cos(x)cos(y) = \frac{cos(x-y) + cos(x+y)}{2}$

$sin(x) + sin(y) = 2sin(\frac{x+y}{2})cos(\frac{x-y}{2})$

$cos(x) + cos(y) = 2cos(\frac{x+y}{2})cos(\frac{x-y}{2})$

$cos(x) - cos(y) = -2sin(\frac{x+y}{2})cos(\frac{x-y}{2})$

本文尽量逐句翻译

代码1

donut.c:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21

             k;double sin()
         ,cos();main(){float A=
       0,B=0,i,j,z[1760];char b[
     1760];printf("\x1b[2J");for(;;
  ){memset(b,32,1760);memset(z,0,7040)
  ;for(j=0;6.28>j;j+=0.07)for(i=0;6.28
 >i;i+=0.02){float c=sin(i),d=cos(j),e=
 sin(A),f=sin(j),g=cos(A),h=d+2,D=1/(c*
 h*e+f*g+5),l=cos      (i),m=cos(B),n=s\
in(B),t=c*h*g-f*        e;int x=40+30*D*
(l*h*m-t*n),y=            12+15*D*(l*h*n
+t*m),o=x+80*y,          N=8*((f*e-c*d*g
 )*m-c*d*e-f*g-l        *d*n);if(22>y&&
 y>0&&x>0&&80>x&&D>z[o]){z[o]=D;;;b[o]=
 ".,-~:;=!*#$@"[N>0?N:0];}}/*#****!!-*/
  printf("\x1b[H");for(k=0;1761>k;k++)
   putchar(k%80?b[k]:10);A+=0.04;B+=
     0.02;}}/*****####*******!!=;:~
       ~::==!!!**********!!!==::-
         .,~~;;;========;;;:~-.
             ..,--------,*/

gcc -o donut donut.c -lm && ./donut

这是作者第一次尝试混淆C代码, 这个版本是相对简单优雅的

代码2

注意 下面13行,因为我本地的hexo相关工具不能正确工作,为了尽可能展示代码,我在<和.之间加了一个空格,实际上是没有空格的,所以如果从这里拷贝代码,记得去掉多出的空格

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32

_,x,y,o       ,N;char       b[1840]       ;p(n,c)
{for(;n       --;x++)       c==10?y       +=80,x=
o-1:x>=       0?80>x?       c!='~'?       b[y+x]=
c:0:0:0       ;}c(q,l       ,r,o,v)       char*l,
       *r;{for       (;q>=0;       )q=("A"       "YLrZ^"
       "w^?EX"           "novne"     "bYV"       "dO}LE"
       "{yWlw"      "Jl_Ja|[ur]zovpu"   ""       "i]e|y"
       "ao_Be"   "osmIg}r]]r]m|wkZU}{O}"         "xys]]\
x|ya|y"        "sm||{uel}|r{yIcsm||ya[{uE"  "{qY\
w|gGor"      "VrVWioriI}Qac{{BIY[sXjjsVW]aM"  "T\
tXjjss"     "sV_OUkRUlSiorVXp_qOM>E{BadB"[_/6  ]-
62>>_++    %6&1?r[q]:l[q])-o;return q;}E(a){for (
       o= x=a,y=0,_=0;1095>_;)a= " < .,`'/)(\n-"  "\\_~"[
       c  (12,"!%*/')#3"  ""     "+-6,8","\"(.$" "01245"
       " &79",46)+14],  p(""       "#$%&'()0:439 "[ c(10
       , "&(*#,./1345" ,"')"       "+%-$02\"! ", 44)+12]
-34,a);  }main(k){float     A=0,B= 0,i,j,z[1840];
puts(""  "\x1b[2J");;;      for(;; ){float e=sin
(A), n=  sin(B),g=cos(      A),m=  cos(B);for(k=
0;1840>   k;k++)y=-10-k/    80   ,o=41+(k%80-40
       )* 1.3/y+n,N=A-100.0/y,b[k]=".#"[o+N&1],  z[k]=0;
       E(  80-(int)(9*B)%250);for(j=0;6.28>j;j   +=0.07)
       for  (i=0;6.28>i;i+=0.02){float c=sin(    i),  d=
       cos(  j),f=sin(j),h=d+2,D=15/(c*h*e+f     *g+5),l
=cos(i)        ,t=c*h*g-f*e;x=40+2*D*(l*h*  m-t*n
),y=12+       D  *(l*h*n+t*m),o=x+80*y,N  =8*((f*
e-c*d*g       )*m   -c*d*e-f*g-l*d*n)     ;if(D>z
[o])z[o       ]=D,b[     o]=" ."          ".,,-+"
       "+=#$@"       [N>0?N:       0];;;;}       printf(
       "%c[H",       27);for       (k=1;18       *100+41
       >k;k++)       putchar       (k%80?b       [k]:10)
       ;;;;A+=       0.053;;       B+=0.03       ;;;;;}}

同样的编译和运行命令, 这次是有背景, 有弹幕的版本

原理

2011 年,有人提起了作者的2006年的作品,有很多请求作者讲解原理的,但过去了5年,作者并不能清晰记得,所以作者打算从零开始,非常详尽的细节,希望能得到相近的结果

威尔逊定理

Wilson’s theorem

显然

当然如果要

(x-1)!+1 是 x 的倍数,那么x一定是质数, 否则, 阶乘部分就是x的倍数

下证 如果是质数 则成立

题目 & 解答

$ \int_0^1 (x-x^2)^n dx$ (换元$t=x-\frac{1}{2}$

$= \int_{-\frac{1}{2}}^{\frac{1}{2}} (\frac{1}{4} - x^2)^n dx$ (偶函数

$= 2 \int_{0}^{\frac{1}{2}} (\frac{1}{4} - x^2)^n dx $(换元$t=2x$

$= \frac{1}{4^n}\int_0^1 (1 - x^2)^n dx$(换元$t=sin(x)$

$= \frac{1}{4^n} \int_0^{\frac{\pi}{2}} (1 - sin(x)^2)^n d(sin(x))$

$= \frac{1}{4^n} \int_0^{\frac{\pi}{2}} cos(x)^{2n+1} d x$ (Wallis'_integrals

$= \frac{1}{4^n} \cdot \frac{2n(2n-2)\cdots 2}{(2n+1)(2n-1)3}$