Linear Algebra筆記4 - Inverse Matrix

不是每個matrix都有inverse

以下是inverse matrix of A的定義：

特別的是 inverse matrix 左乘或是右乘都能得到identity matrix。

Not-Invertible Matrices (Singular)

某些matrix並沒有inverse，稱為singular matrix，如下：

為什麼上面這個matrix not-invertible? 如果要能invertible，其inverse（左乘於A）要能將A的rows做linear combination後得到identity:

[a b          [1 3        [1  0
  c d  ]       2 6]   =   0  1]

a*[1 3] + b[2 6] = [1 0]
上面可以化簡成
x[1 3] = [1 0]

所以無解。

以上是代數方式的解釋。

如果用幾何來看的話，由於這個A matrix的column vector或是row vector其實都在同一條直線上，任意的linear combination不可能得到[1 0]或[1 0]^T。


從幾何觀點延伸來看，如果能找到一非零向量的vector x，使得Ax = 0，則也不可能有inverse matrix，因為唯有A的每個column都在同一條線上，才有機會找到一個非零x使得Ax = 0，例如：

代數上也可以用矛盾法證實，INV(A)*A*x = 0，則得出x = 0的結論，矛盾，故INV(A)不存在。



Gauss-Jordan (一次解出兩個方程式）
如果A是invertible，找出INV(A)其實是在解四個未知數的equation組，對A=2x2 matrix來說:

Identity matrix的每個column相當於一個待解的equation:

Gauss-Joran意即使用augmented columns來做gauss elimination，其實真正用意就是把A變成I的過程中，找出INV(A)，因為對A的row做linear combination如果能變成I的話，那正意味著I怎麼變成A的反向，也就是INV(A)：

或是用elimination matrix的想法去證明，因為每步驟的高斯消去法row reduction相當於某個elimination matrix左乘於A，所以我們等於最後找出了En-1En-2...E1[A I]
= E [A I ] = E [I ?]

所以E勢必為INV(A)，而問號為INV(A)*I = INV(A)。