LAFF筆記1 - Matrix and Linear Transformation

Standard basis vector (unit basis vector)

n-dimension vector如果只有index = j的element是1（index從0開始），其他都是零，那稱為一個unit basis vector ej:

Linear Combination of vectors

定義就是兩個vectors乘上scalars相加：

可以generalize成n個：

Inner Product (Dot Product)

這邊主要紀錄符號，因為很容易忘記v^T * v =  dot(v,v)。

Transpose 對加法的分配律

linear combination對加減法是有分配性的。

Linear Transformation定義

我們care about linear transformation function f，是因為他在許多application中比較好解！甚至我們會把non-linear problem用linear function來approximate，也是因為要比較簡單去解答。

Linear Combination & Linear Transformation

首先，任意一個vector x 都是unit basis vectors的linear combination:

所以對x apply某個linear transformation function L，由於linear transformation的性質，可以寫成：

這提供了一個速算法！我們不需要知道L真正的定義事實什麼，如果我們可以知道L(ej)的結果是什麼的話，L(x)就可以算出來了。

Matrix的意義

matrix只是表現一個linear transformation function L的數學表示法。每個column of A代表了unit basis vector是如何被L transformed的結果：

Matrix * vector的意義

乘上，既然matrix A的意義是所有unit basis vector被L transformed過的結果組合，則A乘上某一個vector x的意義為：

為什麼？因為兩者會得出一樣的結果，所以matrix A * vector x的意義就是對vector x做了某個linear transformation L的結果。

用matrix定義linear transformation

如果一個vector function可以用matrix A表示，則此function是一個linear transformation:

可以用這個性質來檢驗一個function是否為linear transformation。