Evanalysis
5.1有來源支持嵌入式互動

5.1 可逆矩陣

從定義、行化簡、等價表述與逆矩陣運算,嚴謹地理解可逆矩陣。

筆記系列

MATH1030:線性代數 I

以嚴謹方式整理的線性代數筆記,涵蓋方程組、矩陣、結構與證明;互動只在真正有助理解數學時使用。

章節 1

方程組

學習把方程讀成完整的解集。

章節 2

矩陣與消元

建立矩陣直覺,並有目的地使用行化簡。

章節 3

矩陣代數

矩陣乘法、轉置與結構化矩陣記號。

章節 4

解的結構

齊次方程組、零空間與完整解集的結構。

章節 5

可逆性

理解甚麼情況下矩陣可以被反轉,以及這件事的重要性。

可逆性係線性代數最早令你感受到「一個矩陣可以代表一個可逆過程」嘅地方。對一個方陣而言,若佢可逆,就表示有另一個方陣能夠完全把佢做返轉頭。更重要嘅係,呢個概念同好多其他敘述其實係等價嘅:可以行化簡成單位矩陣、每個方程組 Ax=bAx = b 都有解、列向量線性無關,以及矩陣乘法可以被有系統地反轉。

呢一頁會逐步拆開呢啲等價關係。目標唔單止係識寫 A1A^{-1},而係能夠分辨一個方陣點樣先算可逆,以及點樣用嚴謹方法讀出逆矩陣。

左逆同右逆

先唔好急住去到方陣。對一般矩陣,左逆同右逆係兩個唔同概念。

定義

左逆與右逆

AA 係一個 p×qp \times q 矩陣。

  • 一個 q×pq \times p 矩陣 HH 如果滿足 HA=IqHA = I_q,就稱為 AA左逆
  • 一個 q×pq \times p 矩陣 GG 如果滿足 AG=IpAG = I_p,就稱為 AA右逆

呢兩個定義之所以重要,係因為矩陣乘法唔交換。對長方形矩陣而言,左逆同右逆未必同時存在;即使存在,亦未必一樣。方陣就特別好多。

定義

可逆矩陣

AA 係一個 p×pp \times p 方陣,而且存在另一個 p×pp \times p 矩陣 BB 使得

BA=AB=Ip,BA = AB = I_p,

我哋就稱 AA可逆。矩陣 BB 叫做 AA逆矩陣,記作 A1A^{-1}

定理

逆矩陣係唯一嘅

如果 BBAA 的左逆,而 CCAA 的右逆,咁 B=CB = C。所以可逆矩陣只會有一個逆矩陣。

證明

點解逆矩陣唯一

甚麼叫可逆

可逆其實就係「可以完全反轉」。AA 做咗一次變換之後,如果 A1A^{-1} 存在, 就可以把結果精確地拉返去原位。

單位矩陣 IpI_p 之所以出現,係因為佢做咩都唔改變向量:

Ipx=xI_p x = x

對任何相容嘅向量 x 都成立。逆矩陣就係令你返回呢個「冇被改變」狀態嘅矩陣。

例題

對角矩陣最容易睇出逆矩陣

D=diag(2,1,3).D = \operatorname{diag}(2, -1, 3).

D1=diag(12,1,13).D^{-1} = \operatorname{diag}\left(\tfrac{1}{2}, -1, \tfrac{1}{3}\right).

原因好直接:對角線上每個非零元素變成倒數,而其餘零位仍然係零。將 DDD1D^{-1} 相乘,就會得到 I3I_3

行化簡同逆矩陣

實際計算逆矩陣時,最可靠嘅方法係行化簡。課程源材料的核心想法有兩步:

  1. 行變換矩陣本身係可逆嘅,而且其逆就係反向行變換矩陣;
  2. 一個方陣可逆,當且僅當佢可以被行化簡到 IpI_p

定理

行變換矩陣係可逆嘅

ρ\rho 係一個對 p 行矩陣所做的行變換,而 ρˉ\bar{\rho} 係相反行變換, 則對應嘅行變換矩陣 M[ρ]M[\rho]M[ρˉ]M[\bar{\rho}] 滿足

M[ρ]1=M[ρ]ˉ,M[ρˉ]1=M[ρ].M[\rho]^{-1} = M[\bar{\rho]}, \qquad M[\bar{\rho}]^{-1} = M[\rho].

所以每次行化簡,其實都係左乘一個可逆矩陣。呢個觀點會令後面好多證明變得乾淨。

定理

可逆性同行化簡

對一個方陣 AA,以下敘述等價:

  • AA 可逆;
  • AAIpI_p 行等價;
  • AA 係若干個行變換矩陣嘅乘積;
  • AA 係非奇異矩陣。

所以當你把 AAIpI_p 並排成 [AIp][A | I_p],然後做行化簡, 若左邊可以變成 IpI_p,右邊就會讀出 A1A^{-1}

邊讀邊試

跟著看一個用行化簡求逆的例子

互動示範讓你逐步把 [A | I] 化簡,直到左邊變成 I。

由 [A | I] 開始。若 A 可逆,行化簡會把左邊化成 I。

121100
011010
234001

上面個互動示範直接展示「將 [A | I] 化到左邊變成 II」究竟係乜意思。佢唔係定義,而係同定義完全一致嘅計算方法。

邊讀邊試

跟著走完一條行化簡路徑

互動步驟器會帶你走完一條完整的消元路徑,逐步顯示行變換、正在處理的主元,以及每一步得到的矩陣。

1224
1335
2656

行變換

先在第 1 列選主元。

要留意甚麼

第 1 列的第一行已經有方便的主元 1,所以暫時不用換行。

先由增廣矩陣開始。第一個主元的工作,是幫我們把它下面的元素清掉。

第二個互動工具顯示一條完整消元路徑。對可逆矩陣而言,重點唔係「做咗幾多步」,而係「左邊最後真係化成 IpI_p」。

等價表述

源材料整理出一個非常重要嘅「字典」:可逆性可以用好多唔同語言去描述。

定理

識別可逆矩陣嘅等價條件

AA 係一個 p×pp \times p 矩陣。以下敘述等價:

  1. AA 可逆。
  2. AAIpI_p 行等價。
  3. AA 係若干個行變換矩陣嘅乘積。
  4. AA 有左逆。
  5. AA 有右逆。
  6. AA 係非奇異矩陣。
  7. 對每個 p 維列向量 b,方程組 Ax=bAx = b 都相容。
  8. 對每個 p 維列向量 b,方程組 Ax=bAx = b 都有唯一解,且解係 x=A1bx = A^{-1}b

其中兩個最實用:

  • 第 7 點話你知:AA 的列向量張成 RpR^p
  • 第 8 點話你知:一旦可逆,就唔只係「有解」,而係可以直接寫出解。

所以可逆性正正係矩陣解方程組最核心嘅代數條件。

由可逆矩陣角度理解行等價

下一份源材料再向前推一步:唔再只係把行等價理解成一連串行變換,而係把 成個過程打包成左邊乘上一個可逆矩陣。

定理

行等價等同於左乘一個可逆矩陣

AABB 係有 p 行嘅矩陣。以下敘述等價:

  • AABB 行等價;
  • 存在一個可逆嘅 p×pp \times p 矩陣 GG,使得
B=GA.B = GA.

而且一旦 B=GAB = GA,就同時有

A=G1B.A = G^{-1}B.

呢個定理唔係另一招計數技巧,而係同一個現象更乾淨嘅講法。任何有限步行 變換都可以濃縮成左邊一個可逆矩陣 GG;反方向行變換就由 G1G^{-1} 編碼。

例題

把行等價讀成一條矩陣等式

A=[101123011],G=[100110001].A = \begin{bmatrix} 1 & 0 & 1 \\ 1 & 2 & 3 \\ 0 & 1 & 1 \end{bmatrix}, \qquad G = \begin{bmatrix} 1 & 0 & 0 \\ -1 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}.

矩陣 GG 就係行變換

R2R2R1R_2 \leftarrow R_2 - R_1

對應嘅行變換矩陣。所以

GA=[101022011].GA = \begin{bmatrix} 1 & 0 & 1 \\ 0 & 2 & 2 \\ 0 & 1 & 1 \end{bmatrix}.

如果把呢個新矩陣記作 BB,咁就有 B=GAB = GA。一條等式已經完整記錄咗呢次 行變換。因為 GG 可逆,所以 AABB 行等價。

好處在於理論討論會清楚好多。只要知道行等價就係左乘可逆矩陣,後面好多 「甚麼量被保留」嘅敘述都可以一行證完。

定理

行變換保留對應列向量之間的線性關係

AABB 係行等價嘅 p×qp \times q 矩陣,並把佢哋的列寫成

A=[a1  a2    aq],B=[b1  b2    bq].A = [a_1 \; a_2 \; \cdots \; a_q], \qquad B = [b_1 \; b_2 \; \cdots \; b_q].

如果

aj=α1ak1+α2ak2++αnakn,a_j = \alpha_1 a_{k_1} + \alpha_2 a_{k_2} + \cdots + \alpha_n a_{k_n},

咁就必然有

bj=α1bk1+α2bk2++αnbkn.b_j = \alpha_1 b_{k_1} + \alpha_2 b_{k_2} + \cdots + \alpha_n b_{k_n}.

特別地,對應列之間的線性相依同線性無關,都會被行等價保留。

一旦知道 B=GAB = GA,證明就好短。將 AA 的列關係左乘 GG,由矩陣乘法的線 性性質可得

Gaj=α1Gak1+α2Gak2++αnGakn,Ga_j = \alpha_1 G a_{k_1} + \alpha_2 G a_{k_2} + \cdots + \alpha_n G a_{k_n},

即係 BB 的對應列滿足同一組係數關係。

呢個結果就係由行化簡去到列語言嘅橋樑。行變換會改變列向量本身,但唔會 改變邊啲列係多餘,亦唔會改變某列由其他列迫出嚟嘅線性關係。

點解 RREF 係唯一嘅

源材料附錄證明:每個行等價類之中,最簡行階梯形其實只得一個。呢件事好容 易被忽略,但佢正正令後面嘅定義變得數學上站得住腳。

定理

每個行等價類只有一個最簡行階梯形

AA 係一個矩陣,BBCC 都係 reduced row-echelon form。若 BBAA 行等價,而 CC 亦同 AA 行等價,咁就有

B=C.B = C.

附錄的證明係對秩做數學歸納。核心策略係:

  1. 由左至右比較樞紐列;
  2. 用「線性關係被保留」去迫出相同嘅樞紐位置;
  3. 再證明每一個自由列都必須以同樣係數由前面的樞紐列組成。

所以 RREF 唔只係「一個方便嘅最終形狀」,而係該行等價類中唯一嘅最終 形狀。

定義

一個矩陣的,就係其 reduced row-echelon form 中樞紐的數目。

呢個定義之所以成立,正正因為 RREF 係唯一。若果唔同步驟會得出唔同 RREF, 樞紐數目就會跟計算法而改變,咁 rank 就唔係良定。

列向量嘅無關與線性組合

可逆性亦可以用列向量語言去讀。

定理

可逆性同列向量

對一個 p×pp \times p 矩陣 AA,以下敘述等價:

  • AA 可逆;
  • AA 的列向量線性無關;
  • RpR^p 中每個向量都可以寫成 AA 的列向量嘅線性組合。

呢三句其實係同一件事三種講法。

如果列向量線性無關,即表示冇一列係多餘的。 如果列向量張成 RpR^p,即表示每個目標向量都搵得到。 對方陣嚟講,呢兩件事會同時發生,正正就係可逆。

轉置同冪次

可逆性同轉置亦相容。

定理

轉置與冪次

AA 可逆,則:

  • AtA^t 亦可逆,而且 (At)1=(A1)t(A^t)^{-1} = (A^{-1})^t
  • AnA^n 對每個整數 n 都可逆,而且 (An)1=(A1)n(A^n)^{-1} = (A^{-1})^n

轉置結果方便你由列去讀行;冪次結果就方便你處理重複出現的變換。

例題

例題

用行化簡求逆矩陣

A=[1235].A = \begin{bmatrix} 1 & 2 \\ 3 & 5 \end{bmatrix}.

先寫出 [AI2][A | I_2]

[12103501].\left[\begin{array}{cc|cc} 1 & 2 & 1 & 0 \\ 3 & 5 & 0 & 1 \end{array}\right].

先清走左下角嘅 3:

[12100131].\left[\begin{array}{cc|cc} 1 & 2 & 1 & 0 \\ 0 & -1 & -3 & 1 \end{array}\right].

再把第二行除以 1-1,然後清走第一行第二列:

[10520131].\left[\begin{array}{cc|cc} 1 & 0 & -5 & 2 \\ 0 & 1 & 3 & -1 \end{array}\right].

所以

A1=[5231].A^{-1} = \begin{bmatrix} -5 & 2 \\ 3 & -1 \end{bmatrix}.

重點唔係只係計出答案,而係睇清楚:當左邊化成單位矩陣時,右邊就自然係逆矩陣。

常見錯誤

常見錯誤

唔好把長方形矩陣嘅一側逆當成另一側逆

對非方陣而言,左逆唔一定等於右逆,甚至未必存在。方陣就唔同:一旦逆矩陣存在,就同時係左逆同右逆,而且一定唯一。

常見錯誤

唔好靠外表估可逆性

一個矩陣表面上睇落好簡單,都未必可逆。真正方法係行化簡,或者用上面列出嘅等價條件。

快速檢查

快速檢查

如果 AA 可逆,A1AA^{-1}A 係乜?

直接用逆矩陣定義。

解答

答案

快速檢查

如果 AA 可逆,齊次方程組 Ax=0Ax = 0 會唔會有非零解?

用唯一解嘅結論去想。

解答

答案

快速檢查

如果 AA 可逆,AtA^t 係唔係可逆?

用轉置定理去答。

解答

答案

快速檢查

B=GAB = GA,而 GG 可逆,同時 AA 的列滿足 a3=2a1a2a_3 = 2a_1 - a_2,咁 BB 的對應列必須滿足乜關係?

保留同一組係數,並用 bj=Gajb_j = Ga_j

解答

答案

快速檢查

點解定義 rank 時,RREF 的唯一性咁重要?

用一句話回答,並包含「良定」呢個詞。

解答

答案

練習

快速檢查

假設 AA 可逆,而且 AB=IpAB = I_p。證明 B=A1B = A^{-1}

用逆矩陣唯一性或者左乘 A1A^{-1} 都可以。

解答

引導解答

先讀呢幾頁

呢一頁特別依賴 2.3 Gaussian elimination and RREF3.1 Matrix multiplication and identity matrices3.2 Transpose and special matrices

本單元重點詞彙