可逆矩陣

有限實矩陣乘法法則的證明

設 $m,n,p,q$ 為正整數，$A\in\mathbb R^{m\times n}$、$B\in\mathbb R^{n\times p}$、$C\in\mathbb R^{p\times q}$。以下只用行乘欄定義與實數的有限求和。對任意輸出位置 $(i,\ell)$，

$$\begin{aligned} ((AB)C)_{i\ell} &=\sum_{k=1}^{p}\left(\sum_{j=1}^{n}a_{ij}b_{jk}\right)c_{k\ell}\\ &=\sum_{j=1}^{n}a_{ij}\left(\sum_{k=1}^{p}b_{jk}c_{k\ell}\right) =(A(BC))_{i\ell}. \end{aligned}$$

中間等號只交換兩個有限和的求和次序，並使用實數分配律。兩邊同為 $m\times q$ 矩陣，每個位置相等，便證明結合律；沒有調換矩陣因子的次序。

對 $D\in\mathbb R^{n\times p}$，同一定義給出

$$[A(B+D)]_{ik}=\sum_{j=1}^{n}a_{ij}(b_{jk}+d_{jk}) =(AB)_{ik}+(AD)_{ik}.$$

對 $E\in\mathbb R^{m\times n}$，則有

$$[(A+E)B]_{ik}=\sum_{j=1}^{n}(a_{ij}+e_{ij})b_{jk} =(AB)_{ik}+(EB)_{ik}.$$

所以在所寫的相容大小下，兩條分配律均成立。對任意實純量 $c$，

$$[(cA)B]_{ik}=\sum_j(ca_{ij})b_{jk} =c\sum_j a_{ij}b_{jk} =\sum_j a_{ij}(cb_{jk})=[A(cB)]_{ik},$$

逐項相等便證明 $(cA)B=c(AB)=A(cB)$。特別地，對 $x,y\in\mathbb R^n$ 與實數 $s,t$，

$$[A(sx+ty)]_i=\sum_j a_{ij}(sx_j+ty_j) =s(Ax)_i+t(Ay)_i.$$

這證明了比較同一線性系統的解時所用的矩陣乘向量線性性質。所有恆等式都只針對大小相容的有限實矩陣，不聲稱任意矩陣因子可交換或可消去。

由單位矩陣建立初等矩陣

假設一個初等行變換 $\rho$ 作用於有 $p$ 行的矩陣。先從單位矩陣 $I_p$ 開始，對 $I_p$ 做同一個初等行變換，所得矩陣記作 $E_\rho$。 所有純量都屬於矩陣所採用的底域；特別地，每個非零倍數 $c$ 在該域中都有倒數 $1/c$。

定義

初等行變換矩陣

與 $p$ 行矩陣上的初等行變換 $\rho$ 對應的初等行變換矩陣，就是把 $\rho$ 作用在 $I_p$ 上所得的 $p \times p$ 矩陣。

這種矩陣亦簡稱初等矩陣；較長的名稱可以明確指出它與指定行變換的關係。

換句話說，

$$E_\rho = \rho(I_p).$$

這個定義有用，是因為以下定理。

定理

初等行變換等同於左乘矩陣

設 $A$ 是任何有 $p$ 行的矩陣，$\rho$ 是一個初等行變換，並以 $\rho(A)$ 表示把它作用於 $A$ 後得到的矩陣。則

$$\rho(A) = E_\rho A.$$

所以，對 $A$ 做這個初等行變換，等同於用同一個操作在 $I_p$ 上得到的 初等行變換矩陣左乘 $A$。

這裏必須是左乘。初等行變換改變的是行，會把新行寫成舊行的線性組合；左乘正是把 $A$ 的新行寫成舊行的線性組合。右乘則會混合欄，不是同一件事。

維數亦說明了同一點。若 $A$ 是 $p \times n$ 矩陣，則 $E_\rho$ 是 $p \times p$ 矩陣，所以 $E_\rho A$ 有定義，而且仍是 $p \times n$。 這裏完全不要求 $A$ 是方陣。相反，對這 $n$ 欄進行欄變換的矩陣大小為 $n \times n$，並從右邊相乘。

為甚麼左乘會執行指定行變換

證明

對三類初等行變換逐行驗證

把任意 $p \times n$ 矩陣 $A$ 的各行記作 $a_1,a_2,\ldots,a_p$，並以 $e_k^{\mathsf T}$ 表示 $I_p$ 的第 $k$ 行。 基本等式

$$e_k^{\mathsf T}A=a_k$$

表示左乘矩陣的一行會選取 $A$ 的相應行。現在逐類檢查。

1. 對 $R_i\leftrightarrow R_j$，$E_\rho$ 的第 $i$ 行是 $e_j^{\mathsf T}$，第 $j$ 行是 $e_i^{\mathsf T}$，其餘第 $k$ 行仍是 $e_k^{\mathsf T}$。因此 $E_\rho A$ 恰好交換 $A$ 的第 $i,j$ 行。

2. 對 $R_i\leftarrow cR_i$（$c\ne0$），$E_\rho$ 的第 $i$ 行是 $c e_i^{\mathsf T}$，其餘行不變。因此乘積的第 $i$ 行為

   $$(c e_i^{\mathsf T})A=c a_i,$$

   而每個 $k\ne i$ 的第 $k$ 行仍為 $a_k$。

3. 對 $R_j\leftarrow R_j+cR_i$（$i\ne j$），$E_\rho$ 的第 $j$ 行是 $e_j^{\mathsf T}+c e_i^{\mathsf T}$，其餘行不變，所以新的第 $j$ 行為

   $$(e_j^{\mathsf T}+c e_i^{\mathsf T})A=a_j+c a_i,$$

   正是指定的行加法。

三類情形窮盡了初等行變換，因此對每個相容矩陣 $A$ 都有 $E_\rho A=\rho(A)$。這個證明沒有聲稱任意改動行的方式都對應一個初等矩陣； $\rho$ 必須是剛才檢查的三類操作之一。

作用於增廣矩陣

假設 $Ax=b$ 由增廣矩陣 $[A\mid b]$ 表示。初等行變換必須作用於整個增廣 矩陣，不能只改其中一邊。相應的乘法等式是

$$E_\rho[A\mid b]=[E_\rho A\mid E_\rho b].$$

因此，係數和右端常數會接受完全相同的行組合。向量 $x$ 滿足 $Ax=b$，若且唯若 它滿足 $E_\rho Ax=E_\rho b$：正向可把原等式左乘 $E_\rho$，反向則施加逆向 初等行變換。這才是解集保持不變的嚴格理由。

若只改 $A$ 而固定 $b$，或只改 $b$，一般會得到另一個方程組。增廣線只是視覺 上的分隔，不是行變換可以中途停止的邊界。

一串初等行變換就是一個矩陣乘積

真正的用途不只是表示一個初等步驟，而是把整串初等行變換寫成一個矩陣乘積。

定理

一串初等行變換的乘積表示

假設

$$A_1 \xrightarrow{\rho_1} A_2 \xrightarrow{\rho_2} A_3 \xrightarrow{\rho_3} \cdots \xrightarrow{\rho_k} A_{k+1}.$$

則

$$A_{k+1} = E_{\rho_k}E_{\rho_{k-1}}\cdots E_{\rho_2}E_{\rho_1}A_1.$$

這裏每個 $\rho_j$ 都必須是作用於同樣行數矩陣的初等行變換。這個乘積表示整串 操作，但乘積本身未必仍是單一個初等行變換矩陣。

這個公式中的次序很重要。第一個行變換最靠近 $A_1$，因為它最先作用：

$$A_2 = E_{\rho_1}A_1, \qquad A_3 = E_{\rho_2}A_2 = E_{\rho_2}E_{\rho_1}A_1.$$

例題

合併兩個行變換

令

$$A = \begin{bmatrix} 1 & 0 & 1\\ 0 & 2 & 1\\ 1 & 0 & 0 \end{bmatrix}.$$

依次做

$$\rho_1:\ R_2 \leftarrow R_2 + R_1, \qquad \rho_2:\ R_1 \leftarrow R_1 + 2R_2.$$

對應的行變換矩陣是

$$E_{\rho_1} = \begin{bmatrix} 1 & 0 & 0\\ 1 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}, \qquad E_{\rho_2} = \begin{bmatrix} 1 & 2 & 0\\ 0 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}.$$

兩個操作完成後，結果就是

$$E_{\rho_2}E_{\rho_1}A = \begin{bmatrix} 3&2&0\\ 1&1&0\\ 0&0&1 \end{bmatrix} \begin{bmatrix} 1&0&1\\ 0&2&1\\ 1&0&0 \end{bmatrix} = \begin{bmatrix} 3&4&5\\ 1&2&2\\ 1&0&0 \end{bmatrix}.$$

若不想直接相乘 $E_{\rho_2}E_{\rho_1}$，也可以把同一串行變換按同一次序作用在 $I_3$ 上，所得矩陣就是合併後的左乘矩陣。最後的數值結果亦確認：第二步使用的 是已經更新後的第 $2$ 行。

反向行變換與逆矩陣

每個初等行變換都有反向操作：

• $R_j \leftarrow R_j + cR_i$ 的反向操作是 $R_j \leftarrow R_j - cR_i$；
• $R_i \leftarrow cR_i$（其中 $c \ne 0$）的反向操作是 $R_i \leftarrow (1/c)R_i$；
• 交換兩行的反向操作仍然是同一次交換。

這給出一個精確的矩陣敘述。

定理

初等行變換矩陣都是可逆矩陣

每個初等行變換矩陣都是可逆的。它的逆矩陣，就是反向初等行變換所對應的 初等行變換矩陣。

證明

為甚麼反向矩陣是雙側逆矩陣

設 $E_\rho$ 表示初等行變換 $\rho$，而 $E_{\rho^{-1}}$ 表示它的反向初等 操作。對每個有 $p$ 行的矩陣 $X$，先做 $\rho$ 再撤銷，都會恢復 $X$。由左乘 定理，

$$E_{\rho^{-1}}E_\rho X=X.$$

這個等式對每個這樣的 $X$ 都成立；特別取 $X=I_p$，得到 $E_{\rho^{-1}}E_\rho=I_p$。先做反向操作再做 $\rho$，同理得到 $E_\rho E_{\rho^{-1}}=I_p$。因此

$$E_\rho^{-1}=E_{\rho^{-1}}.$$

具體來說，交換兩行的逆仍是同一次交換；乘以 $c\ne0$ 的逆是乘以 $1/c$； 把第 $i$ 行的 $c$ 倍加到第 $j$ 行，則由加上 $-c$ 倍第 $i$ 行來撤銷。

例如，若

$$E = \begin{bmatrix} 1 & 0 & 0\\ 3 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}$$

表示 $R_2 \leftarrow R_2 + 3R_1$，則

$$E^{-1} = \begin{bmatrix} 1 & 0 & 0\\ -3 & 1 & 0\\ 0 & 0 & 1 \end{bmatrix}$$

表示 $R_2 \leftarrow R_2 - 3R_1$。

這就是初等行變換可逆的代數原因，也解釋了為甚麼行化簡和可逆矩陣有密切關係。

證明

先撤銷最後一步操作

設 $E_1,\ldots,E_k$ 按時間順序編碼同一組 $p$ 行矩陣上的操作，合併左乘矩陣就是 $J=E_k\cdots E_1$。每個 $E_j^{-1}$ 表示對應初等行變換的反向操作。要恢復輸入，首先必須撤銷 $E_k$，因為它是最後一次對行所作的改變；然後依次撤銷 $E_{k-1},\ldots,E_1$。因此，反向鏈的合併矩陣為

$$K=E_1^{-1}E_2^{-1}\cdots E_k^{-1}.$$

這裏必須區分兩種次序：反向操作的時間順序從 $E_k^{-1}$ 開始；寫成乘積時，最先作用的因子卻放在最靠近待恢復矩陣的位置。以三步為例，由結合律可得

$$KJ=E_1^{-1}E_2^{-1}(E_3^{-1}E_3)E_2E_1 =E_1^{-1}(E_2^{-1}E_2)E_1=I_p.$$

另一個乘積 $JK$ 則從相鄰的 $E_1E_1^{-1}$ 開始消去，最後同樣得到 $I_p$。任意有限鏈都可這樣逐對消去。整個論證沒有交換因子，也不要求被變換的矩陣本身是方陣。

把這個讀法用於前面的兩步例子：合併矩陣是 $E_{\rho_2}E_{\rho_1}$，所以逆矩陣是 $E_{\rho_1}^{-1}E_{\rho_2}^{-1}$。從最終矩陣開始，先從第一行減去目前第二行的兩倍，第一行便恢復為 $[1\ 0\ 1]$；再從第二行減去剛恢復的第一行，第二行便恢復為 $[0\ 2\ 1]$。撤銷操作是在逐個恢復中間狀態，乘積次序也就隨之確定，無須另背一個口訣。

有限消元必停止，並保持解集

設 $A\in\mathbb R^{m\times n}$、$b\in\mathbb R^m$，其中 $m,n$ 是有限正整數。允許的行變換為交換不同的兩行、以非零標量乘一行，以及把一行的標量倍加到另一行。逆變換分別為同一交換、乘以倒數，以及減去該倍數。因此對整個增廣陣施行變換恰好保持 $Ax=b$ 的解集：新方程由舊方程推出，逆變換給出反向蘊含。每個行變換也等於左乘把同一變換施於單位矩陣所得的可逆初等矩陣。

從左到右掃描係數欄，並記錄下一未使用行。若當前欄在未使用行中有非零元素，就將其所在行交換到下一位置，除以非零主元，再從其餘各行減去適當倍數，清空該欄其他元素，然後推進未使用行指標。若該欄所有未使用位置都是零，就跳過該欄。先前主元欄始終是單位欄：當前未使用行在這些欄均為零，所以新主元行以及後續減法保留這些零與原主元。總共只有 $n$ 次欄掃描及至多 $\min(m,n)$ 個主元，每次只作有限個行變換，故算法必停止。最後非零係數行的主元欄依次遞增，各主元上下均為零，其餘係數行全零。這證明下面使用的簡化階梯形確實能得到，而非假設它最終出現。

解的分類與齊次自由度

令 $r$ 為係數部分的主元數。若某個零係數行對應非零變換後右端，就出現不可能的方程 $0=c$，因此無解。否則任意指定 $n-r$ 個非主元變量的實數值。每個主元行都把其主元變量寫成變換後右端減去自由變量的已知線性組合，其中沒有其他主元變量。這些公式既構造解，也恢復每一個解。若 $r=n$，解唯一；若 $r<n$，改變自由變量就改變解向量，故有無窮多解。

對 $Az=0$，全部自由變量取零給出零解。若 $r<n$，將一個自由變量設為一，其餘設為零，再按主元公式求解，就構造出非零齊次解；若 $r=n$，公式迫使所有齊次變量為零。對相容系統固定一個解 $x_p$，兩解相減表明每個解均為 $x_p+z$，其中 $Az=0$；代入又證明反向包含。

當 $A$ 為方陣且每欄都有主元時，係數階梯形為 $I$。有限個初等矩陣之積 $E$ 滿足 $EA=I$。因為 $E$ 可逆，$A=E^{-1}$，故也有 $AE=I$，所以 $E$ 是雙側逆。若缺少主元，上面構造的非零齊次解排除可逆性。這也證明可逆時，對 $[A\mid I]$ 作相同行變換會得到 $[I\mid A^{-1}]$。

不預設計數結論的有限基存在與擴充

設實向量空間 $V$ 已給定有限生成列表 $t_1,\ldots,t_N$。先證明任何線性無關列表 $u_1,\ldots,u_k$ 的長度不超過 $N$。插入 $j$ 個向量後，維持一個由 $u_1,\ldots,u_j$ 與 $N-j$ 個剩餘舊向量組成的生成列表。將 $u_{j+1}$ 按此列表展開，至少一個剩餘舊向量的係數非零；否則它在先前 $u_i$ 的張成空間中，與無關性矛盾。解出這個舊向量，再以 $u_{j+1}$ 取代它。新列表仍張成同一空間，而且保留全部先前插入向量。若 $k>N$，則 $N$ 步後前 $N$ 個向量已張成 $V$，與 $u_{N+1}$ 的無關性矛盾。此即所需上界，也包括 $N=0$。

每個子空間 $W$ 都有有限基。從空的無關列表開始；若當前張成空間尚不是 $W$，就在 $W$ 中取一個不在該張成空間內的向量。若新向量在某關係中的係數非零，就能由舊向量表示它，矛盾，故新列表仍無關。已證上界允許至多添加 $N$ 次，所以過程必停止於 $W$ 的無關生成列表。若 $W=\{0\}$，立即得到空基。改從 $W$ 內任意給定無關列表開始，同樣證明該列表可擴充為 $W$ 的基；只需有界有限次選擇。最後，若兩組基的長度為 $p,q$，分別把它們用作上界證明中的有限生成列表，得到 $p\le q$ 與 $q\le p$。故基的長度有良定義，稱為維數。這些論證補足秩–零度定理所用的基存在、擴充與維數事實。

方陣可能把不同輸入送到同一個輸出，也可能無法產生某些輸出。逆矩陣要完全撤銷原矩陣的作用，就必須保證每個輸出都恰好對應一個輸入。因此，可逆性與方程組 $Ax=b$ 的解集直接相關。除非另有說明，矩陣元素均取實數。

開始之前

矩陣乘法必須保持因子次序，每一步合法的初等行變換都可逆。方程組 $Ax=b$ 有唯一解，當且僅當它一致，且化簡後每個變量欄都有主元。可逆性將保證每個維數適當的右端都滿足這個條件。

左逆與右逆

定義

左逆與右逆

設 $A$ 是一個 $p \times q$ 矩陣。

• 一個 $q \times p$ 矩陣 $H$ 如果滿足 $HA = I_q$，就稱為 $A$ 的左逆。
• 一個 $q \times p$ 矩陣 $G$ 如果滿足 $AG = I_p$，就稱為 $A$ 的右逆。

對長方形矩陣，左逆或右逆可以單獨存在；但若兩者都存在，它們必定相同。方陣還具有更強的性質：只要任何一側的逆存在，另一側的逆也存在。

定義

可逆矩陣

若 $A$ 是一個 $p \times p$ 方陣，而且存在另一個 $p \times p$ 矩陣 $B$ 使得

$$BA = AB = I_p,$$

我們就稱 $A$ 為可逆。矩陣 $B$ 叫做 $A$ 的逆矩陣，記作 $A^{-1}$。

定理

逆矩陣是唯一的

設 $A$ 是 $p\times q$ 矩陣，$B,C$ 是 $q\times p$ 矩陣。若 $B$ 是 $A$ 的左逆，$C$ 是右逆，則 $B=C$。特別地，可逆方陣恰好有一個逆矩陣。

證明

為何逆矩陣唯一

假設給出 $BA=I_q$ 與 $AC=I_p$。由結合律，

$$B=BI_p=B(AC)=(BA)C=I_qC=C.$$

這裏沒有交換任何因子。可逆方陣的任何兩個逆矩陣都滿足這些假設，因此必定相同。

甚麼叫可逆

逆矩陣的定義要求恢復每個輸入向量。對角矩陣尤其容易顯示這種作用。

例題

對角矩陣最容易看出逆矩陣

設

$$D = \operatorname{diag}(2, -1, 3).$$

那麼

$$D^{-1} = \operatorname{diag}\left(\tfrac{1}{2}, -1, \tfrac{1}{3}\right).$$

原因很直接：對角線上每個非零元素變成倒數，而其餘零位仍然是零。將 $D$ 與 $D^{-1}$ 相乘，就會得到 $I_3$。

等價表述

定理

識別可逆矩陣的等價條件

設 $A$ 是實 $p\times p$ 矩陣。以下條件等價：

1. $A$ 可逆。
2. $A$ 與 $I_p$ 行等價。
3. $A$ 是若干個 $p$ 階初等行變換矩陣的乘積。
4. $A$ 有左逆。
5. $A$ 有右逆。
6. $A$ 非奇異，即 $Ax=0$ 只有零解。
7. 對每個 $b\in\mathbb R^p$，方程組 $Ax=b$ 都一致。
8. 對每個 $b\in\mathbb R^p$，方程組 $Ax=b$ 都恰好有一個解。

等價地，$A$ 的欄向量線性獨立，或它們張成 $\mathbb R^p$。這些條件成立時，唯一解為 $A^{-1}b$。

證明

方陣假設在等價性證明中的作用

若 $H$ 是左逆，則 $Ax=0$ 蘊含 $x=HAx=0$。反過來，設齊次系統只有零解。在 $A$ 的任何最簡行階梯形中，自由變量都會產生一個非零齊次解，因此每欄都有主元。由於 $A$ 是方陣，恰有 $p$ 個主元行，所得最簡行階梯形必為 $I_p$。

若行變換乘積 $E$ 滿足 $EA=I_p$，反向鏈說明 $E$ 可逆，而且 $A=E^{-1}$。因此 $A$ 可逆，並且本身是初等矩陣的乘積。反過來，這類乘積可逆，而逆矩陣尤其是左逆。這就連接了條件 1–4 和 6，並沒有假設 RREF 唯一。

現設 $AG=I_p$。此時 $A$ 是方陣 $G$ 的左逆，剛證明的左逆判別使 $G$ 可逆，從而 $A=A(GG^{-1})=(AG)G^{-1}=G^{-1}$ 可逆。這就證明了右逆判別，沒有擅自顛倒乘積。

若每個 $Ax=b$ 都一致，對 $I_p$ 的第 $j$ 欄 $e_j$ 選擇解 $u_j$，使 $Au_j=e_j$。令 $U=[u_1\ \cdots\ u_p]$，便有 $AU=I_p$，可用右逆判別。最後，若 $A$ 可逆，則 $A(A^{-1}b)=b$ 證明解存在；任何解 $x$ 都滿足 $x=A^{-1}Ax=A^{-1}b$，所以解唯一。每個右端都有唯一解，自然蘊含每個右端都有解。

欄向量的說法只是翻譯：線性獨立等價於 $Ax=0$ 只有零系數向量；張成則表示每個 $b$ 都有表示 $Ax=b$。這裏沒有額外增加欄向量的假設。

行化簡與逆矩陣

每個初等行變換矩陣都可逆，逆矩陣編碼對應的反向操作，證明見 3.5 初等行變換矩陣。若按時間順序施加的操作對應 $E_1,\ldots,E_k$，合併左乘矩陣就是 $E=E_k\cdots E_1$。

每一步都須作用於整個增廣矩陣，因此

$$E[A\mid I_p]=[EA\mid E].$$

若左塊變成 $I_p$，則 $EA=I_p$。由於 $E$ 可逆，有 $A=E^{-1}$，右塊 $E$ 正是 $A^{-1}$。若左塊化簡後缺少主元，方陣便不滿足上面的等價條件。這一方法同時判斷可逆性和計算逆矩陣；右塊再複雜，也不能補救左塊缺少主元的問題。

如何使用可逆性的等價字典

按已知資料選擇判別：主元、單側逆等式、非零零空間向量，或所有右端的可解性。

例題

非零零空間向量可以證明不可逆

設 $A$ 是方陣，並且

$$v = \begin{bmatrix} 1 \\ -2 \\ 1 \end{bmatrix} \ne 0, \qquad Av = 0.$$

那麼 $A$ 不可能可逆。理由是：若 $A^{-1}$ 存在，把 $Av = 0$ 左乘 $A^{-1}$，就會得到

$$A^{-1}Av = A^{-1}0.$$

左邊等於 $v$，右邊等於 $0$，於是會推出 $v = 0$。這和已知的非零向量矛盾。 因此，只要找到一個非零的 $Ax = 0$ 解，就已經證明 $A$ 是奇異矩陣。

例題

用逆矩陣解方程組

設

$$A^{-1} = \begin{bmatrix} 2 & -1 \\ 0 & 3 \end{bmatrix}, \qquad b = \begin{bmatrix} 5 \\ -1 \end{bmatrix}.$$

若 $Ax = b$，兩邊左乘 $A^{-1}$：

$$x = A^{-1}b = \begin{bmatrix} 2 & -1 \\ 0 & 3 \end{bmatrix} \begin{bmatrix} 5 \\ -1 \end{bmatrix} = \begin{bmatrix} 11 \\ -3 \end{bmatrix}.$$

逆矩陣不只是「把 $A$ 反過來」的符號，它給出了唯一解的明確公式。

由可逆矩陣角度理解行等價

定理

行等價等同於左乘一個可逆矩陣

設 $A$ 與 $B$ 是有 $p$ 行的矩陣。以下敘述等價：

• $A$ 與 $B$ 行等價；
• 存在一個可逆的 $p \times p$ 矩陣 $G$，使得

$$B = GA.$$

而且一旦 $B = GA$，就同時有

$$A = G^{-1}B.$$

行變換鏈給出這樣的乘積 $G$。反過來，等價字典把任何可逆的 $G$ 表成初等矩陣的乘積，所以 $GA$ 可由相應行變換從 $A$ 得到。左乘 $G^{-1}$ 就能恢復 $A$。

例題

把行等價讀成一條矩陣等式

設

$$A = \begin{bmatrix} 1 & 0 & 1 \\ 1 & 2 & 3 \\ 0 & 1 & 1 \end{bmatrix}, \qquad G = \begin{bmatrix} 1 & 0 & 0 \\ -1 & 1 & 0 \\ 0 & 0 & 1 \end{bmatrix}.$$

矩陣 $G$ 就是行變換

$$R_2 \leftarrow R_2 - R_1$$

對應的行變換矩陣。所以

$$GA = \begin{bmatrix} 1 & 0 & 1 \\ 0 & 2 & 2 \\ 0 & 1 & 1 \end{bmatrix}.$$

如果把這個新矩陣記作 $B$，就有 $B = GA$。一條等式已經完整記錄了這次 行變換。因為 $G$ 可逆，所以 $A$ 與 $B$ 行等價。

定理

行變換保留對應欄向量之間的線性關係

設 $A$ 與 $B$ 是行等價的 $p \times q$ 矩陣，並把它們的欄寫成

$$A = [a_1 \; a_2 \; \cdots \; a_q], \qquad B = [b_1 \; b_2 \; \cdots \; b_q].$$

如果

$$a_j = \alpha_1 a_{k_1} + \alpha_2 a_{k_2} + \cdots + \alpha_n a_{k_n},$$

就必然有

$$b_j = \alpha_1 b_{k_1} + \alpha_2 b_{k_2} + \cdots + \alpha_n b_{k_n}.$$

特別地，對應欄之間的線性相依與線性獨立，都會被行等價保留。

左乘 $G$ 把關係向前傳遞，左乘 $G^{-1}$ 則恢復原關係。因此同一組係數關係在兩個方向都成立，也就證明了線性相依與線性獨立均被保留。欄向量本身通常會改變。完整的 RREF 唯一性證明及其與秩的關係，見 5.2 RREF 的唯一性與秩。

乘積與逆矩陣的次序

定理

方陣乘積可逆當且僅當各因子可逆

設 $A,B$ 是實 $p\times p$ 矩陣。$AB$ 可逆，當且僅當 $A,B$ 都可逆。此時

$$(AB)^{-1}=B^{-1}A^{-1}.$$

證明

先構造逆矩陣，再使用它的名稱

先假設兩個因子都可逆，並令 $C=B^{-1}A^{-1}$。用結合律核對兩側：

$$(AB)C=A(BB^{-1})A^{-1}=I_p,\qquad C(AB)=B^{-1}(A^{-1}A)B=I_p.$$

現在才能斷言 $C=(AB)^{-1}$。反向次序使互逆因子彼此相鄰；論證沒有使用交換律。

證明反向時，假設 $AB$ 可逆，記 $C=(AB)^{-1}$。此時還不能使用 $A^{-1}$ 或 $B^{-1}$，應先寫出

$$A(BC)=I_p,\qquad (CA)B=I_p.$$

於是 $A$ 有右逆，$B$ 有左逆。兩個因子都是同階方陣，所以前面已證明的單側逆判別保證它們可逆。這一步引用等價字典，正是反向證明的關鍵。

由歸納法，同階方陣的有限乘積可逆，當且僅當每個因子都可逆，而且

$$(A_1\cdots A_k)^{-1}=A_k^{-1}\cdots A_1^{-1}.$$

轉置與冪次

定理

轉置、純量倍乘與整數冪

若 $A$ 可逆，則 $(A^{-1})^{-1}=A$，且 $(A^T)^{-1}=(A^{-1})^T$。對非零實數 $c$，有 $(cA)^{-1}=c^{-1}A^{-1}$。

每個整數冪 $A^n$ 都可逆，且 $(A^n)^{-1}=(A^{-1})^n$。這裏 $A^0=I_p$；對正整數 $m$，定義 $A^{-m}=(A^{-1})^m$。

轉置公式來自對兩條互逆等式取轉置，此時因子次序反轉。純量倍乘公式可在左右兩個乘積中約去 $c$ 與 $c^{-1}$；正整數冪來自乘積定理，負整數冪則對 $A^{-1}$ 使用該定理，零次冪就是單位矩陣。對正整數 $n$，$A^n$ 可逆也能反推 $A$ 可逆；但 $n=0$ 時反推不成立，因為奇異方陣仍滿足 $A^0=I_p$。

乘積等於單位矩陣時怎樣推理

定理

方陣情況下，一側單位等式已經足夠

設 $P$ 和 $Q$ 是同大小方陣。若

$$PQ=I,$$

則 $P$ 和 $Q$ 都可逆，而且

$$Q=P^{-1}, \qquad QP=I.$$

例題

由 $ABCD=I$ 得到循環恆等式

假設 $A,B,C,D$ 都是 $5 \times 5$ 矩陣，且

$$ABCD=I_5.$$

先把乘積分組成

$$(ABC)D=I_5.$$

由一側單位等式的定理，$ABC$ 和 $D$ 互為逆矩陣。因此

$$DABC=I_5.$$

再用已經證明的循環等式繼續分組，可以得到

$$CDAB=I_5, \qquad BCDA=I_5.$$

所以 $BCDA$、$CDAB$ 和 $DABC$ 確實必然等於 $I_5$。但像 $DCBA$ 或 $DBAC$ 這些任意重排則沒有被迫成立；矩陣乘法仍然不可交換。

用行化簡計算逆矩陣

例題

用行化簡求逆矩陣

設

$$A = \begin{bmatrix} 1 & 2 \\ 3 & 5 \end{bmatrix}.$$

先寫出 $[A\mid I_2]$：

$$\left[\begin{array}{cc|cc} 1 & 2 & 1 & 0 \\ 3 & 5 & 0 & 1 \end{array}\right].$$

先清走左下角的 $3$：

$$\left[\begin{array}{cc|cc} 1 & 2 & 1 & 0 \\ 0 & -1 & -3 & 1 \end{array}\right].$$

再把第二行除以 $-1$，然後清走第一行第二欄：

$$\left[\begin{array}{cc|cc} 1 & 0 & -5 & 2 \\ 0 & 1 & 3 & -1 \end{array}\right].$$

所以

$$A^{-1} = \begin{bmatrix} -5 & 2 \\ 3 & -1 \end{bmatrix}.$$

一族逆矩陣

例題

由行化簡得到參數化逆矩陣

對實數 $\alpha$，令

$$A_\alpha = \begin{bmatrix} 1 & 2 & 1 & 2 \\ 1 & 3 & 1 & 2 \\ 0 & 0 & 1 & \alpha \\ 1 & 2 & 1 & 3 \end{bmatrix}.$$

把增廣矩陣 $[A_\alpha \mid I_4]$ 行化簡，得到

$$\left[\begin{array}{cccc|cccc} 1 & 0 & 0 & 0 & 5-\alpha & -2 & -1 & \alpha-2 \\ 0 & 1 & 0 & 0 & -1 & 1 & 0 & 0 \\ 0 & 0 & 1 & 0 & \alpha & 0 & 1 & -\alpha \\ 0 & 0 & 0 & 1 & -1 & 0 & 0 & 1 \end{array}\right].$$

由於左邊對每個實數 $\alpha$ 都是 $I_4$，矩陣 $A_\alpha$ 對每個實數 $\alpha$ 都可逆，而且

$$A_\alpha^{-1} = \begin{bmatrix} 5-\alpha & -2 & -1 & \alpha-2 \\ -1 & 1 & 0 & 0 \\ \alpha & 0 & 1 & -\alpha \\ -1 & 0 & 0 & 1 \end{bmatrix}.$$

請留意這個結論的意思。參數仍然留在逆矩陣中；它不是需要解出的未知數。 行化簡真正說明的是：沒有任何 $\alpha$ 會令左邊失去主元。

常見錯誤

不要把每個參數都當成限制條件

有時參數出現，是因為答案是一族逆矩陣，而不是因為矩陣在某些值下失效。 限制來自缺少主元或非法除以零，不是來自符號本身。

讀取已給出的行化簡表格

例題

一對互逆矩陣與轉置系統

假設一個行化簡表格顯示 $[A \mid I_4]$ 與 $[I_4 \mid D]$ 行等價，其中

$$D= \begin{bmatrix} 3 & -2 & 3 & -2 \\ 0 & 1 & -2 & 1 \\ -3 & 1 & -2 & 2 \\ 1 & 0 & 1 & -1 \end{bmatrix}.$$

這個最終形狀本身已經說明

$$A^{-1}=D.$$

對應的係數矩陣為

$$A= \begin{bmatrix} 1 & 1 & 1 & 1 \\ 1 & 1 & 2 & 3 \\ 2 & 1 & 3 & 3 \\ 3 & 2 & 4 & 3 \end{bmatrix}.$$

直接相乘可得 $AD=I_4$，驗證了這對矩陣互為逆矩陣。現在令

$$g= \begin{bmatrix} 1 \\ 0 \\ 3 \\ 0 \end{bmatrix}.$$

要求解 $A^t x=g$，不需要從頭再行化簡一次。因為 $A$ 可逆，所以 $A^t$ 也可逆， 並且

$$(A^t)^{-1}=(A^{-1})^t=D^t.$$

因此

$$x=(A^t)^{-1}g=D^t g = \begin{bmatrix} -6 \\ 1 \\ -3 \\ 4 \end{bmatrix}.$$

這個計算很短，是因為行化簡表格已經完成了主要工作。

例題

用主元欄讀四個逆矩陣計算

以下每個矩陣都用同一個方法處理：先行化簡 $[A \mid I_4]$，先看左邊區塊的 主元模式；只有當左邊區塊變成 $I_4$ 時，右邊區塊才可讀作逆矩陣。

情況 (a)。 對

$$A_1= \begin{bmatrix} 1 & 0 & 3 & 3 \\ 2 & 1 & 2 & 3 \\ -1 & 3 & 0 & 3 \\ 4 & 2 & 2 & 4 \end{bmatrix},$$

其中一個行階梯階段的左邊區塊是

$$A_1^\sharp= \begin{bmatrix} 1 & 0 & 3 & 3 \\ 0 & 1 & -4 & -3 \\ 0 & 0 & 1 & 1 \\ 0 & 0 & 0 & 0 \end{bmatrix}.$$

第四欄沒有主元，所以 $A_1$ 不可逆。

情況 (b)。 取前一個互逆矩陣例子中的 $A_2=A$。行化簡得到 $[I_4 \mid D]$，四欄都有主元，所以 $A_2^{-1}=D$。前面用來解轉置系統的同一個矩陣，在這裏給出了一個可逆的情形。

情況 (c)。 對

$$A_3= \begin{bmatrix} 1 & 2 & -1 & 30 \\ 3 & 2 & 0 & 15 \\ 0 & 1 & 3 & 15 \\ 1 & 1 & 1 & 10 \end{bmatrix},$$

其中一個行階梯階段的左邊區塊是

$$A_3^\sharp= \begin{bmatrix} 1 & 2 & -1 & 30 \\ 0 & 1 & 3 & 15 \\ 0 & 0 & 5 & -5 \\ 0 & 0 & 0 & 0 \end{bmatrix}.$$

同樣有主元欄缺失，所以 $A_3$ 不可逆。

情況 (d)。 對

$$A_4= \begin{bmatrix} 1 & 1 & 2 & 1 \\ 2 & 3 & 4 & 1 \\ 3 & 3 & 3 & 1 \\ 1 & 2 & 3 & 1 \end{bmatrix},$$

行化簡可達到 $[I_4 \mid A_4^{-1}]$，其中

$$A_4^{-1}= \begin{bmatrix} 1 & 1 & 0 & -2 \\ -2 & -2 & 1 & 3 \\ 1 & 2 & -1 & -2 \\ 0 & -3 & 1 & 3 \end{bmatrix}.$$

在情況 (b) 與 (d) 中，左邊的單位矩陣確認了可逆性。在情況 (a) 與 (c) 中，缺少主元就已排除可逆性，右邊區塊的數值並不能改變這個結論。

例題

最後的單位區塊控制整條行操作鏈

假設一條行操作鏈把 $[A \mid I_5]$ 經過中間矩陣 $[B \mid C]$，最後化成 $[D \mid E]$。在最後幾步之後，所得增廣矩陣是

$$[D \mid E] = \left[ \begin{array}{ccccc|ccccc} 1 & 0 & 0 & 0 & 0 & 1 & 0 & -2 & 0 & 0 \\ 0 & 1 & 0 & 0 & 0 & 9 & 1 & -18 & -3 & -2 \\ 0 & 0 & 1 & 0 & 0 & -6 & 2 & 11 & 2 & 0 \\ 0 & 0 & 0 & 1 & 0 & -3 & 0 & 6 & 1 & 0 \\ 0 & 0 & 0 & 0 & 1 & -6 & 0 & 12 & 2 & 1 \end{array} \right].$$

左邊區塊是 $I_5$，所以 $D=I_5$，而

$$A^{-1}=E= \begin{bmatrix} 1 & 0 & -2 & 0 & 0 \\ 9 & 1 & -18 & -3 & -2 \\ -6 & 2 & 11 & 2 & 0 \\ -3 & 0 & 6 & 1 & 0 \\ -6 & 0 & 12 & 2 & 1 \end{bmatrix}.$$

於是可以立即推出 $A^t$ 可逆，且

$$(A^t)^{-1}=E^t = \begin{bmatrix} 1 & 9 & -6 & -3 & -6 \\ 0 & 1 & 2 & 0 & 0 \\ -2 & -18 & 11 & 6 & 12 \\ 0 & -3 & 2 & 1 & 2 \\ 0 & -2 & 0 & 0 & 1 \end{bmatrix}.$$

同一條行操作鏈也可以被讀成一次左乘。令 $H$ 為整條鏈中所有行操作矩陣的 乘積。因為 $HA=I_5$ 且 $HI_5=E$，所以 $H=A^{-1}$。因此，如果同一批行操作 把 $F+I_5$ 化成 $A^3+3A+I_5$，就有

$$A^3+3A+I_5=A^{-1}(F+I_5).$$

左乘 $A$ 得到

$$F+I_5=A(A^3+3A+I_5)=A^4+3A^2+A,$$

所以

$$F=A^4+3A^2+A-I_5.$$

同一條行操作鏈對每個矩陣的作用，都是左乘同一個矩陣 $H=A^{-1}$。因此，這次數值化簡也確定了關於 $F$ 的方程。

不用行列式證明或否定可逆性

例題

由向量恆等式證明可逆

假設 $A$ 是 $7 \times 7$ 矩陣，而且

$$A^2x = Ax + x$$

對每個 $x \in \mathbb R^7$ 都成立。把含有 $A$ 的項移到左邊：

$$(A^2-A)x = x \qquad\text{對每個 }x.$$

因為 $A^2-A=(A-I_7)A$，這就是

$$((A-I_7)A)x = I_7x \qquad\text{對每個 }x.$$

若兩個矩陣作用在每個向量上的結果都相同，它們就是同一個矩陣，所以

$$(A-I_7)A = I_7.$$

因此 $A-I_7$ 是 $A$ 的左逆。由於 $A$ 是方陣，一側單位等式已經足夠推出： $A$ 可逆，而且其逆矩陣是 $A-I_7$。

例題

用反證法證明某個多項式矩陣不可逆

假設 $A$ 和 $B$ 是兩個不同的 $6 \times 6$ 矩陣，且

$$A^3=B^3, \qquad A^2B=B^2A.$$

我們證明 $A^2+B^2$ 不可逆。令

$$C=A^2+B^2.$$

先比較 $CB$ 與 $CA$：

$$CB=(A^2+B^2)B=A^2B+B^3,$$

而

$$CA=(A^2+B^2)A=A^3+B^2A.$$

利用已知的 $A^2B=B^2A$ 和 $B^3=A^3$，可得

$$CB=CA.$$

如果 $C$ 可逆，左乘 $C^{-1}$ 就會得到 $B=A$，這與 $A$、$B$ 不同矛盾。 所以 $C=A^2+B^2$ 不可逆。

常見錯誤

常見錯誤

不要把長方形矩陣的一側逆當成另一側逆

對非方陣而言，有左逆並不保證有右逆，有右逆也不保證有左逆；若兩側逆都存在，則必定相同。對於方陣，前面的等價性定理保證：任何一側逆的存在，都能推出唯一的雙側逆存在。

常見錯誤

不要靠外表估計可逆性

一個矩陣表面上看來很簡單，也未必可逆。真正方法是行化簡，或者用上面列出的等價條件。

常見錯誤

不要在未證明時任意交換因子

由 $ABCD=I$ 可以透過逆矩陣理論推出某些循環恆等式，例如 $DABC=I$。但這 不代表可以把因子任意改排成 $DCBA$；除非已知矩陣彼此可交換，否則不能 這樣做。

快速檢查

思考檢查

如果 $A$ 可逆，$A^{-1}A$ 是甚麼？

直接用逆矩陣定義。

解答 · 答案

$A^{-1}A = I_p$。

思考檢查

如果 $A$ 可逆，齊次方程組 $Ax = 0$ 會不會有非零解？

用唯一解的結論來思考。

解答 · 答案

不會。因為可逆時，$Ax = b$ 對每個 $b$ 都有唯一解；取 $b = 0$ 時，唯一解就是 $x = 0$。

思考檢查

如果 $A$ 可逆，$A^t$ 是否可逆？

用轉置定理回答。

解答 · 答案

是。$A^t$ 可逆，而且 $(A^t)^{-1} = (A^{-1})^t$。

思考檢查

若 $B = GA$，而 $G$ 可逆，同時 $A$ 的欄滿足 $a_3 = 2a_1 - a_2$，那麼 $B$ 的對應欄必須滿足甚麼關係？

保留同一組係數，並用 $b_j = Ga_j$。

解答 · 答案

$B$ 的對應欄必須滿足

$$b_3 = 2b_1 - b_2.$$

行等價會改變欄向量本身，但不會改變線性關係所用的係數模式。

思考檢查

假設 $A,B,C,D$ 都是方陣，且 $ABCD=I$。哪一個循環等式必然成立：$DABC=I$ 還是 $DCBA=I$？

把原式分組成 $(ABC)D=I$。

解答 · 答案

$DABC=I$ 必然成立。因為 $(ABC)D=I$，方陣的一側單位等式定理說明 $D$ 是 $ABC$ 的逆矩陣，所以 $D(ABC)=I$。而 $DCBA=I$ 是把因子倒序重排，通常不會 被原式保證。

思考檢查

在上面的參數化逆矩陣中，當 $\alpha=3$ 時，$A_\alpha^{-1}$ 的 $(1,4)$ 元素是多少？

把 $\alpha=3$ 代入第一行第四欄。

解答 · 答案

$(1,4)$ 元素是 $\alpha-2$，所以當 $\alpha=3$ 時，它等於 $1$。

思考檢查

若對每個向量 $x$ 都有 $A^2x=Ax+x$，哪個矩陣可作為 $A$ 的逆矩陣？

把所有項移到同一邊，再尋找含有 $A$ 的因式分解。

解答 · 答案

逆矩陣是 $A-I$。向量恆等式給出 $(A-I)A=I$；對方陣而言，這個一側單位 等式足以推出 $A$ 可逆。

思考檢查

若行操作把 $[A \mid I_p]$ 化成 $[I_p \mid D]$，$D$ 是甚麼？

只有在確認左邊區塊是單位矩陣後，才讀取右邊區塊。

解答 · 答案

$D=A^{-1}$。同一批把 $A$ 化成 $I_p$ 的行操作，會把 $I_p$ 化成 $A$ 的 逆矩陣。

思考檢查

行變換把 $[A\mid I_p]$ 化成 $[I_p\mid E]$，其中 $A$ 是方陣。說明為甚麼除了 $EA=I_p$，還必有 $AE=I_p$。

區分行操作乘積直接給出的等式，與方陣單側逆定理補上的結論。

解答 · 答案

設初等矩陣的乘積為 $H$，兩個分塊直接給出 $HA=I_p$ 和 $HI_p=E$。因此 $H=E$，並且 $EA=I_p$。由於 $A$ 與 $E$ 是同階方陣，左逆也必是右逆，所以 $E=A^{-1}$ 且 $AE=I_p$。最後這個推論必須使用方陣假設。

練習

思考檢查

假設 $A$ 可逆，而且 $AB = I_p$。證明 $B = A^{-1}$。

用逆矩陣唯一性或者左乘 $A^{-1}$ 都可以。

解答 · 引導解答

因為 $A$ 可逆，所以存在 $A^{-1}$。將等式 $AB = I_p$ 左乘 $A^{-1}$，得

$$A^{-1}(AB) = A^{-1}I_p.$$

由結合律，

$$(A^{-1}A)B = A^{-1}.$$

而 $A^{-1}A = I_p$，所以

$$B = A^{-1}.$$

因此任何可逆方陣的右逆都必定等於其逆矩陣。

思考檢查

假設 $(A-B)A=I$，其中 $A$ 和 $B$ 是方陣。證明 $A$ 和 $B$ 可交換。

先使用方陣的一側單位等式定理，再展開 $AB-BA$。

解答 · 引導解答

由 $(A-B)A=I$，方陣的一側單位等式定理給出

$$A(A-B)=I.$$

現在計算交換子：

$$AB-BA = AB-A^2+A^2-BA.$$

把兩部分重新分組：

$$AB-A^2 = A(B-A) = -A(A-B),$$

以及

$$A^2-BA = (A-B)A.$$

因此

$$AB-BA = -A(A-B)+(A-B)A = -I+I=0.$$

所以 $AB=BA$，即 $A$ 和 $B$ 可交換。

相關筆記

這一頁特別依賴 2.3 高斯消元與 RREF、 3.2 矩陣乘法、單位矩陣與線性方程組 和 3.3 轉置、對稱矩陣與反對稱矩陣。

零空間只有零向量與解的唯一性之間的關係，見 4.1 齊次方程組與零空間。