有限實矩陣乘法法則的證明
設 m , n , p , q m,n,p,q m , n , p , q 為正整數,A ∈ R m × n A\in\mathbb R^{m\times n} A ∈ R m × n 、B ∈ R n × p B\in\mathbb R^{n\times p} B ∈ R n × p 、C ∈ R p × q C\in\mathbb R^{p\times q} C ∈ R p × q 。以下只用行乘欄定義與實數的有限求和。對任意輸出位置 ( i , ℓ ) (i,\ell) ( i , ℓ ) ,
( ( A B ) C ) i ℓ = ∑ k = 1 p ( ∑ j = 1 n a i j b j k ) c k ℓ = ∑ j = 1 n a i j ( ∑ k = 1 p b j k c k ℓ ) = ( A ( B C ) ) i ℓ . \begin{aligned}
((AB)C)_{i\ell}
&=\sum_{k=1}^{p}\left(\sum_{j=1}^{n}a_{ij}b_{jk}\right)c_{k\ell}\\
&=\sum_{j=1}^{n}a_{ij}\left(\sum_{k=1}^{p}b_{jk}c_{k\ell}\right)
=(A(BC))_{i\ell}.
\end{aligned} (( A B ) C ) i ℓ = k = 1 ∑ p ( j = 1 ∑ n a ij b j k ) c k ℓ = j = 1 ∑ n a ij ( k = 1 ∑ p b j k c k ℓ ) = ( A ( B C ) ) i ℓ .
中間等號只交換兩個有限和的求和次序,並使用實數分配律。兩邊同為 m × q m\times q m × q 矩陣,每個位置相等,便證明結合律;沒有調換矩陣因子的次序。
對 D ∈ R n × p D\in\mathbb R^{n\times p} D ∈ R n × p ,同一定義給出
[ A ( B + D ) ] i k = ∑ j = 1 n a i j ( b j k + d j k ) = ( A B ) i k + ( A D ) i k . [A(B+D)]_{ik}=\sum_{j=1}^{n}a_{ij}(b_{jk}+d_{jk})
=(AB)_{ik}+(AD)_{ik}. [ A ( B + D ) ] ik = j = 1 ∑ n a ij ( b j k + d j k ) = ( A B ) ik + ( A D ) ik .
對 E ∈ R m × n E\in\mathbb R^{m\times n} E ∈ R m × n ,則有
[ ( A + E ) B ] i k = ∑ j = 1 n ( a i j + e i j ) b j k = ( A B ) i k + ( E B ) i k . [(A+E)B]_{ik}=\sum_{j=1}^{n}(a_{ij}+e_{ij})b_{jk}
=(AB)_{ik}+(EB)_{ik}. [( A + E ) B ] ik = j = 1 ∑ n ( a ij + e ij ) b j k = ( A B ) ik + ( E B ) ik .
所以在所寫的相容大小下,兩條分配律均成立。對任意實純量 c c c ,
[ ( c A ) B ] i k = ∑ j ( c a i j ) b j k = c ∑ j a i j b j k = ∑ j a i j ( c b j k ) = [ A ( c B ) ] i k , [(cA)B]_{ik}=\sum_j(ca_{ij})b_{jk}
=c\sum_j a_{ij}b_{jk}
=\sum_j a_{ij}(cb_{jk})=[A(cB)]_{ik}, [( c A ) B ] ik = j ∑ ( c a ij ) b j k = c j ∑ a ij b j k = j ∑ a ij ( c b j k ) = [ A ( c B ) ] ik ,
逐項相等便證明 ( c A ) B = c ( A B ) = A ( c B ) (cA)B=c(AB)=A(cB) ( c A ) B = c ( A B ) = A ( c B ) 。特別地,對 x , y ∈ R n x,y\in\mathbb R^n x , y ∈ R n 與實數 s , t s,t s , t ,
[ A ( s x + t y ) ] i = ∑ j a i j ( s x j + t y j ) = s ( A x ) i + t ( A y ) i . [A(sx+ty)]_i=\sum_j a_{ij}(sx_j+ty_j)
=s(Ax)_i+t(Ay)_i. [ A ( s x + t y ) ] i = j ∑ a ij ( s x j + t y j ) = s ( A x ) i + t ( A y ) i .
這證明了比較同一線性系統的解時所用的矩陣乘向量線性性質。所有恆等式都只針對大小相容的有限實矩陣,不聲稱任意矩陣因子可交換或可消去。
向量空間是在域 F F F 上配備加法和數乘,並滿足通常的阿貝爾群及分配律公理的集合。欄向量只是一個模型。次數至多為 d d d 的多項式空間 P d ( F ) P_d(F) P d ( F ) 和空間之間的線性映射也是模型。零多項式屬於 P d ( F ) P_d(F) P d ( F ) ,雖然其次數通常不定義。
子空間 包含零,且對加法和數乘封閉。若每個向量都是某列表中向量的線性組合,該列表張成空間;若只有零系數組合能得到零,它線性無關。基 同時滿足兩者。有限生成列表可通過刪除相關項縮減成基;線性無關列表可通過添加其張成空間外的向量擴充成基,直到張成給定的有限生成列表。
交換引理。 若 r r r 個向量的線性無關列表位於 s s s 個向量的張成空間中,則 r ≤ s r\le s r ≤ s 。理由是:用生成列表表示第一個無關向量,利用某個非零系數,以它替換一個生成向量,再重複。每一步的線性無關性保證下一個無關向量對尚未被替換的某個生成向量有非零系數,因此至少需要 r r r 個位置。對兩個基雙向比較得到長度相等;共同長度為 dim V \dim V dim V 。
因此在 n n n 維空間中,任意 n n n 個線性無關向量構成基,任意 n n n 個張成向量也構成基。只有在證明線性無關性或張成性之後,計數列表才有用。
不預設計數結論的有限基存在與擴充
設實向量空間 V V V 已給定有限生成列表 t 1 , … , t N t_1,\ldots,t_N t 1 , … , t N 。先證明任何線性無關列表 u 1 , … , u k u_1,\ldots,u_k u 1 , … , u k 的長度不超過 N N N 。插入 j j j 個向量後,維持一個由 u 1 , … , u j u_1,\ldots,u_j u 1 , … , u j 與 N − j N-j N − j 個剩餘舊向量組成的生成列表。將 u j + 1 u_{j+1} u j + 1 按此列表展開,至少一個剩餘舊向量的係數非零;否則它在先前 u i u_i u i 的張成空間中,與無關性矛盾。解出這個舊向量,再以 u j + 1 u_{j+1} u j + 1 取代它。新列表仍張成同一空間,而且保留全部先前插入向量。若 k > N k>N k > N ,則 N N N 步後前 N N N 個向量已張成 V V V ,與 u N + 1 u_{N+1} u N + 1 的無關性矛盾。此即所需上界,也包括 N = 0 N=0 N = 0 。
每個子空間 W W W 都有有限基。從空的無關列表開始;若當前張成空間尚不是 W W W ,就在 W W W 中取一個不在該張成空間內的向量。若新向量在某關係中的係數非零,就能由舊向量表示它,矛盾,故新列表仍無關。已證上界允許至多添加 N N N 次,所以過程必停止於 W W W 的無關生成列表。若 W = { 0 } W=\{0\} W = { 0 } ,立即得到空基。改從 W W W 內任意給定無關列表開始,同樣證明該列表可擴充為 W W W 的基;只需有界有限次選擇。最後,若兩組基的長度為 p , q p,q p , q ,分別把它們用作上界證明中的有限生成列表,得到 p ≤ q p\le q p ≤ q 與 q ≤ p q\le p q ≤ p 。故基的長度有良定義,稱為維數。這些論證補足秩–零度定理所用的基存在、擴充與維數事實。
映射 T : V → W T:V\to W T : V → W 若滿足 T ( α v + β u ) = α T v + β T u T(\alpha v+\beta u)=\alpha Tv+\beta Tu T ( α v + β u ) = α T v + β T u ,則為線性。其核與像都是子空間。選取 ker T \ker T ker T 的基 k 1 , … , k r k_1,\ldots,k_r k 1 , … , k r ,並以 v 1 , … , v s v_1,\ldots,v_s v 1 , … , v s 擴充為基,則 T v 1 , … , T v s Tv_1,\ldots,Tv_s T v 1 , … , T v s 構成 im T \operatorname{im}T im T 的基:展開任意輸入可證明張成性;若這些像線性相關,相應輸入組合落入核,而擴充基的線性無關性迫使所有系數為零。因此
dim V = dim ker T + dim im T . \dim V=\dim\ker T+\dim\operatorname{im}T. dim V = dim ker T + dim im T .
這就是秩–零度定理 。有限維且維數相等時,單射與滿射等價;無限維空間中該等價可能失效。
本節默認純量域是實數域 R \mathbb{R} R :除非特別說明,矩陣、純量和向量都
含有實數元素。所有論證都是代數論證;把 R \mathbb{R} R 換成複數域
C \mathbb{C} C 後,同樣的推理仍然成立,但可用的特徵值可能更多。
單個特徵向量已經有用;若一個方陣擁有足夠多線性無關的特徵向量,就可
以找到一個座標系,使矩陣的作用變成對角的。這裡的「足夠多」有精確定義:
對於 n × n n\times n n × n 矩陣,需要 n n n 個線性無關的特徵向量,它們才會形成
R n \mathbb{R}^n R n 的一組基底。此後矩陣的冪與逆矩陣可以轉化為對角線上逐項
計算。
相似就是換座標
座標轉換矩陣的構造見基底擴充與換基 。
設 S S S 可逆,令 x = S y x=Sy x = S y ,其中 y y y 是向量在由 S S S 的欄組成的新基底下的座標。
記 B = S − 1 A S B=S^{-1}AS B = S − 1 A S ,則
A x = A S y = S B y . Ax=ASy=SBy. A x = A S y = S B y .
所以 A A A 作用於原座標中的 x x x ,正好對應 B B B 作用於新座標中的 y y y 。
這也說明為甚麼等式左邊必須有 S − 1 S^{-1} S − 1 :先由 y y y 轉回 x = S y x=Sy x = S y ,再應用
A A A ,最後用 S − 1 S^{-1} S − 1 把輸出轉回新座標,得到的正是 S − 1 A S y S^{-1}ASy S − 1 A S y 。矩陣
S S S 必須可逆,否則 y ↦ S y y\mapsto Sy y ↦ S y 不能提供座標系統;相似允許改變座標
標籤,卻不允許沒有依據地把一個矩陣替換成另一個矩陣。
定義
相似 同一純量域上的兩個 n × n n\times n n × n 矩陣 A A A 與 B B B ,若存在可逆矩陣 S S S 使
S − 1 A S = B , S^{-1}AS=B, S − 1 A S = B , 則稱 A A A 與 B B B 相似 。
定義
對角化與可對角化 設 A A A 是 n × n n\times n n × n 矩陣。若存在可逆矩陣 S S S 與純量
λ 1 , … , λ n \lambda_1,\ldots,\lambda_n λ 1 , … , λ n ,使
S − 1 A S = D = diag ( λ 1 , … , λ n ) , S^{-1}AS=D=\operatorname{diag}(\lambda_1,\ldots,\lambda_n), S − 1 A S = D = diag ( λ 1 , … , λ n ) , 則稱這個等式是 A A A 的一個對角化 ,並稱 A A A 可對角化 。
對角化是目標矩陣為對角矩陣的特殊相似關係。對角線上的數值只有在與
S S S 的欄保持同一次序時才有意義。
特徵向量字典
定理
一個對角化等式的刻畫 設 A A A 是 n × n n\times n n × n 矩陣,且
S = [ v 1 v 2 ⋯ v n ] S=[v_1\ v_2\ \cdots\ v_n] S = [ v 1 v 2 ⋯ v n ] 是可逆矩陣。令 D = diag ( λ 1 , … , λ n ) D=\operatorname{diag}(\lambda_1,\ldots,\lambda_n) D = diag ( λ 1 , … , λ n ) 。以下
敘述等價:
對每個 j = 1 , … , n j=1,\ldots,n j = 1 , … , n ,都有 A v j = λ j v j Av_j=\lambda_jv_j A v j = λ j v j ;
A S = S D AS=SD A S = S D ;
S − 1 A S = D S^{-1}AS=D S − 1 A S = D ;
A = S D S − 1 A=SDS^{-1} A = S D S − 1 。
證明
四種等價形式及其依賴關係 A S AS A S 的第 j j j 欄是 A v j Av_j A v j ,S D SD S D 的第 j j j 欄是 λ j v j \lambda_jv_j λ j v j ,所以所有
逐欄等式合在一起恰好就是 A S = S D AS=SD A S = S D 。由於 S S S 已經聲明可逆,左乘 S − 1 S^{-1} S − 1
得到 S − 1 A S = D S^{-1}AS=D S − 1 A S = D ;另一種做法是直接對原來的 A S = S D AS=SD A S = S D 右乘 S − 1 S^{-1} S − 1 ,得到 A = S D S − 1 A=SDS^{-1} A = S D S − 1 。反過來,對這兩
個等式作相應的乘法即可恢復 A S = S D AS=SD A S = S D ,再逐欄恢復特徵向量方程。可逆性
必須在約去 S − 1 S S^{-1}S S − 1 S 之前說明;可逆矩陣的欄也自動非零。
這條字典能防止次序錯誤。如果 S S S 的第一欄對應 λ 1 \lambda_1 λ 1 、第二欄對應
λ 2 \lambda_2 λ 2 ,則對角線必須按 λ 1 , λ 2 \lambda_1,\lambda_2 λ 1 , λ 2 排列。若用置換矩陣
Q Q Q 改變欄的次序,就必須同時改變對角線的次序。
同樣,若 V = [ v 1 ⋯ v p ] V=[v_1\ \cdots\ v_p] V = [ v 1 ⋯ v p ] 是 n × p n\times p n × p 矩陣,且 D = diag ( μ 1 , … , μ p ) D=\operatorname{diag}(\mu_1,\ldots,\mu_p) D = diag ( μ 1 , … , μ p ) ,則 A V = V D AV=VD A V = V D 等價於每一欄都滿足 A v j = μ j v j Av_j=\mu_jv_j A v j = μ j v j 。當 p < n p<n p < n 時,這仍能記錄部分特徵向量的方程,卻不是對角化:非方陣 V V V 沒有雙邊逆,線性相關的欄也不能組成完整座標系。只有 p = n p=n p = n 且各欄線性無關時,這個等式才給出對角化。
定理
可對角化的精確判準 實數域上的 n × n n\times n n × n 矩陣 A A A 可對角化,當且僅當它有 n n n 個線性無關
的實特徵向量。等價地,這些特徵向量可以組成 R n \mathbb{R}^n R n 的一組基底。
必要性來自對角化矩陣 S S S 的 n n n 個欄:S S S 可逆,所以欄向量線性無關,
特徵向量字典又說明它們都是特徵向量。充分性則是把 n n n 個線性無關的
特徵向量作為欄組成 S S S ;線性無關保證 S S S 可逆,字典隨即給出對角化。
僅僅列出 n n n 個特徵向量並不夠,因為重複或線性相關的向量不能組成座標
基底。
對角化例子
例題
由一個 2 乘 2 矩陣建立 S S S 和 D D D 令
A = [ 2 1 1 2 ] . A=\begin{bmatrix}2&1\\1&2\end{bmatrix}. A = [ 2 1 1 2 ] . 特徵多項式為
det ( A − λ I ) = ( 2 − λ ) 2 − 1 = λ 2 − 4 λ + 3 = ( λ − 1 ) ( λ − 3 ) . \det(A-\lambda I)=(2-\lambda)^2-1
=\lambda^2-4\lambda+3=(\lambda-1)(\lambda-3). det ( A − λ I ) = ( 2 − λ ) 2 − 1 = λ 2 − 4 λ + 3 = ( λ − 1 ) ( λ − 3 ) . 對 λ = 3 \lambda=3 λ = 3 ,方程 ( A − 3 I ) x = 0 (A-3I)x=0 ( A − 3 I ) x = 0 給出 x 2 = x 1 x_2=x_1 x 2 = x 1 ,所以取
v 1 = [ 1 1 ] v_1=\begin{bmatrix}1\\1\end{bmatrix} v 1 = [ 1 1 ] 。對 λ = 1 \lambda=1 λ = 1 ,方程
( A − I ) x = 0 (A-I)x=0 ( A − I ) x = 0 給出 x 2 = − x 1 x_2=-x_1 x 2 = − x 1 ,所以取
v 2 = [ 1 − 1 ] v_2=\begin{bmatrix}1\\-1\end{bmatrix} v 2 = [ 1 − 1 ] 。按此順序組成
S = [ 1 1 1 − 1 ] , D = [ 3 0 0 1 ] . S=\begin{bmatrix}1&1\\1&-1\end{bmatrix},\qquad
D=\begin{bmatrix}3&0\\0&1\end{bmatrix}. S = [ 1 1 1 − 1 ] , D = [ 3 0 0 1 ] . det ( S ) = − 2 \det(S)=-2 det ( S ) = − 2 ,並且
S − 1 = 1 2 [ 1 1 1 − 1 ] = 1 2 S . S^{-1}=\frac12\begin{bmatrix}1&1\\1&-1\end{bmatrix}=\frac12S. S − 1 = 2 1 [ 1 1 1 − 1 ] = 2 1 S . 兩條逐欄等式給出 A S = S D AS=SD A S = S D ,因而 S − 1 A S = D S^{-1}AS=D S − 1 A S = D 。再作座標檢查:取
x = [ 3 1 ] x=\begin{bmatrix}3\\1\end{bmatrix} x = [ 3 1 ] ,則
x = S y x=Sy x = S y ,其中 y = [ 2 1 ] y=\begin{bmatrix}2\\1\end{bmatrix} y = [ 2 1 ] ,所以
D y = [ 6 1 ] , S D y = [ 7 5 ] = A x . Dy=\begin{bmatrix}6\\1\end{bmatrix},\qquad
SDy=\begin{bmatrix}7\\5\end{bmatrix}=Ax. D y = [ 6 1 ] , S D y = [ 7 5 ] = A x . 在新座標中作對角計算,和原矩陣直接作用的結果一致。
例題
一個可對角化的上三角矩陣 令
A = [ 1 1 1 0 2 2 0 0 3 ] . A=\begin{bmatrix}1&1&1\\0&2&2\\0&0&3\end{bmatrix}. A = 1 0 0 1 2 0 1 2 3 . 取以下特徵向量
u 1 = [ 1 0 0 ] , u 2 = [ 1 1 0 ] , u 3 = [ 3 4 2 ] , u_1=\begin{bmatrix}1\\0\\0\end{bmatrix},\quad
u_2=\begin{bmatrix}1\\1\\0\end{bmatrix},\quad
u_3=\begin{bmatrix}3\\4\\2\end{bmatrix}, u 1 = 1 0 0 , u 2 = 1 1 0 , u 3 = 3 4 2 , 它們對應的特徵值依次為 1 , 2 , 3 1,2,3 1 , 2 , 3 。令
U = [ u 1 u 2 u 3 ] = [ 1 1 3 0 1 4 0 0 2 ] , D = diag ( 1 , 2 , 3 ) . U=[u_1\ u_2\ u_3]=\begin{bmatrix}1&1&3\\0&1&4\\0&0&2\end{bmatrix},
\quad D=\operatorname{diag}(1,2,3). U = [ u 1 u 2 u 3 ] = 1 0 0 1 1 0 3 4 2 , D = diag ( 1 , 2 , 3 ) . det ( U ) = 2 \det(U)=2 det ( U ) = 2 ,所以 U U U 可逆,且
U − 1 = [ 1 − 1 1 / 2 0 1 − 2 0 0 1 / 2 ] . U^{-1}=\begin{bmatrix}1&-1&1/2\\0&1&-2\\0&0&1/2\end{bmatrix}. U − 1 = 1 0 0 − 1 1 0 1/2 − 2 1/2 . 直接相乘可得
A u 1 = [ 1 0 0 ] = 1 u 1 , A u 2 = [ 2 2 0 ] = 2 u 2 , A u 3 = [ 9 12 6 ] = 3 u 3 . Au_1=\begin{bmatrix}1\\0\\0\end{bmatrix}=1u_1,\quad
Au_2=\begin{bmatrix}2\\2\\0\end{bmatrix}=2u_2,\quad
Au_3=\begin{bmatrix}9\\12\\6\end{bmatrix}=3u_3. A u 1 = 1 0 0 = 1 u 1 , A u 2 = 2 2 0 = 2 u 2 , A u 3 = 9 12 6 = 3 u 3 . 所以 A U = U D AU=UD A U = U D ,並且 U − 1 A U = diag ( 1 , 2 , 3 ) U^{-1}AU=\operatorname{diag}(1,2,3) U − 1 A U = diag ( 1 , 2 , 3 ) 。真正保證可
對角化的是線性無關的特徵向量,而不是上三角形狀本身。
例題
重複特徵值不一定給出完整特徵基 考慮
J = [ 1 4 0 1 ] . J=\begin{bmatrix}1&4\\0&1\end{bmatrix}. J = [ 1 0 4 1 ] . det ( J − λ I ) = ( 1 − λ ) 2 \det(J-\lambda I)=(1-\lambda)^2 det ( J − λ I ) = ( 1 − λ ) 2 ,所以唯一特徵值是 1 1 1 。而
( J − I ) x = [ 0 4 0 0 ] [ x 1 x 2 ] = 0 (J-I)x=\begin{bmatrix}0&4\\0&0\end{bmatrix}
\begin{bmatrix}x_1\\x_2\end{bmatrix}=0 ( J − I ) x = [ 0 0 4 0 ] [ x 1 x 2 ] = 0 迫使 x 2 = 0 x_2=0 x 2 = 0 ,x 1 x_1 x 1 任意。因此特徵空間是
span { [ 1 0 ] } \operatorname{span}\{\begin{bmatrix}1\\0\end{bmatrix}\} span { [ 1 0 ] } ,維數只有一。
2 × 2 2\times2 2 × 2 矩陣需要兩個線性無關的特徵向量,所以 J J J 不可對角化。重複
特徵值並不自動排除對角化,關鍵是對應特徵空間是否提供足夠多的方向。
置換與相似不變量
若 Q Q Q 是 n × n n\times n n × n 置換矩陣,且 A = S D S − 1 A=SDS^{-1} A = S D S − 1 ,則 S Q SQ S Q 仍可逆,並且
( S Q ) − 1 A ( S Q ) = Q − 1 S − 1 A S Q = Q − 1 D Q . (SQ)^{-1}A(SQ)=Q^{-1}S^{-1}ASQ=Q^{-1}DQ. ( S Q ) − 1 A ( S Q ) = Q − 1 S − 1 A S Q = Q − 1 D Q .
右側仍是對角矩陣,只是對角元素按 Q Q Q 重排。因此對角化通常不唯一。
把任一特徵向量欄乘以非零純量也可以,只要相應的對角值和欄次序仍然
同步。
定理
相似矩陣有相同的特徵多項式 若 B = S − 1 A S B=S^{-1}AS B = S − 1 A S ,其中 S S S 可逆,則
det ( B − t I ) = det ( S − 1 ( A − t I ) S ) = det ( A − t I ) . \det(B-tI)=\det\bigl(S^{-1}(A-tI)S\bigr)=\det(A-tI). det ( B − t I ) = det ( S − 1 ( A − t I ) S ) = det ( A − t I ) . 所以相似矩陣有相同的特徵多項式,也有相同的特徵值(按代數重數計)。
這裡使用 S − 1 ( A − t I ) S = S − 1 A S − t S − 1 I S S^{-1}(A-tI)S=S^{-1}AS-tS^{-1}IS S − 1 ( A − t I ) S = S − 1 A S − t S − 1 I S 、S − 1 I S = I S^{-1}IS=I S − 1 I S = I ,以及行列
式的乘法性質。相似並不表示兩個矩陣的元素或特徵向量相同;相應的特徵
空間由座標轉換相互對應。
反例模式
相同特徵資料不足以證明相似 令
N = [ 0 1 0 0 ] , 0 2 = [ 0 0 0 0 ] . N=\begin{bmatrix}0&1\\0&0\end{bmatrix},\qquad
0_2=\begin{bmatrix}0&0\\0&0\end{bmatrix}. N = [ 0 0 1 0 ] , 0 2 = [ 0 0 0 0 ] . 兩者的特徵多項式都是 t 2 t^2 t 2 ,但它們不相似。對任意可逆矩陣 S S S ,都有
S − 1 0 2 S = 0 2 S^{-1}0_2S=0_2 S − 1 0 2 S = 0 2 ,而 N ≠ 0 2 N\ne0_2 N = 0 2 。相同特徵多項式是相似的必要條件,
不是充分條件。
冪、逆矩陣與轉置
定理
由一次對角化得到冪、逆矩陣與轉置 設 A = S D S − 1 A=SDS^{-1} A = S D S − 1 ,其中 S S S 可逆,且
D = diag ( λ 1 , … , λ n ) D=\operatorname{diag}(\lambda_1,\ldots,\lambda_n) D = diag ( λ 1 , … , λ n ) 。對每個正整數 m m m ,
A m = S D m S − 1 , D m = diag ( λ 1 m , … , λ n m ) . A^m=SD^mS^{-1},\qquad
D^m=\operatorname{diag}(\lambda_1^m,\ldots,\lambda_n^m). A m = S D m S − 1 , D m = diag ( λ 1 m , … , λ n m ) . 若 A A A 可逆,則所有 λ j \lambda_j λ j 非零,並且
A − 1 = S D − 1 S − 1 A^{-1}=SD^{-1}S^{-1} A − 1 = S D − 1 S − 1 。此外,A T A^T A T 也可對角化,並有相同特徵值。
正整數公式從 m = 1 m=1 m = 1 開始;另行規定 A 0 = I n A^0=I_n A 0 = I n 、D 0 = I n D^0=I_n D 0 = I n 。負整數冪需要
可逆性:只有當每個對角元素非零時,D − 1 D^{-1} D − 1 和 A − 1 A^{-1} A − 1 才存在,才能
把公式延伸到 m < 0 m<0 m < 0 。
證明
冪與轉置公式為甚麼成立 若已知 A m = S D m S − 1 A^m=SD^mS^{-1} A m = S D m S − 1 ,則
A m + 1 = ( S D m S − 1 ) ( S D S − 1 ) = S D m + 1 S − 1 , A^{m+1}=(SD^mS^{-1})(SDS^{-1})=SD^{m+1}S^{-1}, A m + 1 = ( S D m S − 1 ) ( S D S − 1 ) = S D m + 1 S − 1 , 其中約去了相鄰的 S − 1 S S^{-1}S S − 1 S ,這給出歸納步驟。逆矩陣的因子次序反過來,
所以 ( S D S − 1 ) − 1 = S D − 1 S − 1 (SDS^{-1})^{-1}=SD^{-1}S^{-1} ( S D S − 1 ) − 1 = S D − 1 S − 1 。對轉置,
A T = ( S − 1 ) T D S T . A^T=(S^{-1})^TDS^T. A T = ( S − 1 ) T D S T . 令 W = ( S − 1 ) T W=(S^{-1})^T W = ( S − 1 ) T ,則 W − 1 = S T W^{-1}=S^T W − 1 = S T ,從而
W − 1 A T W = D T = D W^{-1}A^TW=D^T=D W − 1 A T W = D T = D 。因此 W W W 的欄是 A T A^T A T 的特徵向量;原來 S S S 的欄
未必是 A T A^T A T 的特徵向量。
例題
通過對角化計算對稱矩陣的所有正整數冪 令
B = [ 2 1 1 1 2 1 1 1 2 ] , S = [ 1 1 1 1 − 1 0 1 0 − 1 ] , S − 1 = 1 3 [ 1 1 1 1 − 2 1 1 1 − 2 ] , B=\begin{bmatrix}2&1&1\\1&2&1\\1&1&2\end{bmatrix},\quad
S=\begin{bmatrix}1&1&1\\1&-1&0\\1&0&-1\end{bmatrix},\quad
S^{-1}=\frac13\begin{bmatrix}1&1&1\\1&-2&1\\1&1&-2\end{bmatrix}, B = 2 1 1 1 2 1 1 1 2 , S = 1 1 1 1 − 1 0 1 0 − 1 , S − 1 = 3 1 1 1 1 1 − 2 1 1 1 − 2 , 並令 D = diag ( 4 , 1 , 1 ) D=\operatorname{diag}(4,1,1) D = diag ( 4 , 1 , 1 ) 。S S S 的三欄是特徵向量,所以
B = S D S − 1 B=SDS^{-1} B = S D S − 1 。對任意正整數 m m m ,
B m = 1 3 [ 4 m + 2 4 m − 1 4 m − 1 4 m − 1 4 m + 2 4 m − 1 4 m − 1 4 m − 1 4 m + 2 ] . B^m=\frac13\begin{bmatrix}
4^m+2&4^m-1&4^m-1\\
4^m-1&4^m+2&4^m-1\\
4^m-1&4^m-1&4^m+2
\end{bmatrix}. B m = 3 1 4 m + 2 4 m − 1 4 m − 1 4 m − 1 4 m + 2 4 m − 1 4 m − 1 4 m − 1 4 m + 2 . 當 m = 1 m=1 m = 1 時,對角元素為 2 2 2 、非對角元素為 1 1 1 ,恢復原矩陣;當 m = 2 m=2 m = 2
時,對角元素為 6 6 6 、非對角元素為 5 5 5 ,與直接相乘相同。之後計算其他
正整數冪時,不需要重新尋找特徵向量。
複數擴展與共同特徵基
在實數域上,
R = [ 1 − 1 1 1 ] R=\begin{bmatrix}1&-1\\1&1\end{bmatrix} R = [ 1 1 − 1 1 ]
的特徵多項式是 ( 1 − λ ) 2 + 1 (1-\lambda)^2+1 ( 1 − λ ) 2 + 1 ,沒有實特徵值,所以不能在
R \mathbb{R} R 上對角化。在 C \mathbb{C} C 上可以取
U = [ i − i 1 1 ] , U − 1 = 1 2 [ − i 1 i 1 ] , D = diag ( 1 + i , 1 − i ) . U=\begin{bmatrix}i&-i\\1&1\end{bmatrix},\quad
U^{-1}=\frac12\begin{bmatrix}-i&1\\i&1\end{bmatrix},\quad
D=\operatorname{diag}(1+i,1-i). U = [ i 1 − i 1 ] , U − 1 = 2 1 [ − i i 1 1 ] , D = diag ( 1 + i , 1 − i ) .
此時 U − 1 R U = D U^{-1}RU=D U − 1 R U = D ,且 det ( U ) = 2 i ≠ 0 \det(U)=2i\ne0 det ( U ) = 2 i = 0 。這說明複數對角化是換了純量
域,並不與實數域上的結論矛盾。
定理
擁有共同特徵基的和與積 若 A = S D S − 1 A=SDS^{-1} A = S D S − 1 、B = S E S − 1 B=SES^{-1} B = S E S − 1 使用同一個可逆矩陣 S S S ,且 D , E D,E D , E 都是
對角矩陣,則對任意純量 α , β \alpha,\beta α , β ,
α A + β B = S ( α D + β E ) S − 1 , A B = S D E S − 1 . \alpha A+\beta B=S(\alpha D+\beta E)S^{-1},\qquad
AB=SDE S^{-1}. α A + β B = S ( α D + β E ) S − 1 , A B = S D E S − 1 . 中間的矩陣仍為對角矩陣,所以這些矩陣由同一組基底同時對角化。
證明只需分配律和 S − 1 S = I S^{-1}S=I S − 1 S = I :
α S D S − 1 + β S E S − 1 = S ( α D + β E ) S − 1 \alpha SDS^{-1}+\beta SES^{-1}=S(\alpha D+\beta E)S^{-1} α S D S − 1 + β S E S − 1 = S ( α D + β E ) S − 1 ,而
( S D S − 1 ) ( S E S − 1 ) = S D E S − 1 (SDS^{-1})(SES^{-1})=SDE S^{-1} ( S D S − 1 ) ( S E S − 1 ) = S D E S − 1 。共同的 S S S 是必要條件;分別可對角化
並不能自動提供共同特徵基。
重複特徵值能說明甚麼
特徵多項式記錄代數重數,特徵空間維數記錄可用的線性無關特徵向量數目,兩者回答
不同問題。若重複特徵值的特徵空間維數不足,重新排列欄向量也不能創造缺少的方向,
矩陣 J J J 正好顯示了這種障礙。若特徵空間有足夠維數,重複的對角元素並不會造成
問題;對角矩陣本身也可以重複同一個特徵值,同時仍有完整特徵基。
相似關係保持特徵多項式,是因為它只改變同一個線性作用的座標表示。若
A v = λ v Av=\lambda v A v = λ v 且 B = S − 1 A S B=S^{-1}AS B = S − 1 A S ,則 B ( S − 1 v ) = λ ( S − 1 v ) B(S^{-1}v)=\lambda(S^{-1}v) B ( S − 1 v ) = λ ( S − 1 v ) ;由於 S − 1 S^{-1} S − 1
可逆,向量不會變成零。這說明特徵值相同,但字面上的特徵向量通常不同。也因此,
特徵多項式只是必要的不變量,不能記錄特徵空間如何排列。
核對最後的證明依據
要判斷給定數域上的可對角化性,先找出所有特徵值,再把各特徵空間的維數相加。
這個總數恰為 n n n ,當且僅當一個 n × n n\times n n × n 矩陣有特徵基。把選出的有序基底
作為 S S S 的欄,讓 D D D 中的特徵值使用同一次序,再驗證 A S = S D AS=SD A S = S D 和 S S S 可逆。
這兩項便能確認所寫的對角化,不必重新計算一次 S − 1 S^{-1} S − 1 。
快速檢查與練習
思考檢查
設 S S S 可逆,且 S − 1 A S = D S^{-1}AS=D S − 1 A S = D 為對角矩陣。S S S 的各欄與 A A A 的特徵向量及 D D D 的對角元素有甚麼關係?
解答 · 答案 各欄必須是 A A A 的線性無關特徵向量,組成特徵基底;第 j j j 欄對應 D D D 的第 j j j 個對角元素。
思考檢查
一個可對角化的 3×3 矩陣,其最多能有兩個線性無關的特徵向量嗎?
解答 · 答案 不能。可對角化的 3 × 3 3\times3 3 × 3 矩陣最多的線性無關特徵向量數目是三個,不可能只有兩個。
思考檢查
若 A A A 與對角矩陣 D D D 相似,它們有相同特徵值嗎?
解答 · 答案 有。相似矩陣有相同的特徵多項式,因此有相同特徵值(按代數重數計)。
思考檢查
設 A A A 有特徵向量 v 1 , v 2 , v 3 v_1,v_2,v_3 v 1 , v 2 , v 3 ,對應特徵值為 2 , 5 , − 1 2,5,-1 2 , 5 , − 1 ,且三向量線性無關。3 × 3 3×3 3 × 3 矩陣 A A A 的對角化中出現甚麼對角矩陣?
解答 · 導引解答 若 S = [ v 1 v 2 v 3 ] S=[v_1\ v_2\ v_3] S = [ v 1 v 2 v 3 ] ,則
S − 1 A S = diag ( 2 , 5 , − 1 ) . S^{-1}AS=\operatorname{diag}(2,5,-1). S − 1 A S = diag ( 2 , 5 , − 1 ) .
思考檢查
為甚麼 J = [ 1 4 0 1 ] J=\begin{bmatrix}1&4\\0&1\end{bmatrix} J = [ 1 0 4 1 ] 不可對角化?
解答 · 導引解答 唯一特徵值是 1 1 1 ,而 ( J − I ) x = 0 (J-I)x=0 ( J − I ) x = 0 強制 x 2 = 0 x_2=0 x 2 = 0 ,所以特徵空間只有一維;
2 × 2 2\times2 2 × 2 矩陣需要兩個線性無關的特徵向量。
思考檢查
若 A = S D S − 1 A=SDS^{-1} A = S D S − 1 ,且 D = diag ( 2 , − 1 ) D=\operatorname{diag}(2,-1) D = diag ( 2 , − 1 ) ,則 A 3 A^3 A 3 是甚麼?
解答 · 導引解答 A 3 = S D 3 S − 1 = S diag ( 8 , − 1 ) S − 1 . A^3=SD^3S^{-1}=S\operatorname{diag}(8,-1)S^{-1}. A 3 = S D 3 S − 1 = S diag ( 8 , − 1 ) S − 1 .
相關筆記
若還不熟悉齊次方程組的觀點,請先閱讀
8.1 特徵值、特徵向量與特徵空間 。
接著閱讀
8.3 特徵多項式與對角化判別 ,
學習判斷特徵向量是否足夠的多項式工具。本節的基底語言也依賴
6.5 基底與維數 。