有限實矩陣乘法法則的證明
設 m , n , p , q m,n,p,q m , n , p , q 為正整數,A ∈ R m × n A\in\mathbb R^{m\times n} A ∈ R m × n 、B ∈ R n × p B\in\mathbb R^{n\times p} B ∈ R n × p 、C ∈ R p × q C\in\mathbb R^{p\times q} C ∈ R p × q 。以下只用行乘欄定義與實數的有限求和。對任意輸出位置 ( i , ℓ ) (i,\ell) ( i , ℓ ) ,
( ( A B ) C ) i ℓ = ∑ k = 1 p ( ∑ j = 1 n a i j b j k ) c k ℓ = ∑ j = 1 n a i j ( ∑ k = 1 p b j k c k ℓ ) = ( A ( B C ) ) i ℓ . \begin{aligned}
((AB)C)_{i\ell}
&=\sum_{k=1}^{p}\left(\sum_{j=1}^{n}a_{ij}b_{jk}\right)c_{k\ell}\\
&=\sum_{j=1}^{n}a_{ij}\left(\sum_{k=1}^{p}b_{jk}c_{k\ell}\right)
=(A(BC))_{i\ell}.
\end{aligned} (( A B ) C ) i ℓ = k = 1 ∑ p ( j = 1 ∑ n a ij b j k ) c k ℓ = j = 1 ∑ n a ij ( k = 1 ∑ p b j k c k ℓ ) = ( A ( B C ) ) i ℓ .
中間等號只交換兩個有限和的求和次序,並使用實數分配律。兩邊同為 m × q m\times q m × q 矩陣,每個位置相等,便證明結合律;沒有調換矩陣因子的次序。
對 D ∈ R n × p D\in\mathbb R^{n\times p} D ∈ R n × p ,同一定義給出
[ A ( B + D ) ] i k = ∑ j = 1 n a i j ( b j k + d j k ) = ( A B ) i k + ( A D ) i k . [A(B+D)]_{ik}=\sum_{j=1}^{n}a_{ij}(b_{jk}+d_{jk})
=(AB)_{ik}+(AD)_{ik}. [ A ( B + D ) ] ik = j = 1 ∑ n a ij ( b j k + d j k ) = ( A B ) ik + ( A D ) ik .
對 E ∈ R m × n E\in\mathbb R^{m\times n} E ∈ R m × n ,則有
[ ( A + E ) B ] i k = ∑ j = 1 n ( a i j + e i j ) b j k = ( A B ) i k + ( E B ) i k . [(A+E)B]_{ik}=\sum_{j=1}^{n}(a_{ij}+e_{ij})b_{jk}
=(AB)_{ik}+(EB)_{ik}. [( A + E ) B ] ik = j = 1 ∑ n ( a ij + e ij ) b j k = ( A B ) ik + ( E B ) ik .
所以在所寫的相容大小下,兩條分配律均成立。對任意實純量 c c c ,
[ ( c A ) B ] i k = ∑ j ( c a i j ) b j k = c ∑ j a i j b j k = ∑ j a i j ( c b j k ) = [ A ( c B ) ] i k , [(cA)B]_{ik}=\sum_j(ca_{ij})b_{jk}
=c\sum_j a_{ij}b_{jk}
=\sum_j a_{ij}(cb_{jk})=[A(cB)]_{ik}, [( c A ) B ] ik = j ∑ ( c a ij ) b j k = c j ∑ a ij b j k = j ∑ a ij ( c b j k ) = [ A ( c B ) ] ik ,
逐項相等便證明 ( c A ) B = c ( A B ) = A ( c B ) (cA)B=c(AB)=A(cB) ( c A ) B = c ( A B ) = A ( c B ) 。特別地,對 x , y ∈ R n x,y\in\mathbb R^n x , y ∈ R n 與實數 s , t s,t s , t ,
[ A ( s x + t y ) ] i = ∑ j a i j ( s x j + t y j ) = s ( A x ) i + t ( A y ) i . [A(sx+ty)]_i=\sum_j a_{ij}(sx_j+ty_j)
=s(Ax)_i+t(Ay)_i. [ A ( s x + t y ) ] i = j ∑ a ij ( s x j + t y j ) = s ( A x ) i + t ( A y ) i .
這證明了比較同一線性系統的解時所用的矩陣乘向量線性性質。所有恆等式都只針對大小相容的有限實矩陣,不聲稱任意矩陣因子可交換或可消去。
有限消元必停止,並保持解集
設 A ∈ R m × n A\in\mathbb R^{m\times n} A ∈ R m × n 、b ∈ R m b\in\mathbb R^m b ∈ R m ,其中 m , n m,n m , n 是有限正整數。允許的行變換為交換不同的兩行、以非零標量乘一行,以及把一行的標量倍加到另一行。逆變換分別為同一交換、乘以倒數,以及減去該倍數。因此對整個增廣陣施行變換恰好保持 A x = b Ax=b A x = b 的解集:新方程由舊方程推出,逆變換給出反向蘊含。每個行變換也等於左乘把同一變換施於單位矩陣所得的可逆初等矩陣。
從左到右掃描係數欄,並記錄下一未使用行。若當前欄在未使用行中有非零元素,就將其所在行交換到下一位置,除以非零主元,再從其餘各行減去適當倍數,清空該欄其他元素,然後推進未使用行指標。若該欄所有未使用位置都是零,就跳過該欄。先前主元欄始終是單位欄:當前未使用行在這些欄均為零,所以新主元行以及後續減法保留這些零與原主元。總共只有 n n n 次欄掃描及至多 min ( m , n ) \min(m,n) min ( m , n ) 個主元,每次只作有限個行變換,故算法必停止。最後非零係數行的主元欄依次遞增,各主元上下均為零,其餘係數行全零。這證明下面使用的簡化階梯形確實能得到,而非假設它最終出現。
解的分類與齊次自由度
令 r r r 為係數部分的主元數。若某個零係數行對應非零變換後右端,就出現不可能的方程 0 = c 0=c 0 = c ,因此無解。否則任意指定 n − r n-r n − r 個非主元變量的實數值。每個主元行都把其主元變量寫成變換後右端減去自由變量的已知線性組合,其中沒有其他主元變量。這些公式既構造解,也恢復每一個解。若 r = n r=n r = n ,解唯一;若 r < n r<n r < n ,改變自由變量就改變解向量,故有無窮多解。
對 A z = 0 Az=0 A z = 0 ,全部自由變量取零給出零解。若 r < n r<n r < n ,將一個自由變量設為一,其餘設為零,再按主元公式求解,就構造出非零齊次解;若 r = n r=n r = n ,公式迫使所有齊次變量為零。對相容系統固定一個解 x p x_p x p ,兩解相減表明每個解均為 x p + z x_p+z x p + z ,其中 A z = 0 Az=0 A z = 0 ;代入又證明反向包含。
當 A A A 為方陣且每欄都有主元時,係數階梯形為 I I I 。有限個初等矩陣之積 E E E 滿足 E A = I EA=I E A = I 。因為 E E E 可逆,A = E − 1 A=E^{-1} A = E − 1 ,故也有 A E = I AE=I A E = I ,所以 E E E 是雙側逆。若缺少主元,上面構造的非零齊次解排除可逆性。這也證明可逆時,對 [ A ∣ I ] [A\mid I] [ A ∣ I ] 作相同行變換會得到 [ I ∣ A − 1 ] [I\mid A^{-1}] [ I ∣ A − 1 ] 。
向量空間是在域 F F F 上配備加法和數乘,並滿足通常的阿貝爾群及分配律公理的集合。欄向量只是一個模型。次數至多為 d d d 的多項式空間 P d ( F ) P_d(F) P d ( F ) 和空間之間的線性映射也是模型。零多項式屬於 P d ( F ) P_d(F) P d ( F ) ,雖然其次數通常不定義。
子空間 包含零,且對加法和數乘封閉。若每個向量都是某列表中向量的線性組合,該列表張成空間;若只有零系數組合能得到零,它線性無關。基 同時滿足兩者。有限生成列表可通過刪除相關項縮減成基;線性無關列表可通過添加其張成空間外的向量擴充成基,直到張成給定的有限生成列表。
交換引理。 若 r r r 個向量的線性無關列表位於 s s s 個向量的張成空間中,則 r ≤ s r\le s r ≤ s 。理由是:用生成列表表示第一個無關向量,利用某個非零系數,以它替換一個生成向量,再重複。每一步的線性無關性保證下一個無關向量對尚未被替換的某個生成向量有非零系數,因此至少需要 r r r 個位置。對兩個基雙向比較得到長度相等;共同長度為 dim V \dim V dim V 。
因此在 n n n 維空間中,任意 n n n 個線性無關向量構成基,任意 n n n 個張成向量也構成基。只有在證明線性無關性或張成性之後,計數列表才有用。
不預設計數結論的有限基存在與擴充
設實向量空間 V V V 已給定有限生成列表 t 1 , … , t N t_1,\ldots,t_N t 1 , … , t N 。先證明任何線性無關列表 u 1 , … , u k u_1,\ldots,u_k u 1 , … , u k 的長度不超過 N N N 。插入 j j j 個向量後,維持一個由 u 1 , … , u j u_1,\ldots,u_j u 1 , … , u j 與 N − j N-j N − j 個剩餘舊向量組成的生成列表。將 u j + 1 u_{j+1} u j + 1 按此列表展開,至少一個剩餘舊向量的係數非零;否則它在先前 u i u_i u i 的張成空間中,與無關性矛盾。解出這個舊向量,再以 u j + 1 u_{j+1} u j + 1 取代它。新列表仍張成同一空間,而且保留全部先前插入向量。若 k > N k>N k > N ,則 N N N 步後前 N N N 個向量已張成 V V V ,與 u N + 1 u_{N+1} u N + 1 的無關性矛盾。此即所需上界,也包括 N = 0 N=0 N = 0 。
每個子空間 W W W 都有有限基。從空的無關列表開始;若當前張成空間尚不是 W W W ,就在 W W W 中取一個不在該張成空間內的向量。若新向量在某關係中的係數非零,就能由舊向量表示它,矛盾,故新列表仍無關。已證上界允許至多添加 N N N 次,所以過程必停止於 W W W 的無關生成列表。若 W = { 0 } W=\{0\} W = { 0 } ,立即得到空基。改從 W W W 內任意給定無關列表開始,同樣證明該列表可擴充為 W W W 的基;只需有界有限次選擇。最後,若兩組基的長度為 p , q p,q p , q ,分別把它們用作上界證明中的有限生成列表,得到 p ≤ q p\le q p ≤ q 與 q ≤ p q\le p q ≤ p 。故基的長度有良定義,稱為維數。這些論證補足秩–零度定理所用的基存在、擴充與維數事實。
映射 T : V → W T:V\to W T : V → W 若滿足 T ( α v + β u ) = α T v + β T u T(\alpha v+\beta u)=\alpha Tv+\beta Tu T ( α v + β u ) = α T v + β T u ,則為線性。其核與像都是子空間。選取 ker T \ker T ker T 的基 k 1 , … , k r k_1,\ldots,k_r k 1 , … , k r ,並以 v 1 , … , v s v_1,\ldots,v_s v 1 , … , v s 擴充為基,則 T v 1 , … , T v s Tv_1,\ldots,Tv_s T v 1 , … , T v s 構成 im T \operatorname{im}T im T 的基:展開任意輸入可證明張成性;若這些像線性相關,相應輸入組合落入核,而擴充基的線性無關性迫使所有系數為零。因此
dim V = dim ker T + dim im T . \dim V=\dim\ker T+\dim\operatorname{im}T. dim V = dim ker T + dim im T .
這就是秩–零度定理 。有限維且維數相等時,單射與滿射等價;無限維空間中該等價可能失效。
實向量空間中的有限基底計數
設實向量空間 V V V 有一組長度為 m ≥ 0 m\geq0 m ≥ 0 的有限基底。下文列表均有限;空列表的張成為零空間,空和約定為零。
先回顧係數計數論證,它不要求生成列表獨立。若 v 1 , … , v m v_1,\ldots,v_m v 1 , … , v m 張成 V V V ,且 u 1 , … , u r ∈ V u_1,\ldots,u_r\in V u 1 , … , u r ∈ V 、r > m r>m r > m ,選擇係數使 u j = ∑ i = 1 m a i j v i u_j=\sum_{i=1}^m a_{ij}v_i u j = ∑ i = 1 m a ij v i 。矩陣 C = ( a i j ) C=(a_{ij}) C = ( a ij ) 有 m m m 行、r r r 欄,最多有 m m m 個主元,因此 C c = 0 Cc=0 C c = 0 有非零解。於是
∑ j = 1 r c j u j = ∑ i = 1 m ( ∑ j = 1 r a i j c j ) v i = 0. \sum_{j=1}^r c_ju_j
=\sum_{i=1}^m\left(\sum_{j=1}^r a_{ij}c_j\right)v_i=0. j = 1 ∑ r c j u j = i = 1 ∑ m ( j = 1 ∑ r a ij c j ) v i = 0.
所以這些 u j u_j u j 相依。若 m = 0 m=0 m = 0 ,每個 u j u_j u j 都為零,非空列表直接相依。特別地,V V V 中獨立列表的長度不超過 m m m 。
若獨立列表 ( u 1 , … , u s ) (u_1,\ldots,u_s) ( u 1 , … , u s ) 尚未張成 V V V ,選擇其張成之外的 w w w 。在關係 ∑ a i u i + b w = 0 \sum a_i u_i+bw=0 ∑ a i u i + b w = 0 中,若 b ≠ 0 b\ne0 b = 0 ,就能把 w w w 表為舊向量的組合,產生矛盾。因此 b = 0 b=0 b = 0 ,再由舊列表獨立,所有 a i = 0 a_i=0 a i = 0 。追加 w w w 因而保持獨立。長度為 m m m 的獨立列表必已張成,否則這樣追加會產生 m + 1 m+1 m + 1 個獨立向量,違反上界。從任意獨立列表出發,不斷追加張成外的向量,必在長度不超過 m m m 時停止;停止正表示已經張成,所以得到保留原列表的基底。
反過來,設長度為 m m m 的列表張成 V V V 。若它相依,從非平凡零關係中選一個非零係數,解出對應向量並刪去。代入表明餘下 m − 1 m-1 m − 1 個向量仍張成 V V V 。原來長度為 m m m 的基底就會由係數計數論證變成相依,矛盾。因此該列表獨立,構成基底。更一般地,每次從相依關係的非零係數位置刪去一個向量,都保持張成並嚴格縮短有限列表,所以最終得到獨立的張成列表。若列表只含一個零向量,刪去後為空列表,張成仍為零空間。
這些論證對任意有限維實空間 V V V 證明了兩種維數捷徑、延伸和縮減,不要求先把 V V V 實現成座標空間的子空間。少於 m m m 個向量也不可能張成 V V V ,否則原基底將違反相應生成列表的係數計數上界。
子空間結論也不必預先假定子空間有基底。若 W ⊆ V W\subseteq V W ⊆ V 是子空間,從空獨立列表出發,追加 W W W 中落在當前張成之外的向量。同一上界使過程終止,產生長度不超過 m m m 的 W W W 的基底,所以 dim W ≤ m \dim W\leq m dim W ≤ m 。若等號成立,這組基底也是 V V V 中長度為 m m m 的獨立列表,因而張成 V V V ,即 W = V W=V W = V 。反向顯然成立。
標準有限模型與多項式的邊界
這裏 d d d 為非負整數,a , b a,b a , b 為正整數。當 d = 0 d=0 d = 0 時,R 0 \mathbb R^0 R 0 僅含空元組,其標準基底為空列表。
在 R d \mathbb R^d R d 中,令 e i e_i e i 僅在第 i i i 個位置為一。每個 x x x 都等於 ∑ i = 1 d x i e i \sum_{i=1}^d x_i e_i ∑ i = 1 d x i e i ;零組合的第 i i i 個座標又迫使對應係數為零。所以它們構成基底,dim R d = d \dim\mathbb R^d=d dim R d = d 。
在實 a × b a\times b a × b 矩陣空間中,令 E i j E_{ij} E ij 僅在 ( i , j ) (i,j) ( i , j ) 位置為一。每個矩陣 X X X 都等於 ∑ i = 1 a ∑ j = 1 b X i j E i j \sum_{i=1}^a\sum_{j=1}^b X_{ij}E_{ij} ∑ i = 1 a ∑ j = 1 b X ij E ij 。零組合的 ( i , j ) (i,j) ( i , j ) 元素就是 E i j E_{ij} E ij 的係數,所以這 a b ab ab 個矩陣同時張成且獨立,dim M a , b ( R ) = a b \dim M_{a,b}(\mathbb R)=ab dim M a , b ( R ) = ab 。
對 P n P_n P n ,其中 n ≥ 0 n\geq0 n ≥ 0 ,使用通常的多項式係數相等規則。每個多項式唯一寫為 ∑ i = 0 n a i t i \sum_{i=0}^n a_i t^i ∑ i = 0 n a i t i ,所以 ( 1 , t , … , t n ) (1,t,\ldots,t^n) ( 1 , t , … , t n ) 張成且獨立,dim P n = n + 1 \dim P_n=n+1 dim P n = n + 1 。任取有限個實多項式,可選擇共同的非負次數上界 N N N ,也容許零多項式。它們的每個組合都沒有高於 N N N 次的項,但 t N + 1 t^{N+1} t N + 1 有。因此所有實多項式的空間沒有有限張成列表。這裏「無限維」準確表示不存在有限張成列表,並未斷言任何無限基底定理。
張成列表可以表示空間中的每個向量,但相依列表可能用不同的係數表示同一個向量。同時要求張成與線性獨立,就能使每個表示唯一。基底把這兩個條件結合起來。
定義
基底 若一組向量 { u 1 , u 2 , … , u m } \{u_1, u_2, \ldots, u_m\} { u 1 , u 2 , … , u m } 同時滿足以下兩個條件:
u 1 , u 2 , … , u m u_1, u_2, \ldots, u_m u 1 , u 2 , … , u m 線性獨立;
Span { u 1 , u 2 , … , u m } = V \operatorname{Span}\{u_1, u_2, \ldots, u_m\} = V Span { u 1 , u 2 , … , u m } = V ;
那它就是向量空間 V V V 的一組基底。
本節使用實數純量,寫出的基底都是有限列表。固定次序 ( u 1 , … , u m ) (u_1,\ldots,u_m) ( u 1 , … , u m ) 後,每個向量的座標唯一:張成性保證表示存在;若 x = ∑ a i u i = ∑ b i u i x=\sum a_i u_i=\sum b_i u_i x = ∑ a i u i = ∑ b i u i ,相減得 ∑ ( a i − b i ) u i = 0 \sum(a_i-b_i)u_i=0 ∑ ( a i − b i ) u i = 0 ,獨立性便推出每個 a i = b i a_i=b_i a i = b i 。因此,存在性與唯一性來自定義的不同部分。
張成與獨立回答不同的問題
下方圖解區分基底的兩個條件:張成使每個目標都能表示,獨立排除冗餘表示。維數記錄基底的共同大小;後文會給出計數證明。
比較互為倍數的兩個生成向量與線性獨立的兩個生成向量,分別確定它們的張成。
標準基底是最典型的例子
學生最先接觸到的基底,通常是 R 3 R^3 R 3 的標準基底:
e 1 = [ 1 0 0 ] , e 2 = [ 0 1 0 ] , e 3 = [ 0 0 1 ] . e_1 = \begin{bmatrix} 1 \\ 0 \\ 0 \end{bmatrix}, \quad
e_2 = \begin{bmatrix} 0 \\ 1 \\ 0 \end{bmatrix}, \quad
e_3 = \begin{bmatrix} 0 \\ 0 \\ 1 \end{bmatrix}. e 1 = 1 0 0 , e 2 = 0 1 0 , e 3 = 0 0 1 .
這三個向量的重要之處,在於它們各自只負責一個座標方向。
例題
為甚麼 R 3 R^3 R 3 的標準基底真的是基底 要證明 { e 1 , e 2 , e 3 } \{e_1, e_2, e_3\} { e 1 , e 2 , e 3 } 是 R 3 R^3 R 3 的基底,你必須檢查兩個條件。
先看張成。若
x = [ a b c ] , x = \begin{bmatrix} a \\ b \\ c \end{bmatrix}, x = a b c , 那麼
x = a e 1 + b e 2 + c e 3 . x = a e_1 + b e_2 + c e_3. x = a e 1 + b e 2 + c e 3 . 所以 R 3 R^3 R 3 裡每個向量都可以由 e 1 , e 2 , e 3 e_1, e_2, e_3 e 1 , e 2 , e 3 組合出來。
再看線性獨立。若
α 1 e 1 + α 2 e 2 + α 3 e 3 = 0 , \alpha_1 e_1 + \alpha_2 e_2 + \alpha_3 e_3 = 0, α 1 e 1 + α 2 e 2 + α 3 e 3 = 0 , 逐個座標比較,就得到
α 1 = 0 , α 2 = 0 , α 3 = 0. \alpha_1 = 0,\quad \alpha_2 = 0,\quad \alpha_3 = 0. α 1 = 0 , α 2 = 0 , α 3 = 0. 因此唯一的線性關係就是平凡關係。
兩個條件都成立,所以 { e 1 , e 2 , e 3 } \{e_1, e_2, e_3\} { e 1 , e 2 , e 3 } 是 R 3 R^3 R 3 的基底。
這個例子亦說明了基底座標有多實用:一旦基底固定,係數 a a a 、b b b 、c c c
就完整地告訴你怎樣重建原來的向量。
為甚麼基底的向量數目這麼重要
不同的基底可以由不同向量組成。定義維數之前,必須先證明它們的向量數目相同。
定理
同一個空間的任何基底都有相同數目 若 B 1 B_1 B 1 和 B 2 B_2 B 2 都是同一實向量空間 V V V 的有限基底,則兩組基底所含的向量數目相同。
正因如此,維數才是一個定義良好的概念。否則,「基底裡有多少個向量」
這件事會隨你選哪一組基底而改變,維數便無法成為一個穩定量。
這個定理背後有一個基本的計數原理。
定理
在已被張成的空間中,太多向量必定相依 若 { v 1 , … , v m } \{v_1,\ldots,v_m\} { v 1 , … , v m } 張成向量空間 V V V ,則 V V V 中任何多於 m m m 個
向量的集合都必定線性相依。
證明
先數係數,再定義維數 目標是在 n > m n\gt m n > m 個向量 u j ∈ V u_j\in V u j ∈ V 之間找出非平凡關係,只使用 m m m 個向量 v i v_i v i 張成 V V V 這一假設。寫成
u j = ∑ i = 1 m a i j v i , C = ( a i j ) ∈ M m , n ( R ) . u_j=\sum_{i=1}^m a_{ij}v_i,\qquad C=(a_{ij})\in M_{m,n}(\mathbb R). u j = i = 1 ∑ m a ij v i , C = ( a ij ) ∈ M m , n ( R ) . 係數矩陣有 m m m 行、n n n 欄。消元最多產生 m m m 個主元,所以齊次系統 C c = 0 Cc=0 C c = 0 有自由變數,並有非零解 c ∈ R n c\in\mathbb R^n c ∈ R n 。對這個解,
∑ j = 1 n c j u j = ∑ i = 1 m ( ∑ j = 1 n a i j c j ) v i = 0. \sum_{j=1}^n c_ju_j
=\sum_{i=1}^m\left(\sum_{j=1}^n a_{ij}c_j\right)v_i=0. j = 1 ∑ n c j u j = i = 1 ∑ m ( j = 1 ∑ n a ij c j ) v i = 0. 這就是所需的非平凡關係。令各個係數表達式為零,是讓向量和為零的充分條件 。這裏沒有假設生成向量 v i v_i v i 獨立,所以不能反過來斷言任意為零的向量和都要求相對於該列表的係數為零。若 m = 0 m=0 m = 0 ,其張成是零子空間,其中任何非空列表都只含零向量,直接就是相依的。
現在設兩組有限基底分別有 r , s r,s r , s 個向量。第一組張成,而第二組獨立,因此 s ≤ r s\le r s ≤ r ;交換兩組的角色得 r ≤ s r\le s r ≤ s ,故 r = s r=s r = s 。論證使用前面的齊次系統定理,並未先使用維數,因此隨後用基底的大小定義維數不會循環論證。
維數就是獨立方向的數目
定義
維數 向量空間 V V V 的維數,記作 dim ( V ) \dim(V) dim ( V ) ,就是 V V V 的任一組基底所含的向量
數目。
維數量度的是:這個空間究竟有多少個真正獨立的方向。
dim ( R m ) = m \dim(R^m) = m dim ( R m ) = m
dim ( M m n ) = m n \dim(M_{mn}) = mn dim ( M mn ) = mn
dim ( P n ) = n + 1 \dim(P_n) = n + 1 dim ( P n ) = n + 1
所有實係數多項式所成的空間是無限維,因為任何有限列表都無法張成
所有冪次 1 , x , x 2 , … 1,x,x^2,\ldots 1 , x , x 2 , … 。
零子空間是特別情況:
dim ( { 0 } ) = 0. \dim(\{0\}) = 0. dim ({ 0 }) = 0.
它的基底是空列表:唯一的線性組合是定義為零的空和,也不存在非平凡係數關係。單元素集合 { 0 } \{0\} { 0 } 雖然張成零子空間,卻線性相依,所以不是基底。
子空間有自己的維數
一個向量可以有三個分量,卻屬於只有兩個獨立方向的空間。下面的例子區分外層座標的個數與子空間本身的維數。
例題
R 3 R^3 R 3 裡一個平面的基底令
W = { [ x y 0 ] : x , y ∈ R } . W = \left\{
\begin{bmatrix}
x \\ y \\ 0
\end{bmatrix}
: x, y \in R
\right\}. W = ⎩ ⎨ ⎧ x y 0 : x , y ∈ R ⎭ ⎬ ⎫ . 這就是 R 3 R^3 R 3 中的平面 z = 0 z = 0 z = 0 。
考慮
u 1 = [ 1 0 0 ] , u 2 = [ 0 1 0 ] . u_1 = \begin{bmatrix} 1 \\ 0 \\ 0 \end{bmatrix},
\qquad
u_2 = \begin{bmatrix} 0 \\ 1 \\ 0 \end{bmatrix}. u 1 = 1 0 0 , u 2 = 0 1 0 . W W W 中每個向量都可以寫成
[ x y 0 ] = x u 1 + y u 2 , \begin{bmatrix}
x \\ y \\ 0
\end{bmatrix}
= x u_1 + y u_2, x y 0 = x u 1 + y u 2 , 因此 u 1 u_1 u 1 和 u 2 u_2 u 2 張成 W W W 。
它們亦線性獨立,因為
α 1 u 1 + α 2 u 2 = 0 \alpha_1 u_1 + \alpha_2 u_2 = 0 α 1 u 1 + α 2 u 2 = 0 必有 α 1 = α 2 = 0 \alpha_1 = \alpha_2 = 0 α 1 = α 2 = 0 。
所以 { u 1 , u 2 } \{u_1, u_2\} { u 1 , u 2 } 是 W W W 的基底,而
dim ( W ) = 2. \dim(W) = 2. dim ( W ) = 2.
由此可見,維數不是在數「向量有多少個座標」,而是在數「這個空間本身
有多少個獨立方向」。
維數如何變成捷徑
一旦你知道某個空間的維數,很多基底問題就會變得短得多。
若 dim ( V ) = m \dim(V) = m dim ( V ) = m ,那麼:
V V V 中任何 m m m 個線性獨立向量都自動形成基底;
V V V 中任何 m m m 個能張成 V V V 的向量都自動形成基底;
少於 m m m 個向量不可能張成 V V V ;
多於 m m m 個向量不可能全部保持線性獨立。
這就是維數的威力。當向量數目已經和維數吻合時,你往往只需完成一半檢
查,就能推出整個結論。
這件事可以整理成一個很有用的三項判準。設 u 1 , … , u n u_1,\ldots,u_n u 1 , … , u n 是子空
間 W W W 中的向量。考慮以下三個陳述:
dim ( W ) = n \dim(W)=n dim ( W ) = n ;
u 1 , … , u n u_1,\ldots,u_n u 1 , … , u n 線性獨立;
Span { u 1 , … , u n } = W \operatorname{Span}\{u_1,\ldots,u_n\}=W Span { u 1 , … , u n } = W 。
只要其中任意兩項成立,第三項就會自動成立,而 { u 1 , … , u n } \{u_1,\ldots,u_n\} { u 1 , … , u n }
就是 W W W 的一組基底。
這通常是寫解答時最乾淨的方法。你不必每次都從頭證明「線性獨立」和
「張成」兩件事;先找出維數,再證明兩者之中較容易的一項,另一項便由
定理補上。
例題
在 R 3 R^3 R 3 中用維數省去第二輪計算 令
u 1 = [ 1 2 2 ] , u 2 = [ 2 3 4 ] , u 3 = [ 3 8 7 ] . u_1=\begin{bmatrix}1\\2\\2\end{bmatrix},\quad
u_2=\begin{bmatrix}2\\3\\4\end{bmatrix},\quad
u_3=\begin{bmatrix}3\\8\\7\end{bmatrix}. u 1 = 1 2 2 , u 2 = 2 3 4 , u 3 = 3 8 7 . 我們要證明這三個向量形成 R 3 R^3 R 3 的一組基底。
先檢查線性獨立。方程
c 1 u 1 + c 2 u 2 + c 3 u 3 = 0 c_1u_1+c_2u_2+c_3u_3=0 c 1 u 1 + c 2 u 2 + c 3 u 3 = 0 的係數矩陣是
[ 1 2 3 2 3 8 2 4 7 ] . \begin{bmatrix}
1 & 2 & 3\\
2 & 3 & 8\\
2 & 4 & 7
\end{bmatrix}. 1 2 2 2 3 4 3 8 7 . 行化簡可得一個每一欄都有主元的階梯形,例如
[ 1 2 3 0 1 − 2 0 0 1 ] . \begin{bmatrix}
1 & 2 & 3\\
0 & 1 & -2\\
0 & 0 & 1
\end{bmatrix}. 1 0 0 2 1 0 3 − 2 1 . 因此齊次方程只有平凡解,u 1 , u 2 , u 3 u_1,u_2,u_3 u 1 , u 2 , u 3 線性獨立。
由於 dim ( R 3 ) = 3 \dim(R^3)=3 dim ( R 3 ) = 3 ,R 3 R^3 R 3 中三個線性獨立向量會自動張成 R 3 R^3 R 3 。所以
這三個向量形成一組基底。重點不是忽略張成條件,而是由維數定理提供張
成結論。
非平凡零組合可以檢驗給定列表中的冗餘。
延伸與縮減向量列表
定理
延伸與刪減的結果 若 dim ( V ) = m > 0 \dim(V)=m>0 dim ( V ) = m > 0 ,則:
少於 m m m 個向量不可能張成 V V V ;
任何少於 m m m 個向量的線性獨立集合,都可以延伸成 V V V 的一組基底;
任何多於 m m m 個向量的張成集,都可以透過刪去冗餘向量而縮減成一組
基底。
基底也是按包含關係極小的張成集:刪去任一成員都會失去張成性,否則該成員便可由其餘成員表示。反之,相依的張成列表可按冗餘定理縮短。基底又是 V V V 中按包含關係極大的獨立列表,因為任何新向量都已在其張成內;反之,若獨立列表未張成 V V V ,加入張成外的向量仍保持獨立。這些都是包含關係的結論,不能只憑列表長度猜測。
零空間:用 rank-nullity 檢查基底
對齊次方程組來說,維數捷徑會變得特別具體。設 A A A 是一個 p × q p \times q p × q
矩陣,rank 為 r r r 。則
dim ( N ( A ) ) = q − r . \dim(N(A)) = q-r. dim ( N ( A )) = q − r .
含 r r r 個主元的 RREF 有 q − r q-r q − r 個自由座標。每次把一個自由座標取為一、其餘取為零,便得到一個零空間向量。任意解都是這些向量的組合,而零組合中的自由座標又迫使各係數為零,所以它們構成基底;q = r q=r q = r 時所得基底為空。這裏的秩按主元數目計算;6.6 欄空間、行空間與秩 將證明它也等於行空間與欄空間的維數。
所以 u 1 , … , u n u_1,\ldots,u_n u 1 , … , u n 成為 N ( A ) N(A) N ( A ) 的一組基底,正好等價於以下三項檢
查同時通過:
每個向量真的在零空間中,即 A u j = 0 Au_j=0 A u j = 0 ;
候選向量數目正確,即 n = q − r n=q-r n = q − r ;
候選向量線性獨立。
這樣便不需要直接證明完整的集合相等
N ( A ) = Span { u 1 , … , u n } N(A)=\operatorname{Span}\{u_1,\ldots,u_n\} N ( A ) = Span { u 1 , … , u n } 。
例題
檢查一組候選向量是否為零空間基底 令
A = [ 1 2 0 1 1 1 1 − 1 3 1 5 − 7 ] , W = N ( A ) , A=
\begin{bmatrix}
1&2&0&1\\
1&1&1&-1\\
3&1&5&-7
\end{bmatrix},
\qquad
W=N(A), A = 1 1 3 2 1 1 0 1 5 1 − 1 − 7 , W = N ( A ) , 並令
u 1 = [ 1 − 1 1 1 ] , u 2 = [ 5 − 3 − 1 1 ] . u_1=\begin{bmatrix}1\\-1\\1\\1\end{bmatrix},
\qquad
u_2=\begin{bmatrix}5\\-3\\-1\\1\end{bmatrix}. u 1 = 1 − 1 1 1 , u 2 = 5 − 3 − 1 1 . 先檢查向量是否屬於 W W W 。直接相乘可得 A u 1 = 0 Au_1=0 A u 1 = 0 和 A u 2 = 0 Au_2=0 A u 2 = 0 ,所以兩個向量都
屬於 W W W 。
接着計算 W W W 的維數。A A A 的一個行階梯形是
[ 1 0 2 − 3 0 1 − 1 2 0 0 0 0 ] , \begin{bmatrix}
1&0&2&-3\\
0&1&-1&2\\
0&0&0&0
\end{bmatrix}, 1 0 0 0 1 0 2 − 1 0 − 3 2 0 , 所以 rank ( A ) = 2 \operatorname{rank}(A)=2 rank ( A ) = 2 。由於 A A A 有四欄,
dim ( N ( A ) ) = 4 − 2 = 2. \dim(N(A))=4-2=2. dim ( N ( A )) = 4 − 2 = 2. 最後檢查線性獨立。把候選向量放入一個矩陣:
U = [ u 1 u 2 ] = [ 1 5 − 1 − 3 1 − 1 1 1 ] . U=[u_1\ u_2]
=
\begin{bmatrix}
1&5\\
-1&-3\\
1&-1\\
1&1
\end{bmatrix}. U = [ u 1 u 2 ] = 1 − 1 1 1 5 − 3 − 1 1 . 行化簡後每一欄都有主元,所以 u 1 , u 2 u_1,u_2 u 1 , u 2 線性獨立。這兩個向量屬於 W W W ,而 W W W 的維數為二,所以 u 1 , u 2 u_1,u_2 u 1 , u 2 形成 N ( A ) N(A) N ( A ) 的一組基底。
失敗情況同樣重要:
若某個 u j u_j u j 不滿足 A u j = 0 Au_j=0 A u j = 0 ,這組向量不可能是 N ( A ) N(A) N ( A ) 的基底;
若列表長度少於或多於 q − r q-r q − r ,向量數目已經錯了;
若列表長度正確但線性相依,它仍然不是基底。
從生成列表抽出最小張成集
有時輸入不是一組乾淨的候選基底,而是一長串生成向量。這時常見問題是:
這些向量張成的空間維數是多少?有沒有辦法從原列表中抽出一組基底?最有效的
方法是用主元欄位置。
定理
主元欄給出最小張成集 設
W = Span { u 1 , … , u q } ⊆ R n , U = [ u 1 u 2 ⋯ u q ] . W=\operatorname{Span}\{u_1,\ldots,u_q\}\subseteq R^n,
\qquad
U=[u_1\ u_2\ \cdots\ u_q]. W = Span { u 1 , … , u q } ⊆ R n , U = [ u 1 u 2 ⋯ u q ] . 對 U U U 做行化簡。若化簡後矩陣的主元欄位置是
d 1 , … , d r d_1,\ldots,d_r d 1 , … , d r ,則
{ u d 1 , … , u d r } \{u_{d_1},\ldots,u_{d_r}\} { u d 1 , … , u d r } 是 W W W 的一組基底,而且 dim ( W ) = r \dim(W)=r dim ( W ) = r 。
主元位置由化簡後的矩陣讀出,但基底向量本身要取自原列表。這和欄空間的基底
規則是同一個原理。
例題
從生成列表抽出基底 令 W = Span { u 1 , u 2 , u 3 } W=\operatorname{Span}\{u_1,u_2,u_3\} W = Span { u 1 , u 2 , u 3 } ,其中
u 1 = [ 0 − 1 2 ] , u 2 = [ 1 − 2 7 ] , u 3 = [ − 2 3 − 12 ] . u_1=\begin{bmatrix}0\\-1\\2\end{bmatrix},
\quad
u_2=\begin{bmatrix}1\\-2\\7\end{bmatrix},
\quad
u_3=\begin{bmatrix}-2\\3\\-12\end{bmatrix}. u 1 = 0 − 1 2 , u 2 = 1 − 2 7 , u 3 = − 2 3 − 12 . 把它們放成 U U U 的欄:
U = [ 0 1 − 2 − 1 − 2 3 2 7 − 12 ] ∼ [ 1 0 1 0 1 − 2 0 0 0 ] . U=
\begin{bmatrix}
0&1&-2\\
-1&-2&3\\
2&7&-12
\end{bmatrix}
\sim
\begin{bmatrix}
1&0&1\\
0&1&-2\\
0&0&0
\end{bmatrix}. U = 0 − 1 2 1 − 2 7 − 2 3 − 12 ∼ 1 0 0 0 1 0 1 − 2 0 . 主元欄是第 1 1 1 欄和第 2 2 2 欄,所以
{ u 1 , u 2 } \{u_1,u_2\} { u 1 , u 2 } 是 W W W 的一組基底,並且 dim ( W ) = 2 \dim(W)=2 dim ( W ) = 2 。非主元欄也給出冗餘關係:
u 3 = u 1 − 2 u 2 . u_3=u_1-2u_2. u 3 = u 1 − 2 u 2 .
同維數的子空間
維數也控制一個子空間何時等於另一個子空間。設 W W W 是有限維空間,V V V 是 W W W 的子空間,且兩者使用相同的實數純量,則
dim ( V ) ≤ dim ( W ) . \dim(V) \le \dim(W). dim ( V ) ≤ dim ( W ) .
此外,
dim ( V ) = dim ( W ) 當且僅當 V = W . \dim(V)=\dim(W) \quad\text{當且僅當}\quad V=W. dim ( V ) = dim ( W ) 當且僅當 V = W .
包含關係這個假設很重要。單單維數相等,不足以推出兩個子空間相等。例
如 R 2 R^2 R 2 中兩條不同的過原點直線都具有維數 1,但它們互不包含。上
述定理只在你已知道其中一個子空間包含於另一個子空間時使用。
等維推出相等的理由是:取 V V V 的一組基底,它在 W W W 中獨立,且向量數目為 dim W \dim W dim W ,因此按維數判準也是 W W W 的基底。它的張成同時等於兩個空間。這個計數論證需要有限維假設;前面提到無限維多項式空間,並不表示這裏的判準可推廣到任意無限維包含關係。
例題
用維數證明兩個子空間相等 令
V = Span { [ 1 0 0 ] , [ 0 1 0 ] } V=\operatorname{Span}\left\{
\begin{bmatrix}1\\0\\0\end{bmatrix},
\begin{bmatrix}0\\1\\0\end{bmatrix}
\right\} V = Span ⎩ ⎨ ⎧ 1 0 0 , 0 1 0 ⎭ ⎬ ⎫ 並令
W = { [ x y 0 ] : x , y ∈ R } . W=\left\{
\begin{bmatrix}x\\y\\0\end{bmatrix}:x,y\in R
\right\}. W = ⎩ ⎨ ⎧ x y 0 : x , y ∈ R ⎭ ⎬ ⎫ . V V V 中每個向量的第三個座標都是零,所以 V ⊆ W V \subseteq W V ⊆ W 。前面的平面
例子亦告訴我們 dim ( W ) = 2 \dim(W)=2 dim ( W ) = 2 。另一方面,給出的 V V V 的兩個生成向量線
性獨立,所以 dim ( V ) = 2 \dim(V)=2 dim ( V ) = 2 。
因此 V V V 是 W W W 的子空間,而且兩者維數同為 2。由可比較子空間的維數
定理可得 V = W V=W V = W 。
常見錯誤
常見錯誤
維數不是單純在數座標個數 R 3 R^3 R 3 的子空間可以有 0、1、2 或 3 維。外層空間只告訴你向量有多少個座
標;維數告訴你該子空間本身有多少個真正獨立方向。
另一個常見錯誤,是檢查完張成就停下來。能張成整個空間,並不代表那組
向量已經沒有冗餘。
快速檢查
思考檢查
{ ( 1 , 0 ) , ( 2 , 0 ) } \{(1,0), (2,0)\} {( 1 , 0 ) , ( 2 , 0 )} 可以成為 R 2 R^2 R 2 的基底嗎?
解答 · 答案 不可以。這兩個向量方向相同,所以線性相依;而且它們無法張成垂直方向,
因此也張不出整個 R 2 R^2 R 2 。所以它們不是基底。
思考檢查
若 dim ( V ) = 3 \dim(V) = 3 dim ( V ) = 3 ,而你已找到 V V V 中三個線性獨立向量,還要再證明甚麼?
解答 · 答案 基本上不用再證明別的。因為在一個三維空間裡,任何三個線性獨立向量都
會自動形成基底,所以它們已經張成 V V V 。
練習
思考檢查
向量 u 1 = ( 1 , 1 , 0 ) u_1 = (1,1,0) u 1 = ( 1 , 1 , 0 ) 、u 2 = ( 1 , 0 , 1 ) u_2 = (1,0,1) u 2 = ( 1 , 0 , 1 ) 、u 3 = ( 0 , 1 , 1 ) u_3 = (0,1,1) u 3 = ( 0 , 1 , 1 ) 是否形成 R 3 R^3 R 3 的基底?
解答 · 引導解答 令
α 1 u 1 + α 2 u 2 + α 3 u 3 = 0. \alpha_1 u_1 + \alpha_2 u_2 + \alpha_3 u_3 = 0. α 1 u 1 + α 2 u 2 + α 3 u 3 = 0. 逐個座標比較,可得
α 1 + α 2 = 0 , α 1 + α 3 = 0 , α 2 + α 3 = 0. \alpha_1 + \alpha_2 = 0,\quad
\alpha_1 + \alpha_3 = 0,\quad
\alpha_2 + \alpha_3 = 0. α 1 + α 2 = 0 , α 1 + α 3 = 0 , α 2 + α 3 = 0. 以前兩式相減,可得 α 2 = α 3 \alpha_2 = \alpha_3 α 2 = α 3 。再代入第三式,就得到
2 α 2 = 0 2\alpha_2 = 0 2 α 2 = 0 ,因此 α 2 = 0 \alpha_2 = 0 α 2 = 0 ,繼而 α 1 = α 3 = 0 \alpha_1 = \alpha_3 = 0 α 1 = α 3 = 0 。
所以三個向量線性獨立。由於 R 3 R^3 R 3 的維數是 3,這三個向量便自動形成
R 3 R^3 R 3 的一組基底。
建議先讀
這一節建立在
6.4 線性相依與線性獨立
和
6.3 線性組合與張成 之上。