正交集與標準正交基

一旦有了內積，便可以挑出一類幾何上特別簡潔的向量族。正交性很有用， 因為它能把坐標方向分開：對一個向量取內積時，所有與它正交的方向都會 被消去。在正交基中，坐標係數因此可以直接由內積讀出，不必每次重新解 一個線性系統。

正交集定義中的非零條件不可省略。等式 $\langle0,v\rangle=0$ 雖然成立， 但它不能使零向量成為可用的方向。零向量的範數是零，$\|0\|^2$ 不能用作係數公式所要求的非零分母，也不能屬於 線性無關的向量族。

正交

定義

正交向量

若向量 $v,w\in\mathbb{R}^m$ 滿足

$$\langle v,w\rangle=0,$$

則稱 $v$ 與 $w$ 正交，記作

$$v\perp w.$$

這個定義是代數性的，所以適用於任意維度。在 $\mathbb{R}^2$ 或 $\mathbb{R}^3$ 中，它與非零向量垂直的熟悉圖像一致。到了更高維度，圖像 可能不再有幫助，但內積仍然可以檢驗同一個關係。

例題

用內積檢查正交

令

$$v=\begin{bmatrix}1\\2\\3\end{bmatrix},\qquad w=\begin{bmatrix}-1\\-1\\1\end{bmatrix}.$$

則

$$\langle v,w\rangle=1(-1)+2(-1)+3(1)=0.$$

兩個向量都非零，所以它們正交。它們的範數平方分別是 $\|v\|^2=14$ 與 $\|w\|^2=3$；內積為零說明的是方向關係，不是某個向量長度為零。

正交集

定義

正交集

有限集合 $S=\{v_1,\dots,v_k\}$ 若滿足：

1. 集內每個向量都非零；
2. 當 $i\neq j$ 時，$v_i\perp v_j$；

則稱 $S$ 為 $\mathbb{R}^m$ 中的一個 正交集。

這兩個條件各有作用。兩兩內積為零分開不同方向，而非零條件防止零向量 冒充一個方向。若允許零向量，集合 $\{0,e_1\}$ 會滿足所有兩兩內積為零的 等式，卻明顯線性相關。把零向量加入正交族並不會破壞這些等式，正因為如此 才必須單獨寫出非零條件。反過來，一個不含零向量的族也不一定正交，例如 $\langle e_1,e_1+e_2\rangle=1$。

定理

非零正交集自動線性無關

若 $S=\{v_1,\dots,v_k\}$ 是 $\mathbb{R}^m$ 中的正交子集，則 $S$ 線性無關。 特別地，$k\le m$。

證明

為甚麼正交集必線性無關

假設有線性關係

$$\alpha_1v_1+\cdots+\alpha_kv_k=0.$$

固定一個指標 $i$，對等式兩邊取與 $v_i$ 的內積。由內積的線性性，

$$0=\left\langle\sum_{j=1}^k\alpha_jv_j,v_i\right\rangle =\sum_{j=1}^k\alpha_j\langle v_j,v_i\rangle.$$

當 $j\neq i$ 時，正交性使對應內積為零，只剩下

$$0=\alpha_i\langle v_i,v_i\rangle=\alpha_i\|v_i\|^2.$$

因為 $v_i\neq0$，正定性給出 $\|v_i\|^2>0$，所以 $\alpha_i=0$。指標 $i$ 是任意的，對每個指標重複這個固定指標的檢驗，就會得到所有係數都為零。 因此線性關係是平凡的，集合線性無關。$\mathbb{R}^m$ 中的線性無關子集至多 有 $m$ 個向量。

這個證明也提供一個實用方法：想孤立某個係數，就對攜帶該係數的向量取內積。 正交性消除交叉項，非零範數讓除法合法。

正交集中的坐標

係數公式只適用於目標向量屬於正交集的張成空間這一情況。這個成員條件保證 所提出的線性組合確實是目標向量的表示。

定理

正交集中的係數公式

設 $S=\{v_1,\dots,v_k\}$ 是正交集，且

$$v=\alpha_1v_1+\cdots+\alpha_kv_k.$$

則對每個 $i$，

$$\alpha_i=\frac{\langle v,v_i\rangle}{\|v_i\|^2}.$$

因此

$$v=\sum_{i=1}^k\frac{\langle v,v_i\rangle}{\|v_i\|^2}v_i.$$

只要對表示式取與 $v_i$ 的內積，交叉項便消失，留下 $\langle v,v_i\rangle=\alpha_i\|v_i\|^2$。由於 $v_i$ 非零，可以相除。這個公式 是直接讀出坐標的方法，並不是張成空間的另一種定義。

定理

加權內積與勾股公式

若 $S=\{v_1,\dots,v_k\}$ 是正交集，且

$$v=\sum_{i=1}^k\alpha_i v_i,\qquad w=\sum_{i=1}^k\beta_i v_i,$$

則

$$\langle v,w\rangle=\sum_{i=1}^k\alpha_i\beta_i\|v_i\|^2.$$

特別地，

$$\|v\|^2=\sum_{i=1}^k\alpha_i^2\|v_i\|^2.$$

證明

為甚麼只剩下相同方向

利用內積在兩個位置的線性性展開：

$$\langle v,w\rangle =\left\langle\sum_i\alpha_i v_i,\sum_j\beta_jv_j\right\rangle =\sum_i\sum_j\alpha_i\beta_j\langle v_i,v_j\rangle.$$

當 $i\neq j$ 時，正交性使該項為零；當 $i=j$ 時，該項是 $\alpha_i\beta_i\|v_i\|^2$。把留下的對角項相加就得到公式。令 $w=v$ 且 $\beta_i=\alpha_i$，便得到範數平方公式。這是一個加權勾股定理：每個坐標 的貢獻由對應向量的長度平方加權。

下面的圖解集中說明這個機制：兩兩正交會消除交叉項，所以每個坐標係數都可以 由一個獨立的內積計算讀出。它也預告為甚麼把正交基正規化後，權重和分母都會 變成 $1$。

例題

用內積找坐標並檢查範數

令

$$v_1=\begin{bmatrix}1\\1\\1\end{bmatrix},\quad v_2=\begin{bmatrix}1\\-1\\0\end{bmatrix},\quad v_3=\begin{bmatrix}1\\1\\-2\end{bmatrix},\qquad x=\begin{bmatrix}1\\2\\3\end{bmatrix}.$$

先檢查幾何關係：

$$v_1\cdot v_2=0,\qquad v_1\cdot v_3=0,\qquad v_2\cdot v_3=0,$$

並且

$$\|v_1\|^2=3,\qquad \|v_2\|^2=2,\qquad \|v_3\|^2=6.$$

所以這是一個正交集。由於三個向量都非零且兩兩正交，根據定理它們線性無關。 $\mathbb{R}^3$ 中的三個線性無關向量構成 $\mathbb{R}^3$ 的一組基，因此 $x\in\operatorname{span}\{v_1,v_2,v_3\}$。這就在使用係數公式前核對了成員條件：

$$\alpha_1=\frac{\langle x,v_1\rangle}{\|v_1\|^2}=\frac{6}{3}=2,\quad \alpha_2=\frac{\langle x,v_2\rangle}{\|v_2\|^2}=\frac{-1}{2}=-\frac12,\quad \alpha_3=\frac{\langle x,v_3\rangle}{\|v_3\|^2}=\frac{-3}{6}=-\frac12.$$

代回去檢查：

$$2v_1-\frac12v_2-\frac12v_3 =\begin{bmatrix}2\\2\\2\end{bmatrix} +\begin{bmatrix}-\frac12\\\frac12\\0\end{bmatrix} +\begin{bmatrix}-\frac12\\-\frac12\\1\end{bmatrix} =\begin{bmatrix}1\\2\\3\end{bmatrix}=x.$$

加權範數公式提供另一項檢查：

$$\|x\|^2=2^2(3)+\left(-\frac12\right)^2(2)+ \left(-\frac12\right)^2(6)=12+\frac12+\frac32=14.$$

正交基與標準正交基

定義

正交基

設 $V$ 是 $\mathbb{R}^m$ 的子空間。若集合 $S$ 同時是 $V$ 的一組基底和正交集， 則稱 $S$ 為 $V$ 的 正交基。

由於正交集已經自動線性無關，所以要檢查一個正交集是不是正交基，只需要再 檢查它是否張成所討論的子空間。

定理

正交基判準

設 $V$ 是 $\mathbb{R}^m$ 的子空間。若 $S$ 是 $V$ 中的正交子集，則 $S$ 是 $V$ 的正交基，當且僅當 $S$ 張成 $V$。

正向是基底定義的一部分；反向中，張成性補上缺少的條件，而線性無關定理補上 另一個條件。這個判準提醒我們：正交族可以獨立，卻未必張成整個環境空間。

定義

標準正交基

集合 $S=\{v_1,\dots,v_k\}$ 若正交且每個向量的範數都是 $1$，則稱 $S$ 為 標準正交集。等價地，

$$\langle v_i,v_j\rangle= \begin{cases} 1,&i=j,\\ 0,&i\neq j. \end{cases}$$

既是標準正交集又是基底的集合稱為 標準正交基。零子空間 $\{0\}$ 的標準 正交基是空集；任何非空基底仍由非零向量組成。

定理

標準正交基中的坐標公式

若 $S=\{v_1,\dots,v_k\}$ 是標準正交集，且

$$v\in\operatorname{span}\{v_1,\dots,v_k\},$$

則

$$v=\langle v,v_1\rangle v_1+\cdots+\langle v,v_k\rangle v_k.$$

若 $v=\sum_i\alpha_i v_i$，還滿足

$$\|v\|^2=\alpha_1^2+\cdots+\alpha_k^2.$$

因為每個向量的範數是 $1$，分母自然消失，加權範數公式也變成坐標平方的普通 和式。

成員條件是公式的一部分

反例模式

係數公式不能產生缺少的分量

在 $\mathbb{R}^2$ 中取正交集 $S=\{e_1\}$，並取環境向量 $v=e_2$。這裏 $v\notin\operatorname{span}\{e_1\}$，但係數表達式會給出

$$\frac{\langle e_2,e_1\rangle}{\|e_1\|^2}e_1=0\neq e_2.$$

所以只有先確認 $v\in\operatorname{span}(S)$，公式才會重建 $v$。對任意環境向量， 同一個表達式給出 $v$ 在 $\operatorname{span}(S)$ 上的正交投影；餘向量

$$r=v-\sum_i\frac{\langle v,v_i\rangle}{\|v_i\|^2}v_i$$

與每個 $v_i$ 正交。這個餘向量正是下一節正交化過程要處理的部分。

正規化

定理

正規化正交基

若 $S=\{v_1,\dots,v_k\}$ 是正交集，則

$$S'=\left\{\frac{v_1}{\|v_1\|},\dots,\frac{v_k}{\|v_k\|}\right\}$$

是標準正交集，而且 $\operatorname{span}(S')=\operatorname{span}(S)$。若 $S$ 是 $V$ 的正交基，則 $S'$ 是 $V$ 的標準正交基。

每個除數都為正，因為對應向量非零。用非零數縮放向量會保留所有線性組合，因而 保留張成空間；同時 $\langle v_i/\|v_i\|,v_j/\|v_j\|\rangle=0$（當 $i\neq j$），新向量的範數 都等於 $1$。正規化不能修復非正交族：$(1,0)$ 與 $(1,1)$ 正規化後的內積仍為 $1/\sqrt2$，不是零。

例題

正規化三維正交基

使用坐標例中的正交基，定義

$$u_1=\frac{v_1}{\sqrt3},\qquad u_2=\frac{v_2}{\sqrt2},\qquad u_3=\frac{v_3}{\sqrt6}.$$

張成空間沒有改變，而且正規化後的向量滿足 $\langle u_i,u_j\rangle=\delta_{ij}$。 對同一個目標向量 $x$，標準正交坐標現在就是直接內積：

$$\langle x,u_1\rangle=2\sqrt3,\qquad \langle x,u_2\rangle=-\frac1{\sqrt2},\qquad \langle x,u_3\rangle=-\frac3{\sqrt6}.$$

因此

$$x=2\sqrt3\,u_1-\frac1{\sqrt2}u_2-\frac3{\sqrt6}u_3,$$

並且

$$\|x\|^2=(2\sqrt3)^2+\left(-\frac1{\sqrt2}\right)^2+ \left(-\frac3{\sqrt6}\right)^2=12+\frac12+\frac32=14.$$

非零向量、張成性與投影

正交集中的向量線性無關，但未必張成目標空間：$\{e_1\}$ 是正交集，但不能張成 $\mathbb{R}^2$。

必須區分「兩個向量正交」和「一個集合是正交集」。等式 $\langle v,w\rangle=0$ 允許其中一個向量為零；正交集則要求每個成員都非零。這正是線性無關證明中所用 的條件：對等式與 $v_i$ 取內積後，要除以 $\|v_i\|^2$，只有 $v_i\neq0$ 時這 個數才為正。證明從不除以係數，所以即使某些係數本來就是零，證明仍然有效。

係數公式還有一個邊界條件。表達式

$$\sum_i\frac{\langle v,v_i\rangle}{\|v_i\|^2}v_i$$

總會給出正交集張成空間中的向量，但只有在 $v$ 屬於這個張成空間時，它才等於 給定的 $v$。對一般向量，這個表達式是正交投影，而餘向量與每個基方向都正交。 所以成員條件不是裝飾性的技術假設；它把投影等式變成了重建等式。

加權公式也說明標準正交公式為何方便。在正交基中，較長的基向量對範數的貢獻 帶有權重 $\|v_i\|^2$；在標準正交基中，每個權重都是 $1$。係數也同時改變： $\alpha_i=\langle v,v_i\rangle/\|v_i\|^2$ 變成 $\alpha_i=\langle v,v_i\rangle$。正規化改變的是坐標的數值表示，不改變向量本身 或其張成空間。

常見錯誤

跳過張成性或範數檢查

不能把標準正交基的係數公式用於僅僅正交的向量族，也不能在未確認分母非零前使用 正交係數公式。對於非單位的正交族，$\|v_i\|^2$ 分母不可省略；對於不包含目標 向量的張成空間，所得和式只是目標向量的投影。一個好的最後檢查是把係數代回線性 組合；在有幫助時，再把加權範數公式所得的數值與直接由坐標計算的範數平方比較。

空集與維數

有限集合的假設使係數論證保持具體，但這個邏輯也能說明邊界情況。空集按空真條件 是正交集，其張成空間是零子空間，因此它正是 $\{0\}$ 的標準正交基。$\mathbb{R}^m$ 中的非空正交集至多有 $m$ 個成員；若恰有 $m$ 個成員，它就是整個空間的基底。這裏 同時使用了論證的兩個部分：內積給出線性無關，而維數相等補上張成性。一個向量族 成為基底後，線性無關性又保證坐標唯一，所以係數公式不是只產生一個方便的展開， 而是確定唯一可能的展開。

快速檢查

思考檢查

正交集可以包含零向量嗎？

用定義回答，不要只看 $\langle0,v\rangle=0$。

解答 · 答案

不可以。按定義，正交集要求其中每個向量都非零。

思考檢查

為甚麼標準基向量 $e_1,\dots,e_m$ 彼此正交？

計算它們之間的內積。

解答 · 答案

若 $i\neq j$，則 $e_i^Te_j=0$，因為兩個向量中的 $1$ 出現在不同坐標位置。 每個 $e_i$ 都非零，所以標準基是正交集。

思考檢查

若使用標準正交基，$v$ 展開式中 $v_i$ 的係數是多少？

利用標準正交坐標公式。

解答 · 答案

只要 $v$ 屬於該基底的張成空間，係數就是 $\langle v,v_i\rangle$。

練習

思考檢查

證明 $\{(1,2),(-2,1)\}$ 是 $\mathbb{R}^2$ 的一組正交基，並核對張成性。

先檢查正交，再使用線性無關性和維數。

解答 · 引導解答

兩向量的內積是

$$(1,2)\cdot(-2,1)=-2+2=0.$$

兩個向量都非零，所以正交集定理使它們線性無關。$\mathbb{R}^2$ 中的兩個 線性無關向量構成基底，因而張成 $\mathbb{R}^2$。

思考檢查

令 $u_1=(1,2)$、$u_2=(-2,1)$、$v=(0,5)$。求 v 在這組正交基下的係數。

先計算兩個內積和兩個範數平方，再重建 $v$。

解答 · 引導解答

因為

$$\langle u_1,u_2\rangle=-2+2=0,\qquad \|u_1\|^2=\|u_2\|^2=5,$$

這是一組正交向量。對 $v=(0,5)$，

$$\langle v,u_1\rangle=10,\qquad \langle v,u_2\rangle=5.$$

所以係數是 $10/5=2$ 與 $5/5=1$，並且

$$2(1,2)+(-2,1)=(0,5)=v.$$

思考檢查

把正交基 $\{(3,4),(4,-3)\}$ 正規化。

把每個向量除以自己的範數。

解答 · 引導解答

兩個向量的範數都等於 $5$，因此一組標準正交基為

$$\left\{ \left(\frac35,\frac45\right), \left(\frac45,-\frac35\right) \right\}.$$

相關筆記

如果內積公式還不熟悉，請先讀 9.1 內積、範數與夾角， 因為本節公式都建立在那裏的內積與範數定義之上。

之後可繼續讀 9.3 Gram-Schmidt 正交化， 看看任意基底如何系統地轉成正交基。成員條件反例中的餘向量，正是那個過程的 第一步投影。

本節的基底語言也依賴 6.5 基底與維數。