實內積、誘導範數與所需不等式
實向量空間上的內積是取值於實數的映射 ⟨ u , v ⟩ \langle u,v\rangle ⟨ u , v ⟩ ,它對稱、對每個變量線性,並且正定:v ≠ 0 v\ne0 v = 0 時 ⟨ v , v ⟩ > 0 \langle v,v\rangle>0 ⟨ v , v ⟩ > 0 。線性性給出 ⟨ 0 , v ⟩ = 0 \langle0,v\rangle=0 ⟨ 0 , v ⟩ = 0 。定義 ∥ v ∥ = ⟨ v , v ⟩ \|v\|=\sqrt{\langle v,v\rangle} ∥ v ∥ = ⟨ v , v ⟩ ,則範數恰在零向量處為零,且 ∥ c v ∥ = ∣ c ∣ ∥ v ∥ \|cv\|=|c|\|v\| ∥ c v ∥ = ∣ c ∣∥ v ∥ 。R m \mathbb R^m R m 上的標準例子是 ⟨ u , v ⟩ = ∑ i = 1 m u i v i \langle u,v\rangle=\sum_{i=1}^mu_iv_i ⟨ u , v ⟩ = ∑ i = 1 m u i v i 。內積為零的向量稱為正交;不同成員互相正交且每個成員範數為一的列表稱為正交規範列表。
若 v ≠ 0 v\ne0 v = 0 ,將 t = ⟨ u , v ⟩ / ∥ v ∥ 2 t=\langle u,v\rangle/\|v\|^2 t = ⟨ u , v ⟩ /∥ v ∥ 2 代入非負平方 ∥ u − t v ∥ 2 \|u-tv\|^2 ∥ u − t v ∥ 2 ,以雙線性展開得 ∥ u ∥ 2 − ⟨ u , v ⟩ 2 / ∥ v ∥ 2 ≥ 0 \|u\|^2-\langle u,v\rangle^2/\|v\|^2\ge0 ∥ u ∥ 2 − ⟨ u , v ⟩ 2 /∥ v ∥ 2 ≥ 0 ,故 ∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ |\langle u,v\rangle|\le\|u\|\|v\| ∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥∥ v ∥ 。若 v = 0 v=0 v = 0 ,該不等式直接成立。對 v ≠ 0 v\ne0 v = 0 ,等號意味着 ∥ u − t v ∥ = 0 \|u-tv\|=0 ∥ u − t v ∥ = 0 ,等價於 u = t v u=tv u = t v ;零向量情形也取等。最後展開 ∥ u + v ∥ 2 \|u+v\|^2 ∥ u + v ∥ 2 並對交叉項使用該界,得到 ∥ u + v ∥ 2 ≤ ( ∥ u ∥ + ∥ v ∥ ) 2 \|u+v\|^2\le(\|u\|+\|v\|)^2 ∥ u + v ∥ 2 ≤ ( ∥ u ∥ + ∥ v ∥ ) 2 。待開方的兩邊非負,因此得到三角不等式。這確實定義了範數,任何非零向量的歸一化都只除以正實數;這裏不使用複雙線性的約定。
控制長度平方中的交叉項
內積給你長度與夾角的公式。接下來的問題是:這些公式究竟受到甚麼限制?
兩條不等式給出了相應的界:
Cauchy-Schwarz 不等式控制內積的大小,不會超過兩個向量長度的乘積;
三角不等式說明,由 0 0 0 走到 u + v u+v u + v 的直路,永遠不會比先走 u u u 再走
v v v 更長。
這兩條不等式說明歐氏幾何為何能夠用代數語言表達。
困難會在展開範數平方時出現。例如,∥ u + v ∥ 2 \|u+v\|^2 ∥ u + v ∥ 2 含有帶符號的交叉項
2 ⟨ u , v ⟩ 2\langle u,v\rangle 2 ⟨ u , v ⟩ ,但長度必須非負,而且最好能在不知道向量坐標的
情況下加以控制。Cauchy-Schwarz 恰好提供這個控制;它把上述代數展開轉
化為三角不等式。各個等號條件則進一步記錄兩個向量是在同一條射線上,
還是在同一直線的相反方向上。相同的估計亦說明:向量只有小幅變化時,
其長度以及與固定向量的內積也只會小幅變化。
按這個次序證明還有結構上的理由。由內積公理可立即得到誘導長度的非負
性與齊次性,三角不等式卻並非直接可見。只有先用 Cauchy-Schwarz 控制
交叉項,範數的全部公理才告成立,而 d ( x , y ) = ∥ x − y ∥ d(x,y)=\|x-y\| d ( x , y ) = ∥ x − y ∥ 也才真正成為度
量。因此,本節不只匯集幾條方便的估計;它完成了由內積到長度、距離與
夾角的邏輯過渡。
實內積空間中的約定
定義
實內積空間與誘導範數 本節始終假設 V V V 是一個實 內積空間。因此
⟨ ⋅ , ⋅ ⟩ \langle\cdot,\cdot\rangle ⟨ ⋅ , ⋅ ⟩ 取實數值,並滿足雙線性、對稱性與正定性。
由內積誘導的範數定義為
∥ x ∥ = ⟨ x , x ⟩ , \|x\|=\sqrt{\langle x,x\rangle}, ∥ x ∥ = ⟨ x , x ⟩ , 所以 ∥ x ∥ ≥ 0 \|x\|\ge0 ∥ x ∥ ≥ 0 ,而且等號成立當且僅當 x = 0 x=0 x = 0 。標準模型是帶點積的
V = R m V=\mathbb{R}^m V = R m ,不過下面的證明只用到實內積公理,所以對任意實內積
空間都成立。
若存在不全為零的實數 a , b a,b a , b 使 a v + b w = 0 av+bw=0 a v + b w = 0 ,就稱 v , w v,w v , w 線性相關。按這
個定義,任何包含零向量的向量對都線性相關。要在不另行排除零向量的情
況下準確陳述等號條件,這項約定不可省略。複內積空間涉及共軛線性,而
夾角也需要另一番討論;本節並未把它們默默納入目前的陳述。
Cauchy-Schwarz 不等式
定理
Cauchy-Schwarz 不等式 對所有向量 v , w ∈ V v,w\in V v , w ∈ V ,
∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥ . |\langle v,w\rangle|\le\|v\|\,\|w\|. ∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥. 而且等號成立當且僅當 v v v 與 w w w 線性相關。
這條不等式表示:內積的絕對值,不可能大過兩個向量長度的乘積。對非零
向量 v v v 與 w w w ,下列商落在 [ − 1 , 1 ] [-1,1] [ − 1 , 1 ] 內,因此可完整定義兩者的夾角為
θ = arccos ( ⟨ v , w ⟩ ∥ v ∥ ∥ w ∥ ) ∈ [ 0 , π ] . \theta=
\arccos\!\left(
\frac{\langle v,w\rangle}{\|v\|\,\|w\|}
\right)\in[0,\pi]. θ = arccos ( ∥ v ∥ ∥ w ∥ ⟨ v , w ⟩ ) ∈ [ 0 , π ] .
等價地,cos θ = ⟨ v , w ⟩ / ( ∥ v ∥ ∥ w ∥ ) \cos\theta=\langle v,w\rangle/(\|v\|\,\|w\|) cos θ = ⟨ v , w ⟩ / ( ∥ v ∥ ∥ w ∥ ) 。若其中一個
向量是零向量,分母便為零,所以此公式不能定義夾角。對非零向量而言,
θ = 0 \theta=0 θ = 0 表示它們在同一條射線上,θ = π / 2 \theta=\pi/2 θ = π /2 表示正交,
θ = π \theta=\pi θ = π 則表示它們在相反射線上。
這個定義只取決於方向。把任一向量乘以正純量不會改變上述商;若恰好把
其中一個向量乘以負純量,其方向反轉,夾角便由 θ \theta θ 變為
π − θ \pi-\theta π − θ 。在兩個端點,商分別為 1 1 1 與 − 1 -1 − 1 ,對應正比例與負比
例。Cauchy-Schwarz 中的絕對值有意把兩種端點都列作取等情況,三角不
等式卻會把它們區分開來。零向量不能歸一化,也沒有方向;這正是除了分
母為零之外,不在這裡為它指定夾角的概念原因。
證明
用二次多項式證明 先考慮 w = 0 w=0 w = 0 。此時 Cauchy-Schwarz 的兩邊同為 0 0 0 ,等號立即成立;而
包含零向量的一對向量必定線性相關。因此,不等式和上述等號條件在這個
情況都成立。
現在假設 w ≠ 0 w\ne0 w = 0 ,並考慮函數
F ( t ) = ∥ t w − v ∥ 2 . F(t)=\|tw-v\|^2. F ( t ) = ∥ tw − v ∥ 2 . 由於範數平方永遠非負,所以對所有實數 t t t 都有 F ( t ) ≥ 0 F(t)\ge0 F ( t ) ≥ 0 。把它展
開得
F ( t ) = t 2 ⟨ w , w ⟩ − 2 t ⟨ v , w ⟩ + ⟨ v , v ⟩ . F(t)=t^2\langle w,w\rangle-2t\langle v,w\rangle+\langle v,v\rangle. F ( t ) = t 2 ⟨ w , w ⟩ − 2 t ⟨ v , w ⟩ + ⟨ v , v ⟩ . 由於首項係數是 ∥ w ∥ 2 > 0 \|w\|^2>0 ∥ w ∥ 2 > 0 ,這是一個真正的二次多項式。它對所有實數
都非負,因此其判別式不能為正:
4 ⟨ v , w ⟩ 2 − 4 ∥ v ∥ 2 ∥ w ∥ 2 ≤ 0. 4\langle v,w\rangle^2-4\|v\|^2\|w\|^2\le0. 4 ⟨ v , w ⟩ 2 − 4∥ v ∥ 2 ∥ w ∥ 2 ≤ 0. 於是
∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥ . |\langle v,w\rangle|\le\|v\|\,\|w\|. ∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥. 在 w ≠ 0 w\ne0 w = 0 的情況,Cauchy-Schwarz 取等當且僅當判別式為零,亦即
F ( t ) F(t) F ( t ) 有實根。這表示存在某個實數 t t t 使 t w − v = 0 tw-v=0 tw − v = 0 ,所以 v v v 是 w w w
的純量倍。反過來,若 v v v 與 w w w 線性相關,因 w ≠ 0 w\ne0 w = 0 ,可寫成
v = t w v=tw v = tw ,直接代入便得等號。連同 w = 0 w=0 w = 0 的情況,這就證明了完整的等號
條件,包括其中一個或兩個向量都是零向量的所有情況。
二次式的投影意義
同一個計算也說明這個證明為何有自然的幾何意義。當 w ≠ 0 w\ne0 w = 0 時,令
t 0 = ⟨ v , w ⟩ ∥ w ∥ 2 , r = v − t 0 w . t_0=\frac{\langle v,w\rangle}{\|w\|^2},
\qquad
r=v-t_0w. t 0 = ∥ w ∥ 2 ⟨ v , w ⟩ , r = v − t 0 w .
於是
⟨ r , w ⟩ = ⟨ v , w ⟩ − t 0 ∥ w ∥ 2 = 0. \langle r,w\rangle
=\langle v,w\rangle-t_0\|w\|^2=0. ⟨ r , w ⟩ = ⟨ v , w ⟩ − t 0 ∥ w ∥ 2 = 0.
所以 t 0 w t_0w t 0 w 是 v v v 沿 w w w 所張成直線的分量,r r r 則是正交餘項。把正
交分解 v = t 0 w + r v=t_0w+r v = t 0 w + r 展開,可得
∥ v ∥ 2 = ∥ t 0 w ∥ 2 + ∥ r ∥ 2 = ⟨ v , w ⟩ 2 ∥ w ∥ 2 + ∥ r ∥ 2 . \|v\|^2
=\|t_0w\|^2+\|r\|^2
=\frac{\langle v,w\rangle^2}{\|w\|^2}+\|r\|^2. ∥ v ∥ 2 = ∥ t 0 w ∥ 2 + ∥ r ∥ 2 = ∥ w ∥ 2 ⟨ v , w ⟩ 2 + ∥ r ∥ 2 .
由於 ∥ r ∥ 2 ≥ 0 \|r\|^2\ge0 ∥ r ∥ 2 ≥ 0 ,一個向量沿某條直線的分量不可能比向量本身更
長;整理後正是 Cauchy-Schwarz。等號成立當且僅當 r = 0 r=0 r = 0 ,也就是 v v v
本來就在那條直線上。因此,判別式、正交投影與等號條件其實是同一事實
的三種表述。
也可以把二次式配方,直接看出其精確最小值:
F ( t ) = ∥ w ∥ 2 ( t − ⟨ v , w ⟩ ∥ w ∥ 2 ) 2 + ∥ v ∥ 2 − ⟨ v , w ⟩ 2 ∥ w ∥ 2 . F(t)
=\|w\|^2\left(t-\frac{\langle v,w\rangle}{\|w\|^2}\right)^2
+\|v\|^2-\frac{\langle v,w\rangle^2}{\|w\|^2}. F ( t ) = ∥ w ∥ 2 ( t − ∥ w ∥ 2 ⟨ v , w ⟩ ) 2 + ∥ v ∥ 2 − ∥ w ∥ 2 ⟨ v , w ⟩ 2 .
第一項恰在 t = t 0 t=t_0 t = t 0 時消失,所以最後的常數項就是 F F F 的最小值,必定
非負。這會給出與判別式方法相同的不等式平方形式。更重要的是,它說明
判別式為零並非偶然的代數現象:這表示 v v v 到 w w w 所張成直線的最短距
離為零。此時正交餘項消失,兩個向量也就線性相關。
非負二次式給出 Cauchy–Schwarz,再由它對交叉項的估計得到三角不等式。
例題
數值檢查 Cauchy-Schwarz 令
v = [ 1 2 3 ] , w = [ 4 5 6 ] . v=
\begin{bmatrix}
1\\2\\3
\end{bmatrix},
\qquad
w=
\begin{bmatrix}
4\\5\\6
\end{bmatrix}. v = 1 2 3 , w = 4 5 6 . 則
⟨ v , w ⟩ = 32 , ∥ v ∥ = 14 , ∥ w ∥ = 77 . \langle v,w\rangle=32,
\qquad
\|v\|=\sqrt{14},
\qquad
\|w\|=\sqrt{77}. ⟨ v , w ⟩ = 32 , ∥ v ∥ = 14 , ∥ w ∥ = 77 . 所以
∣ ⟨ v , w ⟩ ∣ = 32 , ∥ v ∥ ∥ w ∥ = 14 ⋅ 77 = 1078 ≈ 32.83. |\langle v,w\rangle|=32,
\qquad
\|v\|\,\|w\|=\sqrt{14\cdot77}=\sqrt{1078}\approx32.83. ∣ ⟨ v , w ⟩ ∣ = 32 , ∥ v ∥ ∥ w ∥ = 14 ⋅ 77 = 1078 ≈ 32.83. 確實有
32 ≤ 32.83. 32\le32.83. 32 ≤ 32.83. 歸一化內積為 32 / 1078 ≈ 0.9746 32/\sqrt{1078}\approx0.9746 32/ 1078 ≈ 0.9746 ,所以夾角約為 0.226 0.226 0.226 弧
度。這個數嚴格小於 1 1 1 ,說明兩向量方向相近,卻並非線性相關。
三角不等式
定理
三角不等式 對所有向量 u , v ∈ V u,v\in V u , v ∈ V ,
∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ . \|u+v\|\le\|u\|+\|v\|. ∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥. 而且等號成立當且僅當 u u u 與 v v v 其中一個是另一個的非負純量倍,包括
其中一個是零向量的情況。
幾何意思很直接:三角形的一邊,永遠不會比另外兩邊的總和更長。
證明
兩個估計的等號必須同時成立 這裏要追蹤連續的兩個等號缺口:
⟨ u , v ⟩ ≤ ∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ \langle u,v\rangle\le|\langle u,v\rangle|\le\|u\|\,\|v\| ⟨ u , v ⟩ ≤ ∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ 第一個缺口控制內積的符號,第二個控制線性相關性。零向量情況分開處理,
因此不需要在這些情況下歸一化。
由
∥ u + v ∥ 2 = ⟨ u + v , u + v ⟩ = ∥ u ∥ 2 + 2 ⟨ u , v ⟩ + ∥ v ∥ 2 \|u+v\|^2
=\langle u+v,u+v\rangle
=\|u\|^2+2\langle u,v\rangle+\|v\|^2 ∥ u + v ∥ 2 = ⟨ u + v , u + v ⟩ = ∥ u ∥ 2 + 2 ⟨ u , v ⟩ + ∥ v ∥ 2 及 Cauchy-Schwarz,
⟨ u , v ⟩ ≤ ∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ , \langle u,v\rangle\le|\langle u,v\rangle|\le\|u\|\,\|v\|, ⟨ u , v ⟩ ≤ ∣ ⟨ u , v ⟩ ∣ ≤ ∥ u ∥ ∥ v ∥ , 可得
∥ u + v ∥ 2 ≤ ∥ u ∥ 2 + 2 ∥ u ∥ ∥ v ∥ + ∥ v ∥ 2 = ( ∥ u ∥ + ∥ v ∥ ) 2 . \|u+v\|^2\le\|u\|^2+2\|u\|\,\|v\|+\|v\|^2=(\|u\|+\|v\|)^2. ∥ u + v ∥ 2 ≤ ∥ u ∥ 2 + 2∥ u ∥ ∥ v ∥ + ∥ v ∥ 2 = ( ∥ u ∥ + ∥ v ∥ ) 2 . 兩邊取平方根便得到
∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥ . \|u+v\|\le\|u\|+\|v\|. ∥ u + v ∥ ≤ ∥ u ∥ + ∥ v ∥. 要在最後取等,上面一連串的兩個估計都必須取等。第一個估計要求
⟨ u , v ⟩ = ∣ ⟨ u , v ⟩ ∣ \langle u,v\rangle=|\langle u,v\rangle| ⟨ u , v ⟩ = ∣ ⟨ u , v ⟩ ∣ ,即內積非負;
Cauchy-Schwarz 的界取等則要求 u u u 與 v v v 線性相關。若兩個向量都非
零,可寫成 v = λ u v=\lambda u v = λ u ,而
⟨ u , v ⟩ = λ ∥ u ∥ 2 ≥ 0 \langle u,v\rangle=\lambda\|u\|^2\ge0 ⟨ u , v ⟩ = λ ∥ u ∥ 2 ≥ 0 迫使 λ ≥ 0 \lambda\ge0 λ ≥ 0 。若其中
一個是零向量,等號立即成立,而零向量也是另一個向量的非負純量倍。反
過來,直接代入可見,符合這個非負純量倍條件的向量必定取等。因此,兩
個非零向量方向相反時雖會令 Cauchy-Schwarz 取等,卻不會令三角不等式
取等。
對非零 u , v u,v u , v ,夾角定義把這種幾何聯繫寫得更明確:
∥ u + v ∥ 2 = ∥ u ∥ 2 + ∥ v ∥ 2 + 2 ∥ u ∥ ∥ v ∥ cos θ . \|u+v\|^2
=\|u\|^2+\|v\|^2+2\|u\|\,\|v\|\cos\theta. ∥ u + v ∥ 2 = ∥ u ∥ 2 + ∥ v ∥ 2 + 2∥ u ∥ ∥ v ∥ cos θ .
Cauchy-Schwarz 正是斷言 − 1 ≤ cos θ ≤ 1 -1\le\cos\theta\le1 − 1 ≤ cos θ ≤ 1 ;採用上端點便得到三角
不等式。要在上端點取等,必須有 θ = 0 \theta=0 θ = 0 ,而不是
θ = π \theta=\pi θ = π 。因此,同一直線上方向相反的向量會使 Cauchy-Schwarz 取
等,卻不能使三角不等式取等。代數中的符號條件與幾何中的同射線條件,
實際上是等價的兩種描述。
還可以量化這幅圖景。對非零向量作歸一化:
u ^ = u / ∥ u ∥ \widehat u=u/\|u\| u = u /∥ u ∥ 、v ^ = v / ∥ v ∥ \widehat v=v/\|v\| v = v /∥ v ∥ 。它們都是單位向量,而且
∥ u ^ − v ^ ∥ 2 = 2 − 2 ⟨ u ^ , v ^ ⟩ = 2 − 2 cos θ = 4 sin 2 ( θ 2 ) . \|\widehat u-\widehat v\|^2
=2-2\langle\widehat u,\widehat v\rangle
=2-2\cos\theta
=4\sin^2\!\left(\frac{\theta}{2}\right). ∥ u − v ∥ 2 = 2 − 2 ⟨ u , v ⟩ = 2 − 2 cos θ = 4 sin 2 ( 2 θ ) .
因為 θ / 2 ∈ [ 0 , π / 2 ] \theta/2\in[0,\pi/2] θ /2 ∈ [ 0 , π /2 ] ,取非負平方根得
∥ u ^ − v ^ ∥ = 2 sin ( θ / 2 ) \|\widehat u-\widehat v\|=2\sin(\theta/2) ∥ u − v ∥ = 2 sin ( θ /2 ) 。所以夾角小時,兩個歸一
化向量在範數意義下也接近;夾角為 π \pi π 時,兩者距離達到最大值 2 2 2 。
類似地,∥ u ^ + v ^ ∥ = 2 cos ( θ / 2 ) \|\widehat u+\widehat v\|=2\cos(\theta/2) ∥ u + v ∥ = 2 cos ( θ /2 ) ,故三角不等式的
上界 2 2 2 只在夾角為零時達到。這些恆等式把等號條件轉化為單位球面上的
精確距離。
定理
反向三角不等式 對所有向量 u , v ∈ V u,v\in V u , v ∈ V ,
∥ u − v ∥ ≥ ∣ ∥ u ∥ − ∥ v ∥ ∣ . \|u-v\|\ge\bigl|\|u\|-\|v\|\bigr|. ∥ u − v ∥ ≥ ∥ u ∥ − ∥ v ∥ . 等號成立當且僅當 u u u 與 v v v 其中一個是另一個的非負純量倍,零向量的
情況也包括在內。
把三角不等式分別用於 u = ( u − v ) + v u=(u-v)+v u = ( u − v ) + v 與 v = ( v − u ) + u v=(v-u)+u v = ( v − u ) + u ,可得
∥ u ∥ − ∥ v ∥ ≤ ∥ u − v ∥ \|u\|-\|v\|\le\|u-v\| ∥ u ∥ − ∥ v ∥ ≤ ∥ u − v ∥ 及
∥ v ∥ − ∥ u ∥ ≤ ∥ u − v ∥ \|v\|-\|u\|\le\|u-v\| ∥ v ∥ − ∥ u ∥ ≤ ∥ u − v ∥ ,兩式合起來便證明上述下界。例如,若
∥ u ∥ ≥ ∥ v ∥ \|u\|\ge\|v\| ∥ u ∥ ≥ ∥ v ∥ 而且取等,則 u = ( u − v ) + v u=(u-v)+v u = ( u − v ) + v 所用的三角不等式本身也必
須取等。因此 u − v u-v u − v 與 v v v 沿同一非負方向,從而 u u u 與 v v v 也沿同一
非負方向。另一種範數大小次序完全對稱。反過來,若兩向量符合上述非負
純量倍條件,直接計算便得等號;這也包括其中一個是零向量的情況。
這個版本在你需要下界而不是上界時,往往更容易用。
它亦可寫成對稱形式
∣ ∥ u ∥ − ∥ v ∥ ∣ ≤ ∥ u − v ∥ . \bigl|\|u\|-\|v\|\bigr|\le\|u-v\|. ∥ u ∥ − ∥ v ∥ ≤ ∥ u − v ∥.
因此,對距離 d ( u , v ) = ∥ u − v ∥ d(u,v)=\|u-v\| d ( u , v ) = ∥ u − v ∥ 而言,範數函數是 1-Lipschitz 的:
向量至多改變 ε \varepsilon ε ,其長度也至多改變 ε \varepsilon ε 。特別地,
若 x n x_n x n 在範數下趨近 x x x ,則
∣ ∥ x n ∥ − ∥ x ∥ ∣ ≤ ∥ x n − x ∥ |\|x_n\|-\|x\||\le\|x_n-x\| ∣∥ x n ∥ − ∥ x ∥∣ ≤ ∥ x n − x ∥ 直接說明 ∥ x n ∥ \|x_n\| ∥ x n ∥ 趨近 ∥ x ∥ \|x\| ∥ x ∥ 。
這個分析結論仍是同一條反向三角不等式,並未增加任何坐標假設。
重複使用三角不等式,還可得到有限和形式
∥ ∑ k = 1 n x k ∥ ≤ ∑ k = 1 n ∥ x k ∥ . \left\|\sum_{k=1}^{n}x_k\right\|
\le\sum_{k=1}^{n}\|x_k\|. k = 1 ∑ n x k ≤ k = 1 ∑ n ∥ x k ∥.
證明只需歸納:分離最後一個加項,對它與前面的部分和使用二向量三角不
等式,再對前面的部分和使用歸納假設。結合範數的齊次性,又有
∥ ∑ k = 1 n a k x k ∥ ≤ ∑ k = 1 n ∣ a k ∣ ∥ x k ∥ . \left\|\sum_{k=1}^{n}a_kx_k\right\|
\le\sum_{k=1}^{n}|a_k|\,\|x_k\|. k = 1 ∑ n a k x k ≤ k = 1 ∑ n ∣ a k ∣ ∥ x k ∥.
這是在不展開坐標的情況下,控制多個向量貢獻之累積大小的標準方法。
有限和的等號條件也有一個很有用的多向量形式。設 p p p 是正整數,並有向量
x 1 , … , x p x_1,\ldots,x_p x 1 , … , x p 。展開兩個平方可得
( ∑ i = 1 p ∥ x i ∥ ) 2 − ∥ ∑ i = 1 p x i ∥ 2 = 2 ∑ 1 ≤ i < j ≤ p ( ∥ x i ∥ ∥ x j ∥ − ⟨ x i , x j ⟩ ) ≥ 0 \left(\sum_{i=1}^{p}\|x_i\|\right)^2-
\left\|\sum_{i=1}^{p}x_i\right\|^2
=2\sum_{1\le i<j\le p}
\left(\|x_i\|\,\|x_j\|-\langle x_i,x_j\rangle\right)\ge0 ( i = 1 ∑ p ∥ x i ∥ ) 2 − i = 1 ∑ p x i 2 = 2 1 ≤ i < j ≤ p ∑ ( ∥ x i ∥ ∥ x j ∥ − ⟨ x i , x j ⟩ ) ≥ 0
由 Cauchy-Schwarz 以及 ⟨ x i , x j ⟩ ≤ ∣ ⟨ x i , x j ⟩ ∣ \langle x_i,x_j\rangle\le|\langle x_i,x_j\rangle| ⟨ x i , x j ⟩ ≤ ∣ ⟨ x i , x j ⟩ ∣ ,
每個兩兩缺口都非負。因此取等當且僅當每個兩兩缺口都為零。p = 1 p=1 p = 1 時
結論立即成立;若所有向量都是零,也立即成立。否則選取一個非零向量
w = x k w=x_k w = x k ;對 w w w 取等,再結合二向量三角不等式的等號條件,可知每個非零
x i x_i x i 都是 w w w 的正純量倍,零向量可以存在。反過來,位於同一條正向射線
上的向量會使範數和可加。因此,取等要求所有非零向量位於同一條正向射線,
而不只是同一條直線。
同樣可以得到折線路徑不等式。對點 t 0 , … , t p t_0,\ldots,t_p t 0 , … , t p ,令
x i = t i − t i − 1 x_i=t_i-t_{i-1} x i = t i − t i − 1 。由於
∑ i = 1 p x i = t p − t 0 \sum_{i=1}^{p}x_i=t_p-t_0 i = 1 ∑ p x i = t p − t 0
有限和不等式給出
∥ t p − t 0 ∥ ≤ ∑ i = 1 p ∥ t i − t i − 1 ∥ \|t_p-t_0\|\le\sum_{i=1}^{p}\|t_i-t_{i-1}\| ∥ t p − t 0 ∥ ≤ i = 1 ∑ p ∥ t i − t i − 1 ∥
當且僅當所有非零步向量都位於同一條正向射線時取等;零步向量可以存在,全為
零的路徑也符合條件。幾何上,這表示路徑沿一個方向直線前進,沒有來回折返。
若 t p = t 0 t_p=t_0 t p = t 0 ,取等便進一步迫使每一步都為零。
Cauchy-Schwarz 則給出內積的相應穩定性估計。固定 z z z 後,
∣ ⟨ x , z ⟩ − ⟨ y , z ⟩ ∣ = ∣ ⟨ x − y , z ⟩ ∣ ≤ ∥ x − y ∥ ∥ z ∥ . |\langle x,z\rangle-\langle y,z\rangle|
=|\langle x-y,z\rangle|
\le\|x-y\|\,\|z\|. ∣ ⟨ x , z ⟩ − ⟨ y , z ⟩ ∣ = ∣ ⟨ x − y , z ⟩ ∣ ≤ ∥ x − y ∥ ∥ z ∥.
若兩個位置都改變,可加上再減去 ⟨ x ′ , y ⟩ \langle x',y\rangle ⟨ x ′ , y ⟩ ,並使用兩次
Cauchy-Schwarz,得到
∣ ⟨ x , y ⟩ − ⟨ x ′ , y ′ ⟩ ∣ ≤ ∥ x − x ′ ∥ ∥ y ∥ + ∥ x ′ ∥ ∥ y − y ′ ∥ . |\langle x,y\rangle-\langle x',y'\rangle|
\le\|x-x'\|\,\|y\|+\|x'\|\,\|y-y'\|. ∣ ⟨ x , y ⟩ − ⟨ x ′ , y ′ ⟩ ∣ ≤ ∥ x − x ′ ∥ ∥ y ∥ + ∥ x ′ ∥ ∥ y − y ′ ∥.
這些界在不依賴坐標的情況下說明:範數與內積在小擾動下都保持穩定。
等號條件很重要
等號條件不是補充說明,而是告訴你估計何時會變得剛剛好。
對兩個非零向量,Cauchy-Schwarz 取等表示它們同向或反向。更一般地,
取等表示兩個向量線性相關,這也包括任何含有零向量的向量對;
對兩個非零向量,三角不等式取等表示它們沿同一方向,而且比例非負。
含有零向量的向量對也會取等。
例題
三角不等式取等的情況 令
u = [ 2 0 ] , v = [ 3 0 ] . u=
\begin{bmatrix}
2\\0
\end{bmatrix},
\qquad
v=
\begin{bmatrix}
3\\0
\end{bmatrix}. u = [ 2 0 ] , v = [ 3 0 ] . 則 v = 3 2 u v=\frac32u v = 2 3 u ,所以 v v v 是 u u u 的非負純量倍。於是
∥ u + v ∥ = ∥ [ 5 0 ] ∥ = 5 = 2 + 3 = ∥ u ∥ + ∥ v ∥ . \|u+v\|=\left\|
\begin{bmatrix}
5\\0
\end{bmatrix}
\right\|=5
=2+3
=\|u\|+\|v\|. ∥ u + v ∥ = [ 5 0 ] = 5 = 2 + 3 = ∥ u ∥ + ∥ v ∥. 所以等號成立。
例題
Cauchy-Schwarz 取等不能決定三角不等式中的符號 令
u = ( 2 , 0 ) , v = ( − 3 , 0 ) . u=(2,0),
\qquad
v=(-3,0). u = ( 2 , 0 ) , v = ( − 3 , 0 ) . 因為 v = − 3 2 u v=-\frac32u v = − 2 3 u ,兩向量線性相關。因此 Cauchy-Schwarz 取等,直接
計算也可驗證:
∣ ⟨ u , v ⟩ ∣ = ∣ − 6 ∣ = 6 = ∥ u ∥ ∥ v ∥ = 2 ⋅ 3. |\langle u,v\rangle|=|-6|=6
=\|u\|\,\|v\|=2\cdot3. ∣ ⟨ u , v ⟩ ∣ = ∣ − 6∣ = 6 = ∥ u ∥ ∥ v ∥ = 2 ⋅ 3. 但對三角不等式,
∥ u + v ∥ = ∥ ( − 1 , 0 ) ∥ = 1 < 5 = ∥ u ∥ + ∥ v ∥ . \|u+v\|=\|(-1,0)\|=1
<5=\|u\|+\|v\|. ∥ u + v ∥ = ∥ ( − 1 , 0 ) ∥ = 1 < 5 = ∥ u ∥ + ∥ v ∥. 這裡嚴格不等,是因為比例 − 3 / 2 -3/2 − 3/2 為負。這個例子保護了符號條件:線性
相關足以令 Cauchy-Schwarz 取等,但三角不等式取等要求的是非負 純
量倍。
常見錯誤
常見錯誤
Cauchy-Schwarz 取等不等於正交 正交表示 ⟨ v , w ⟩ = 0 \langle v,w\rangle=0 ⟨ v , w ⟩ = 0 。Cauchy-Schwarz 取等表示
∣ ⟨ v , w ⟩ ∣ = ∥ v ∥ ∥ w ∥ . |\langle v,w\rangle|=\|v\|\,\|w\|. ∣ ⟨ v , w ⟩ ∣ = ∥ v ∥ ∥ w ∥. 若 v v v 與 w w w 都非零,取等表示兩個向量線性相關,因此不可能同時正交。
不過,若其中一個向量是零向量,兩者會同時正交和線性相關,
Cauchy-Schwarz 在這個退化情況仍然取等。
常見錯誤
不要遺漏符號條件或非零假設 絕對值等式 ∣ ⟨ u , v ⟩ ∣ = ∥ u ∥ ∥ v ∥ |\langle u,v\rangle|=\|u\|\,\|v\| ∣ ⟨ u , v ⟩ ∣ = ∥ u ∥ ∥ v ∥ 同時容許正純量倍與負純
量倍。三角不等式的證明還需要
⟨ u , v ⟩ = ∣ ⟨ u , v ⟩ ∣ \langle u,v\rangle=|\langle u,v\rangle| ⟨ u , v ⟩ = ∣ ⟨ u , v ⟩ ∣ ;若遺漏這一步,就會錯誤地
把反向向量也列入取等情況。另一方面,夾角公式要除以兩個範數,所以只
能在兩個向量都非零時使用。某個向量為零時,不等式本身仍然成立,卻不
能為了方便而給這個未定義的夾角隨意賦值。
快速檢查
思考檢查
Cauchy-Schwarz 對 ∣ ⟨ v , w ⟩ ∣ |\langle v,w\rangle| ∣ ⟨ v , w ⟩ ∣ 給出甚麼估計?
解答 · 答案 ∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥ . |\langle v,w\rangle|\le\|v\|\,\|w\|. ∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥.
思考檢查
若 u u u 與 v v v 完全同方向,三角不等式可以取等嗎?
解答 · 答案
思考檢查
若 v ⊥ w v\perp w v ⊥ w ,Cauchy-Schwarz 會化成甚麼? 代入 ⟨ v , w ⟩ = 0 \langle v,w\rangle=0 ⟨ v , w ⟩ = 0 。
解答 · 答案 它會化成 0 ≤ ∥ v ∥ ∥ w ∥ 0\le\|v\|\,\|w\| 0 ≤ ∥ v ∥ ∥ w ∥ ,自然成立。
練習
思考檢查
用 Cauchy-Schwarz 證明 ∣ ⟨ ( 1 , 2 ) , ( 3 , 4 ) ⟩ ∣ ≤ ∥ ( 1 , 2 ) ∥ ∥ ( 3 , 4 ) ∥ |\langle (1,2),(3,4)\rangle| \le \|(1,2)\|\,\|(3,4)\| ∣ ⟨( 1 , 2 ) , ( 3 , 4 )⟩ ∣ ≤ ∥ ( 1 , 2 ) ∥ ∥ ( 3 , 4 ) ∥ 。
解答 · 引導解答 左邊是
∣ 1 ⋅ 3 + 2 ⋅ 4 ∣ = 11. |1\cdot3+2\cdot4|=11. ∣1 ⋅ 3 + 2 ⋅ 4∣ = 11. 右邊是
1 2 + 2 2 3 2 + 4 2 = 5 ⋅ 5 = 5 5 ≈ 11.18. \sqrt{1^2+2^2}\sqrt{3^2+4^2}
=\sqrt5\cdot5=5\sqrt5\approx11.18. 1 2 + 2 2 3 2 + 4 2 = 5 ⋅ 5 = 5 5 ≈ 11.18. 因此 11 ≤ 5 5 11\le5\sqrt5 11 ≤ 5 5 。
思考檢查
對 u = ( 1 , 0 ) u=(1,0) u = ( 1 , 0 ) 與 v = ( 0 , 1 ) v=(0,1) v = ( 0 , 1 ) ,求 ∥ u + v ∥ \|u+v\| ∥ u + v ∥ ,並與 ∥ u ∥ + ∥ v ∥ \|u\|+\|v\| ∥ u ∥ + ∥ v ∥ 比較。
解答 · 引導解答 u + v = ( 1 , 1 ) , ∥ u + v ∥ = 2 . u+v=(1,1),
\qquad
\|u+v\|=\sqrt2. u + v = ( 1 , 1 ) , ∥ u + v ∥ = 2 . 而
∥ u ∥ + ∥ v ∥ = 1 + 1 = 2. \|u\|+\|v\|=1+1=2. ∥ u ∥ + ∥ v ∥ = 1 + 1 = 2. 所以 2 ≤ 2 \sqrt2\le2 2 ≤ 2 ,而且是不等號嚴格成立,因為兩向量不是非負純量倍。
思考檢查
若 ∥ u ∥ = 7 \|u\|=7 ∥ u ∥ = 7 、∥ v ∥ = 3 \|v\|=3 ∥ v ∥ = 3 ,利用反向三角不等式求 ∥ u − v ∥ \|u-v\| ∥ u − v ∥ 的下界。
解答 · 引導解答 ∥ u − v ∥ ≥ ∣ ∥ u ∥ − ∥ v ∥ ∣ = ∣ 7 − 3 ∣ = 4. \|u-v\|\ge|\|u\|-\|v\||=|7-3|=4. ∥ u − v ∥ ≥ ∣∥ u ∥ − ∥ v ∥∣ = ∣7 − 3∣ = 4.
同時記住估計與等號條件
Cauchy-Schwarz 是最基本的內積估計:
∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥ |\langle v,w\rangle|\le\|v\|\,\|w\| ∣ ⟨ v , w ⟩ ∣ ≤ ∥ v ∥ ∥ w ∥ 。在實內積空間中,它既限制一個
向量沿另一個向量的分量,也保證兩個非零向量的夾角
θ = arccos ( ⟨ v , w ⟩ / ( ∥ v ∥ ∥ w ∥ ) ) \theta=\arccos(\langle v,w\rangle/(\|v\|\,\|w\|)) θ = arccos (⟨ v , w ⟩ / ( ∥ v ∥ ∥ w ∥ )) 落在
[ 0 , π ] [0,\pi] [ 0 , π ] 。其取等條件是線性相關,包括所有零向量情況以及正、負兩種比
例。
用它控制 ∥ u + v ∥ 2 \|u+v\|^2 ∥ u + v ∥ 2 中的交叉項,就得到三角不等式。這裡的等號條件
更嚴格:其中一個向量必須是另一個的非負純量倍。再把三角不等式用於向
量之差,便得到反向三角不等式與穩定性估計
∣ ∥ u ∥ − ∥ v ∥ ∣ ≤ ∥ u − v ∥ |\|u\|-\|v\||\le\|u-v\| ∣∥ u ∥ − ∥ v ∥∣ ≤ ∥ u − v ∥ 。整個證明鏈條依次是內積的正定性、
Cauchy-Schwarz、三角不等式與反向三角不等式;各等號條件所區分的,正
是「一條直線」和「一條射線」。
相關筆記
請先讀
9.1 內積、範數與夾角 ,
因為本節所有不等式都直接建基於那裡的定義。
而
9.2 正交集與標準正交基
與 9.3 Gram-Schmidt 正交化
中的坐標公式與投影幾何由內積的代數性質和正交性建立;本節的不等式進一步給出這些係數和餘量長度的界。