4.2 臨界點與極值

問題並不相同

局部最小值只把 $f(a)$ 與定義域內附近的值比較；絕對最小值則與定義域內所有值比較。若在 $a$ 以外把 $\le$ 換成 $<$，便是嚴格最小值。最大值以反向不等式定義。局部極值不一定是絕對極值，而絕對極值亦未必存在。連續函數在非空、閉且有界的集合上必有絕對最大值與最小值，但仍須檢查所有相關候選點才能找到它們。

定理

一階必要條件

若 $f$ 在內點 $a$ 的開鄰域可微，且在 $a$ 取得局部極值，則 $\nabla f(a)=0$。

證明

限制在坐標直線上

對每個坐標方向 $e_i$，一元函數 $t\mapsto f(a+te_i)$ 在 $t=0$ 取得內部局部極值。因此其導數為零，故 $\nabla f(a)$ 的各分量均為零。

這是必要條件，不是充分條件：$f(x,y)=x^2-y^2$ 在原點的梯度為零，但任意靠近原點的位置都有正值和負值。若不可微，局部極值可在梯度不存在之處出現，例如 $f(x,y)=\sqrt{x^2+y^2}$ 在原點。邊界點亦不一定滿足內點條件。

二階導數判別法

定理

海森矩陣分類

設 $f$ 在駐點 $a$ 附近屬 $C^2$。若對每個非零 $h$ 均有 $h^TH_f(a)h>0$，則 $a$ 是嚴格局部最小點；若二次型對每個非零 $h$ 均為負，則是嚴格局部最大點；若二次型有正有負，則是鞍點，既非局部最小亦非局部最大。半正定、半負定或零二次型均使此判別法無法得出結論。

證明

為何符號保持不變

泰勒定理給 $f(a+h)-f(a)=\tfrac12h^TH_f(a)h+o(\|h\|^2)$。若海森矩陣正定，其連續二次型在緊緻單位球面有正的最小值 $m$。因此二次項至少為 $m\|h\|^2/2$，當非零 $h$ 足夠小時會支配小 $o$ 餘項。負定情況類似。若二次型不定，取兩個固定方向，分別使二次型為正及為負；沿兩條足夠短的射線，二次項分別支配餘項。

對駐點的對稱 $2\times2$ 海森矩陣，設 $D=f_{xx}f_{yy}-f_{xy}^2$。若 $D>0$ 且 $f_{xx}>0$，則為嚴格極小；若 $D>0$ 且 $f_{xx}<0$，則為嚴格極大；若 $D<0$，則為鞍點；若 $D=0$，判別法無結論。這些結論用於駐點，並不能隨意分類非駐點。

例題

分類兩個駐點

令 $f(x,y)=x^3-3x+y^2$。解 $3x^2-3=0$ 和 $2y=0$ 得 $(1,0)$、$(-1,0)$。海森矩陣為 $\mathrm{diag}(6x,2)$。在 $(1,0)$ 它正定，故此點是嚴格局部最小點，值為 $-2$；在 $(-1,0)$ 它不定，故此點是鞍點，值為 $2$。這些局部結論本身不能決定絕對極值；事實上，當 $x\to\pm\infty$，函數上下均無界。

例題

二階判別無結論時仍可證明

在原點，$f=x^4+y^4$ 和 $g=x^4-y^4$ 的海森矩陣均為零。但 $f$ 在原點以外恆正，所以原點是嚴格最小點；$g$ 沿 $x$ 軸為正、沿 $y$ 軸為負，所以原點是鞍點。高階項解答了二階判別無法處理的問題。

區域上的絕對極值

1. 盡可能先證明存在：非空緊緻區域上的連續函數必取得極值。
2. 找出區域內部的駐點和不可微點。
3. 在每一塊邊界上求極值，包括端點、角點與奇異點；可參數化邊界，或在假設成立時用乘數法。
4. 計算所有候選點的函數值並比較。即使某內點是嚴格局部極值，也可能要檢查邊界。

例題

內部與邊界的競爭

在閉圓盤 $x^2+y^2\le1$ 上，取 $f(x,y)=x^2+y^2+2x$。由連續性及緊緻性，絕對極值存在。內部駐點須滿足 $(2x+2,2y)=0$，得 $(-1,0)$，但它在邊界而非內部。邊界上 $x^2+y^2=1$，所以 $f=1+2x$：在 $(-1,0)$ 最小為 $-1$，在 $(1,0)$ 最大為 $3$。存在性與候選點分析保證這些是絕對極值。

方法比較

用一階導數產生候選點，不可單憑它確認類型。海森矩陣正定或負定能有效給出嚴格局部結論；若判別無結果，可用曲線上的符號或高階項。求絕對極值時，局部分類未必必要，但必須完整檢查邊界並比較函數值。定義域若開或無界，要研究極限行為和上確界或下確界可能無法取到的情況；不能直接假定緊緻。

練習

1. 分類 $f=x^2+2xy+3y^2-2x$ 的所有駐點。
2. 求 $f=x+y$ 在 $[0,2]\times[0,1]$ 上的絕對極值。
3. 判斷 $f=x^4+y^6$ 和 $g=x^4-y^6$ 在原點的性質，並解釋為何海森矩陣判別法本身不能回答。
4. 給出非緊緻定義域上的連續函數，它沒有絕對最大值，並解釋為何緊緻性定理不適用。

詳解

1. 方程 $2x+2y-2=0$、$2x+6y=0$ 得 $(x,y)=(3/2,-1/2)$。海森矩陣 $\begin{pmatrix}2&2\\2&6\end{pmatrix}$ 的 $D=8>0$ 且 $f_{xx}=2>0$，所以是嚴格局部最小點。配方得 $f=(x+y-1)^2+2(y+1/2)^2-3/2$，故它亦是唯一絕對最小點，值為 $-3/2$。
2. 因為 $0\le x\le2$、$0\le y\le1$，所以 $0\le x+y\le3$。最小值 $0$ 在 $(0,0)$ 取得，最大值 $3$ 在 $(2,1)$ 取得。
3. 兩者在原點的海森矩陣均為零，判別法無結論。第一個函數在原點以外恆正，所以為嚴格最小；第二個沿 $(t,0)$ 有 $t^4>0$，沿 $(0,t)$ 有 $-t^6<0$，其中 $t\ne0$，所以為鞍點。
4. $f(x)=x$ 在 $\mathbb R$ 上連續但上無界；$\mathbb R$ 非緊緻。另一例是 $f(x)=x$ 定義於 $(0,1)$：它有界但不取到上確界。

總結

駐點條件把局部最優性轉化為方程。海森矩陣檢視二階行為，但可能不能判定。整體最優化還需要存在性，以及完整處理邊界與例外點。