許多微小機會的總數
一個系統可能有很多次機會發生事件,每一次的概率卻很小。我們想計算沒有故障或出現多次到達的概率,而不想逐項累加很長的二項式公式。即使各次概率不同,泊松(Poisson)分佈也可能是合適的近似。關鍵是每次概率小,並且有適當的相依結構;只知道事件個數的期望值並不足夠。
設 是獨立指示變量,,其中 。令 和 ,則 。若 服從參數為 的泊松分佈,它的期望值也是 ,而
當 ,此分佈集中在零(等價地,公式中取 )。
期望值相同只提示了近似的可能性,並不是證明。下面的界同時控制任何非負整數集合所代表事件的誤差,而不只控制單一的 。
定理 30.1.1
(稀有事件近似的誤差界)
在上述獨立指示變量的條件下,若 ,則對任何 ,
右邊可以大於一;此時不等式仍成立,但不能提供有用的數值資訊。
證明
(在同一概率空間構造兩個計數)
對每個 ,獨立抽取 ,然後在旁邊構造指示變量 。若 ,令 ;若 ,再以獨立隨機抽樣、概率
令 ,否則令它為零。因 ,所以 。因此 。各組獨立構造,故 與 同分佈;獨立泊松變量的生成函數相乘,顯示 服從參數為 的泊松分佈。
兩個座標不同,恰好是在 ,或 而額外抽樣得到一之時。因此
兩個總和若不同,至少有一組座標不同。由聯集界,。對任何 ,指示變量 與 只有在總和不同時才可能不同。由於 與 同分佈、 與 同分佈,
證明透視
一個耦合同時控制所有事件
關鍵一步是不再比較兩條概率公式,而是把兩個計數構造在同一概率空間上,使比較化為單一數值 。這個數值與 無關,所以誤差界對所有事件一致成立。
獨立性用了兩次,而且都在逐座標構造之後。原指示變量的獨立性令 與 同分佈;各 的獨立性令其總和服從泊松。聯集界本身不需要獨立性。誤差大小是逐個座標決定的:均值同為 的伯努利(Bernoulli)變量與泊松變量,可以配對至只在概率 的事件上不同,而 把它化成 。假設 只用於保證 是概率。這裏的耦合只是證明工具:它保留兩個總和各自的分佈,並不聲稱原系統的事件實際上是泊松事件。
例題 30.1.2
(一千次獨立機會)
一千個元件在固定時段內各以概率 故障,並且互相獨立。則 ,。至少兩個故障的概率近似為
定理保證此事件的絕對概率誤差至多為 ;這不是相對誤差。精確值是 ,但使用誤差界時無須先算出它。
定理並不要求各概率相等,而且值得看看這個界可以有多保守。
例題 30.1.3
(概率不相等的情況)
取 個獨立指示變量,其中 個概率為 , 個概率為 。則 ,而 。沒有成功的精確概率為
而泊松值為 。實際誤差約 ,遠在保證的 之內。誤差界只透過 依賴各個概率,所以兩種大小混合並不需要另行處理。
例題 30.1.4
(誤差界失去作用的邊界情況)
設 、,故 必然成立,而 。取 ,
而且沒有事件給出更大的差,因為 正是泊松 在點 以外的總概率。定理的界是 :正確,但沒有數值用途。必然事件正好與稀有事件相反,誤差界也正確地拒絕把點質量稱為近似泊松。
極限結論與條件
考慮一列模型,第 個模型內的指示變量獨立,概率為 ,並設 為第 個模型的計數。
推論 30.1.5
(獨立稀有指示變量的泊松極限)
若 ,且 ,則 依分佈收斂到泊松; 的退化情況亦包括在內。
證明
(把誤差界與泊松分佈之間的比較結合)
首先,
對任何非負整數集合 ,定理把 與參數為 的泊松變量比較,誤差至多為上述和。餘下要對 一致地比較泊松 與泊松。當 ,將一個泊松 計數與一個獨立的泊松 增量相加;其和服從泊松,而兩個計數只在增量非零時不同,其概率為 。當 則交換兩者的角色。因此對 泊松 有 ,特別地得到依分佈收斂。
反例模式
邊際概率小不能代替獨立性
設 以概率 等於一,否則等於零,並令 個指示變量全部等於 。各個概率都趨向零,概率總和是 ,但計數為 。因此 ,而泊松 在零的概率是 。這個模型的成功總是一起發生;獨立指示變量定理不適用。期望值相同無法消除相依性。
常見錯誤
常見錯誤
(把誤差界當作相對誤差)
在一千個元件的例子中,誤差界是 。對 而言,這是很小的相對誤差;對尾部事件卻不然。 的泊松值為 ,而至多 的絕對誤差已超過它的四分之一。目標概率很小時,單憑誤差界連首位數字也不能確定。
常見錯誤
(用泊松分佈近似很可能發生的事件的個數)
若 個獨立元件各以概率 正常運作,正常運作的個數並不近似泊松:它的方差是 ,而該泊松分佈的方差是 。應改為對故障應用定理。故障個數是概率為 的指示變量之和,與泊松 相差不超過 ;正常運作的個數則是 減去它。
習題
快速檢查
(三個獨立指示變量的成功概率分別是 、 和 。用泊松分佈近似沒有成功的概率,並給出絕對誤差界。)
計算 與 。
解答 · 答案
,近似值為 ;誤差至多為 。精確概率是 ,所以實際誤差約為 。
快速檢查
(若 ,,求恰有兩次成功的極限概率,以及每個 的泊松近似絕對誤差界。)
所有 個指示變量的概率都是 。
解答 · 答案
每個 的參數都是 ,而 。故 ,而對每個 ,泊松 近似的絕對誤差至多為 。當 時這個界不小於一,沒有提供任何資訊。
快速檢查
(若 個獨立事件各以概率 發生,上述定理是否能證明用參數 的泊松分佈近似時誤差趨於零?解釋原因。)
計算 。
解答 · 答案
不能。所得界是 ,不會趨於零。雖然各個概率趨於零,總期望值卻增長。這只說明此界不能證明誤差消失,不能單憑它斷言不存在更好的近似。