為甚麼要考慮整個事件序列?
描述的是某一個時刻,單憑它不能告訴我們同一條無限試驗路徑上是否會反覆出現事件。要研究幾乎處處收斂,卻正好要問:偏離候選極限的情況會否最終停止?Borel–Cantelli 引理把這個路徑問題轉化為概率級數的計算,但任意事件與獨立事件的結論有重要分別。
無限次發生的事件
對同一概率空間上的事件 ,定義
一個樣本點屬於此事件,意思是每個尾段均有一次發生;等價地,發生事件的指標集合是無限的。其補事件表示存在一個可依樣本點而定的指標,此後事件不再發生。這比每個固定事件的概率很小更強。
同一空間上的隨機變量 幾乎處處收斂至 ,當且僅當對每個正數 ,事件 幾乎必然只發生有限次。驗證時只須考慮可數多個容差 ():它們對應的概率一事件之交仍有概率一。相較之下,依概率收斂只要求對每個固定的 ,有 。
兩條引理
定理 17.1.1
(Borel–Cantelli 引理)
設 為同一概率空間上的事件。
- 若 ,則 。不需要獨立性。
- 若事件互相獨立且 ,則 。
證明
(可和時用聯集界,獨立時用乘積界)
對第一部分,令 。聯集界給出
右端的尾和趨零,故所求概率為零。這裏不要求事件獨立,甚至不要求它們互不相同。
對第二部分,固定 並寫 。對每個 ,由互相獨立及 時的 ,
從時刻 起一次也不發生的事件包含於每一個有限交集,因而概率為零。只發生有限次的事件,是把這些「此後不再發生」事件對所有 作可數聯集,因此概率也為零。故無限次發生的概率為一。
證明透視
證明的兩半各用了甚麼
第一部分只用一條不等式,即對尾段聯集 使用的聯集界。聯集界對任意事件都成立,所以唯一用到的假設是可和性,而且只經由尾和 使用;級數的前面各項完全不重要。
第二部分把目標反過來:不是直接證明晚期事件會發生,而是證明從時刻 起全部避開它們的概率為零。關鍵一步是互相獨立性可傳到補事件,把有限交集的概率化為乘積,再由 以部分和的指數作上界。級數發散令此上界趨零。論證最後靠可數可加性收結:起始時刻 只有可數多個,所以「 之後不再發生」這些零概率事件的聯集仍是零概率事件。沒有獨立性就沒有乘積;下面反例中的嵌套事件說明,單靠發散甚麼也推不出。
算例
例題 17.1.2
(罕見但獨立的成功仍會反覆出現)
設事件 互相獨立,且對 有 。雖然單次概率趨零,調和級數卻發散。第二引理給出 。因此典型路徑上成功出現無限次,即使預先指定的晚期時刻成功的概率很小。如果把 換成 ,級數便收斂;無論事件是否獨立,第一引理均給出幾乎必然只成功有限次。
反例模式
沒有獨立性時的發散級數
令 在 上均勻分佈,並設 。此時 ,概率級數發散;但事件互相嵌套,且對每個 ,最終都有 。因此 。在發散情況下,單憑各項概率不能判定答案。
例題 17.1.3
(幾乎處處收斂但二階矩不消失)
設 ,其中 ;事件可以相依。因為 ,幾乎每條路徑只有有限多項非零,故 幾乎處處。然而每個 都有 。罕見尖峰在幾乎每條路徑上最終消失,卻大得足以令二階矩不趨零。單靠幾乎處處收斂,不能把極限移進期望。
例題 17.1.4
(獨立指數變量可以變得多大)
設 是獨立、速率為一的指數變量,並固定 。對 令 ,於是 。
若 ,級數 收斂,第一引理給出:幾乎必然除有限多個 外都有 。因此幾乎必然 。取 (),再對這可數多個概率為一的事件取交集,便得幾乎必然 。
邊界情況 正好是調和級數。事件獨立且 ,第二引理給出幾乎必然有無限多個 使 ,所以 。合起來,幾乎必然 。每個固定的 通常只是一的數量級;對數增長率描述的是在單一路徑上,偶爾出現的特大值能有多大。
用引理處理偏差
若對每個 ,級數 收斂,則第一引理加上可數容差論證,推出 幾乎處處。例如,若 ,Chebyshev 不等式給出可和上界 ,不需要獨立性。
一個 階的上界雖趨零,卻不可和;它證明依概率收斂,但這個論證不能用它證明幾乎處處收斂。這只是上界的局限,並不證明幾乎處處收斂失敗。前一單元對強大數定律的最大值不等式證明,正是控制部分和的整個區段,而非把各時刻的 估計直接相加,從而跨過這個困難。
常見錯誤
常見錯誤
(兩兩獨立不是所述的假設)
上述第二引理假設互相獨立;兩兩獨立本身不能支持證明中的乘積等式。更強的結果可以減弱假設,但需要另行論證。
常見錯誤
(第一引理不需要獨立性)
反過來,第一引理不需要附加獨立性。其證明中的聯集界對任意事件都成立,包括互相嵌套或重複的事件。
常見錯誤
(概率趨零不排除反覆發生)
也要區分「無限次發生」與「 不趨零」:概率為 的獨立事件,其概率趨零,卻幾乎必然無限次發生。
習題
快速檢查
(對任意事件 ,假設 。給出從時刻 起至少發生一次的概率上界,並求無限次發生的概率。)
解答 · 答案
聯集界給出 。尾和趨零,故由第一引理,無限次發生的概率為零。
快速檢查
(獨立事件 滿足 。令 ,判斷它是否依概率及幾乎處處收斂至零。)
解答 · 答案
對 ,有 ; 時概率為零。因此 依概率收斂至零。級數發散且事件獨立,故幾乎必然有無限多個 使 ,所以不幾乎處處收斂至零。
快速檢查
(令 在 均勻分佈,且 。判斷上述兩種收斂,並解釋偏差概率之和發散為何不違反引理。)
解答 · 答案
對每個 ,最終有 ,故 幾乎處處,也依概率收斂。對 ,偏差概率之和為 ;但這些嵌套事件相依,因此第二引理不適用。第一引理是充分條件,並非逆命題。
快速檢查
(假設 ,證明 幾乎處處。若上界是 ,此證明能否給出相同結論?)
解答 · 答案
Chebyshev 不等式給出 ,對每個正整數 均可和。用第一引理,再取可數交集,即得幾乎處處收斂。若上界是 ,同樣步驟給出的上界構成發散的調和級數,故此證明不能判斷幾乎處處收斂;在具體例子中結論仍可能成立。