機率空間（3）機率空間（Probability space-3. Probability space）

Posted on 2011/09/27 in 數學, 機率統計 with 尚無留言 7,914 views

機率空間（3）機率空間（Probability space-3. Probability space）
國立高雄大學應用數學系黃文璋教授/國立高雄大學應用數學系黃文璋教授責任編輯

摘要：機率空間是機率論的基礎，本篇從集合論出發，介紹Kolmogorov的現代公設觀點，並以此定義機率函數(probability function)，並條列出機率函數的一些性質。

眾所周知，數學中各領域的起源，通常都是始於解決實際的問題，此時不論專業或業餘，很多人都可參與探討。而後逐漸深入，就只有少數專業人士能理解其中的內涵了。

以幾何學為例，其發源是始於尼羅河氾濫後的測量問題。平面幾何學中的諸多美妙結果，兩千三百多年前，就已被歐幾里得(Euclid，約西元前375-300年)，收錄於其幾何原本(Elements)一書中。當年畢達哥拉斯(Pythagoras，約西元前580-500年)等著名數學家所探討的問題，不過是今日中學數學課程的內容。而一般人若翻閱大學數學系的幾何學教科書，可能不會感覺這是在講幾何的書。

數學的發展，通常有三個階段。第一階段是解決實際問題，此時人們只求將這些問題的解答找出來。但逐漸地，有些人在解決問題之餘，也進一步探討這些問題的本質，也就是建立較一般的系統，而將原有的問題當作此系統下之特例。以排列組合解決一般的機率問題，可視為機率發展的第二階段。但若未進入第三階段，機率是無法成為數學中之一主要領域。

由於起源較晚，直到20世紀，於1933年，年輕的俄國數學家柯莫果洛夫(Andrey N. Kolmogorov，1903-1987)，才以公理化的方式來定義機率。經由他所給的幾個公理(axiom)，可推導出許多結果，因而可對我們所探討的一些實際問題，有更清晰的概念。當然，也可只是探討，所謂被稱為機率而不用管這些題材與任何實際的問題有關聯。

機率，往昔曾被稱為或然率、概率等。如何能以更一般的方式引進，且可包含上節中所給的三種對機率的解釋，又具充分的彈性，能讓我們推導出一套完整的理論?首先由上一節中，三種對機率的解釋，得到啟示，定義中必須包含下述三基本要件：

一非空的集合 $$\Omega$$，稱為樣本空間
一 $$\Omega$$ 的一些子集合形成的集合 $$\mathcal{F}$$，$$\mathcal{F}$$ 中的元素稱為事件
對每一個事件 $$A\in\mathcal{F}$$，給定一個實數 $$P(A)$$，稱為 $$A$$ 之機率

上述 $$P$$ 即為一個定義在 $$\mathcal{F}$$ 中的取實值之函數。由於定義域 $$\mathcal{F}$$ 中的每一元素皆為{集合函數}(set function)。樣本空間、事件及機率，皆可有如上節中的解釋。即 $$\Omega$$ 可視為一觀測之所有可能的結果之集合; 一事件 $$A$$ 稱為發生，如果觀測的結果為 $$A$$ 中的元素; 而 $$P(A)$$ 可視為事件 $$A$$，不論在那種意義下，發生的機率。

但如前所述，我們也可完全不管，究竟是不是在觀測任何隨機現象，也就是 $$\Omega$$ 只要是一非空的集合就好。至於對 $$P(A)$$，就是被稱為事件 $$A$$ 的一個函數值，此函數值在我們的討論裡，又被稱為事件$$A$$之機率。

但這並無關緊要，可以不必聯想到是不是真有某一個事件發生。這種思維並不奇怪。像是喜歡金庸武俠小說的讀者，通常並不會追著金庸問歷史上是否真有郭靖及黃蓉等。但金庸小說中的合理性卻是讀者可以追究的。因此，以公理化的的方式來定義機率，也要能自圓其說，或近一步要求，要天衣無縫。

但比小說的虛構更實際的是，我們雖以抽象的方式引進機率，但可套進任何實際(或虛擬)的隨機現象。也就是一旦敘明，$$\Omega$$ 是觀測那一隨機現象所得之全部可能的結果之集合，則 $$P(A)$$ 便為一特定事件 $$A$$ 會發生之機率了。

很多時候（尤其是 $$\Omega$$ 中只有有限多個元素），往往將 $$\mathcal{F}$$ 取成包含 $$\Omega$$ 之所有子集之集合。這樣不是簡單明瞭嗎? 為什麼在前述三基本要件中，我們卻將 $$\mathcal{F}$$ 只取成 $$\Omega$$ 的一些子集所形成之集合?這樣的作法，其實是比較一般。

有如某班要組一啦啦隊。可以全班皆參與，也可以只由部分同學組成。但既然是啦啦隊，要達到某一程度的演出效果，並玩出夠多的花樣，人數便不能過少，甚至有可能因多找了一個女生，便要多找一位男生與她配。$$\mathcal{F}$$ 也是一樣，因只有 $$\mathcal{F}$$ 中的元素，才稱為事件，才給其機率，$$\mathcal{F}$$ 可以很有彈性的找一些 $$\Omega$$ 的子集來組成，但要給定一些規範，使 $$\mathcal{F}$$ 包含夠多該有的 $$\Omega$$ 之子集，因此才有夠多的理論能發展出來。

那 $$\mathcal{F}$$ 要滿足那些條件呢? 對於二事件 $$A$$，$$B$$（即 $$A,B$$ 皆屬於 $$\mathcal{F}$$），有時我們會想知道 $$A$$ 或 $$B$$ 發生（即 $$A\cup B$$ 發生）的機率。有時也會想知道 $$A$$ 與 $$B$$ 同時發生（即 $$A\cap B$$ 發生）的機率。譬如說對世界盃足球賽，有人支持兩支球隊，他會關心每一支球隊贏球的機率（$$P(A)$$ 及 $$P(B)$$），也會關心兩支中至少有一支贏球的機率（$$P(A\cup B)$$），以及兩支同時贏球的機率（$$P(A\cap B)$$）。對事件 $$A$$ 有興趣，其不發生（即 $$A$$ 的餘集 $$A^c$$ 發生）的機率也很難不想知道。所以 $$\mathcal{F}$$ 應要滿足

若 $$A\in\mathcal{F}$$，則 $$A^c\in\mathcal{F}$$
若 $$A,B\in\mathcal{F}$$，則 $$A\cup B\in\mathcal{F}$$，且 $$A\cap B\in\mathcal{F}$$

由上述條件 (b)，立即得

對 $$\forall n\ge 1$$，若 $$A_1,A_2,\cdots,A_n\in\mathcal{F}$$，

則 $$\bigcup_{i=1}^{n}A_i=A_1\cup A_2\cup \cdots\cup A_n$$，及 $$\bigcap_{i=1}^{n}A_i=A_1\cap A_2\cap \cdots\cap A_n$$ 皆屬於 $$\mathcal{F}$$。

這只要由 $$A_1\cup A_2\cup A_3=(A_1\cup A_2)\cup A_3$$，$$A_1\cap A_2\cap A_3=(A_1\cap A_2)\cap A_3$$ 便可看出。

若 $$\Omega$$ 只是一有限的集合，對 $$\mathcal{F}$$ 要求滿足條件(a)及(b)便夠了。但若 $$\Omega$$ 為一無限集合，只假設條件(a)及(b)，卻無法導出夠多的數學理論。

數學中常不得不討論極限，如果有一數列的事件$$A_1,A_2,\cdots$$ 皆屬於 $$\mathcal{F}$$，

則對於 $$\bigcup^\infty_{i=1}A_i=A_1\cup A_2\cup\cdots$$，$$\bigcap^\infty_{i=1}A_i=A_1\cap A_2\cap\cdots$$，
我們會希望二者皆屬於 $$\mathcal{F}$$。

實際上，由於有狄莫根法則(De Morgan’s laws)：對任一數列之集合 $$B_1,B_2,\cdots$$

$$(1)~~~(\bigcup^\infty_{i=1}B_i)^c=\bigcap^\infty_{i=1}B_i^c$$

且

$$(2)~~~(\bigcap^\infty_{i=1}B_i)^c=\bigcup^\infty_{i=1}B_i^c$$

因此只需要求 $$\cup^\infty_{i=1}A_i$$ 與 $$\cap^\infty_{i=1}A_i$$，兩者之一屬於 $$\mathcal{F}$$ 即可。

這是因已有「若 $$A\in\mathcal{F}$$，則 $$A^c\mathcal{F}$$」，故

$$\bigcap^\infty_{i=1}A_i=(\bigcup^\infty_{i=1}A_i^c)^c$$，$$\bigcup^\infty_{i=1}A_i=(\bigcap^\infty_{i=1}A_i^c)^c$$

此處分別用到 $$(1)$$ 及 $$(2)$$ 式，以及 $$(A^c)^c=A$$ 等性質。總結如下: 我們要求 $$\mathcal{F}$$ 須滿足

若 $$A\in\mathcal{F}$$，則 $$A^c\mathcal{F}$$
若 $$A_1,A_,2,\cdots\in\mathcal{F}$$，則 $$\cup^\infty_{i=1}A_i\in\mathcal{F}$$

當然我們已指出，滿足(i)及(ii)的 $$\mathcal{F}$$，便亦滿足

若 $$A_1,A_,2,\cdots\in\mathcal{F}$$，則 $$\cap^\infty_{i=1}A_i\in\mathcal{F}$$

在此波瑞爾(Emile Borel，1871-1956)，為著名的法國數學家，也是現代機率論的創始者之一。

定義1. 一非空集合 $$K$$ 之一些(至少一個)子集所形成之集合 $$\mathcal{L}$$，稱為一 $$\sigma$$-體（$$\sigma$$-field，又稱 $$\sigma$$-algebra，或 Borel field），若滿足

若 $$B\in\mathcal{L}$$，則 $$B^c\in\mathcal{L}$$
若 $$B_1,B_2,\cdots\in\mathcal{L}$$，則則 $$\cup^\infty_{i=1}B_i\in\mathcal{L}$$

所以我們就是要求 $$\mathcal{F}$$ 為一 $$\sigma$$-體。

對於 $$\sigma$$-體 $$\mathcal{F}$$，立即便有 $$\varnothing$$ 及 $$\Omega$$ 皆屬於 $$\mathcal{F}$$（因 $$A\cup A^c=\Omega$$，而 $$\Omega^c=\varnothing$$）。

即 $$\{\varnothing,\Omega\}$$ 為由 $$\Omega$$ 所產生之最小的 $$\sigma$$-體。所謂最小，是指若有其他 $$\sigma$$-體，一定包含這一個。

而 $$\Omega$$ 所有子集之集合，可視為最大的 $$\sigma$$-體。

由 $$\mathcal{F}$$ 須滿足的條件(ii)，立即導致前述條件(b)成立（只要將 $$A_{n+1},A_{n+2},\cdots$$，皆取成 $$\varnothing$$，

則 $$\bigcup^\infty_{i=1}A_i=\bigcup^n_{i=1}A_i$$）;且若 $$\Omega$$ 為一有限集合，則二條件等價。

現在我們可以定義機率函數(probability function)了。

定義2. 設 $$\Omega$$ 為一樣本空間，$$\mathcal{F}$$ 為 $$\Omega$$ 之一些子集所形成之一 $$\sigma$$-體。則以 $$\mathcal{F}$$ 為定義域，滿足下述條件的函數 $$P$$，便稱為一機率函數：

$$\forall A\in\mathcal{F},~P(A)\ge 0$$
$$P(\Omega)=1$$
若 $$A_1,A_2,\cdots\in\mathcal{F}$$，且 $$A_i\cap A_j=\varnothing,~\forall i\ne j$$，則

$$(3)~~~P(\bigcup^\infty_{i=1}A_i)=\sum^\infty_{i=1}P(A_i)$$

對一樣本空間 $$\Omega$$，我們引進了 $$\sigma$$-體 $$\mathcal{F}$$，及機率函數 $$P$$，

$$(\Omega,\mathcal{F},P)$$ 便構成一機率空間(probability space)。

定義2中的 $$(3)$$ 條件，通常稱為機率的公理或柯莫果洛夫公理(Kolmogorov axioms)。

對同一樣本空間，可以有不同的 $$\sigma$$-體。即使 $$\sigma$$-體相同，也可有不同的機率函數。

對 $$\forall A\in \mathcal{F}$$，$$A$$ 稱為一事件，$$P(A)$$ 稱為 $$A$$ 之機率。

至於若 $$B\subset\Omega$$，而 $$B\not\in\mathcal{F}$$，則 $$B$$ 不為事件，不用知道(事實上也沒給)其機率。

機率空間是機率論的基礎。若只是處理一些簡單的情況下的機率，則有時不用太在乎所涉及的機率空間究竟是什麼。但在處理較細膩的問題時，有時就得弄清楚機率空間究竟為何。這彷彿對某一個人，有時我們只需要知道他的名字，有時得進一步了解這個人的「出身」，如學經歷等。

為了簡便，特別是 $$\Omega$$ 中只有可數的(countable)多之元素時，常將 $$\mathcal{F}$$ 取成 $$\Omega$$ 之所有子集之集合。即使 $$\Omega$$ 是一無限區間，譬如說實數的集合，$$\mathcal{F}$$ 也有一常見的取法。我們稍後再介紹。在很多實例中，會說明 $$\Omega$$ 及 $$P$$ 各是什麼，卻未見到 $$\mathcal{F}$$。此即表 $$\mathcal{F}$$ 是取成常見的 $$\sigma$$-體，因此不用特別提它。

註1：一集合稱為可數的若其為有限，或無限但與正整數集合有一對一且映成的對應(即可表為$$\{a_1,a_2,\cdots\}$$)。

機率函數有一些基本的性質，我們列舉一些如下。

定理1. 設 $$(\Omega,\mathcal{F},P)$$ 為一機率空間。則

$$P(\varnothing)=0$$
$$P(A)\le 1,~\forall A\in\mathcal{F}$$
$$P(A^c)=1-P(A),~\forall A\in\mathcal{F}$$
$$P(A\cup B)=P(A)+P(B)-P(A\cap B),~\forall A,B\in\mathcal{F}$$
$$P(A\cap B)\ge P(A)+P(B)-1,~\forall A,B\in\mathcal{F}$$
設 $$C_1,C_2,\cdots \in\mathcal{F},~C_i\cap C_j=\varnothing,~\forall i\ne j$$，且 $$\cup^{\infty}_{i=1}C_i=\Omega$$，則

$$(4)~~~P(A)=\sum_{i=1}^{\infty}P(A\cap C_i),~\forall A\in\mathcal{F}$$

對任意 $$A_1,A_2,\cdots \in \mathcal{F}$$

$$(5)~~~P(\bigcup_{i=1}^{\infty}A_i)\le \sum_{i=1}^{\infty}P(A_i)$$

在定理1中之(vi)，滿足所列條件之 $$C_1,C_2,\cdots$$，稱為 $$\Omega$$ 之一分割(partition)。

事件 $$A_1,A_2,\cdots$$(有限個亦可)，若滿足 $$A_i\cap A_j=\varnothing,~\forall i\neq j$$，便稱為每對互斥(pairwise disjoint)。至於若 $$A,B\in\mathcal{F}$$，且 $$A\cap B=\varnothing$$，便稱 $$A$$ 與 $$B$$ 互斥(disjoint)。

$$(5)$$ 式即為波爾不等式(Boole’s inequality)。波爾(George Boole，1815-1864)為英國數學家。

機率函數尚有許多其他的性質，此處暫且列下不表。不過一個看起來要求並不太多的公理化的系統，就引發出許多有趣且值得探討的理論，且應用廣泛。自柯莫果洛夫之後，機率論便逐漸為數學家所接受。時至今日，機率論已成為數學中一重要的領域，可與那些傳統的代數、分析及幾何等領域分庭抗禮了。

連結：機率空間（4）機率空間之例

參考資料：