[機率論] Bernoulli 與Binomial 隨機變數 - 謝宗翰的隨筆
文章推薦指數: 80 %
Definition: Bernoulli Random Variable 我們說隨機變數X 為白努力(Bernoulli) 隨機變數若下列條件成立: ... 以下我們看個例子: Example:
跳到主要內容
[機率論]Bernoulli與Binomial隨機變數
1月15,2016
假設進行一次隨機試驗,若其結果可以僅分為"成功"或者"失敗"兩類,現在我們令隨機變數$X=1$時表示成功,$X=0$表示失敗,則$X$對應的機率質量函數(Probabilitymassfunction,pmf)可以表示為
\[
P(X=1)=p;\;\;\;P(X=0)=1-p
\]其中$p$表為實驗成功的機率且滿足$0\lep\le1$。
===============
Definition:BernoulliRandomVariable
我們說隨機變數$X$為白努力(Bernoulli)隨機變數若下列條件成立:
存在$p\in(0,1)$使得$X$的機率質量函數滿足
\[
P(X=1)=p;\;\;\;P(X=0)=1-p
\]===============
透過上述的Bernoulli隨機變數,我們考慮其進一步推廣:
假設進行$n$次獨立隨機試驗,且每次試驗仍僅有 "成功"或者"失敗"兩類,且成功的機率均為$p$,失敗的機率均為$1-p$。
現在我們定義隨機變數$X$為$n$次實驗中成功的次數,則稱$X$為參數(n,p)的二項(Binomial)隨機變數且其對應的機率質量函數滿足對任意 $i=0,1,2,...,n$,
\[
p(X=k):=\left(\begin{array}{l}
n\\
k\end{array}\right){p^k}{\left({1-p}\right)^{n-k}}\;\;\;\;(*)
\]
Comments:
1.注意到Bernoulli隨機變數為參數$(1,p)$的Binomial隨機變數。
2.Binomial隨機變數$X$亦稱做$X$服從Binomial分佈,且分佈由上述$(*)$所描述。
以下我們驗證為何Binomial隨機變數的滿足機率質量函數的要求亦即我們證明
1.對任意$i=0,1,2,..,n$,$P(X=k)\ge0$
2.$\sum_{k=0}^nP(X=k)=1$
Proof:
條件1不難驗證,讀者可直接觀察$(*)$而得。
條件2,我們觀察
\[\sum\limits_{k=0}^n{P(X=k)} =\sum\limits_{k=0}^n{\left({\begin{array}{*{20}{l}}
n\\
k
\end{array}}\right){p^k}{{\left({1-p}\right)}^{n-k}}}
\]使用BinomialTheorem,亦即
\[{(x+y)^n}=\mathop\sum\limits_{k=0}^n\left(\begin{array}{l}
n\\
k
\end{array}\right){x^k}{y^{n-k}}
\]令$x=p$且$y=1-p$可得
\[\sum\limits_{k=0}^n{P(X=k)} =\sum\limits_{k=0}^n{\left({\begin{array}{*{20}{l}}
n\\
k
\end{array}}\right){p^k}{{\left({1-p}\right)}^{n-k}}} ={\left({p+\left({1-p}\right)}\right)^n}=1\]
以下我們看個例子:
Example:
考慮投擲一不公平的銅板6次,假設該銅板出現正面機率為$p=2/3$且假設投擲銅板的試驗結果彼此互相獨立,
(a)試求出現正面個數為$1$次的機率質量函數。
(b)試求出現正面個數為$2$次的機率質量函數。
(c)試求出現正面個數為$3$次的機率質量函數。
Solution
投擲銅板$6$次可視為$6$次隨機試驗,且每次結果只有出現正面(機率為$p=2/3$)或者反面(機率為$1-p=1/3$),現在我們要求在6次試驗中,銅板出現正面個數為$1$次的機率質量函數。
故我們可透過數學對上述試驗來進行建構模型,亦即定義隨機變數$X$為銅板出現正面次數為$k$,則由前述討論可知$X$服從Binomial分佈,亦即機率質量函數為
\[
P(X=k):=\left(\begin{array}{l}
n\\
k\end{array}\right){p^k}{\left({1-p}\right)^{n-k}}
\]其中$n=6$且$k$表示六次試驗中銅板出現正面的次數,另外$p=2/3$。
故現在對於$(a)$而言,我們可以直接寫下其對應的機率質量函數為
\[\begin{array}{*{20}{l}}
{P(X=k)=\left({\begin{array}{*{20}{l}}
n\\
k
\end{array}}\right){p^k}{{\left({1-p}\right)}^{n-k}}}\\
{\RightarrowP(X=1)=\left({\begin{array}{*{20}{l}}
6\\
1
\end{array}}\right){{\left({\frac{2}{3}}\right)}^1}{{\left({1-\frac{2}{3}}\right)}^{6-1}}=\frac{{6!}}{{1!\left({6-1}\right)!}}\left({\frac{2}{3}}\right){{\left({\frac{1}{3}}\right)}^5}}\\
{\RightarrowP(X=1)=\frac{{12}}{{{3^6}}}\cong0.0165}
\end{array}\]
同理對於問題$(b)$,其對應的機率質量函數為
\[\begin{array}{*{20}{l}}
{P(X=k)=\left({\begin{array}{*{20}{l}}
n\\
k
\end{array}}\right){p^k}{{\left({1-p}\right)}^{n-k}}}\\
{\RightarrowP(X=2)=\left({\begin{array}{*{20}{l}}
6\\
2
\end{array}}\right){{\left({\frac{2}{3}}\right)}^2}{{\left({1-\frac{2}{3}}\right)}^{6-2}}=\frac{{6!}}{{2!\left({6-2}\right)!}}{{\left({\frac{2}{3}}\right)}^2}{{\left({\frac{1}{3}}\right)}^4}}\\
{\RightarrowP(X=2)=\left({\frac{{60}}{{{3^6}}}}\right)\cong0.08}
\end{array}\]
對於問題$(c)$,對應的機率質量函數為
\[\begin{array}{*{20}{l}}
{P(X=k)=\left({\begin{array}{*{20}{l}}
n\\
k
\end{array}}\right){p^k}{{\left({1-p}\right)}^{n-k}}}\\
{\RightarrowP(X=3)=\left({\begin{array}{*{20}{l}}
6\\
3
\end{array}}\right){{\left({\frac{2}{3}}\right)}^3}{{\left({1-\frac{2}{3}}\right)}^{6-3}}=\frac{{6!}}{{3!\left({6-3}\right)!}}{{\left({\frac{2}{3}}\right)}^3}{{\left({\frac{1}{3}}\right)}^3}}\\
{\RightarrowP(X=3)=\left({\frac{{160}}{{{3^6}}}}\right)\cong0.2195}
\end{array}\]
Exercise:重複上述例題,試求
(a)試求出現反面個數為$1$次的機率質量函數。
(b)試求出現反面個數為$2$次的機率質量函數。
(c)試求出現反面個數為$3$次的機率質量函數。
現在我們進一步問一個問題,如果我們執行無限次($n\to\infty$)的Bernoulli實驗,會發生什麼事情?已下定理給出答案
Theorem:令$\lambda=np$為定數,則當$n\to\infty$,Binomial(n,p)的PDF函數滿足
\[\left(\begin{gathered}
n\hfill\\
k\hfill\\
\end{gathered} \right){p^k}{\left({1-p}\right)^{n-k}}\to\frac{{{\lambda^k}{e^{-\lambda}}}}{{k!}}\]
Proof:觀察
\[\small\begin{align*}
\left(\begin{gathered}
n\hfill\\
k\hfill\\
\end{gathered} \right){p^k}{\left({1-p}\right)^{n-k}}
&=\frac{{n!}}{{k!\left({n-k}\right)!}}{\left({\frac{\lambda}{n}}\right)^k}{\left({1-\frac{\lambda}{n}}\right)^{n-k}}\hfill\\
& =\frac{{{\lambda^k}}}{{k!}}\left({\frac{{n!}}{{\left({n-k}\right)!}}{{\left({\frac{1}{n}}\right)}^k}{{\left({1-\frac{\lambda}{n}}\right)}^{n-k}}}\right)\hfill\\
&=\frac{{{\lambda^k}}}{{k!}}\left({\frac{{n\left({n-1}\right)\cdots\left({n-\left({k+1}\right)}\right)\left({n-k}\right)!}}{{\left({n-k}\right)!}}{{\left({\frac{1}{n}}\right)}^k}{{\left({1-\frac{\lambda}{n}}\right)}^{n-k}}}\right)\hfill\\
&=\frac{{{\lambda^k}}}{{k!}}\left({\frac{{\overbrace{n\left({n-1}\right)\cdots\left({n-\left({k+1}\right)}\right)}^{{\text{ktimes}}}}}{{{n^k}}}{{\left({1-\frac{\lambda}{n}}\right)}^n}{{\left({1-\frac{\lambda}{n}}\right)}^{-k}}}\right)\hfill\\
&=\frac{{{\lambda^k}}}{{k!}}\left({\left({\frac{n}{n}\frac{{\left({n-1}\right)}}{n}\cdots\frac{{\left({n-\left({k+1}\right)}\right)}}{n}}\right){{\left({1-\frac{\lambda}{n}}\right)}^n}{{\left({1-\frac{\lambda}{n}}\right)}^{-k}}}\right)\hfill\\
&=\frac{{{\lambda^k}}}{{k!}}\left({\left({1\left({1-\frac{1}{n}}\right)\cdots\left({1-\frac{{k+1}}{n}}\right)}\right){{\left({1-\frac{\lambda}{n}}\right)}^n}{{\left({1-\frac{\lambda}{n}}\right)}^{-k}}}\right)\hfill\\
&\to\frac{{{\lambda^k}}}{{k!}}\left({\left({1\cdot1\cdots1}\right){e^{-\lambda}}\cdot1}\right)= \frac{{{\lambda^k}}}{{k!}}{e^{-\lambda}}\square
\end{align*}\]
Comments
1.上述證明中使用了以下結果:
\[\mathop{\lim}\limits_{n\to\infty}{\left({1-\frac{\lambda}{n}}\right)^n}={e^{-\lambda}}\]
2.上述的極限分配$\frac{{{\lambda^k}}}{{k!}}{e^{-\lambda}}$又稱作Poisson分配,亦即若隨機變數$X$服從Poisson分配,則其機率分佈函數為
\[{f_X}\left(k\right):=P\left({X=k}\right)=\left\{\begin{gathered}
\frac{{{\lambda^k}}}{{k!}}{e^{-\lambda}}\begin{array}{*{20}{c}}
{}&{k=0,1,2....}
\end{array}\hfill\\
0,\begin{array}{*{20}{c}}
{}&{}
\end{array}o.w.\hfill\\
\end{gathered} \right.\]
分享
取得連結
Facebook
Twitter
Pinterest
以電子郵件傳送
其他應用程式
標籤
機率論
BernoulliRandomVariable
BinomialRandomVariable
BinomialTheorem
Combinatorics
DiscreteRandomVariable
PoissonDistribution
標籤:
機率論
BernoulliRandomVariable
BinomialRandomVariable
BinomialTheorem
Combinatorics
DiscreteRandomVariable
PoissonDistribution
分享
取得連結
Facebook
Twitter
Pinterest
以電子郵件傳送
其他應用程式
留言
optionmama2021年7月19日中午12:54你應該是我看過寫得最簡易好懂的高高高手了!!!!!因為只有內化深入了解才有辦法深入簡出回覆刪除回覆回覆新增留言載入更多…
張貼留言
這個網誌中的熱門文章
[數學分析]淺談各種基本範數(Norm)
4月15,2010
這次要介紹的是數學上一個重要的概念:Norm:一般翻譯成範數(在英語中norm有規範的意思,比如我們說normalization就是把某種東西/物品/事件做正規化,也就是加上規範使其正常化),不過個人認為其實翻譯成範數也是看不懂的...這邊建議把Norm想成長度就好(事實上norm是長度的抽象推廣),也許讀者會認為好端端的長度不用,為何又要發明一個norm來自討苦吃??既抽象又艱澀。
事實上想法是這樣的:比如說現在想要比較兩個數字$3$,$5$之間的大小,則我們可以馬上知道$3<5$;同樣的,如果再考慮小數與無理數如$1.8753$與$\pi$,我們仍然可以比較大小$1.8753
延伸文章資訊
- 1[機率論] Bernoulli 與Binomial 隨機變數 - 謝宗翰的隨筆
Definition: Bernoulli Random Variable 我們說隨機變數X 為白努力(Bernoulli) 隨機變數若下列條件成立: ... 以下我們看個例子: Example:
- 2伯努力試驗與二項分布 - 科學Online
伯努力試驗與二項分布(Bernoulli Trial and Binomial Distribution) 國立成功大學統計系/東吳大學財務工程與精算數學系專任統計助教杜柏毅.
- 3機率分佈
另外,在舉例說明部分,我們只針對二項分佈及常態分佈提供例子上的應用和說. 明,其餘分佈皆可按同樣的步驟和方法得到。 二項分佈. (Binomial distribution) ...
- 4Bernoulli Distribution: Definition and Examples - Statistics ...
A Bernoulli distribution is a discrete probability distribution for a Bernoulli trial — a random ...
- 5伯努力分佈
而對一只有兩種可能結果的隨機試驗,便稱為一伯努力試驗(Bernoulli trial)。 ... 其中 ,便稱為具有參數 之伯努力分佈(Bernoulli distribution),以 表之。