第一篇:中心極限定理和概率統(tǒng)計(jì)
若{Xn}的分布函數(shù)序列{Fn(x)}與X的分布函數(shù)F(x)有,在任意連續(xù)點(diǎn)x,limFn(x)?F(x)。n??
依概率收斂
n??若???0,有P(Xn?X??)????0。準(zhǔn)確的表述是,???0,???0,?N,n?N,有P(Xn?X??)??成立
(3)幾乎必然收斂
如果有P(limXn?X)?1。準(zhǔn)確的表述是,除掉一個(gè)0概率集A,對(duì)所有的???A,n??
有l(wèi)imXn(?)?X(?)成立。這是概率空間上的點(diǎn)收斂。n??
定理1。(切貝雪夫大數(shù)律){Xn}相互獨(dú)立,且有相同的期望和方差,(不一定同分布)
1nPE(Xn)?uD(Xn)??,?n,記Yn??Xi,則Yn???u。ni?1
2統(tǒng)計(jì)發(fā)生——事物某方面的定量記錄事前是不確定的,發(fā)生后的數(shù)據(jù)由真值和誤差兩部分構(gòu)成,X????。X是數(shù)據(jù),?是真值,?是誤差。導(dǎo)致誤差的原因有:
1. 系統(tǒng)性誤差:偏離真值的本質(zhì)性錯(cuò)誤,有內(nèi)在原因所致;
2. 隨機(jī)性誤差:偏離真值的偶然性錯(cuò)誤,沒(méi)有內(nèi)在原因,是純偶然因素所致。
總體就是一個(gè)特定的隨機(jī)變量
通過(guò)抽樣,獲得樣本,構(gòu)造樣本統(tǒng)計(jì)量,由此推斷總體中某些未知的信息
從總體中抽樣是自由的,且當(dāng)總體數(shù)量足夠大,有放回與無(wú)放回抽樣區(qū)別不大,有理由認(rèn)為,取得的抽樣觀察值是沒(méi)有關(guān)系的。所以,樣本在未抽取前它們是與總體X同分布的隨機(jī)變量,且是相互獨(dú)立的,稱此為隨機(jī)樣本。
定義2。設(shè)x1,?,xn是取自總體X的一組樣本值,g(x1,?,xn)是Borel 可測(cè)函數(shù),則稱隨機(jī)變量g(X1,?,Xn)是一個(gè)樣本統(tǒng)計(jì)量。
如果總體X中分布函數(shù)有某些參數(shù)信息是未知的,我們用統(tǒng)計(jì)量g(X1,?,Xn)去推斷這些信息,稱此問(wèn)題為統(tǒng)計(jì)推斷問(wèn)題。
給樣本值x?(x1,?,xN)?,y?(y1,?,yN)?,定義:(1)樣本均值
??(xi/n)
i?
1n
(2)樣本方差
1n
?x)????var((xi?)2 ?n?1i?1
??樣本標(biāo)準(zhǔn)差
s.e.e??)
x)i(y)
1n
(3)樣本協(xié)方差c?ov(x,y)???(1x
n?1i?1
樣本相關(guān)系數(shù)
?xy?
?(x,y)cov
1/2
?(x)var?(y)][var
1nk
(4)樣本k階矩 Ak??xi k?1,2,?
ni?11n
(5)樣本k階中心矩 Bk??(xi?)k
ni?1
?
k?1,2,?
X的左側(cè)分位點(diǎn)F?,P(X?F?)??dF(x)??。左?分位點(diǎn)的概率含義是,隨機(jī)變量
F?
不超過(guò)該點(diǎn)的概率等于?
設(shè)總體X分布已知,但其中有一個(gè)或多個(gè)參數(shù)未知,抽樣X(jué)1,?,Xn,希望通過(guò)樣本來(lái)估計(jì)總體中的未知參數(shù),稱此為參數(shù)估計(jì)問(wèn)題,它是統(tǒng)計(jì)推斷理論中最重要的基礎(chǔ)部分。
用樣本矩作為總體矩的估計(jì)量,以及用樣本矩的連續(xù)函數(shù)作為總體矩的連續(xù)函數(shù)的估計(jì)量,這種方法稱為矩估計(jì)法,這是一種最自然的估計(jì)方法。
?(x,?,x))??對(duì)任意???成立。當(dāng)樣本是稱??是參數(shù)?的一個(gè)無(wú)偏估計(jì),如果E(?1n
有限的時(shí)候,我們首先要考慮的是無(wú)偏性。
n1n22
??S??(Xi?)2才是方差?的無(wú)偏估計(jì)。故我們?cè)跇颖窘y(tǒng)計(jì)量中定義?n?1n?1i?1
S2為樣本方差。
??是參數(shù)?的一個(gè)一致估計(jì),如果依概率有l(wèi)im??(x1,?,xn)??對(duì)任意???成立。
n??
有效性
在所有關(guān)于參數(shù)?的無(wú)偏估計(jì)類中?0,或所有的一致估計(jì)類?1中,如果存在?*是參數(shù)?的一個(gè)無(wú)偏有效估計(jì)或一?*)?D(??)對(duì)任意????或任意????成立,稱?D(?01
?具有最小方差性。致漸近有效估計(jì)。即?
*
。無(wú)論總體X分布是什么,任意樣本Xi和都是X的無(wú)偏估計(jì),但?比單獨(dú)的樣本估計(jì)Xi更有效。
DXi,所以n
設(shè)總體X關(guān)于分布F(x,?)存在兩類問(wèn)題,一類是分布的形式未知,一類是分布的形式已知但參數(shù)未知,提出的問(wèn)題是,需要對(duì)分布的形式作出推斷,此稱為非參數(shù)檢驗(yàn)的問(wèn)題; 或需要對(duì)參數(shù)作出推斷,此稱為參數(shù)檢驗(yàn)問(wèn)題。
奈克—皮爾遜定理告訴我們,當(dāng)樣本容量n固定,若要減少犯第一類錯(cuò)誤的概率則犯第二類錯(cuò)誤的概率會(huì)增加,要使兩類錯(cuò)誤都減少當(dāng)且僅當(dāng)增加樣本容量。
超過(guò)了我們?cè)O(shè)定的F?,(如,體溫超過(guò)37度。)此意味一個(gè)小概率事件發(fā)生了。于是,我們有理由拒絕命題H0是真的。
X~N(u1,?12),Y~N(u2,?2),且相互獨(dú)立,取樣有(x1?xn1),(y1?yn2)。
欲檢驗(yàn)H0:u1?u2,或更一般,H0:u1?u2?u(u已知)。如何檢驗(yàn)?
2(1)若?12、?2已知
因?yàn)閪N(u1,?1
2n
1),~N(u2,2?2
n2),且相互獨(dú)立,所以?~N(u1?u2,?12?2
n1
?
n2),~N(0,1),所以可找到檢驗(yàn)統(tǒng)計(jì)量U?。
(2)若?12??2??2,但?未知,欲檢驗(yàn)H0:u1?u2?0,因?yàn)閂?
?
222
[(n?1)S?(n?1)S]~?(n1?n2?2),11222
且與
U?
~N(0,1)獨(dú)立,n1?1n2?12
~t(n1?n2?2),令S2?,S12?S2
n1?n2?2n1?n2?2可得
V?2S2,所以可找到統(tǒng)計(jì)量
n1?n2?2?
T?
?
~t(n1?n2?2)。
注:如果u未知,問(wèn)題就變困難了,可以證明此時(shí)統(tǒng)計(jì)量T就是一個(gè)非中心的t分布。
(3)又如何知道?12??2??2?
?12(n?1)(n?1)2可做假設(shè)檢驗(yàn)H0:2?1。因?yàn)?2S12~?2(n1?1),22S2 ~?2(n2?1)且獨(dú)立。
?1?2?2
S12
所以,可找到統(tǒng)計(jì)量F?2~F(n1?1,n2?1)。
S2
(4)若?12??2,且未知。問(wèn)題就變困難多了,我們找不到合適的統(tǒng)計(jì)量。如果樣本容量
足夠大,那么,可以用漸近檢驗(yàn)的辦法處理。注意,U?
中,因?yàn)?12,?2未
知,但已知S12,S2是?12,?2的一致估計(jì),故用它們代替,有:
n1,n2??
limU?
~N(0,1)。
從而當(dāng)n1,n2充分大時(shí)可用漸近正態(tài)檢驗(yàn)。
又當(dāng)n1?n2?n較小時(shí),可以證明,~t(n),注意,此與T?
?
~t(n1?n2?2)
自由度不同。此意味當(dāng)期望、方差相同時(shí),樣本可以合并,認(rèn)為X,Y屬于同一總體。當(dāng)期望相同,方差不同時(shí),樣本不能簡(jiǎn)單合并。
注:關(guān)于H0:u1?u2?u,或H0:u1?u2?u,統(tǒng)計(jì)量相同,并采用單側(cè)的右分位點(diǎn)或單側(cè)的左分位點(diǎn)檢驗(yàn)。
?是無(wú)偏線性估計(jì)類中的有效估計(jì)。OLS?
? ?的極大似然估計(jì)在基本模型假定下就是OLS?
估計(jì)做出后,評(píng)價(jià)、判斷模型中的假定是否合理是對(duì)事前設(shè)定的模型做一個(gè)整體的把握。我們可以把這些假定、設(shè)定歸結(jié)為一些對(duì)未知參數(shù)的判斷,如果這些判斷基本正確或錯(cuò)誤,那么從整體數(shù)據(jù)中就能夠反映出來(lái)。假設(shè)檢驗(yàn)是估計(jì)完成后對(duì)模型的設(shè)定做進(jìn)一步的確認(rèn)。它以證否的形式完成。拒絕原假設(shè),意味著命題真時(shí)犯錯(cuò)誤的可能性可控制在一定的概率范圍內(nèi)。
第二篇:概率統(tǒng)計(jì)第五章大數(shù)定律及中心極限定理
第五章大數(shù)定律及中心極限定理
第一節(jié) 大數(shù)定律(Laws of Large Numbers)
隨機(jī)現(xiàn)象總是在大量重復(fù)試驗(yàn)中才能呈現(xiàn)出明顯的規(guī)律性,集中體現(xiàn)這個(gè)規(guī)律的是頻率的穩(wěn)定性。大數(shù)定律將為此提供理論依據(jù)。凡是用來(lái)說(shuō)明隨機(jī)現(xiàn)象平均結(jié)果穩(wěn)定性的定理統(tǒng)稱為大數(shù)定律。由于內(nèi)容非常豐富,我們只介紹其中兩個(gè)。
一 契比雪夫大數(shù)定律
[定理1(契比雪夫的特殊情況)]設(shè)相互獨(dú)立的隨機(jī)變量X1,X2,?,Xn,?具有相同的數(shù)學(xué)
期望和方差:E(Xk)??,D(Xk)??(k?1,2,?),則???0,?1limP?n??
?n
n
?X
k?1
k
?
??????1
?.
【注1】 契比雪夫大數(shù)定律告訴我們:隨機(jī)變量的算術(shù)平均有極大的可能性接近于它們的數(shù)學(xué)期望,這為在實(shí)際工作中廣泛使用的算術(shù)平均法則提供了理論依據(jù).例如,為測(cè)量某個(gè)零件的長(zhǎng)度,我們進(jìn)行了多次測(cè)量,得到的測(cè)量值不盡相同,我們就應(yīng)該用所有測(cè)量值的算術(shù)平均作為零件長(zhǎng)度的近似為最佳。
二 伯努利大數(shù)定律
[定理2(伯努利大數(shù)定律)]設(shè)nA是n次獨(dú)立試驗(yàn)中事件A發(fā)生的次數(shù),p是事件A在nA
每次試驗(yàn)中發(fā)生的概率,則事件A發(fā)生的頻率n依概率收斂于事件A的概率p,即???0,limP{|
n??
nAn
?p|??}?1
或
limP{|
n??
nAn
?p|??}?0
【注2】伯努利大數(shù)定律中的nAn,實(shí)際上就是事件A發(fā)生的頻率,定律以嚴(yán)格的數(shù)學(xué)形式
表述了頻率穩(wěn)定于概率的事實(shí)。這樣,頻率的穩(wěn)定性以及由此形成的概率的統(tǒng)計(jì)定義就有了理論上的依據(jù)。
第二節(jié)中心極限定理(Central Limit Theorems)
n
如果X1,X2,?,Xn是同時(shí)服從正態(tài)分布的n個(gè)相互獨(dú)立的隨機(jī)變量,則它們的和?
i?1
Xi
仍
然是服從正態(tài)分布的隨機(jī)變量?,F(xiàn)在的問(wèn)題是:如果X1,X2,?,Xn是服從相同分布的n個(gè)相互獨(dú)立的隨機(jī)變量,并非服從正態(tài)分布,那么它們的和是否還會(huì)服從正態(tài)分布呢?中心極限定理對(duì)此給出了肯定的答復(fù)。所有涉及大量獨(dú)立隨機(jī)變量和的極限分布的定理統(tǒng)稱為中心極限定理。由于內(nèi)容非常豐富,我們只介紹其中兩個(gè)。
一 獨(dú)立同分布中心極限定理
[定理3(獨(dú)立同分布中心極限定理)]設(shè)隨機(jī)變量X1,X2,?,Xn,?相互獨(dú)立,服從同一
分布,且具有數(shù)學(xué)期望和方差:E(Xk)???,D(Xk)???0(k?1,2,?),則對(duì)于任意的x,n
?X
limPn??
k
?n?
?x}?
?
x?t
dt??(x)
.
n
【注3】 定理說(shuō)明,均值為?,方差為?
n
?0的獨(dú)立同分布的隨機(jī)變量之和
?Xk的標(biāo)準(zhǔn)
k?1
化變量Yn
?X
?
k
?n?,當(dāng)n很大時(shí)近似服從N(0,1);而?
k?1
n
Xk
近似服從N(n?,n?).
【注4】若記
??2?
X~N??,?
n??
X?
n
?n
Xk,則Yn
?
k?1
近似服從正態(tài)分布N(0,1);或X近似服從
.
二 棣莫佛—拉普拉斯中心極限定理
[定理4(棣莫佛—拉普拉斯中心極限定理)]
設(shè)隨機(jī)變量Yn?(n?1,2,?)服從參數(shù)為n,p?(0?p?1)的二項(xiàng)分布,則?x?R,有
limPn??
Y?np?x}?
?
x??
?
t22
dt??(x)
.
【注5】 這個(gè)定理的直觀意義是,當(dāng)n足夠大時(shí),服從二項(xiàng)分布的隨機(jī)變量Yn可認(rèn)為近似服從正態(tài)分布N(np,np(1?
p))~?N?0,1?
.【注6】一般的結(jié)論是,不管每個(gè)服從什么分布,只要滿足條件:
1)構(gòu)成和式的X1,X2,?,Xn是服從相同分布的n個(gè)相互獨(dú)立的隨機(jī)變量
2)每個(gè)隨機(jī)變量對(duì)和的影響要均勻地小
3)構(gòu)成和式的隨機(jī)變量的個(gè)數(shù)要相當(dāng)多,至少在30個(gè)以上
n
那么,它們的和?
i?1
Xi
將近似服從正態(tài)分布。因此,中心極限定理揭示了正態(tài)分布的形成機(jī)
制。例如我們?cè)趯?duì)某經(jīng)濟(jì)問(wèn)題進(jìn)行定量分析時(shí),如果在許多種隨機(jī)影響因素中沒(méi)有一個(gè)是起主導(dǎo)作用的,那么就可以把它看成正態(tài)分布來(lái)進(jìn)行分析。
經(jīng)驗(yàn)表明:應(yīng)用中大量的獨(dú)立隨機(jī)變量的和,都可以看成近似地服從正態(tài)分布。例
如測(cè)量誤差,炮彈落點(diǎn)離開(kāi)目標(biāo)的偏差以及產(chǎn)品的強(qiáng)度,折斷力,壽命等質(zhì)量指標(biāo)均屬于此列。這樣,由于中心極限定理的出現(xiàn)和應(yīng)用,更加顯示出了正態(tài)分布的重要。
三 中心極限定理在近似計(jì)算中的應(yīng)用 1.同分布獨(dú)立和?Xk的概率的計(jì)算
k?1n
例1 每袋味精的凈重為隨機(jī)變量,平均重量為 100克,標(biāo)準(zhǔn)差為10克.一箱內(nèi)裝200袋
味精,求一箱味精的凈重大于20200克的概率.
200
解:設(shè)每袋味精的凈重為Xk?k?1,2,?,200?,則一箱味精的凈重為?
k?1
200
Xk,又
E?Xk??100,??10
.由中心極限定理知?
k?1
Xk
近似地服從正態(tài)分布。所以
?200??200?P??Xk?20200??1?P??
Xk?20200? ?k?1??k?1?
?200?
??Xk?20000??1?P?????
?1???1???1.41??1?0.9207?0.0793.2.n很大時(shí),二項(xiàng)分布中事件?a?Yn?b?的概率的計(jì)算
例2 設(shè)有一大批電子元件,次品率為1 %,現(xiàn)在任意取500個(gè),問(wèn)其中次品數(shù)在5~9個(gè)
之間的概率為多少?
解:設(shè)任意取500個(gè)其中次品數(shù)為Yn,則Yn可認(rèn)為近似服從正態(tài)分布N(np,np(1?p)).
P?
5?Yn?9??P?
?
?4????????0????1.80??0.5?0.9641?0.5?0.4641.2.22??
例3.有200臺(tái)獨(dú)立工作(工作的概率為0.6)的機(jī)床,每臺(tái)機(jī)床工作時(shí)需3 kw電力.問(wèn)共需多少電力, 才可有99.9 %的可靠性保證正常生產(chǎn)? 解:同時(shí)對(duì)200臺(tái)機(jī)床察看是開(kāi)工還是停工?可看成n
?200,p?0.6的二項(xiàng)分布,設(shè)工作的機(jī)床數(shù)為Yn,假設(shè)至多有m臺(tái)機(jī)床在工作,則依照題意有P?0?Yn?m??0.999
P?
0?Yn?m??P???
?
?????????0??
141.5
所以??
??0.999?
?
3.1,即m?120?3.1,取整數(shù)解
m?142(臺(tái)),共需電力:142×3=426 kw.所以,至少需426 kw 電力, 才可有99.9 %的可靠性保證正常生產(chǎn)。
第三篇:中心極限定理證明
中心極限定理證明
一、例子
高爾頓釘板試驗(yàn).圖中每一個(gè)黑點(diǎn)表示釘在板上的一顆釘子.每排釘子等距排列,下一排的每個(gè)釘子恰在上一排兩相鄰釘子之間.假設(shè)有排釘子,從入口中處放入小圓珠.由于釘板斜放,珠子在下落過(guò)程中碰到釘子后以的概率滾向左邊,也以的概率滾向右邊.如果較大,可以看到許多珠子從處滾到釘板底端的格子的情形如圖所示,堆成的曲線近似于正態(tài)分布.如果定義:當(dāng)?shù)诖闻龅结斪雍鬂L向右邊,令;當(dāng)?shù)诖闻龅结斪雍鬂L向左邊,令.則是獨(dú)立的,且
那么由圖形知小珠最后的位置的分布接近正態(tài).可以想象,當(dāng)越來(lái)越大時(shí)接近程度越好.由于時(shí),.因此,顯然應(yīng)考慮的是的極限分布.歷史上德莫佛第一個(gè)證明了二項(xiàng)分布的極限是正態(tài)分布.研究極限分布為正態(tài)分布的極限定理稱為中心極限定理.二、中心極限定理
設(shè)是獨(dú)立隨機(jī)變量序列,假設(shè)存在,若對(duì)于任意的,成立
稱服從中心極限定理.設(shè)服從中心極限定理,則服從中心極限定理,其中為數(shù)列.解:服從中心極限定理,則表明
其中.由于,因此
故服從中心極限定理.三、德莫佛-拉普拉斯中心極限定理
在重貝努里試驗(yàn)中,事件在每次試驗(yàn)中出現(xiàn)的概率為為次試驗(yàn)中事件出現(xiàn)的次數(shù),則
用頻率估計(jì)概率時(shí)的誤差估計(jì).由德莫佛—拉普拉斯極限定理,由此即得
第一類問(wèn)題是已知,求,這只需查表即可.第二類問(wèn)題是已知,要使不小于某定值,應(yīng)至少做多少次試驗(yàn)?這時(shí)利用求出最小的.第三類問(wèn)題是已知,求.解法如下:先找,使得.那么,即.若未知,則利用,可得如下估計(jì):.拋擲一枚均勻的骰子,為了至少有0.95的把握使出現(xiàn)六點(diǎn)的概率與之差不超過(guò)0.01,問(wèn)需要拋擲多少次?
解:由例4中的第二類問(wèn)題的結(jié)論,.即.查表得.將代入,便得.由此可見(jiàn),利用比利用契比曉夫不等式要準(zhǔn)確得多.已知在重貝努里試驗(yàn)中,事件在每次試驗(yàn)中出現(xiàn)的概率為為次試驗(yàn)中事件出現(xiàn)的次數(shù),則服從二項(xiàng)分布:的隨機(jī)變量.求.解:
因?yàn)楹艽?于是
所以
利用標(biāo)準(zhǔn)正態(tài)分布表,就可以求出的值.某單位內(nèi)部有260架電話分機(jī),每個(gè)分機(jī)有0.04的時(shí)間要用外線通話,可以認(rèn)為各個(gè)電話分機(jī)用不用外線是是相互獨(dú)立的,問(wèn)總機(jī)要備有多少條外線才能以0.95的把握保證各個(gè)分機(jī)在使用外線時(shí)不必等候.解:以表示第個(gè)分機(jī)用不用外線,若使用,則令;否則令.則.如果260架電話分機(jī)同時(shí)要求使用外線的分機(jī)數(shù)為,顯然有.由題意得,查表得,故取.于是
取最接近的整數(shù),所以總機(jī)至少有16條外線,才能有0.95以上的把握保證各個(gè)分機(jī)在使用外線時(shí)不必等候.根據(jù)孟德?tīng)栠z傳理論,紅黃兩種番茄雜交第二代結(jié)紅果植株和結(jié)黃果植株的比率為3:1,現(xiàn)在種植雜交種400株,試求結(jié)黃果植株介于83和117之間的概率.解:將觀察一株雜交種的果實(shí)顏色看作是一次試驗(yàn),并假定各次試驗(yàn)是獨(dú)立的.在400株雜交種中結(jié)黃果的株數(shù)記為,則.由德莫佛—拉普拉斯極限定理,有
其中,即有
四、林德貝格-勒維中心極限定理
若是獨(dú)立同分布的隨機(jī)變量序列,假設(shè),則有
證明:設(shè)的特征函數(shù)為,則的特征函數(shù)為
又因?yàn)?所以
于是特征函數(shù)的展開(kāi)式
從而對(duì)任意固定的,有
而是分布的特征函數(shù).因此,成立.在數(shù)值計(jì)算時(shí),數(shù)用一定位的小數(shù)來(lái)近似,誤差.設(shè)是用四舍五入法得到的小數(shù)點(diǎn)后五位的數(shù),這時(shí)相應(yīng)的誤差可以看作是上的均勻分布.設(shè)有個(gè)數(shù),它們的近似數(shù)分別是,.,.令
用代替的誤差總和.由林德貝格——勒維定理,以,上式右端為0.997,即以0.997的概率有
設(shè)為獨(dú)立同分布的隨機(jī)變量序列,且互相獨(dú)立,其中,證明:的分布函數(shù)弱收斂于.證明:為獨(dú)立同分布的隨機(jī)變量序列,且互相獨(dú)立,所以仍是獨(dú)立同分布的隨機(jī)變量序列,易知有
由林德貝格——勒維中心極限定理,知的分布函數(shù)弱收斂于,結(jié)論得證.作業(yè):
p222EX32,33,34,3
5五、林德貝爾格條件
設(shè)為獨(dú)立隨機(jī)變量序列,又
令,對(duì)于標(biāo)準(zhǔn)化了的獨(dú)立隨機(jī)變量和的分布
當(dāng)時(shí),是否會(huì)收斂于分布?
除以外,其余的均恒等于零,于是.這時(shí)就是的分布函數(shù).如果不是正態(tài)分布,那么取極限后,分布的極限也就不會(huì)是正態(tài)分布了.因而,為了使得成立,還應(yīng)該對(duì)隨機(jī)變量序列加上一些條件.從例題中看出,除以外,其余的均恒等于零,在和式中,只有一項(xiàng)是起突出作用.由此認(rèn)為,在一般情形下,要使得收斂于分布,在的所有加項(xiàng)中不應(yīng)該有這種起突出作用的加項(xiàng).因?yàn)榭紤]加項(xiàng)個(gè)數(shù)的情況,也就意味著它們都要“均勻地斜.設(shè)是獨(dú)立隨機(jī)變量序列,又,這時(shí)
(1)若是連續(xù)型隨機(jī)變量,密度函數(shù)為,如果對(duì)任意的,有
(2)若是離散型隨機(jī)變量,的分布列為
如果對(duì)于任意的,有
則稱滿足林德貝爾格條件.以連續(xù)型情形為例,驗(yàn)證:林德貝爾格條件保證每個(gè)加項(xiàng)是“均勻地斜.證明:令,則
于是
從而對(duì)任意的,若林德貝爾格條件成立,就有
這個(gè)關(guān)系式表明,的每一個(gè)加項(xiàng)中最大的項(xiàng)大于的概率要小于零,這就意味著所有加項(xiàng)是“均勻地斜.六、費(fèi)勒條件
設(shè)是獨(dú)立隨機(jī)變量序列,又,稱條件為費(fèi)勒條件.林德貝爾格證明了林德貝爾格條件是中心極限定理成立的充分條件,但不是必要條件.費(fèi)勒指出若費(fèi)勒條件得到滿足,則林德貝爾格條件也是中心極限定理成立的必要條件.七、林德貝爾格-費(fèi)勒中心極限定理
引理1對(duì)及任意的,證明:記,設(shè),由于
因此,其次,對(duì),用歸納法即得.由于,因此,對(duì)也成立.引理2對(duì)于任意滿足及的復(fù)數(shù),有
證明:顯然
因此,由歸納法可證結(jié)論成立.引理3若是特征函數(shù),則也是特征函數(shù),特別地
證明定義隨機(jī)變量
其中相互獨(dú)立,均有特征函數(shù),服從參數(shù)的普哇松分布,且與諸獨(dú)立,不難驗(yàn)證的特征函數(shù)為,由特征函數(shù)的性質(zhì)即知成立.林德貝爾格-費(fèi)勒定理
定理設(shè)為獨(dú)立隨機(jī)變量序列,又.令,則
(1)
與費(fèi)勒條件成立的充要條件是林德貝爾格條件成立.證明:(1)準(zhǔn)備部分
記
(2)
顯然(3)
(4)
以及分別表示的特征函數(shù)與分布函數(shù),表示的分布函數(shù),那么(5)
這時(shí)
因此林德貝爾格條件化為:對(duì)任意,(6)
現(xiàn)在開(kāi)始證明定理.設(shè)是任意固定的實(shí)數(shù).為證(1)式必須證明
(7)
先證明,在費(fèi)勒條件成立的假定下,(7)與下式是等價(jià)的:
(8)
事實(shí)上,由(3)知,又因?yàn)?/p>
故對(duì)一切,把在原點(diǎn)附近展開(kāi),得到
因若費(fèi)勒條件成立,則對(duì)任意的,只要充分大,均有
(9)
這時(shí)
(10)
對(duì)任意的,只要充分小,就可以有
(11)
因此,由引理3,引理2及(10),(11),只要充分大,就有
(12)
因?yàn)榭梢匀我庑?故左邊趨于0,因此,證得(7)與(8)的等價(jià)性.(2)充分性
先證由林德貝爾格條件可以推出費(fèi)勒條件.事實(shí)上,(13)
右邊與無(wú)關(guān),而且可選得任意小;對(duì)選定的,由林德貝爾格條件(6)知道第二式當(dāng)足夠大時(shí),也可以任意地小,這樣,費(fèi)勒條件成立.其次證明林德貝爾格條件能保證(1)式成立.注意到(3)及(4),可知,當(dāng)時(shí),當(dāng)時(shí),因此
(14)
對(duì)任給的,由于的任意性,可選得使,對(duì)選定的,用林德貝爾格條件知只要充分大,也可使.因此,已證得了(8),但由于已證過(guò)費(fèi)勒條件成立,這時(shí)(8)與(7)是等價(jià)的,因而(7)也成立.(3)必要性
由于(1)成立,因此相應(yīng)的特征函數(shù)應(yīng)滿足(7).但在費(fèi)勒條件成立時(shí),這又推出了(8),因此,(15)
上述被積函數(shù)的實(shí)部非負(fù),故
而且
(16)
因?yàn)閷?duì)任意的,可找到,使,這時(shí)由(15),(16)可得
故林德貝爾格條件成立.八、李雅普諾夫定理
設(shè)為獨(dú)立隨機(jī)變量序列,又.令,若存在,使有
則對(duì)于任意的,有
第四篇:2018考研概率知識(shí)點(diǎn)總結(jié):大數(shù)定律和中心極限定理
凱程考研輔導(dǎo)班,中國(guó)最權(quán)威的考研輔導(dǎo)機(jī)構(gòu)
2018考研概率知識(shí)點(diǎn)總結(jié):大數(shù)定律和
中心極限定理
考研數(shù)學(xué)復(fù)習(xí)最后兩月多的時(shí)間,大家除了瘋狂做題之外,對(duì)于知識(shí)點(diǎn)的整合聯(lián)系也要做好,統(tǒng)籌全局才能穩(wěn)操勝券,下面是概率與數(shù)理統(tǒng)計(jì)部分知識(shí)點(diǎn)整合,大家可以抽時(shí)間捋一捋。
2018考研概率知識(shí)點(diǎn)整合:大數(shù)定律和中心極限定理
凱程考研輔導(dǎo)班,中國(guó)最權(quán)威的考研輔導(dǎo)機(jī)構(gòu)
頁(yè) 共 2 頁(yè)
第五篇:第六章 第三節(jié)中心極限定理
第六章 大數(shù)定律和中心極限定理
第三節(jié) 中心極限定理
在對(duì)大量隨機(jī)現(xiàn)象的研究中發(fā)現(xiàn),如果一個(gè)量是由大量相互獨(dú)立的隨機(jī)因素所造成,而每一個(gè)別因素在總影響中所起的作用較小,那么這種量通常都服從或近似服從正態(tài)分布.例如測(cè)量誤差、炮彈的彈著點(diǎn)、人體體重等都服從正態(tài)分布,這種現(xiàn)象就是中心極限定理的客觀背景.設(shè)隨機(jī)變量X,X,???,X,???獨(dú)立
12n同分布,且Xi~N(?,?),2(i?1,2,???)
記Y??X,(EY?n?,DY?n?),2nni?1inn 1 Y?EYY?n?? Y?稱為Y的標(biāo)準(zhǔn)DYn?*nnnnnn化, 則有Y~N(0,1)
FY*(x)?P{Yn*?x}??(x)
n*n對(duì)任意實(shí)數(shù)x,有
Y?n??x}
limP{n?nn???P{Yn ?limn?????(x)??x??*?x}?limF(x)
n???Yn*1edt.2?t2?2一般地,有下述結(jié)果。定理三(同分布的中心極限定理)設(shè)隨機(jī)變量X,X,???,X,???獨(dú)立同分布,且存在有限的數(shù)學(xué)期望和方差
EX??,DX???0,12n2ii(i?1,2,???)
記Y??X,(EY?n?,DY?n?),2nni?1innY?EYY?n?? Y?稱為Y的標(biāo)DYn?*nnnnnn 2 準(zhǔn)化, FYn*(x)?P{Y?x}
n*則對(duì)任意實(shí)數(shù)x,有
Y?n??x}
limP{n?nn???P{Yn ?limn?????(x)??x*?x}?limF(x)
n???Yn*??1edt.2?t2?2
定理表明,當(dāng)n充分大時(shí),隨機(jī)變量?X?n?i?1inn?近似地服從標(biāo)準(zhǔn)正
ni?1i態(tài)分布N(0,1).因此,?X近似地服從正態(tài)分布N(n?,n?).由此可見(jiàn),正態(tài)分布在概率論中占有重要的地位.定理四(De Moivre-Laplace定理)
2設(shè)?n是n次獨(dú)立重復(fù)試驗(yàn)中事件A發(fā)生的次數(shù),p是事件A在每次 試驗(yàn)中發(fā)生的概率, 則對(duì)任意區(qū)間[a,b],成立 limP{a?n?????npnnp(1?p)?b}
??ba1edt??(b)??(a)2??t22 證明 引人隨機(jī)變量
?1,第i次試驗(yàn)中A發(fā)生 X?? ,?0,第i次試驗(yàn)中A不發(fā)生i則n次試驗(yàn)中事件A發(fā)生的次數(shù)
?n?X?X?????X ,12n12n由于是獨(dú)立試驗(yàn),所以X,X,???,X相互獨(dú)立,且都服從相同的(0—1)分布,即
P{X?1}?p,P{X?0}?1?p,i?1,2,???,nii于是
EXii?p, DX?p(1?p)
由定理三,即得
limP{n?????npnnp(1?p)ni?1i?x}
?limP{n????X?npnp(1?p)?x}
??x??1edt??(x), 2??t22于是對(duì)任意區(qū)間[a,b],有
limP{a?np(1?p)?b}
nn?????npt22??ba1edt??(b)??(a).2??
近似計(jì)算公式:
??npN?npM?np,N???M???np(1?p)np(1?p)np(1?p)nnP{N???M}nn
??npN?npM?np?P{??}np(1?p)np(1?p)np(1?p)M?npN?np??()??().np(1?p)np(1?p)例1 某計(jì)算機(jī)系統(tǒng)有120個(gè)終端,每個(gè)終端有5%的時(shí)間在使用,若各終端使用與否是相互獨(dú)立的,試求有10個(gè)以上的終端在使用的概率.解 以X表示使用終端的個(gè)數(shù), 引人隨機(jī)變量 ?1,第i個(gè)終端在使用 X?? ,?0,第i個(gè)終端不使用i i?1,2,???,120 , 則
X?X?X?????X ,121202120由于使用與否是獨(dú)立的,所以X,X,???,X相互獨(dú)立,且都服從相同的(0—1)分布,即 P{X?1}?p?0.05,P{X?0}?1?p,i?1,2,???,120 1ii于是,所求概率為
P{X?10}?1?P{X?10}
X?np10?np?1?P{?},np(1?p)np(1?p)由中心極限定理得
P{X?10}?1?P{X?10}
X?np10?np?1?P{?}
np(1?p)np(1?p)10?np)
?1??(np(1?p)10?120?0.05?1??()
120?0.05?0.95?1??(1.68)?1?0.9535?0.0465.例2 現(xiàn)有一大批種子,其中良種占1.現(xiàn)從中任選6000粒,試問(wèn)在這些61種子中,良種所占的比例與之誤差
6小于1%的概率是多少? 解 設(shè)X表示良種個(gè)數(shù), 則
1X~B(n,p),n?6000,p? , 所求概率為 X1P{|?|?0.01}?P{|X?np|?n?0.01}n6
X?npn?0.01?P{||?}
np(1?p)np(1?p)X?np6000?0.01?P{||?}
15np(1?p)6000??66??(2.078)??(?2.078)
?2?(2.078)?1?2?0.98?1?0.96.例3 設(shè)有30個(gè)電子器件D,D,???,D,它們的使用情況如下: 1230D損壞,D接著使用;D損壞,D接1223著使用等等.設(shè)器件D的使用壽命服從參數(shù)??0.1(單位:h)的指數(shù)分布.令T
為30個(gè)器件使用的總時(shí)數(shù),問(wèn)T超過(guò)350h的概率是多少?
i?1 8 解 設(shè)Xi為 器件D的使用
i壽命,Xi 服從參數(shù)??0.1(單位:h)
?1的指數(shù)分布, X,X,???,X相互獨(dú)1230立, T?X1?X2?????Xnn?30, ??EX?11i??0.1?10 , ?2?DXi?1?2?10.12?100, 由中心極限定理得
P{T?350}?1?P{T?350}
?1?P{T?n?n??350?n?n?} ?1??(350?30030?10)?1??(530)?1??(0.91)?1?0.8186
?0.1814.,例4 某單位設(shè)置一電話總機(jī),共有200架電話分機(jī).設(shè)每個(gè)電話分機(jī)有5%的時(shí)間要使用外線通話,假定每個(gè)電話分機(jī)是否使用外線通話是相互獨(dú)立的,問(wèn)總機(jī)需要安裝多少條外線才能以90%的概率保證每個(gè)分機(jī)都能即時(shí)使用.解 依題意
設(shè)X為同時(shí)使用的電話分機(jī)個(gè)數(shù), 則X~B(n,p),n?200,p?0.05, 設(shè)安裝了N條外線, 引人隨機(jī)變量
?1,第i個(gè)分機(jī)在使用 X?? ,?0,第i個(gè)分機(jī)不使用i i?1,2,???,200 , 則
X?X?X?????X ,122002200由于使用與否是獨(dú)立的,所以X,X,???,X相互獨(dú)立,且都服從相同的(0—1)分布,即 1 10 P{X?1}?p?0.05,iP{X?0}?1?p,i?1,2,???,200, i {X?N}?保證每個(gè)分機(jī)都能即時(shí)使用, P{X?N}?0.9 , 0.9?P{X?N}
X?npN?np?} ?P{np(1?p)np(1?p)N?np)
??(np(1?p)N?200?0.05??()
200?0.05?0.95N?10N?10??()??(),3.089.5查標(biāo)準(zhǔn)正態(tài)分布表
N?10?z?1.28, 3.080.9N?1.28?3.08?10?13.94, 取 N?14, 答: 需要安裝14條外線.例5 設(shè)隨機(jī)變量X的概率密度為
?x?e,x?0 f(x)??m!,??0,x?0其中m為正整數(shù),證明
m?xmP{0?X?2(m?1)}?.m?1 證明
xEX??xf(x)dx??x?edx
m!1xedx ??m!m?????x??0??m?2?1?x011 ??(m?2)?(m?1)!?m?1, m!m!
xEX??xf(x)dx??x?edxm!m2??2??2?x??0
1x ??m!??0m?3?1edx
?x
11??(m?3)?(m?2)!?(m?2)(m?1), m!m!
DX?EX?(EX)
222
?(m?2)(m?1)?(m?1)
?m?1 , 利用車貝謝不等式,得 P{0?X?2(m?1)}
?P{?(m?1)?X?(m?1)?(m?1)} ?P{|X?(m?1)|?(m?1)} ?P{|X?EX|?(m?1)}
DXm?1?1??1?
(m?1)(m?1)m ?.m?122 13