第一篇：概率論和統(tǒng)計中常用的收斂極限小結(jié)

概率論和統(tǒng)計中的收斂總結(jié)

概率論中的極限定理和數(shù)理統(tǒng)計學(xué)中各種統(tǒng)計量的極限性質(zhì)，都是按隨機變量序列的各種不同的收斂性來研究的。

設(shè){Xn,n≥1}是概率空間(Ω,F,P)（見概率）上的隨機變量序列，從隨機變量作為可測函數(shù)看，常用的收斂概念有以下幾種：

以概率1收斂

若,則稱｛Xn,n≥1｝以概率1收斂于X。強大數(shù)律（見大數(shù)律）就是闡明事件發(fā)生的頻率和樣本觀測值的算術(shù)平均分別以概率 1收斂于該事件的概率和總體的均值。以概率 1收斂也常稱為幾乎必然（簡記為α.s）收斂,它相當(dāng)于測度論中的幾乎處處（簡記為α.e.）收斂。

依概率收斂

若對任一正數(shù)ε,都有，則稱{Xn,n≥1}依概率收斂于X。它表明隨機變量Xn與X發(fā)生較大偏差(≥ε)的概率隨n無限增大而趨于零。概率論中的伯努利大數(shù)律就是最早闡明隨機試驗中某事件 A發(fā)生的頻率依概率收斂于其概率P(A)的。依概率收斂相當(dāng)于測度論中的依測度收斂。

r階平均收斂

對r≥1,若Xn-X的r階絕對矩(見矩)的極限,則稱{Xn,n≥1}r階平均收斂于X。特別，當(dāng)r=1時，稱為平均收斂；當(dāng)r=2時,稱為均方收斂，它在寬平穩(wěn)過程（見平穩(wěn)過程）理論中是一個常用的概念。

弱收斂

設(shè)Xn的均值都是有限的，若對任一有界隨機變量Y都有則稱{Xn,n≥1}弱收斂于X，由平均收斂可以推出弱收斂。

從隨機變量的分布函數(shù)（見概率分布）看，常用的有如下收斂概念。

分布弱收斂

設(shè)Fn、F分別表示隨機變量Xn、X的分布函數(shù),若對F的每一個連續(xù)點x都有，則稱Xn的分布Fn弱收斂于X的分布F,也稱Xn依分布收斂于X。,分布弱收斂還有各種等價條件，例如,對任一有界連續(xù)函數(shù)?(x)，img src=“image/254-6.gif” align=“absmiddle”>。分布弱收斂是概率論和數(shù)理統(tǒng)計中經(jīng)常用到的一種收斂性。中心極限定理就是討論隨機變量序列的標(biāo)準(zhǔn)化部分和依分布收斂于正態(tài)隨機變量的定理。大樣本統(tǒng)計中也要討論各種統(tǒng)計量依分布收斂的問題。

分布淡收斂

設(shè){Fn(x)，n≥1}為分布函數(shù)列，而F(x)為一非降右連續(xù)函數(shù)（不一定是分布函數(shù)），若對F(x)的每一個連續(xù)點x 都有，則稱Fn淡收斂于F。

上述各種收斂之間有如下蘊含關(guān)系（A=>B表示由A可推出B）,若r′≥r≥1,則有:。此外，依概率收斂于常數(shù)與依分布收斂于常數(shù)是等價的。當(dāng)是獨立隨機變量序列{Yj,j≥1}的部分和時，Xn依分布收斂、依概率收斂和以概率1收斂三者是等價的。

隨著概率論的發(fā)展，上述收斂概念還推廣到取值于一般可測空間（見測度論）的隨機元（見隨機過程）序列的各種收斂性。例如隨機過程序列的分布弱收斂（見隨機過程的極限定理），巴拿赫空間隨機元序列的收斂等。

第二篇：數(shù)列極限的收斂準(zhǔn)則

第一講 數(shù)列極限

一、數(shù)列極限的收斂準(zhǔn)則

1.數(shù)列極限的夾逼準(zhǔn)則

a)數(shù)列{xn}，{yn}，{zn}滿足：

i.yn＃xnzn(n N0)

ii.nlimyn=nlimzn=a

則數(shù)列{xn}的極限存在，且nlimxn=a

b)例

1、求極限n!

nlimnn=0 注：n!=1鬃23Ln

1例

2、求極限lim1+2n+nnn

n(3)注：nlima=1(a>0)

驏1n

練習(xí)：

1、1n

nlim?? ??桫1+n+

1n÷÷

2÷÷ 注：運用重要極限nlim(1+n)=e2、求n?lim(其中 a1,a2,L,ak為正常數(shù), k?Z+.)

2.單調(diào)數(shù)列的收斂準(zhǔn)則

a)單調(diào)增加有上界的數(shù)列必收斂；

b)單調(diào)遞減有下界的數(shù)列必收斂；

通常說成：單調(diào)有界的數(shù)列必收斂。

例1． 證明lim(1

1n)n

n+=e 注：補充二項式定理

例2．

設(shè)x1=10，xn+1={xn}極限存在，并求其極限。例3．

設(shè)x1=xn+1={xn}極限存在，并求其極限。注：補充數(shù)學(xué)歸納法例

1、證明1+3+L+(2n-1)=n2 例

2、證明1+++L+<思考：

1、有界數(shù)列是否收斂？

2、數(shù)列{xn}收斂是否可推出數(shù)列xn}收斂？反之是否成立？

13、數(shù)列xn為有界數(shù)列，且limyn=0，數(shù)列數(shù)列xnyn是否收斂？ n{}{}

二、收斂數(shù)列的性質(zhì)

1.極限的唯一性。

2.有界性。問題：有界數(shù)列是否收斂？

3.保號性。問題：若xn>0("n N)，且limxn=a，是否一定有a>0？ n

4.收斂數(shù)列的子數(shù)列必收斂。

思考：（1）數(shù)列xn與yn都發(fā)散，是否數(shù)列xnyn與xn+yn也都發(fā)散？

（2）若子列x2n-1與x2n均收斂，則數(shù)列xn是否收斂？

（3）設(shè)x1>0，xn+1{}{}{}{}{}{}{}1驏1÷÷=?x+，證明數(shù)列{xn}極限存在，并求其極限。?÷n?÷2?xn桫

nn（4）求lim2+3+4n(nn

驏12n÷÷（5）求lim ++L+÷222n÷n+n+1n+n+2n+n+n桫

（6）設(shè)數(shù)列xn滿足：0ì?n2+??當(dāng)n為奇數(shù)?n（7）數(shù)列xn=í，則當(dāng)n?1?當(dāng)n為偶數(shù)??n??時，xn是

A無窮小量B無窮大量C有界變量D無界變量2

第三篇：中心極限定理和概率統(tǒng)計

若{Xn}的分布函數(shù)序列{Fn(x)}與X的分布函數(shù)F(x)有，在任意連續(xù)點x，limFn(x)?F(x)。n??

依概率收斂

n??若???0，有P(Xn?X??)????0。準(zhǔn)確的表述是，???0，???0，?N,n?N，有P(Xn?X??)??成立

（3）幾乎必然收斂

如果有P(limXn?X)?1。準(zhǔn)確的表述是，除掉一個0概率集A，對所有的???A，n??

有l(wèi)imXn(?)?X(?)成立。這是概率空間上的點收斂。n??

定理1。（切貝雪夫大數(shù)律）{Xn}相互獨立，且有相同的期望和方差，（不一定同分布）

1nPE(Xn)?uD(Xn)??，?n,記Yn??Xi，則Yn???u。ni?1

2統(tǒng)計發(fā)生——事物某方面的定量記錄事前是不確定的，發(fā)生后的數(shù)據(jù)由真值和誤差兩部分構(gòu)成，X????。X是數(shù)據(jù)，?是真值，?是誤差。導(dǎo)致誤差的原因有：

1． 系統(tǒng)性誤差：偏離真值的本質(zhì)性錯誤，有內(nèi)在原因所致；

2． 隨機性誤差：偏離真值的偶然性錯誤，沒有內(nèi)在原因，是純偶然因素所致。

總體就是一個特定的隨機變量

通過抽樣，獲得樣本，構(gòu)造樣本統(tǒng)計量，由此推斷總體中某些未知的信息

從總體中抽樣是自由的，且當(dāng)總體數(shù)量足夠大，有放回與無放回抽樣區(qū)別不大，有理由認(rèn)為，取得的抽樣觀察值是沒有關(guān)系的。所以，樣本在未抽取前它們是與總體X同分布的隨機變量，且是相互獨立的，稱此為隨機樣本。

定義2。設(shè)x1,?,xn是取自總體X的一組樣本值，g(x1,?,xn)是Borel 可測函數(shù)，則稱隨機變量g(X1,?,Xn)是一個樣本統(tǒng)計量。

如果總體X中分布函數(shù)有某些參數(shù)信息是未知的，我們用統(tǒng)計量g(X1,?,Xn)去推斷這些信息，稱此問題為統(tǒng)計推斷問題。

給樣本值x?(x1,?,xN)?,y?(y1,?,yN)?，定義：（1）樣本均值

??(xi/n)

i?

1n

（2）樣本方差

1n

?x)????var((xi?)2 ?n?1i?1

??樣本標(biāo)準(zhǔn)差

s.e.e??)

x)i(y)

1n

（3）樣本協(xié)方差c?ov(x,y)???(1x

n?1i?1

樣本相關(guān)系數(shù)

?xy?

?(x,y)cov

1/2

?(x)var?(y)][var

1nk

（4）樣本k階矩 Ak??xi k?1,2,?

ni?11n

（5）樣本k階中心矩 Bk??(xi?)k

ni?1

?

k?1,2,?

X的左側(cè)分位點F?，P(X?F?)??dF(x)??。左?分位點的概率含義是，隨機變量

F?

不超過該點的概率等于?

設(shè)總體X分布已知，但其中有一個或多個參數(shù)未知，抽樣X1,?,Xn，希望通過樣本來估計總體中的未知參數(shù)，稱此為參數(shù)估計問題，它是統(tǒng)計推斷理論中最重要的基礎(chǔ)部分。

用樣本矩作為總體矩的估計量，以及用樣本矩的連續(xù)函數(shù)作為總體矩的連續(xù)函數(shù)的估計量，這種方法稱為矩估計法，這是一種最自然的估計方法。

?(x,?,x))??對任意???成立。當(dāng)樣本是稱??是參數(shù)?的一個無偏估計，如果E(?1n

有限的時候，我們首先要考慮的是無偏性。

n1n22

??S??(Xi?)2才是方差?的無偏估計。故我們在樣本統(tǒng)計量中定義?n?1n?1i?1

S2為樣本方差。

??是參數(shù)?的一個一致估計，如果依概率有l(wèi)im??(x1,?,xn)??對任意???成立。

n??

有效性

在所有關(guān)于參數(shù)?的無偏估計類中?0，或所有的一致估計類?1中，如果存在?*是參數(shù)?的一個無偏有效估計或一?*)?D(??)對任意????或任意????成立，稱?D(?01

?具有最小方差性。致漸近有效估計。即?

*

。無論總體X分布是什么，任意樣本Xi和都是X的無偏估計，但?比單獨的樣本估計Xi更有效。

DXi，所以n

設(shè)總體X關(guān)于分布F(x,?)存在兩類問題，一類是分布的形式未知，一類是分布的形式已知但參數(shù)未知，提出的問題是，需要對分布的形式作出推斷，此稱為非參數(shù)檢驗的問題； 或需要對參數(shù)作出推斷，此稱為參數(shù)檢驗問題。

奈克—皮爾遜定理告訴我們，當(dāng)樣本容量n固定，若要減少犯第一類錯誤的概率則犯第二類錯誤的概率會增加，要使兩類錯誤都減少當(dāng)且僅當(dāng)增加樣本容量。

超過了我們設(shè)定的F?，（如，體溫超過37度。）此意味一個小概率事件發(fā)生了。于是，我們有理由拒絕命題H0是真的。

X~N(u1,?12)，Y~N(u2,?2)，且相互獨立，取樣有(x1?xn1),(y1?yn2)。

欲檢驗H0:u1?u2，或更一般，H0:u1?u2?u（u已知）。如何檢驗？

2（1）若?12、?2已知

因為~N(u1,?1

2n

1)，~N(u2,2?2

n2)，且相互獨立，所以?~N(u1?u2,?12?2

n1

?

n2)，~N(0,1)，所以可找到檢驗統(tǒng)計量U?。

（2）若?12??2??2，但?未知，欲檢驗H0:u1?u2?0，因為V?

?

222

[(n?1)S?(n?1)S]~?(n1?n2?2)，11222

且與

U?

~N(0,1)獨立，n1?1n2?12

~t(n1?n2?2)，令S2?，S12?S2

n1?n2?2n1?n2?2可得

V?2S2，所以可找到統(tǒng)計量

n1?n2?2?

T?

?

~t(n1?n2?2)。

注：如果u未知，問題就變困難了，可以證明此時統(tǒng)計量T就是一個非中心的t分布。

（3）又如何知道?12??2??2？

?12(n?1)(n?1)2可做假設(shè)檢驗H0:2?1。因為12S12~?2(n1?1)，22S2 ~?2(n2?1)且獨立。

?1?2?2

S12

所以，可找到統(tǒng)計量F?2~F(n1?1,n2?1)。

S2

（4）若?12??2，且未知。問題就變困難多了，我們找不到合適的統(tǒng)計量。如果樣本容量

足夠大，那么，可以用漸近檢驗的辦法處理。注意，U?

中，因為?12，?2未

知，但已知S12,S2是?12，?2的一致估計，故用它們代替，有：

n1,n2??

limU?

~N(0,1)。

從而當(dāng)n1,n2充分大時可用漸近正態(tài)檢驗。

又當(dāng)n1?n2?n較小時，可以證明，~t(n)，注意，此與T?

?

~t(n1?n2?2)

自由度不同。此意味當(dāng)期望、方差相同時，樣本可以合并，認(rèn)為X,Y屬于同一總體。當(dāng)期望相同，方差不同時，樣本不能簡單合并。

注：關(guān)于H0:u1?u2?u，或H0:u1?u2?u，統(tǒng)計量相同，并采用單側(cè)的右分位點或單側(cè)的左分位點檢驗。

?是無偏線性估計類中的有效估計。OLS?

? ?的極大似然估計在基本模型假定下就是OLS?

估計做出后，評價、判斷模型中的假定是否合理是對事前設(shè)定的模型做一個整體的把握。我們可以把這些假定、設(shè)定歸結(jié)為一些對未知參數(shù)的判斷，如果這些判斷基本正確或錯誤，那么從整體數(shù)據(jù)中就能夠反映出來。假設(shè)檢驗是估計完成后對模型的設(shè)定做進一步的確認(rèn)。它以證否的形式完成。拒絕原假設(shè)，意味著命題真時犯錯誤的可能性可控制在一定的概率范圍內(nèi)。

第四篇：淺談物理學(xué)中的概率論

淺談物理學(xué)中的概率論

課程名稱：概率論與數(shù)理統(tǒng)計

任課教師：史靈生

姓名：李上

班級：化工系分2班

學(xué)號：2012011849

淺談物理學(xué)中的概率論

摘要：概率論作為數(shù)學(xué)的一個重要分支，為經(jīng)典統(tǒng)計物理的發(fā)展做出重要貢獻；然而，在量子力學(xué)中，Copenhagen學(xué)派卻對波函數(shù)的物理意義有著與經(jīng)典概率論不同的統(tǒng)計解釋——概率幅。

關(guān)鍵字：統(tǒng)計物理 Boltzmann分布律 量子力學(xué) 概率幅

概率論與數(shù)理統(tǒng)計作為數(shù)學(xué)的一個分支學(xué)科不僅與其他數(shù)學(xué)學(xué)科有十分深入的相互滲透，而且與其他自然科學(xué)、技術(shù)科學(xué)、管理科學(xué)、以至于人文科學(xué)都有著廣泛的交叉，與生活實踐和科學(xué)試驗都有著緊密的聯(lián)系，是許多新發(fā)展的前沿學(xué)科的基礎(chǔ)。作為基礎(chǔ)科學(xué)的物理學(xué)與概率論有著密不可分的關(guān)系，本文講主要談一談物理學(xué)中的概率論。

1.概率論在經(jīng)典統(tǒng)計物理中的應(yīng)用

統(tǒng)計物理學(xué)也叫統(tǒng)計力學(xué)，是用統(tǒng)計平均的方法研究大量微觀粒子的力學(xué)行為，是理論物理學(xué)重要分支。麥克斯韋-波爾茲曼統(tǒng)計分布是研究獨立經(jīng)典粒子按能量的最概然分布。對物理學(xué)，對物理化學(xué)，對化學(xué)工程都極其重要的意義。該分布在統(tǒng)計力學(xué)中占有重要地位，系統(tǒng)的各種熱力學(xué)性質(zhì)都與之有著十分密切的聯(lián)系。

在定域子系中，Ni個彼此可以區(qū)分的粒子（可分是指它們可以按照位置加以辨別）占據(jù)gi個量子態(tài)的可能方式有g(shù)iNi種。根據(jù)獨立性N1，N2，?Ni，?個粒子分別占用能級的可能占據(jù)方式共有∏igiNi種。由于N個粒子是可以區(qū)分的，N個粒子分別為N1，N2，?Ni?個粒子的組合方式也可能有很多種。從N個粒子中取出N1個粒子放到能級中去，粒子的組合方式數(shù)為CNi?N1N!；在余下N1!(N?N1)!的N-N1個粒子中取出Ｎ2個粒子放入能級中去，這些粒子的組合方式數(shù)

CN2

N?N1?(N?N1)!；依此類推，很容易得出可能出現(xiàn)的粒子占據(jù)方式總N2!(N?N1?N2)!

NgiiN!Ni數(shù)為??。這樣，我們便依據(jù)現(xiàn)有的概率論知識推出了?gi?N!?iN!?Ni!iii

Boltzmann分布定律中微觀狀態(tài)數(shù)的數(shù)學(xué)表達式。后面根據(jù)微積分中已經(jīng)學(xué)到的1 《基礎(chǔ)物理化學(xué)》【M】,朱文濤

Lagrange乘數(shù)法，結(jié)合物理化學(xué)中的Boltzmann公式，即可得出Boltzmann分布律的最終的表達式。后半部分的證明并沒有涉及到概率論的知識，因此這里不再贅述。

在統(tǒng)計物理學(xué)中，對于費米子的費米-狄拉克統(tǒng)計（F-D分布）、對于波色子的玻色-愛因斯坦統(tǒng)計（B-E分布）和上文提到Boltzmann分布是三種重要的統(tǒng)計規(guī)律，而它們的得出都與概率論與數(shù)理統(tǒng)計有著密不可分的關(guān)系。由此可見，概率與統(tǒng)計是統(tǒng)計力學(xué)中一項重要的理論武器。

2.量子力學(xué)中概率幅概念的引入

著名的美國物理學(xué)家Feynman曾說：“雙縫衍射實驗表現(xiàn)了量子力學(xué)的一切奧秘?！痹谖锢韺W(xué)中的雙縫衍射實驗中，當(dāng)兩條縫同時打開時，衍射圖形應(yīng)該是在兩條縫輪流打開的條件下得到的兩個衍射圖形的疊加。這一實驗事實表明：經(jīng)典概率論中的全概率公式并不不適用于雙縫衍射過程。2概率幅是以著名物理學(xué)家Born為代表的Copenhagen學(xué)派為解釋這一現(xiàn)象而提出的假設(shè)——一個粒子通過某一條縫到達屏幕上某處的概率幅等于兩條縫輪流打開時，該事件的兩個概率幅之和——波函數(shù)Ψ是復(fù)數(shù), 而所有可觀察的物理量都必須用實數(shù)表示，因此Born建議將Ψ的絕對值的平方看作是波函數(shù)和可觀察物理量之間的聯(lián)系橋梁，稱為概率幅。概率幅疊加的假設(shè)與實驗結(jié)果符合的很好，這一假設(shè)在量子力學(xué)中有著重要的意義，它被Feynman稱為“量子力學(xué)的第一原理”3，玻恩本人也因此而獲得諾貝爾物理學(xué)獎。玻恩本人這樣理解這一假設(shè)——“量子本身遵守概率定律，但是概率本身還是受因果律支配的?！?雖然有一些物理學(xué)家如愛因斯坦、德布羅意等人反對這一觀點5，但是至少在目前還是不能動搖這一理論的地位。

在物理理論中引入概率概念在哲學(xué)上有著重要意義，它意味著，在已知給定條件下，不可能精確地預(yù)知結(jié)果，只能用統(tǒng)計的方法給出結(jié)論，這與經(jīng)典物理學(xué)中的嚴(yán)格因果律是矛盾的。而如今，混沌正是物理學(xué)中一個重要的研究分支。

結(jié)束語

概率論與數(shù)理統(tǒng)計的發(fā)展，促進了包括物理學(xué)等其他學(xué)科的發(fā)展；另一方面，20世紀(jì)以來，由于物理學(xué)和其他學(xué)科的推動，概率論飛速發(fā)展，理論課題不斷2《概率的干涉與態(tài)迭加原理》【J】，譚天榮《The Feynman's Lectures on Physics》，【M】, Feynman 4 《Introducing quantum theory》，【M】, Joseph P.McEvoy 5 《Quantum Paradoxes and Physical Reality》，【M】, F.Selleri

擴大與深入，應(yīng)用范圍大大拓寬，已滲透到許多科學(xué)領(lǐng)域，應(yīng)用到國民經(jīng)濟各個部門，成為科學(xué)研究不可缺少的工具。因此學(xué)好概率論與數(shù)理統(tǒng)計這門課程對我們的學(xué)習(xí)、工作、生活都有著極其重要的意義。

參考文獻：1.《基礎(chǔ)物理化學(xué)》【M】,朱文濤

2.《概率的干涉與態(tài)迭加原理》【J】，譚天榮

3.《The Feynman's Lectures on Physics》【M】, Feynman4.《Introducing quantum theory》【M】, Joseph P.McEvoy5.《Quantum Paradoxes and Physical Reality》【M】,F.Selleri

第五篇：概率論與數(shù)理統(tǒng)計主要內(nèi)容小結(jié)（模版）

概率論與數(shù)理統(tǒng)計主要內(nèi)容小結(jié)

概率部分

1、全概率公式與貝葉斯公式 全概率公式：

P(A)?P(A|B1)P(B1)?P(A|B2)P(B2)???P(A|Bn)P(Bn)

其中B1,B2,?,Bn是空間S的一個劃分。貝葉斯公式：P(Bi|A)?P(Bi)P(A|Bi)?P(B)P(A|B)jjj?1n

其中B1,B2,?,Bn是空間S的一個劃分。

2、互不相容與互不相關(guān)

A,B互不相容?A?B??,P(A?B)?0

事件A,B互相獨立?P(A?B)?P(A)(B);兩者沒有必然聯(lián)系

3、幾種常見隨機變量概率密度與分布律:兩點分布，二項分布，泊松分布，均勻分布，二項分布，指數(shù)分布，正態(tài)分布。

X~b(1,p),即二點分布，則分布律為P{x?k}?pk(1?p)1?k,k?0,1.kkX~b(n,p),即二項分布，則分布律為P{x?k}?Cnp(1?p)n?k,k?0,1,...,n.X~?(?),即泊松分布，則分布律為P{x?k}??ke??k!,k?0,1,......?1,x?(a,b)?X~U(a,b),即均勻分布，則概率密度為f(x)??b?a.??0,其它x?1???e,x?0X~E(?),即指數(shù)分布，則概率密度為f(x)???.?0,其它?X~N(?,?2),即正態(tài)分布，則則概率密度為f(x)?

12?e?x22,???x???.連續(xù)性隨機變量X分布函數(shù)性質(zhì)：（i）F(??)?1，F(xiàn)(??)?0,(ii)分布函數(shù)連續(xù) 對連續(xù)性隨機變量X，已知概率密度f(x)，則分布函數(shù)為F(x)??已知分布函數(shù)為F(x)，則概率密度f(x)?F?(x).對連續(xù)性隨機變量X，已知概率密度f(x), 區(qū)間概率P{x?L}?

4、連續(xù)函數(shù)隨機變量函數(shù)的概率密度

設(shè)連續(xù)隨機變量X的概率密度為fX(x),Y?g(X)也是連續(xù)型隨機變量，求Y的概率密度 求法

(i)利用以下結(jié)論計算：如果函數(shù)g(x)處處可導(dǎo)，且恒有g(shù)?(x)?0（或g?(x)?0），則Y概率密度為：

x??f(t)dt；

?f(x)dx

L?fX[h(y)]|h?(y)|,??y?? fY(y)??0,其他?g(??),g(??)}.其中，h(y)是g(x)的反函數(shù)，且有??min{g(??),g(??)},??max{(ii)利用分布函數(shù)計算：先求y?g(x)值域，再在該值域求Y的分布函數(shù)

F(y)?P{Y?y}?P{g(X)?y}?P{X?B}?則有fY(y)?F?(y).常用求導(dǎo)公式

?(y)x?B?fX(x)dx

fY(y)?F?(y)???(y)f(x)dx?f(?(y))??(y)?f(?(y))??(y)

5、二維隨機變量分布律

對于二維連續(xù)性隨機變量(X,Y)，其聯(lián)合概率密度為f(x,y),其聯(lián)合分布函數(shù)為F(x,y), 則F(x,y)???xy????f(u,v)dvdu，概率密度性質(zhì)：（i）f(x,y)?0,(ii)

??????????f(u,v)dvdu?1

已知概率密度f(x,y),求區(qū)域概率有P{(x,y)?D}?邊緣分布函數(shù)為FX(x)?邊緣概率密度為fX(x)???f(x,y)dydx，Dy???????????x??????f(u,v)dvdu,FX(y)?????????f(u,v)dudv，f(x,y)dy,fY(y)??f(x,y)dx.條件分布函數(shù)為FX|Y(x|y)??x??yf(x,v)f(u,y)du,FY|X(y|x)??dv，??fY(y)fX(x)條件概率密度為fX|Y(x|y)?f(x,y)f(x,y),fY|X(y|x)?.fY(y)fX(x)對于離散情形，設(shè)聯(lián)合分布律為P{X?xi,Y?yj}?pij 邊緣概率密度為P{X?xi}??pj?1?ij?pi.，P{Y?yj}??pij?p.j

i?1?條件概率密度為P{Y?yj|X?xi}?

6、二維隨機變量函數(shù)的分布

pijpi.，P{X?xi|Y?yj}?pijp.j

設(shè)二維隨機變量(X,Y)概率密度為f(x,y)，分布函數(shù)為F(x,y)(i)Z=X+Y, 則Z的概率密度為

fZ(z)??f(z?y,y)dy??????????f(x,z?x)dx

fX(z?y)fY(y)dy??fX(x)fY(z?x)dx

????當(dāng)X,Y相互獨立時，fZ(z)??????(ii)M=max{X,Y}與N=min{X,Y} 當(dāng)X,Y相互獨立時，F(xiàn)M(z)?FX(z)FY(z)，F(xiàn)N(z)?1?(1?FX(z))(1?FY(z))

7、數(shù)學(xué)期望

(i)求法：連續(xù)隨機變量X概率密度為f(x)，則E(X)??????xf(x)dx；若Y?g(X), 則E(Y)??g(x)f(x)dx.????離散隨機變量分布律為P{x?xk}?pk，則E(X)???xk?1?kpk;若Y?g(X), 則E(X)??g(xk)pk.k?1若有二維的隨機變量(X,Y),其聯(lián)合概率密度為f(x,y)，若Y?g(X,Y), 則E(Y)???????????g(x,y)f(x,y)dydx.(ii)性質(zhì)：E(C)?C,E(CX)?CE(X),E(X?Y)?E(X)?E(Y)

E(k1X1?k2X2???knXn)?k1E(X1)?k2E(X2)???knE(Xn)X,Y相互獨立，則有E(XY)?E(X)E(Y).8、方差

定義：D(X)?E[X?E(X)]2，標(biāo)準(zhǔn)差（均方差）：D(X).計算：D(X)?E(X2)?[E(X)]2

性質(zhì)：D(C)?0,D(X?C)?D(X),D(CX)?C2D(X).D(X?Y)?D(X)?D(Y)?2E[(X?EX)(Y?EY)].常見分布的數(shù)學(xué)期望和方差：兩點分布：E(X)?p,D(X)?p(1?p).X~b(n,p),即二項分布，則E(X)?np,D(X)?np(1?p).X~?(?),即泊松分布，則E(X)??,D(X)??.a?b(b?a)2,D(X)?.X~U(a,b),即均勻分布，則E(X)?212X~E(?),即指數(shù)分布，則E(X)??,D(X)??2.X~N(?,?2),即正態(tài)分布，則E(X)??,D(X)??2.9、協(xié)方差與相關(guān)系數(shù)

定義：協(xié)方差: Cov(X,Y)?E{[X?E(X)][Y?E(Y)]}?E(XY)?E(X)E(Y).相關(guān)系數(shù)：?XY?Cov(X,Y)D(X)D(Y).則有Cov(X,Y)??XYD(X)D(Y).性質(zhì)：Cov(X,Y)?Cov(Y,X),Cov(X,X)?D(X),Cov(X,a)?0

Cov(aX,bY)?abCov(X,Y),Cov(X1?X2,Y)?Cov(X1,Y)?Cov(X2,Y)

D(X?Y)?D(X)?D(Y)?2Cov(X,Y)

如果X,Y相互獨立，則有D(X?Y)?D(X)?D(Y)

|?XY|?1,且|?XY|?1??a,b,使P{Y?a?bX}?1.10、獨立與不相關(guān)關(guān)系

?XY?0?X,Y不相關(guān)?Cov(X,Y)?0?E(X,Y)?E(X)E(Y)X,Y相互獨立?F(x,y)?F(x)F(y)?f(x)f(y)?E(X,Y)?E(X)E(Y)

F為分布函數(shù)，而f為概率密度

一般情況下，X,Y相互獨立?X,Y不相關(guān)，但反之不成立；

2特殊情況，當(dāng)(X,Y)~N(?1,?2;?12,?2;?)時，X,Y相互獨立?X,Y不相關(guān)

2并且此時E(X)??1,E(Y)??2;D(X)??12,D(Y)??2;?XY??,Cov(X,Y)???1?2.11、切比雪夫(Chebyshev)不等式：設(shè)隨機變量X的期望與方差為E(X)??,D(X)??2，則對任意正數(shù)??0，有

P{|X?E(X)|??}?D(X)?2?2, 即P{|X??|??}?2.?D(X)進一步有：P{|X?E(X)|??}?1?

12、兩個中心極限定理

?2?2,即P{|X??|??}?1?2.?定理1（獨立同分布的中心極限定理）設(shè)隨機變量X1,X2,?,Xn,?相互獨立，服從同一分布，有相同的數(shù)學(xué)期望和方差：E(Xk)??,D(Xk)??2?0,k?1,2,?，則

當(dāng)n充分大時，Yn??Xk?1nk?E(?Xk)k?1nn??Xi?1nk?n?~~~~~~~~D(?Xk)k?1n?近似N(0,1).定理2（棣莫弗-拉普拉斯定理）設(shè)隨機變量?n,n?1,2?服從參數(shù)為n,p(0?p?1)的二項分布，則當(dāng)n充分大時，?n?npnp(1?p)~~~~~~~~近似N(0,1)

統(tǒng)計部分

1、常用統(tǒng)計量

設(shè)X為總體，X1,X2,?Xn是來自總體X的樣本，定義

1n樣本平均值：X??Xi，ni?1n1n12樣本方差：S?(Xi?X)?(?Xi2?nX2)，?n?1i?1n?1i?12樣本標(biāo)準(zhǔn)差（均方差）：S?1n(Xi?X)2 ?n?1i?11nk樣本k階矩：Ak??Xi,k?1,2,?

ni?

12、常用正態(tài)總體相關(guān)的統(tǒng)計量（1）?2分布

定義：設(shè)Xi~N(0,1),i?1,2,?n，則??性質(zhì)(i)可加性：設(shè)X~222X~?(n)，特別Xi2~?2(1).?ii?1n?2(n1),Y~?2(n2),則X?Y~?2(n1?n2).(ii)設(shè)X~?(n),則EX?n,D(X)?2n.(iii)特例：設(shè)Xi~N(?,?),則(2)t 分布

定義：設(shè)X~N(0,1),Y~?(n), 且X,Y相互獨立，則統(tǒng)計量t?性質(zhì)

(i)概率密度為偶函數(shù)，關(guān)于y軸對稱；當(dāng)n趨于無窮大，該統(tǒng)計量趨于標(biāo)準(zhǔn)的正態(tài)分布；(ii)對于分位點有：t1??(n)??t?(n).(3)F分布 定義：設(shè)U~21?2?(Xi?1ni??)2~?(n).XY/n~t(n).?(n1),V~?(n2), 且U,V相互獨立，則統(tǒng)計量F?1.F?(n2,n1)Un1~F(n1,n2).Vn2性質(zhì)(i)對于分位點有：F1??(n1,n2)?

3、正態(tài)總體樣本均值與樣本方差分布

單個總體情形：設(shè)X為總體，且服從X~N(?,?),X1,X2,?Xn是來自總體X的樣本，X,S分別是樣本均值與樣本方差，有以下結(jié)論： 22D(X)?2?,E(S2)?D(X)??2, 而且有(i)E(X)?E(X)??,D(X)?nn?CXii?1ni~N(?Ci?i,?Ci2?i2).i?1i?1nn(ii)X~N(?,?2n), 即

X???/n~N(0,1)；且

1?2?(Xi?1ni?X)?2(n?1)S2?2~?2(n?1)

兩個正態(tài)總體情形：設(shè)X1,X2,?Xn1是來自X~N(?1,?12)的樣本，Y1,Y2,?Yn2是來22自Y~N(?2,?2為兩樣本方差，)的樣本, 且兩樣本相互獨立，X,Y為兩樣本均值，S12,S2則有

(i)X?Y~N(?1??2,?12n1?2?2n2).2(ii)當(dāng)?12??2??2時，X?Y?(?1??2)Sw11?n1n2~t(n1?n2?2)，2(n1?1)S12?(n2?1)S2 Sw?n1?n2?22S12/S2(iii)2~F(n1?1,n2?1)2?1/?24.點估計(1)矩估計法

設(shè)概率密度f(x;?1,?2,??k)或分布律P{X?x}?p(x;?1,?2,??k)中含?1,?2,??k個參數(shù)需要估計。

(i)求總體前k階矩

??1?E(X)??1(?1,?2,?,?k)?2??2?E(X)??2(?1,?2,?,?k)??????E(Xk)??(?,?,??)k12k?k(ii)由以上方程解得

??1??1(?1,?2,?,?k)????(?,?,?,?)?2212k ??????k??k(?1,?2,??k)(iii)以樣本i階矩Ai代替?i,i?1,2,?,n 即得估計量?i??i(A1,A2,?Ak).(2)最大似然估計

定義：給定一組樣本觀測值(x1,x2,?xn)，使該觀測值概率取最大的參數(shù)值為所求參數(shù)估計值。

兩種求法：I 直接用最大似然法估計計算

(i)寫出似然函數(shù) 連續(xù)情形：L(?)??f(xi;?)，離散情形：L(?)??p(xi;?)

i?1i?1nn?(ii)求使似然函數(shù)取最大值的參數(shù)?

兩種方法：取對數(shù)，求導(dǎo)數(shù)，令導(dǎo)數(shù)為0解出?估計值；若求導(dǎo)不行，則用直接分析法(iii)由上寫出估計值，再表示出估計量 II 利用不變性計算

若求函數(shù)u?u(?)的最大似然估計，其中u是單調(diào)函數(shù)，可先求?最大似然估計?，然后利用不變性知u(?)是u(?)的最大似然估計。5.估計量評價標(biāo)準(zhǔn)

?????無偏性：?是?的估計量，如果E(?)??, 則?是?的無偏估計量；

?????更有效； 有效性：?1,?2是?的無偏估計量，如果D(?1)?D(?2)，則?1較?2??一致性：?是?的估計量，當(dāng)樣本容量趨于無窮大，?依概率收斂于?.6.置信區(qū)間 基本的重要概念：

置信水平：是參數(shù)?落在置信區(qū)間(?,?)的概率，即P(?????)?1??,?,?兩統(tǒng)計量

????1??為置信水平。分別為雙則置信下限與置信上限，例如置信水平為95%，則1???0.95.置信區(qū)間幾種情形： 單個總體情形

當(dāng)?已知，?的置信區(qū)間，樞軸量Z?2X???/n~N(0,1)

雙側(cè)置信區(qū)間：(X??nZ?),雙則置信上、下限：X?2?nZ?,X?2?nZ?.2單側(cè)置信區(qū)間：(X??nZ?,??)，(??,X??nZ?)單側(cè)置信上、下限：X??nZ?,X??nZ?.當(dāng)?未知，?的置信區(qū)間，樞軸量t?2X??S/n~t(n?1)

雙側(cè)置信區(qū)間：(X?Snt?(n?1))，2雙則置信上、下限：X?Snt?(n?1),X?2Snt?(n?1).2單側(cè)置信區(qū)間：(X?Snt?(n?1),??)，(??,X?SnSnSnt?(n?1))

單側(cè)置信上、下限：X?t?(n?1)，X?t?(n?1)

當(dāng)?未知，?的置信區(qū)間，樞軸量??22(n?1)S2?2~?2(n?1)

(n?1)S2(n?1)S2(n?1)S2(n?1)S2雙側(cè)置信區(qū)間：(,),雙則置信上、下限：,??(n?1)??(n?1)??(n?1)??(n?1)21?21?22(n?1)S2(n?1)S2單側(cè)置信區(qū)間：(0,)，(,??)

?1??(n?1)??(n?1)(n?1)S2(n?1)S2單側(cè)置信上、下限：.,?1??(n?1)??(n?1)兩個總體情形：

2S12/S2當(dāng)?1,?2未知，?/?的置信區(qū)間，樞軸量F?2~F(n1?1,n2?1)2?1/?22122S12S121雙側(cè)置信區(qū)間：(2,2S1F?(n1?1,n2?1)S2F21?1)，?(n1?1,n2?1)2S12雙則置信上、下限：2S2F1?S1211,2，?(n1?1,n2?1)S2F?(n1?1,n2?1)22S12S1211單側(cè)置信區(qū)間：(0,2),(2,??).F(n?1,n?1)F(n?1,n?1)S21??1S2?122S12S1211單側(cè)置信上、下限：2,2.S2F1??(n1?1,n2?1)S2F?(n1?1,n2?1)在求解置信區(qū)間時，先分清總體屬于那種情況，然后寫出置信區(qū)間，再代數(shù)值。7.假設(shè)檢驗

假設(shè)檢驗的基本原理：小概率事件在一次觀測實驗中幾乎不可能發(fā)生

顯著性水平?：小概率事件發(fā)生的概率，也是拒絕域?qū)?yīng)事件概率，顯著性水平越大，拒絕域越大。

兩類錯誤：對原假設(shè)H0，備擇假設(shè)H1，第一類錯誤H1不真，接受H1，第二類錯誤H0不真，接受H0，為減少兩類錯誤，需增加樣本容量。

假設(shè)檢驗的基本步驟：(i)提出假設(shè)；(ii)選取檢驗統(tǒng)計量；(iii)確定拒絕域；(iv)計算觀測值(v)并作出拒絕與接收原假設(shè)判斷

P值檢驗：計算p值，與顯著性水平?比較，p值小于?拒絕原假設(shè)，否則就接收原假設(shè)；p值計算方法是將觀測值作為拒絕域臨界點，代入拒絕域事件計算其概率。假設(shè)檢驗的情形：

見書中164表，請復(fù)印下來，以便記憶，重點是1、2、3、7種情形，其余的也最好熟記。特別要注意，對假設(shè)檢驗問題，首先只看總體，是單個總體，還是兩個總體，是對均值檢驗還是方差（精度）檢驗，若是均值檢驗，要看總體方差是已知還是未知，總之要分清情形；另外若是單側(cè)檢驗，要寫對原假設(shè)與備擇假設(shè)，一般問有沒顯著改變，就是雙側(cè)檢驗，有沒有顯著提高就是右單側(cè)檢驗，有沒有顯著降低就是左單側(cè)檢驗；同時，把不含等于的情形作為備擇假設(shè)，含有等于的作為原假設(shè)，如不超過多少，就是小于等于，這種含有等于，作為原假設(shè)。在雙側(cè)檢驗中，要寫全拒絕域，然后看觀測值是否滿足不等式，以作推斷?？荚囍攸c：全概率公式，獨立性與不相關(guān)性等，一維，二維隨機變量函數(shù)的概率密度求法，隨機變量函數(shù)的概率密度求法，邊緣概率，條件概率，期望，方差，協(xié)方差，點估計及其評價標(biāo)準(zhǔn)，假設(shè)檢驗。