《點(diǎn)估計(jì)的評(píng)價(jià)標(biāo)準(zhǔn)概率論與數(shù)理統(tǒng)計(jì)習(xí)題和歷史上最好的概率論與數(shù)理統(tǒng)計(jì)PPT課件.ppt》由會(huì)員分享，可在線閱讀，更多相關(guān)《點(diǎn)估計(jì)的評(píng)價(jià)標(biāo)準(zhǔn)概率論與數(shù)理統(tǒng)計(jì)習(xí)題和歷史上最好的概率論與數(shù)理統(tǒng)計(jì)PPT課件.ppt（40頁珍藏版）》請?jiān)趨R文網(wǎng)上搜索。

1、6.2 點(diǎn)估點(diǎn)估計(jì)的的評(píng)價(jià)價(jià)標(biāo)準(zhǔn)準(zhǔn) 對(duì)對(duì)于同一個(gè)未知參數(shù)于同一個(gè)未知參數(shù),不同的方法得到不同的方法得到的估的估計(jì)量可能不同量可能不同,于是提出于是提出問題應(yīng)該選應(yīng)該選用哪一種估用哪一種估計(jì)計(jì)量量?用什么用什么標(biāo)標(biāo)準(zhǔn)來準(zhǔn)來評(píng)評(píng)價(jià)一個(gè)估價(jià)一個(gè)估計(jì)計(jì)量的好壞量的好壞?常用常用標(biāo)標(biāo)準(zhǔn)準(zhǔn)(1)相合性相合性(3)有效性有效性(2)無偏性無偏性46.估估計(jì)計(jì)量。若量。若對(duì)對(duì)于任意的于任意的 ，當(dāng)當(dāng)n 時(shí),定定義義設(shè)設(shè)是是總總體參數(shù)體參數(shù) 的的則則稱稱是是總總體參數(shù)體參數(shù) 的相合估的相合估計(jì)計(jì)量。量。依概依概率收率收斂斂于于 ,即即相合相合估估計(jì)計(jì)量量僅僅在在樣樣本容量本容量n 足足夠夠大，才大，才顯顯示其示

2、其優(yōu)優(yōu)越性。越性。相合性相合性),(21nXXXLqq=0)(lim=-eqqPn47.關(guān)于關(guān)于相合相合性的常用性的常用結(jié)論結(jié)論樣樣本本k 階階矩是矩是總總體體k階矩的矩的相合相合估估計(jì)計(jì)。由大數(shù)定律由大數(shù)定律證證明明矩法得到的估矩法得到的估計(jì)計(jì)量一般量一般為為相合相合估估計(jì)計(jì)量量在一定條件下在一定條件下,極大似然估極大似然估計(jì)具有具有相合相合性性48.定理定理1設(shè)為為的一個(gè)估的一個(gè)估計(jì)計(jì)量。量。如果如果則則為為的的相合相合估估計(jì)計(jì)。49.例例1為為常數(shù)常數(shù)則是是 的相合估的相合估計(jì)計(jì)。證證明：明：經(jīng)過簡單計(jì)經(jīng)過簡單計(jì)算可得算可得50.于是于是所以所以是是 的相合估的相合估計(jì)計(jì)量，量，證畢證畢

3、。51.證證明明由大數(shù)定律知由大數(shù)定律知,例例252.由大數(shù)定律知由大數(shù)定律知,53.54.例例4 4 設(shè) 是來自均勻是來自均勻總體體U U（0 0，）的）的樣本，本，證明明的極大似然估的極大似然估計(jì)是相合估是相合估計(jì)。證證明明 在前面我在前面我們們已已經(jīng)給經(jīng)給出出的極大似然估的極大似然估計(jì)是是x x（n n）。由次序。由次序統(tǒng)計(jì)統(tǒng)計(jì)量的分布，我量的分布，我們們知道知道 的分布密度的分布密度為為 。故有故有55.由定理由定理1可知可知x（n）是是的相合估的相合估計(jì)。定理定理2若若分分別是是的相合的相合估估計(jì)，是是連續(xù)函數(shù)，函數(shù)，則有有是是的相合估的相合估計(jì)。56.又由又由 的相合性，的相合性，

4、對(duì)給對(duì)給定的定的 ，對(duì)對(duì)任意的任意的 存在正整數(shù)存在正整數(shù)N N，使得，使得 時(shí)時(shí) 證證明明 由函數(shù)由函數(shù) 的的連續(xù)連續(xù)性，性，對(duì)對(duì)任意任意給給定的定的 ，存在一個(gè)，存在一個(gè) ，當(dāng)，當(dāng) 時(shí)時(shí)有，有，57.從而有從而有由由的任意性，定理得的任意性，定理得證證。根據(jù)上述的式子，根據(jù)上述的式子，故有故有58.例例5設(shè)設(shè)一個(gè)一個(gè)試驗(yàn)試驗(yàn)有三種可能有三種可能結(jié)結(jié)果，其果，其發(fā)發(fā)生概率生概率分分別別是是，現(xiàn)現(xiàn)做了做了n次次試驗(yàn)，觀測到三種到三種結(jié)果果發(fā)生的次數(shù)分生的次數(shù)分別為n1，n2，n3，可以采用，可以采用頻頻率替率替換換方法估方法估計(jì)計(jì)。由于。由于可以有三個(gè)不同的可以有三個(gè)不同的的表達(dá)式：的表達(dá)式：

5、從而可以從而可以給出出的三種不同的的三種不同的頻率替率替換估估計(jì)，分，分別是是。分分別別是是p1，p2，p3相合估相合估計(jì)計(jì)。59.定定義 設(shè) 是是總體體X X 的的樣本本是是總體參數(shù)體參數(shù) 的估的估計(jì)量量則則稱稱是是 的的無偏估無偏估計(jì)計(jì)量，量，否否則則稱稱為為有偏估有偏估計(jì)計(jì)。存在存在,都有都有且且對(duì)對(duì)于任意于任意無偏性無偏性60.證明明:不不論 X 服從什么分布服從什么分布,是是的無偏估的無偏估計(jì)計(jì)量。量。證證是是總體體X 的的樣本本,例例1設(shè)總體體X 的的 k階矩矩存在存在因而因而由于由于61.特特別別地地,樣樣本二本二階階原點(diǎn)矩原點(diǎn)矩是是總總體二體二階階的無偏估的無偏估計(jì)量。量。原點(diǎn)

6、矩原點(diǎn)矩是是總體期望體期望E(X)的無偏估的無偏估計(jì)量量樣樣本均本均值值62.例例2設(shè)總體體 X的期望的期望E(X)與方差與方差 D(X)存在存在,是是X 的一個(gè)的一個(gè)樣本本,n 1，(1)不是不是D(X)的無偏估的無偏估計(jì)量量;(2)是是D(X)的無偏估的無偏估計(jì)量。量。證證前已前已證證證證明：明：63.因而因而故故證畢證畢。64.例例3設(shè)總體體X的密度函數(shù)的密度函數(shù)為為為常數(shù)常數(shù)為X的一個(gè)的一個(gè)樣本。本。證證明明與與都是都是的無偏的無偏估估計(jì)計(jì)量，量，65.證證故故是是 的無偏估的無偏估計(jì)計(jì)量。量。令令66.即即故故nZ 是是 的無偏估的無偏估計(jì)計(jì)量。量。67.證證例例468.69.都是都

7、是總總體參數(shù)體參數(shù) 的無偏估的無偏估計(jì)計(jì)量量,則則稱稱比比更有效。更有效。定定義義設(shè)設(shè)有效性有效性且至少有一個(gè)且至少有一個(gè) 使得上述不等號(hào)使得上述不等號(hào)嚴(yán)嚴(yán)格成立格成立,70.所以所以,比比更有效。更有效。是是 的無偏估的無偏估計(jì)計(jì)量量,問哪個(gè)估哪個(gè)估計(jì)量更有效？量更有效？由前面例子由前面例子可知可知,都都與與為為常數(shù)常數(shù)例例1設(shè)密度函數(shù)密度函數(shù)為為X的一個(gè)的一個(gè)樣本本,解解71.例例2設(shè)總體期望體期望為E(X)=,方差方差D(X)=2為總體體X的一個(gè)的一個(gè)樣本。本。(1)設(shè)常常數(shù)數(shù)證證明明是是 的無偏估的無偏估計(jì)量量(2)證明明比比更有效更有效72.(2)結(jié)論結(jié)論算術(shù)均值比加權(quán)均值更有效.證

8、證:(1)利用柯西不等式利用柯西不等式有有73.例如例如X N(,2),(X1,X 2)是一是一樣本。本。都是都是 的無偏估的無偏估計(jì)量量由例由例2(2)知知最有效。最有效。74.證證明明例例4 .,2,max12122121有效有效較較時(shí)時(shí)現(xiàn)證現(xiàn)證當(dāng)當(dāng)計(jì)計(jì)量量的無偏估的無偏估都是都是和和中已中已證證明明在無偏性的例在無偏性的例4 4 +=nXXXnnXnLL75.76.羅羅克拉美（克拉美（Rao Cramer）不等式不等式若若是參數(shù)是參數(shù) 的無偏估的無偏估計(jì)計(jì)量量,則其中其中p(x,)是是總體體 X 的概率分布或密度函數(shù)，的概率分布或密度函數(shù)，稱稱為方差的下界。方差的下界。當(dāng)當(dāng)時(shí),稱稱為達(dá)到

9、方差下界的達(dá)到方差下界的無偏估無偏估計(jì)量量,此此時(shí)稱稱為最有效的估最有效的估計(jì)量量,簡稱稱有效估有效估計(jì)量。量。78.均方均方誤誤差差 對(duì)對(duì)于兩個(gè)無偏估于兩個(gè)無偏估計(jì)計(jì)，我，我們們可以通可以通過過比比較較它它們們的的方差來比方差來比較較哪個(gè)更好，但哪個(gè)更好，但對(duì)對(duì)有偏估有偏估計(jì)計(jì)來來講講，比，比較較方差意方差意義義不大，我不大，我們們關(guān)心的是估關(guān)心的是估計(jì)值圍繞計(jì)值圍繞真真值值波波動(dòng)動(dòng)的大小，因而引入均方的大小，因而引入均方誤誤差準(zhǔn)差準(zhǔn)則則。設(shè)設(shè) 是是 的的估估計(jì)計(jì)量量.稱稱 為 的的均方均方誤差差.注意到：注意到：定定義義1)1)79.因此，均方因此，均方誤差由點(diǎn)估差由點(diǎn)估計(jì)的方差與偏差的平

10、的方差與偏差的平方兩部分方兩部分組成。如果估成。如果估計(jì)是無偏估是無偏估計(jì)，則此此時(shí)用均用均方方誤差差評(píng)價(jià)點(diǎn)估價(jià)點(diǎn)估計(jì)與用方差是完全一與用方差是完全一樣的，的，這也也說明了用方差考察無偏估明了用方差考察無偏估計(jì)有效性是合理的。當(dāng)估有效性是合理的。當(dāng)估計(jì)不是無偏估不是無偏估計(jì)時(shí)，就要看其均方，就要看其均方誤差，即不差，即不僅要看要看其方差大小，其方差大小，還要看偏差大小。要看偏差大小。80.例例1 1 設(shè) 總體體,為樣本本.則作作為方差方差 的的估估計(jì)量量,的的均方均方誤誤差差為為 的的均方均方 誤誤差差為為 .則則 的的均方均方誤誤差差比比 的小的小.81.而而 的的均方均方誤差差是是 證證：

11、易知易知82.由本例可知，從無偏性角度考察，用由本例可知，從無偏性角度考察，用 估估計(jì)計(jì)方差是好的，但從均方意方差是好的，但從均方意義義上上講講用用 估估計(jì)計(jì)方差方差更好。它更好。它們們從不同從不同側(cè)側(cè)面去考察估面去考察估計(jì)計(jì)量的好壞，量的好壞，至于具體采用什么估至于具體采用什么估計(jì)則計(jì)則需要根據(jù)需要根據(jù)實(shí)際問題實(shí)際問題來來定。定。的均方的均方誤誤差是差是83.例例2 2 前面我前面我們已已經(jīng)指出指出對(duì)均勻均勻總體體 ，由，由的最大似然估的最大似然估計(jì)得到的無偏估得到的無偏估計(jì)是是 ，它的均方它的均方誤差差 ?，F(xiàn)現(xiàn)在我在我們們考考慮慮的形如的形如 的估的估計(jì)，其均方其均方誤差差為84.用求用求導(dǎo)導(dǎo)的方法不的方法不難難求得當(dāng)求得當(dāng) 上述均方上述均方誤誤差達(dá)到最小差達(dá)到最小,且且 這表明表明 雖是是的有的有偏估偏估計(jì)，但其均方，但其均方誤差差 有偏估有偏估計(jì)計(jì) 優(yōu)優(yōu)與無偏估與無偏估計(jì)計(jì) 。所以在均方所以在均方誤誤差的差的標(biāo)標(biāo)準(zhǔn)下，準(zhǔn)下，85.