《參數(shù)估計(jì)(修改)》由會(huì)員分享，可在線閱讀，更多相關(guān)《參數(shù)估計(jì)(修改)（44頁(yè)珍藏版）》請(qǐng)?jiān)谘b配圖網(wǎng)上搜索。
1、單擊此處編輯母版標(biāo)題樣式,單擊此處編輯母版文本樣式,第二級(jí),第三級(jí),第四級(jí),第五級(jí),*,*,*,參數(shù)估計(jì),第七章 參數(shù)估計(jì),參數(shù)的點(diǎn)估計(jì),估計(jì)量的評(píng)選標(biāo)準(zhǔn),正態(tài)總體參數(shù)的區(qū)間估計(jì),一。參數(shù)的點(diǎn)估計(jì),一、參數(shù)估計(jì)的概念,估計(jì)量；估計(jì)值,由于,現(xiàn)用它來(lái)估計(jì)未知參數(shù),，,故稱這種估計(jì)為,點(diǎn)估計(jì),。,是實(shí)數(shù)域上的一個(gè)點(diǎn),，,點(diǎn)估計(jì)的經(jīng)典方法是：,(1),矩估計(jì)法,(2),極大似然估計(jì)法,二、矩估計(jì)法,(,簡(jiǎn)稱“矩法”,),英國(guó)統(tǒng)計(jì)學(xué)家皮爾遜,(,K.pearson,),提出,1,、矩法的基本思想：,以樣本矩作為相應(yīng)的總體同階矩的估計(jì)；,以樣本矩的函數(shù)作為相應(yīng)的總體矩的同一函數(shù)的估計(jì)。,均值,方差,標(biāo)準(zhǔn)
2、差,總體,E,（,X,）,D,（,X,）,樣本,樣本值,K,階原點(diǎn)矩,K,階中心矩,總體,樣本,樣本值,2,、矩法的步驟：,設(shè)總體,X,的分布為,F,(,x,;,1,2,k,),，,k,個(gè)參數(shù),1,2,k,待估計(jì)，,(,X,1,X,2,X,n,),是一個(gè)樣本。,(1),計(jì)算總體分布的,i,階原點(diǎn)矩,E,(,X,i,)=,i,(,1,2,k,),，,i,=1,2,k,，,(,計(jì)算到,k,階矩為止，,k,個(gè)參數(shù),),；,(2),列方程,從中解出方程組的解，記為,分別為參數(shù),1,2,k,的矩估計(jì)。,則,例,.,1,設(shè)總體,X,的均值為,，,方差為,2,，均未知。,(,X,1,X,2,X,n,),是總
3、體的一個(gè)樣本，求,和,2,的矩估計(jì)。,解,解得矩法估計(jì)量為,注：,例,.,2,設(shè)總體,X,P,(,),，求,的矩估計(jì)。,解,例,3,設(shè),(,X,1,X,2,X,n,),來(lái)自,X,的一個(gè)樣本，且,求,a,b,的矩估計(jì)。,解,X,U,(,a,b,),解得矩估計(jì)為,2,階中心矩,矩法估計(jì)的優(yōu)點(diǎn)：計(jì)算簡(jiǎn)單；,矩法估計(jì)的缺點(diǎn),：,(1),矩法估計(jì)有時(shí)會(huì)得到不合理的解；,(2),求矩法估計(jì)時(shí)，不同的做法會(huì)得到不同的解；,(,通常規(guī)定，在求矩法估計(jì)時(shí)，要盡量使用低階矩,),如例,7.2,中，不是用,1,階矩，而是用,2,階矩,(3),總體分布的矩不一定存在，所以矩法估計(jì)不一定有解。如,三、極大似然估計(jì)法,(
4、,R.A.Fisher,費(fèi)歇,),1,、極大似然估計(jì)法的基本思想,由樣本的具體取值，選擇參數(shù),的估計(jì)量,使得取該樣本值發(fā)生的可能性最大。,2,、,似然函數(shù)與極大似然估計(jì),設(shè),則稱,為該總體,X,的似然函數(shù),。,3,、求極大似然估計(jì)的步驟,設(shè)總體,X,的分布中，有,m,個(gè)未知參數(shù),1,2,m,，它們的取值范圍,。,(1),寫(xiě)出似然函數(shù),L,的表達(dá)式,如果,X,是離散型隨機(jī)變量，分布律為,P,(,X=x,),，,則,如果,X,是連續(xù)型隨機(jī)變量，密度函數(shù)為,f,(,x,),，,則,(2),在,內(nèi)求出使得似然函數(shù),L,達(dá)到最大的參數(shù)的估計(jì)值,它們就是未知參數(shù),1,2,m,的極大似然估計(jì)。,一般地，先將
5、似然函數(shù)取對(duì)數(shù),ln,L,，,然后令,ln,L,關(guān)于,1,2,m,的偏導(dǎo)數(shù)為,0,，得方程組,從中解出,例,4,(,X,1,X,2,X,n,),是來(lái)自總體,XP,(,),的樣本，,0,未知，求,的極大似然估計(jì)量。,解,總體,X,的分布律為,x,=0,，,1,2,，,n,設(shè),(,x,1,x,2,x,n,),為樣本,(,X,1,X,2,X,n,),的一個(gè)觀察值，,似然函數(shù),對(duì)數(shù)似然函數(shù),所以,是,的極大似然估計(jì)值，,的極大似然估計(jì)量為,例,5,設(shè),(,X,1,X,2,X,n,),是來(lái)自正態(tài)總體,XN,(,2,),的一個(gè)樣本，,2,未知，求,2,的極大似然估計(jì)。,解,設(shè),(,x,1,x,2,x,n,
6、),為樣本,(,X,1,X,2,X,n,),的一個(gè)觀察值，則似然函數(shù)為,解得,所以,2,的極大似然估計(jì)量分別為,思考：當(dāng),已知時(shí)，,四。估計(jì)量的評(píng)選標(biāo)準(zhǔn),一、無(wú)偏性,估計(jì)量,的觀察或試驗(yàn)的結(jié)果，估計(jì)值可能較真實(shí)的參數(shù)值偏大或偏小，而一個(gè)好的估計(jì)量不應(yīng)總是偏大或偏小，在多次試驗(yàn)中所得的估計(jì)量的平均值應(yīng)與真實(shí)參數(shù)吻合，這就是無(wú)偏性所要求的。,是一個(gè)隨機(jī)變量，對(duì)一次具體,定義,是,的一個(gè)估計(jì)量，如果,有,則稱,是,的一個(gè)無(wú)偏估計(jì)。,如果,不是無(wú)偏的，就稱該估計(jì)是有偏的。,稱,為,的偏差。,例,6,設(shè)總體,X,的,k,階矩存在，則不論,X,的分布如何，樣本,k,階原點(diǎn)矩,是總體,k,階矩的無(wú)偏估計(jì)。,
7、證明,設(shè),X,的,k,階矩,k,=,E,(,X,k,),，,k,1,(,X,1,X,2,X,n,),是來(lái)自正態(tài)總體,X,的一個(gè)樣本，則,所以,A,k,是,k,的無(wú)偏估計(jì),.,例,7.,設(shè),XN,(,2,),，,其中,2,未知，問(wèn),2,的極大似然估計(jì)是否為,2,的無(wú)偏估計(jì)？若不是，請(qǐng)修正使它成為無(wú)偏估計(jì)。,解,設(shè),(,X,1,X,2,X,n,),是取自總體,X,的一個(gè)樣本，由例,6.6,知,是,的無(wú)偏估計(jì),不是,2,的無(wú)偏估計(jì)，而,為,2,的無(wú)偏估計(jì)。,二、有效性,對(duì)于參數(shù),的無(wú)偏估計(jì)量，其取值應(yīng)在真值附近波動(dòng)，我們希望它與真值之間的偏差越小越好。,定義 設(shè),均為未知參數(shù),的無(wú)偏估計(jì)量，若,則稱
8、,比,有效。,在,的所有無(wú)偏估計(jì)量中，若,估計(jì)量，則稱,是具有最小方差的無(wú)偏,顯然也是最有效的無(wú)偏估計(jì)量，簡(jiǎn)稱有效估計(jì)量。,為一致最小方差無(wú)偏估計(jì)量。,例,8,設(shè)總體,X,U,1,，,1,，,未知，,(,X,1,X,2,X,n,),是總體,X,的一個(gè)樣本，,(1),求,的矩估計(jì)和極大似然估計(jì)；,(2),上述兩個(gè)估計(jì)是否為無(wú)偏估計(jì)量，若不是，請(qǐng)修正為無(wú)偏估計(jì)量；,(3),問(wèn)在,(2),中的兩個(gè)無(wú)偏估計(jì)量哪一個(gè)更有效？,解,X,的密度函數(shù),(1),的矩估計(jì)為,設(shè),(,x,1,x,2,x,n,),為樣本觀察值，則似然函數(shù),i,=1,2,n,令,x,n,*,=max(,x,1,x,2,x,n,),，則
9、,x,n,*,即,的極大似然估計(jì)為,(2),是,的無(wú)偏估計(jì)。,為求,先求,X,n,*,的密度函數(shù),顯然，它不是,的無(wú)偏估計(jì)，修正如下：,令,則,是,的無(wú)偏估計(jì)。,(3),當(dāng),n,1,時(shí)，對(duì)任意,1,，,因此,比,更有效。,三、一致性（相合性）,在參數(shù)估計(jì)中，很容易想到，如果樣本容量越大，樣本所含的總體分布的信息越多。,n,越大，越能精確估計(jì)總體的未知參數(shù)。隨著,n,的無(wú)限增大，一個(gè)好的估計(jì)量與被估參數(shù)的真值之間任意接近的可能性會(huì)越來(lái)越大，這就是所謂的相合性或一致性。,定義 設(shè),為未知參數(shù),的估計(jì)量，若對(duì)任意給定的正數(shù),0,，,都有,即,以概率收斂于參數(shù),，,則稱,為參數(shù),的一致估計(jì)或相合估計(jì)量
10、。,五。區(qū)間估計(jì),上一節(jié)中，我們討論了參數(shù)的點(diǎn)估計(jì)，只要給定樣本觀察值，就能算出參數(shù)的估計(jì)值。但用點(diǎn)估計(jì)的方法得到的估計(jì)值不一定是參數(shù)的真值，即使與真值相等也無(wú)法肯定這種相等（因?yàn)榭傮w參數(shù)本身是未知的），也就是說(shuō)，由點(diǎn)估計(jì)得到的參數(shù)估計(jì)值沒(méi)有給出它與真值之間的可靠程度，在實(shí)際應(yīng)用中往往還需要知道參數(shù)的估計(jì)值落在其真值附近的一個(gè)范圍。為此我們要求由樣本構(gòu)造一個(gè)以較大的概率包含真實(shí)參數(shù)的一個(gè)范圍或區(qū)間，這種帶有概率的區(qū)間稱為置信區(qū)間，通過(guò)構(gòu)造一個(gè)置信區(qū)間對(duì)未知參數(shù)進(jìn)行估計(jì)的方法稱為區(qū)間估計(jì)。,定義 設(shè)總體,X,的分布函數(shù)族為,F,(,x,;,),，,對(duì)于給定的,(0,1),，,如果有兩個(gè)統(tǒng)計(jì)量,使
11、得,對(duì)一切,成立，則稱隨機(jī)區(qū)間,是,的置信度為,1,-,的雙側(cè)置信區(qū)間,雙側(cè)置信下限；,雙側(cè)置信下限；,1,-,置信度。,由定義可知，置信區(qū)間是以統(tǒng)計(jì)量為端點(diǎn)的隨機(jī)區(qū)間，對(duì)于給定的樣本觀察值,(,x,1,x,2,x,n,),，由統(tǒng)計(jì)量,構(gòu)成的置信區(qū)間,可能包含真值,，也可能不包含真值,，但在多次觀察或試驗(yàn)中，每一個(gè)樣本皆得到一個(gè)置信區(qū)間，在這些區(qū)間中包含真值,的區(qū)間占,100(1-,)%,，,不包含,的僅占,100,%,。,例,9,設(shè),(,X,1,X,2,X,n,),是取自總體,XN,(,2,),的一個(gè)樣本，其中,2,已知，,未知。試求出,的置信度為,1,-,的置信區(qū)間。,解,由于樣本均值,是
12、總體均值,的極大似然估計(jì)，且,故統(tǒng)計(jì)量,由標(biāo)準(zhǔn)正態(tài)分布上,p,分位點(diǎn)的定義可知,即,落在區(qū)間,內(nèi)的概率為,1,-,。,此區(qū)間稱為,的置信度為,1,-,的置信區(qū)間。,u,/,2,O,u,1,-,/,2,x,(,x,),/2,/2,1,-,從此例我們發(fā)現(xiàn)隨機(jī)變量,Z,在區(qū)間的構(gòu)造中起著關(guān)鍵的作用，它具有下述特點(diǎn)：,(1),Z,是待估參數(shù),和統(tǒng)計(jì)量,(2),不含其它未知參數(shù)；,(3),服從與未知參數(shù)無(wú)關(guān)的已知分布。,求置信區(qū)間的一般步驟,的函數(shù)；,一、正態(tài)總體,N,(,2,),的均值,的置信區(qū)間,1,、方差,2,已知,由例,7.14,可知,則置信度為,1,-,的,的置信區(qū)間為,2,、方差,2,未知,
13、由于,方差,2,未知，不能使用,作為統(tǒng)計(jì)量,用,2,的無(wú)偏估計(jì)量,代替,2,則,的置信度為,1,-,的置信區(qū)間為,求正態(tài)總體參數(shù)置信區(qū)間的解題步驟：,(1),根據(jù)實(shí)際問(wèn)題構(gòu)造樣本的函數(shù)，,要求僅含待估參數(shù)且分布已知,；,(2),令該,函數(shù)落在由分位點(diǎn)確定,的區(qū)間里的概率為,給定的置信度,1,，,要求,區(qū)間按幾何對(duì)稱或概率對(duì)稱,；,(3,),解不等式得隨機(jī)的置信,區(qū)間；,(4),由觀測(cè)值及值查表計(jì)算得所求,置信,區(qū)間。,例,10,已知某批燈泡的壽命,X,(,單位,:,小時(shí),),N,(,2,),，,現(xiàn)從這批燈泡中抽取,10,個(gè)，測(cè)得壽命分別為,1050,1100,1080,1120,1200,12
14、50,1040,1130,1300,1200,若,=0.05,，,求,的置信區(qū)間,(1),2,=8,，,(2),未知。,解,(1),由于,2,=8,，由樣本觀察值計(jì)算得,n=,10,，,=0.05,查,標(biāo)準(zhǔn)正態(tài)分布表,得,的置信度為,0.95,的置信區(qū)間為,1145.25,，,1148.75,。,(2),由于,2,未知，由樣本觀察值計(jì)算得,S=,87.0568,n=,10,=0.05,，,查,t,分布表得,的置信度為,0.95,的置信區(qū)間為,1084.72,，,1209.28,。,1,、均值,已知,此時(shí),2,的極大似然估計(jì)為,且,由,2,分布分位點(diǎn)的概念可知,二、正態(tài)總體,N,(,2,),的方
15、差,2,的置信區(qū)間,則,2,的置信度為,1,-,的置信區(qū)間為,(2),均值,未知,此時(shí)取,可得,2,的置信度為,1,-,的置信區(qū)間為,例,11,為測(cè)定某家具中的甲醛含量，取得,4,個(gè)獨(dú)立的測(cè)量值的樣本，并算得樣本均值為,8.34%,，樣本標(biāo)準(zhǔn)差為,0.03%,，設(shè)被測(cè)總體近似服從正態(tài)分布，,=0.05,，求,2,的置信區(qū)間。,解,由題意：,2,未知，,n,=4,，,S,=0.03%,，,查,t,分布表得,的置信度為,0.95,的置信區(qū)間為,8.2923%,，,8.3877%,。,對(duì)于,2,，由于,未知，,查,2,分布表,則,2,的置信度為,0.95,的置信區(qū)間為,0.00029,10,-4,，,0.0125,10,-4,
參數(shù)估計(jì)(修改)
