Теория вероятностей - конспекты - Математика 3, Конспекты лекций из Математика. Московский государственный университет имени М. В. Ломоносова (МГУ)
Viktor_86
Viktor_86

Теория вероятностей - конспекты - Математика 3, Конспекты лекций из Математика. Московский государственный университет имени М. В. Ломоносова (МГУ)

13 стр-ы.
697Количество просмотров
Описание
Конспект лекций по предмету математика. Теория вероятностей. Часть 3. Элементы математической статистики. Примеры решения задач. Теоремы.
20 баллов
Количество баллов, необходимое для скачивания
этого документа
Скачать документ
Предварительный просмотр3 стр-ы. / 13
Это только предварительный просмотр
3 стр. на 13 стр.
Скачать документ
Это только предварительный просмотр
3 стр. на 13 стр.
Скачать документ
Это только предварительный просмотр
3 стр. на 13 стр.
Скачать документ
Это только предварительный просмотр
3 стр. на 13 стр.
Скачать документ

E“4”A¯G¹”*¸–ˆž{”A›-™Aˆ¬ÃÄ¥›-™A

ξ(t) ›#¬ ¡¬$šˆ“4¤ˆ•ˆ“4•ˆ°q˜Aš$Ÿn¤ˆ•ˆ–

t = t0 µ™A”A¦'¸Ÿ

K(t0 + h, t0 + k)−K(t0, t0) = 

[(ξ(t0 + h)− ξ(t0))(ξ(t0 + k)− ξ(t0))+

+(ξ(t0 + h)− ξ(t0))ξ(t0) + ξ(t0)(ξ(t0 + k)− ξ(t0))]. ËlŸ!¢“4“¸ˆ¢$—5¡ ŸVÅ0¸”A¦4”Ä–£q›W¢Ÿ#¦WŸ#“4ž{°®¹5¤ˆ•$Ÿ#˜A”Aœ5 $Ÿ#›-™A–0˜A”A›4¤ˆ”!¢#£4¥“4ž{›'—0›4˜A”Aœˆ›-™A˜A”Až

³



ÂW¬

;Ÿ#¤ˆ•ˆ–ˆž{“4•µ¸ˆ¢$—]¤ˆ“4•ˆ˜A”#¦4”ˆÕ

|  (ξ(t0 + h)− ξ(t0))(ξ(t0 + k)− ξ(t0))| 6

6 √  |ξ(t0 + h)− ξ(t0))|2

 |ξ(t0 + k)− ξ(t0))|2 −→ h→0,k→0

0.

· ¬$É{›W¢–

K(t, s) šˆ“4¤ˆ•ˆ“4•ˆ°q˜Aš$Ÿ0š$ŸŽ¸–$Ÿ#¦4”Aš$Ÿ!¢–µ$š$Ÿ#¤ˆ•ˆ–ˆž{“4•µ$˜l™A”A ˆ¡Ÿ!¹

(t, t), (s, s) µ™A”

ξ(t+h) ›#¬ ¡¬

→ ξ(t) – ξ(s+h) ›#¬ ¡¬

→ ξ(s) ¤ˆ•ˆ– h→ 0 ¬#­9¢“W¸”A˜ŸV™A“W¢Ašˆ”ˆµ  ξ(t+h)ξ(s+ k)→ 

ξ(t)ξ(s) µˆ™!¬ “#¬

K(t+ h, s+ k)→ K(t, s) ¬ 

?.-V+-/01V<.-¬ÃÄ¥Ÿ#›4›4”Ašˆ”A˜A›4¡ˆ–ˆœ‘–ǘA–ˆšˆ“4•ˆ”A˜A›4¡ˆ–ˆœÇ›W¢$¥  $Ÿ#œˆšˆ°q“E¤ˆ•ˆ”Aªˆ“4›4›4°šˆ“4¤ˆ•ˆ“4•ˆ°q˜Ašˆ°

˜E›4•ˆ“W¸šˆ“4žJ¡ˆ˜Ÿ!¸•$ŸV™A–ˆ ˆšˆ”Ažq¬ Ʊ¸š$Ÿ#¡”ˆµ•ˆ“4Ÿ!¢–£*Ÿ#ªˆ–ˆ–†¤¥Ÿ#›4›4”Ašˆ”A˜A›4¡”A¦4”Ž¤ˆ•ˆ”Aªˆ“-›4›GŸz•$ŸV£G•ˆ°q˜V¨

šˆ°q“

³

›-™#¥ ¤ˆ“4šˆ $ŸV™°q“!ÂE¥ šˆ¡ˆªˆ–ˆ–¬

�  

   

¬_­9¢$¥  $Ÿ#œˆš$ŸV— E¥ šˆ¡ˆªˆ–—

ξ(t) š$ŸV£G°q˜Ÿ#“-™A›'—È›#¬ ¡¬{¸–  ;“4•ˆ“4šˆªˆ–ˆ•¥“W¨

ž{”Aœ˜…™A”A ˆ¡“

t µ “4›W¢–›-¥Êl“4›-™˜#¥A“-™[›#¬ ¡¬ ¤ˆ•ˆ“W¸“W¢ ξ(t+h)−ξ(t)

h

¤ˆ•ˆ–

h → 0 ¬ � ™A”#™2¤ˆ•ˆ“W¸“W¢ š$ŸV£G°q˜AŸ#“-™A›B—…›#¬ ¡¬$¤ˆ•ˆ”A–£G˜A”G¸šˆ”Aœ

ξ(t) Õ

ξ′(t) =  ¬  ¬ ]¬

h→0

ξ(t+ h)− ξ(t) h

, – ¢–

 |ξ(t+ h)− ξ(t) h

− ξ′(t)|2 → 0, h→ 0. ­®”A¦:¢Ÿ#›4šˆ”ƒ¡ˆ•ˆ–™A“4•ˆ–$²t· µ

ξ(t) ›#¬ ¡¬X¸–  ;“4•ˆ“4šˆªˆ–ˆ•¥“4ž9Ÿ2˜]™A”A ˆ¡“

t µ “4›B¢––™A”V¢A¡”

“4›W¢–

Q = 1

hk



(ξ(t+ h)− ξ(t))(ξ(t+ k)− ξ(t)) ›:¹”*¸–™A›'—…¤ˆ•ˆ– h, k → 0 :

Q = K(t+ h, t+ k)−K(t, t+ k)−K(t+ h, t) +K(t, t)

hk −→

h→0,k→0

∂2K(t, s)

∂t∂s |t=s.

™A”2•$ŸV£Gšˆ”A›-™Ašˆ”A“‘”#™Ašˆ”#Àl“4šˆ–ˆ“†¸ˆ¢$—˜#™A”A•ˆ”AœJ¤ˆ•ˆ”A–£G˜A”*¸šˆ”Aœ›:¹”G¸–™A›B—P¡J¤ˆ•$Ÿ#˜A”Aœ $ŸV›-™A–µ

“4›W¢–µ$š$Ÿ#¤ˆ•ˆ–ˆž{“4•µ ∂2K(t,s) ∂t∂s

šˆ“4¤ˆ•ˆ“4•ˆ°q˜Aš$Ÿ¬

Χ-™A”Až=›W¢$¥  $Ÿ#“ ∂2K(t,s) ∂t∂s

= 

ξ′(t)ξ′(s) ¨X¡”A•ˆ•ˆ“W¢$—ˆªˆ–ˆ”Ašˆš$ŸV— E¥ šˆ¡ˆªˆ–—5›#¬ ¡¬V¤ˆ•ˆ”A–£G˜A”*¸ˆ¨

šˆ”Aœ

ξ(t) ¬

™A” ¥™A˜A“4•Å0¸“-šˆ–ˆ“ º ›B¢“W¸›-™˜A–ˆ“ ›4˜A”Aœˆ›-™A˜Ÿ · Õ “4›W¢–

ξ(t+h)−ξ(t) h

›#¬ ¡¬

→ h→0

ξ′(t), ξ(s+k)−ξ(s) k

›#¬ ¡¬

→ k→0

ξ′(s) µˆ™A”

 ξ(t+ h)− ξ(t) h

ξ(s+ k)− ξ(s) k

−→ h→0,k→0



ξ′(t)ξ′(s) = ∂2K(t, s)

∂t∂s ,

“4›W¢–]§-™VŸn¤ˆ•ˆ”A–£G˜A”G¸š$ŸV—]šˆ“4¤ˆ•ˆ“4•ˆ°q˜Aš$Ÿ¬

�  

   

¬q­9¢$¥  $Ÿ#œˆš$ŸV— Ä¥ šˆ¡ˆªˆ–—

ξ(t) ›#¬ ¡¬–ˆš™A“4¦4•ˆ–ˆ•¥“4ž9ŸJ¤ˆ”J»{–ˆž9Ÿ#š¥š$Ÿ

[a, b] µ “4›W¢– ¤ˆ”A›W¢“W¸”A˜ŸV™A“W¢Ašˆ”A›-™A •ˆ–ˆž9Ÿ#šˆ”A˜A›4¡ˆ– ¹ –ˆš™A“4¦4•$Ÿ!¢Ašˆ°®¹ ›-¥ ž{ž

∑ [a,b]

ξ(tk)δtk ›#¬ ¡¬$›'¹”G¸–™A›B—…¤ˆ•ˆ–

max k

δtk → 0 ¬



«

docsity.com

 

¬­9¢$¥  $Ÿ#œˆš$ŸV— E¥ šˆ¡ˆªˆ–—

ξ(t) ›#¬ ¡¬9–ˆš™A“4¦4•ˆ–ˆ•¥“4ž9Ÿš$Ÿ

[a, b] ¤ˆ”»{–ˆž9Ÿ#š¥Aµ

“4›W¢–

K(t, s) –ˆš™A“4¦4•ˆ–ˆ•ˆ¥A“Gž9Ÿn¤ˆ”n»{–ˆž9Ÿ#š¥š$Ÿ

[a, b]× [a, b] ¬ËŽ“4œˆ›-™A˜A–™A“-¢Ašˆ”ˆµ¤¥A›-™A

S = ∑

[a,b]

ξ(tk)δtk, S ′ = ∑

[a,b]

ξ(t′k)δt ′ k

’”#¦'¸Ÿ

MSS ′ = ∑

[a,b]×[a,b] K(ti, t

′ k)δtiδt

′ k

– zŸ#¡™‘›-¥Êl“4›-™˜A”#˜Ÿ#šˆ–—=¤ˆ•ˆ“W¸“W¢ŸÇ›4¤ˆ•$Ÿ#˜ŸÇ§-¡ˆ˜A–ˆ˜Ÿ!¢“4š™A“4š[›#¬ ¡¬–ˆš™A“4¦4•ˆ–ˆ•¥“4ž{”A›-™–

ξ(t) ³

›#¬ ¡¬$›:¹”*¸–ˆž{”A›W™A–

ÂW¬

        �  �    �   



H  

        

               

©z“4¡ˆªˆ–—[«A«A¬

»Ÿ#›4›4ž{”#™A•ˆ–ˆž

n ¨Fž{“4•ˆšˆ”A“J“4˜A¡ ¢– ¸”A˜A”Ȥˆ•ˆ”#›-™A•$Ÿ#šˆ›-™˜A”ˆµ

x = (x1, . . . , xn) µ

(x, y) = n∑ k=1

xkyk ¬VÃÄ¥A›-™A

ξ = (ξ1, . . . , ξn) º ›W¢$¥  $Ÿ#œˆšˆ°qœl˜A“4¡™A”A•l˜U§-™A”Ažƒ¤ˆ•ˆ”A›-™A•$Ÿ#šˆ›-™˜A“#µ#¤ˆ•ˆ–ˆ ˆ“4ž

ξ ∼ N(0, σ2I) ¬ ;Ÿ#¤ˆ”Až{šˆ–ˆžqµˆ ™A”†˜0”A¯#Êl“4ž›W¢$¥  $Ÿ#“#µ¡”A¦:¸Ÿ

ξ ∼ N(0,Σ) µ

pξ(x) = (detΣ−1)1/2

(2π)n/2 exp

{ −1 2 (x,Σ−1x)

} .

É{›W¢–

Σ = σ2I µˆ™A”n¡”A”A•A¸–ˆš$ŸV™A°

ξi šˆ“W£*Ÿ#˜A–ˆ›4–ˆž{° –

pξi(xi) = 1√ 2πσ2

exp

{ − 1 2σ2

x2i

} .

ÃÄ¥A›-™A

Π º¼”A•™A”A¦-”Aš$Ÿ!¢Ašˆ°qœ…¤ˆ•ˆ”A“4¡™A”A•…š$Ÿ

L ⊂ Rn = L⊕ L⊥. �

™A”0£Gš$Ÿ! ˆ–™*µ ™A”n“4›W¢–

x = x1 + x2 µ

x1 ∈ L1 µ

x2 ∈ L2 µ™A”

Πx = x1 ¬

ÆĤˆ“4•$ŸV™A”A•

Π ¢–ˆšˆ“4œˆšˆ°qœµ›GŸ#ž{”A›4”#¤ˆ•—Å5“4šˆšˆ°qœJ–– ¸“4ž{¤ˆ”#™A“4š™šˆ°qœ

³

Π2 = Π ÂW¬ÆįV¨

•$ŸV™Ašˆ”ˆµ$§-™A–…›4˜A”Aœˆ›-™A˜Ÿ0¤ˆ”V¢šˆ”A›-™AA²|”A¤ˆ•ˆ“W¸“W¢$—ˆ²±™Ç”A•™A”A¦4”Aš$Ÿ!¢Ašˆ°qœ…¤ˆ•ˆ”A“4¡™A”A•¬

ÆįA”#£Gš$Ÿ* ˆ–ˆžb ˆ“4•ˆ“-£

U ”A¤ˆ“4•$ŸV™A”A•]”A•™A”A¦4”Aš$Ÿ!¢Ašˆ”A¦4”n¤ˆ•ˆ“4”#¯A•$ŸV£G”A˜Ÿ#šˆ–—

³

”A¤ˆ“4•$ŸV™A”A•]¤ˆ“W¨

•ˆ“W¹”G¸Ÿ;”#™z”G¸šˆ”A¦4”z”A•™A”Ašˆ”A•ˆž{–ˆ•ˆ”A˜Ÿ#šˆšˆ”A¦4”z¯ŸV£G–ˆ›GŸE¡5¸•¥ ¦4”Až¥ˆÂWµ

ẽi = Uei ¬ ÆÄš0”A¯V¢Ÿ!¸Ÿ#“-™

›4˜A”Aœˆ›W™A˜Ÿ#ž{–Õ

U∗ = U−1 – ||Ux|| = ||x||

³

||U ∗x|| = ||x|| ÂWµ det Û = ±1 ¬ ³

ظ“4›4

Û º

ž9ŸV™A•ˆ–ˆª$Ÿ0”A¤ˆ“4•$ŸV™A”A•$Ÿ

U ÂW¬

 

¬X»Ÿ#›4¤ˆ•ˆ“W¸“W¢“Gšˆ–ˆ“n˜A“4¡™A”A•$Ÿ

η = Uξ ›4”A˜A¤$Ÿ!¸Ÿ#“-™]›5•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ–$“4žI˜A“4¡ ¨

™A”A•$Ÿ

ξ ³

™!¬ “#¬

ηi ∼ N(0, σ2) –]šˆ“-£*ŸV˜A–ˆ›4–ˆž{°±ÂW¬

         

¬

pη(y) = pξ(U −1y)| det Û−1| = 1

(2πσ2)n/2 exp

{ − 1 2σ2

||U−1y||2 } =

= 1

(2πσ2)n/2 exp

{ −||y||

2

2σ2

} .



·

docsity.com

�  

   



»Ÿ#›4¤ˆ•ˆ“B¸“W¢“Gšˆ–ˆ“Gž

χ2m – ¢–=ÃE–ˆ•ˆ›4”Aš$Ÿ

³

�q¬

¬ 

 

ÂU›

m ›-™A“4¤ˆ“W¨

š—ˆž{–Ž›4˜A”A¯A”G¸°š$ŸV£G°q˜Ÿ#“-™A›'—5•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ–ˆ“q›W¢½¬V˜A“W¢–ˆ ˆ–ˆšˆ°Eµ#•$Ÿ#˜Ašˆ”AœŽ›-¥ ž{ž{“Š¡ˆ˜Ÿ!¸•$ŸV™A”A˜

m∑ k=1

ξ2k šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°®¹…›W¢½¬$˜A“W¢–ˆ ˆ–ˆš

ξk ∼ N(0, 1) ¬

­®˜A”Aœˆ›-™A˜Ÿ

 

¬ÃU¢”#™Ašˆ”A›-™AˆÕ

pχ2m(x) = 1

2m/2Γ(m 2 ) x m 2 −1e−

x 2 .

Á]”Až{“4š™A°EÕ



χ2m = m µ

 χ2m = 2m ¬

 

   

 ||Πmξ||2 = σ2χ2m ¬

          

ÃÄ¥›-™A

Πmx ∈ Lm ⊂ Rn ¬9»Ÿ#›4›4ž{”#™A•ˆ–ˆž šˆ”A˜A°qœb¯ŸV£G–ˆ› {ẽi}

µ

i = 1, . . . , n µ¥G¸”A˜V¢“-™A˜A”A•—ˆ²±Êl–$œb¥›W¢”A˜A–—ˆž

ẽi ∈ Lm µ

i = 1, . . . ,m µ

ẽi ∈ L⊥m µ

i = m + 1, . . . , n

–=¤¥A›-™A

U º×”A•™A”A¦4”Aš$Ÿ!¢Ašˆ°qœ[”A¤ˆ“4•$ŸV™A”A•=¤ˆ“4•ˆ“W¹”*¸Ÿ‘”#™›-™#Ÿ#•ˆ”A¦4”¯ŸV£G–ˆ›GŸ

{ei} ¡‘šˆ”A˜A”Až¥ {ẽi}

µ

ẽi = Uei µ

i = 1, . . . , n ¬’”A¦'¸Ÿ ||Πmξ||2 =

m∑ i=1

(ξ, ẽi) 2 = σ2χ2m

µ ™!¬ ¡¬

¤ˆ”5™A“4”A•ˆ“4ž{“

(ξ, ẽi) ∼ N(0, σ2) ¬

�  

     

ÃÄ¥A›-™A

χ2k –

χ2m –2šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°E¬’”A¦'¸Ÿ†›W¢½¬˜A“W¢–ˆ ˆ–ˆš$Ÿ

Fk,m = 1 k χ2k

1 m χ2m

¡”Aš™A•ˆ”V¢–ˆ•¥A“4™A›B—…•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4š$–ˆ“4ž¾l–Àl“4•$Ÿ

³

¬ Ž¬ 

 

BÂW¬

­®˜A”Aœˆ›-™A˜Ÿ¬ÃU¢”#™Ašˆ”A›-™AˆÕ

pFk,m(x) = k k 2m

m 2 x

k 2 −1(kx+m)−

k+m 2

Γ(k 2 )Γ(m

2 )

Γ( k +m

2 ), x > 0.

Á]”Až{“4š™A°EÕ



Fm,k = m

m−2 µ

 Fm,k = 2m2

(m−2)2(m−4)(1 + m−2 k ) ¬

 

     

ÃÄ¥A›-™A

Rn = Lk⊕Lm⊕Ls µ

k+m+s = n µ

Πk º ”A•™A”A¦-”Aš$Ÿ!¢Ašˆ°qœ

¤ˆ•ˆ”A“4¡™A”A•]š$Ÿ

Lk µ

Πm º`”A•™A”A¦4”Aš$Ÿ!¢Ašˆ°qœ…¤ˆ•ˆ”A“4¡™A”A•]š$Ÿ

Lm ¬ˆ’”A¦'¸Ÿ

Fk,m = 1 k ||Πkξ||2

1 m ||Πmξ||2

¬

          

ÃÄ¥A›-™Aƒšˆ”A˜A°qœ[¯ŸV£G–ˆ› {ẽi} µ

i = 1, . . . , n ™VŸ#¡ ”A˜ˆµX ™A”

ẽi ∈ Lk µ

“4›W¢–

i = 1, . . . , k µ

ẽi ∈ Lm µG“4›W¢–

i = k+1, . . . , k+m µ

ẽi ∈ Ls µG“4›W¢–

i = k+m+1, . . . , n ¬

’”#¦'¸Ÿ ||Πkξ||2 = σ2χ2k µ ||Πmξ||2 = σ2χ2m

–]šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°E¬

�  

     

ÃÄ¥›-™A

ξ ∼ N(0, 1) – χ2m šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°E¬ ’”A¦'¸Ÿ›W¢½¬ ˜A“W¢–ˆ ˆ–ˆš$Ÿ

tm = ξ√ χ2m m

¡”Aš™A•ˆ”V¢–ˆ•¥A“-™›B—•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4š$–ˆ“4žo­™AA²®¸“4š™#Ÿ

³

ÎU¬¿­±¬ Ö ”A›4›4“-™#Ÿ®›

m ›-™A“4¤ˆ“W¨

š—ˆž{–›4˜A”A¯A”G¸°E¬

­®˜A”Aœˆ›-™A˜Ÿ¬ÃU¢”#™Ašˆ”A›-™AˆÕ

ptm(x) = Γ(m+1

2 )

Γ(m 2 )

1√ πm

( 1 +

x2

m

)−m+1 2

, x > 0.

Á]”Až{“4š™A°EÕ



tm = 0 µ

 tm = m

m−2 ¬

 

     

ÆįA”#£Gš$Ÿ! ˆ–ˆž

e = ( 1√ n , . . . , 1√

n ) µ

L1 ºÓ”*¸šˆ”Až{“4•ˆšˆ”A“l¤ˆ”G¸¤ˆ•ˆ”A›-™A•$Ÿ#š ¨

›-™A˜A”ˆµ”A¤ˆ•ˆ“W¸“W¢“4šˆšˆ”A“2˜A“4¡™A”A•ˆ”Až

e µ

Π1 º ”A•™A”A¦4”Aš$Ÿ!¢Ašˆ°qœo¤ˆ•ˆ”A“4¡™A”A•Èš$Ÿ

L1 µ

Π1ξ =

(e, ξ)e = ( 1√ n

n∑ i=1

ξi)e = ( 1√ n

n∑ i=1

ξi, . . . , 1√ n

n∑ i=1

ξi) ¬

ÃÄ¥A›-™A

ξ ∼ N(0, σ2I) µˆ™A”A¦:¸Ÿ

(ξ, e)

[ 1 n−1‖(I − Π1)ξ‖2]1/2

= tn−1 ³

«



Â

# GO ( ;.+ ) 68+.+.7:;.LG7.687:;.' 5 CD14&



+.9,B'*3 6GB R0;2'/0LG-./01GP L " ( 7:>.LG;=<GN 1GH BH<:90LG;=<GN0687:9R   4L4R



docsity.com

º`•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ–ˆ“5­™AA²®¸“4š™#Ÿn›

n− 1 ›-™A“4¤ˆ“4š$A²i›4˜A”A¯A”G¸°E¬           

ÃÄ“4•ˆ“4œ ¸“4ž”V™;¯ŸV£G–ˆ›4Ÿ {ei} ¡l¯ŸV£G–ˆ›-¥ {e, ẽ1, . . . , ẽn−1}

µV™VŸ#¡5 ™A”

L = L(e) µ

L⊥ = L(ẽ1, . . . , ẽn−1) ¬’”A¦:¸Ÿ†¡”A”A•A¸–ˆš$ŸV™A°i˜Ç§-™A”#žÈšˆ”A˜A”Ažo¯ŸV£G–ˆ›4“lšˆ“-£*Ÿ#˜A– ¨

›4–ˆž{°–‘•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ°I¡ Ÿ#¡

N(0, σ2) µˆŸ ‖(I −Π1)ξ‖2 = σ2χ2n−1

–‘¤ˆ”5”A¤ˆ•ˆ“W¸“W¢“4šˆ–ˆ²



¤ˆ”V¢$¥  $Ÿ#“4ž

³

«



ÂW¬

ÃE“4•ˆ“4¤ˆ–Àl“4ž

³

«



®“-Êl“z•$ŸV£

(ξ, e)

[ 1 n−1‖(I − Π1)ξ‖2]1/2

=

1√ n−1

n∑ i=1

ξi

[ 1 n−1

n∑ k=1

(ξk − 1n n∑ i=1

ξi)2]1/2 =

=

1 n

n∑ i=1

ξi

[ 1 n(n−1)

n∑ k=1

(ξk − 1n n∑ i=1

ξi)2]1/2 .

É{›W¢–

ξ ∼ N(µ, σ2I) µ¦:¸“ µ = (µ, . . . , µ) µ$™A”†¤ˆ”A›W¢“W¸šˆ²U² ;”A•ˆž¥G¢$¥]ž{”*ņšˆ”0£*Ÿ#ž{“W¨ šˆ–™Anš$Ÿ

tn−1 =

1 n

n∑ i=1

(ξi − µ)

[ 1 n(n−1)

n∑ k=1

(ξk − 1n n∑ i=1

ξi)2]1/2 =

µ̂− µ√ 1 n σ̂2 ,

³

«

!

Â

¦:¸“

µ̂ = 1 n

n∑ i=1

ξi µ

σ̂2 = 1 n−1

n∑ k=1

(ξk − 1n n∑ i=1

ξi) 2 = 1

n−1‖(I − Π1)ξ‖2 ¬

             H  

  S

ÃÄ¥A›-™A {ξi} µ

i = 1.2. . . . º¤ˆ”A›W¢“W¸”A˜ŸV™A“W¢Ašˆ”A›-™A…šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°®¹[šˆ”A•ˆž9Ÿ!¢Ašˆ”•$Ÿ#›W¨

¤ˆ•ˆ“W¸“W¢“4šˆšˆ°®¹

N(µ, σ2) ›W¢½¬#˜A“W¢–ˆ ˆ–ˆš

³

šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°®¹5–£Gž{“4•ˆ“4šˆ–ˆœÂW¬A’_•ˆ“4¯#¥A“-™A›'—0”Aªˆ“4šˆ–™A

£Gš$Ÿ* ˆ“4šˆ–—]šˆ“4–£G˜A“4›-™šˆ°®¹…¤$Ÿ#•$Ÿ#ž{“-™A•ˆ”A˜

µ –

σ2 ¬$»Ÿ#›4›4ž{”#™A•ˆ–ˆžD ˆ“-™A°q•ˆ“Ž›W¢$¥  $ŸV—¬

«A¬ÆĪˆ“4šˆ–ˆ˜Ÿ#šˆ–ˆ“

µ ¤ˆ•ˆ–]–£G˜A“4›-™Ašˆ”Až

σ2 ¬

ÆÄ ˆ“4˜A– ¸šˆ”ˆµ

n∑ i=1 (ξi−µ) √ nσ2

∼ N(0, 1) ¬ ’”A¦:¸Ÿ

P

 

∣∣∣∣∣∣∣∣

n∑ i=1

(ξi − µ) √ nσ2

∣∣∣∣∣∣∣∣ < ε

  = α(ε) = 1− 2Φ(−ε),

– ¢–µ$¤ˆ•ˆ“4”A¯A•$ŸV£4¥#—]šˆ“4•$Ÿ#˜A“4šˆ›-™A˜A”ˆµ¤ˆ”V¢$¥  $Ÿ#“4ž

P

( µ̂− ε

√ σ2

n < µ < µ̂+ ε

√ σ2

n

) = α(ε) = 1− 2Φ(−ε),

¦:¸“

µ̂ = 1 n

n∑ i=1

ξi ºÏ›4“4•ˆ“W¸–ˆš$Ÿƒ–ˆš™A“4•ˆ˜Ÿ!¢Ÿµ½Àl–ˆ•ˆ–ˆšˆ”Aœ

2ε √

σ2

n

µ½¡”#™A”A•ˆ”Až¥[›n˜A“4•ˆ”!—™Ašˆ”V¨

›-™AA²

α(ε) = 1− 2Φ(−ε) ¤ˆ•ˆ–ˆš$Ÿ!¸ˆ¢“-ņ–™†šˆ“4–£G˜A“4›-™Ašˆ°_œ…¤$Ÿ#•$Ÿ#ž{“-™A• µ ¬ Ĥˆ”Až—ˆš¥™A°qœD–ˆš™A“4•ˆ˜Ÿ!¢Èš$ŸV£G°q˜Ÿ#“-™A›'— %*H.-"$<1V #p5< &&E"%GmI.4+-/01#%B&¼¤$Ÿ#•$Ÿ#ž{“-™A•$Ÿ

µ ¬½ÆU™Až{“-™A–ˆžqµ  ™A” ˆ“4ž™A”A ˆšˆ“4“nž{° ¹”#™A–ˆž8”Aªˆ“4šˆ–™A]¤$Ÿ#•$Ÿ#ž{“-™A•µX™A“4ž8ž{“4šˆ#Àl“0˜A“4•ˆ”!—™V¨

šˆ”A›-™A

³

”A¤ˆ•ˆ“W¸“W¢“4šˆšˆ”A›-™Âq§-™A”Aœ]”Aªˆ“4šˆ¡ˆ–

α(ε) ¬





docsity.com

· ¬ÆUªˆ“4šˆ–ˆ˜Ÿ#šˆ–ˆ“

σ2 ¤ˆ•ˆ–n–£G˜A“4›-™Ašˆ”Až

µ ¬#Ä£q”A¤ˆ•ˆ“W¸“W¢“4šˆ–—…«q›W¢“W¸$¥“-™!µ ™A”

n∑ i=1 (ξi−µ)2

σ2 ∼

χ2n µˆ¤ˆ”A§-™A”Až¥

P

 ε1 <

n∑ i=1

(ξi − µ)2

σ2 < ε2

  = α(ε1, ε2),

– ¢–

P

 

n∑ i=1

(ξi − µ)2

ε2 < σ2 <

n∑ i=1

(ξi − µ)2

ε1

  = α(ε1, ε2),

¤ˆ•ˆ–ˆ ˆ“4žƒ”A¯A°q ˆšˆ”

ε1 –

ε2 ˜A°q¯A–ˆ•$ŸV²±™U™VŸ#¡µ! ™A”A¯A°

P (χ2n < ε1) = P (χ 2 n > ε2)

¬)Eš™A“4•ˆ˜Ÿ!¢½µ

¡”#™A”A•ˆ”Až¥Ä¥*¸”A˜V¢“-™A˜A”A•—ˆ“-™

σ2 ›9˜A“4•ˆ”*—™Ašˆ”A›-™AA²

α µGš$ŸV£G°q˜Ÿ#“-™A›'—Ž–ˆš™A“4•ˆ˜Ÿ!¢Ašˆ”AœŽ”Aªˆ“4šˆ¡”Aœ

σ2 ¬



¬ÆĪˆ“4šˆ–ˆ˜Ÿ#šˆ–ˆ“

µ ¤ˆ•ˆ–]šˆ“4–£G˜A“4›-™Ašˆ”Až

σ2 ¬

ή”A›4¤ˆ”V¢#£4¥A“4ž{›'— ;”A•ˆž¥*¢”Aœ

³

«

!

Â

P (|tn−1| < ε) = P

  ∣∣∣∣∣∣ µ̂− µ√

1 n σ̂2

∣∣∣∣∣∣ < ε

  = α(ε)

–¤ˆ”V¢$¥  $Ÿ#“4žD˜A°q•$ŸVÅ5“4šˆ–ˆ“#µŸ#š$Ÿ!¢”A¦4–ˆ ˆšˆ”A“;¤¥ šˆ¡™#¥[«AÕ

P

( µ̂− ε

√ σ̂2

n < µ < µ̂+ ε

√ σ̂2

n

) = αn−1(ε),

šˆ”0›E™A“4ž”#™*¢–ˆ ˆ–ˆ“4žqµ ™A”n˜Až{“4›-™A”

σ2 ›-™A”A–™

σ̂2 –

αn−1(ε) ›4”A”#™A˜A“-™A›-™˜#¥“-™Ç•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“W¨

šˆ–ˆ²€­™AA²®¸“4š™#Ÿn›

n− 1 ›-™A“4¤ˆ“4š—ˆž{–ƒ›4˜A”A¯A”G¸°E¬ 

¬ÆĪˆ“4šˆ–ˆ˜Ÿ#šˆ–ˆ“

σ2 ¤ˆ•ˆ–]šˆ“4–£G˜A“4›-™Ašˆ”Až

µ ¬

ظ“4›4n¤ˆ”nŸ#š$Ÿ!¢”A¦4–ˆ–]›;¤¥ šˆ¡™A”AžÈ·l¤ˆ”V¢$¥  $Ÿ#“4ž

P

 

n∑ i=1

(ξi − µ̂)2

ε2 < σ2 <

n∑ i=1

(ξi − µ̂)2

ε1

  = αn−1(ε1, ε2),

¦:¸“

αn−1(ε1, ε2) ˜A°q ˆ–ˆ›W¢$—ˆ“-™A›B—¤ˆ”l•$Ÿ#›4¤ˆ•ˆ“W¸“B¢“Gšˆ–ˆ²

χ2n−1 ›

n− 1 ›-™A“4¤ˆ“4š—$ž{–‘›4˜A”A¯A”*¸°Ä¬ �

        

©z“4¡ˆªˆ–—[«!· ¬

ÃÄ¥A›-™A {ξi} µ

i = 1, 2, . . . , n º`šˆ“-£*Ÿ#˜A–ˆ›4–ˆž9ŸV—]˜A°q¯A”A•ˆ¡ Ÿ5–£z•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ–—

P (x, ϑ) µ

¦:¸“

ϑ º)šˆ“4–£G˜A“4›-™Aš$°qœD¤$Ÿ#•$Ÿ#ž{“-™A•¬ ;Ÿ#›–ˆš™A“4•ˆ“4›-¥“-™”Aªˆ“-šˆ¡Ÿ=˜A“W¢–ˆ ˆ–ˆšˆ°

τ(ϑ) ³

£-¸“4›4

τ(·) º`–£G˜A“4›-™Aš$ŸV— E¥ šˆ¡ˆªˆ–—ÂWµ$•ˆ”V¢n¡”#™A”A•ˆ”Aœ]–ˆ¦4•$Ÿ#“-™†šˆ“4¡”#™A”A•$ŸV—J+-/5 #/5<+-/5<$( t(ξ) ¬ ’“4•ˆž{–ˆšˆ”V¢”A¦4–—Õ

X º ˜A°q¯A”A•ˆ”A ˆšˆ”A“¤ˆ•ˆ”A›-™A•$ŸVšˆ›-™˜A”ˆµ

n º ”A¯½“4ž¼˜A°q¯A”A•ˆ¡ˆ–µ_˜A›'— ¨

¡ ŸV—o–£Gž{“4•ˆ–ˆž9ŸV— E¥ šˆ¡ˆªˆ–—”#™P˜A°q¯A”A•ˆ¡ˆ–Èš$ŸV£G°q˜Ÿ#“-™A›'—8›-™VŸV™A–ˆ›-™–ˆ¡ ”Aœµ_›B¢“W¸”A˜ŸV™A“W¢Ašˆ”

¤ˆ”0”A¤ˆ•ˆ“W¸“W¢“4šˆ–ˆ²|¢²U¯Ÿ!—™A”A ˆ“4 ˆš$ŸV—]”Aªˆ“4šˆ¡ Ÿlº¼›-™VŸV™A–ˆ›-™–ˆ¡ Ÿ¬

�t“W¢ŸV™A“W¢Ašˆ°q“z›4˜A”Aœˆ›-™A˜Ÿ0”Aªˆ“4šˆ”A¡Õ

 

docsity.com

«A¬ Ä“4›4ž{“-Êl“4š$šˆ”A›-™



t(ξ) = τ(ϑ) ¬

³

ÖŸ#•$Ÿ#š™A–ˆ•¥A“-™2”#™ƒš$Ÿ#¡”A¤ ¢“4šˆ–—›4–ˆ›-™A“4ž9ŸV™–ˆ ˆ“-¨

›4¡ˆ– ¹”#Àl–ˆ¯A”A¡ÂW¬

· ¬­®”A›-™A”*—™A“-¢Ašˆ”A›-™

tn(ξ) P−→

n→∞ τ(ϑ)

¬



¬ Á]–ˆšˆ–ˆž9Ÿ!¢Ašˆ”A›-™Az¸–ˆ›4¤ˆ“4•ˆ›4–ˆ–

³

“4›W¢–Ç”Aªˆ“4šˆ¡ Ÿzšˆ“4›4ž{“-Êl“4šˆšŸ!—º ¡ Ÿ* ˆ“4›-™A˜A”l”Aªˆ“4šˆ¡ˆ–

¤ˆ•ˆ– ;–ˆ¡›4–ˆ•ˆ”A˜Ÿ#šˆšˆ”Až”A¯½“4ž{“E˜A°q¯A”A•ˆ¡ˆ–

ÃE•ˆ–ˆž{“4•ˆ°E¬

E“4›4ž{“-Êl“4šˆšˆ”A›-™

µ̂ = 1 n

n∑ i=1

ξi ”A ˆ“4˜A– ¸š$Ÿ¬U­®”A›-™A”*—™A“W¢Ašˆ”A›-™A

µ̂ ºÑ¥™A˜A“4•Å0¸“4šˆ–ˆ“

ج ÐU¬ 5¬

É{›W¢–

ξi ∼ N(µ, σ2) µ™A”

σ̂2 = 1 n−1

n∑ k=1

(ξk − µ̂)2 º šˆ“4›4ž{“-Êl“4š$š$ŸV—b–›4”A›-™A”*—™A“W¢V¨

š$ŸV—”Aªˆ“4šˆ¡ Ÿ¬qËŽ“4œˆ›-™A˜A–™A“-¢Ašˆ”ˆµ±¤ˆ•ˆ–I§-™A”Až

σ̂2 = 1 n−1σ

2χ2n−1 µ



σ̂2 = σ2 µ±Ÿ

 σ̂2 = σ4

(n−1)2  χ 2 n−1 =

σ4

(n−1)22(n − 1) –P¤ˆ”[šˆ“-•$Ÿ#˜A“4šˆ›-™A˜#¥ E“4¯A°ŠÀ

˜Ÿ

P{|σ̂2 − σ2| > ε} < 2σ4

ε2(n−1) −→n→∞ 0 ¬É{›W¢–

ξ šˆ“z—ˆ˜V¢$—ˆ“-™A›'—ƒšˆ”A•ˆž9Ÿ!¢Ašˆ”Aœµ$™A”Çšˆ“4›4ž{“-Êl“4šˆš$”A›-™A‘”Aªˆ“4šˆ¡ˆ–ƒ›4”*¹•$Ÿ!¨

š—ˆ“-™A›'—Õ



∑ (ξi − µ̂)2 =



∑ [(ξi − µ)2 − 2(ξi − µ)(µ̂− µ) + (µ̂− µ)2] =

= 

[ ∑

(ξi − µ)2 − 2(µ̂− µ) ∑

(ξi − µ) + ∑

(µ̂− µ)2] =

= 

[ ∑

(ξi − µ)2 − 2 1

n

∑ (ξi − µ)

∑ (ξi − µ) +

n

n2

∑ (ξi − µ)

∑ (ξi − µ)] =

= nσ2 − 2σ2 + σ2 = (n− 1)σ2, Ÿ5›4”A›-™A”*—™A“W¢Ašˆ”A›-™0º`šˆ“-™!¬

Á]–ˆšˆ–ˆž9Ÿ!¢Ašˆ”A›-™AJ¸–ˆ›4¤ˆ“4•ˆ›4–ˆ–Ⱥ Å5“W¢ŸV™A“W¢Ašˆ”A“2›4˜A”Aœˆ›-™A˜A”ˆµŠ”G¸š$Ÿ#¡ ”J£*Ÿ#ž{“-™A–ˆžqµŠ ™A”

›4ž{“-Êl“4šˆ–ˆ“zž{”!Å5“-™0¥ ž{“4šˆ#Àl–™A†›4•¬$¡ˆ˜ˆ¬ˆ¥ ¡ ¢”Ašˆ“4šˆ–ˆ“#¬ ;Ÿ#¤ˆ•ˆ–ˆž{“4•µ$£*Ÿ!¸Ÿ* $Ÿ



(k ∑

(ξi − µ̂)2 − σ2)2 ∼ min k

–ˆž{“4“-™†•ˆ“-Àl“4šˆ–ˆ“E¸ˆ¢$—

ξi ∼ N(µ, σ2) ¤ˆ•ˆ–

k = 1 n+1

¬

³

ËŽ”A¡Ÿ!£*ŸV™AÂW¬

»Ÿ#›4›4ž{”#™A•ˆ–ˆžƒ›4¤ˆ“4ªˆ–$Ÿ*¢Ašˆ”±šˆ“4›4ž{“-Êl“4š$šˆ°q“”Aªˆ“4šˆ¡ˆ–zž{–ˆšˆ–ˆž9Ÿ!¢Ašˆ”AœÄ¸–ˆ›4¤ˆ“4•ˆ›4–ˆ–

³

;Æ;Á‘Ë5ÂW¬

  O

¬$É{›W¢–…›-¥Êl“4›-™˜#¥A“4™J zÆ;Á‘ˆµ™A”n”Aš$Ÿ5“W¸–ˆšˆ›-™A˜A“Gšˆš$Ÿ

³

›;˜A“4•¬X«!ÂW¬

ËŽ”A¡ ŸV£*ŸV™A“W¢A›-™A˜A”ˆ¬ÃÄ¥A›-™A

t1(ξ) –

t2(ξ) º zÆ;Á‘ˆµ™!¬ “#¬



ti(ξ) = τ(ϑ) µ

 ti(ξ) = δ ¬

»Ÿ#›4›4ž{”#™A•ˆ–ˆž

t3 = 1 2 (t1 + t2)

¬ˆ’”A¦'¸Ÿ

 t3 =

= 1

4 (  t1 + 2covt1t2 +  t2) 6

1

4 (  t1 + 2

√  t1  t2 +  t2) =

1

4 ( √ δ +

√ δ)2 = δ,

šˆ”

 t3 > δ µX™!¬ “#¬ ˜A”#£Gž{”!Ånšˆ”¢–Àl…•$Ÿ#˜A“4šˆ›-™A˜A”ˆµ”#™A¡¥G¸Ÿ…›W¢“W¸$¥“-™!µ ™A”

t1(ξ) − τ(ϑ) = k(ϑ)(t1(ξ)− τ(ϑ))

›;˜A“4•¬X«

³

k2 = 1 ÂWµ$–‘¸Ÿ*¢“4“#µ–£

covt1t2 = δ ¤ˆ”V¢$¥  $Ÿ#“4ž

k = 1 ¬



,#3.-V.F?.-"$<.-¬4 ;ŸV£G”A˜A“4ž]›-™VŸV™A–ˆ›-™–ˆ¡ˆ¥

t(ξ) µ4¥G¸”A˜V¢“-™A˜A”A•—ˆ²±ÊŽ¥²P¥A›W¢”A˜A–ˆ²



(t(ξ))2 < +∞ µˆ¦4– ¢A¯A“4•™A”A˜A”Aœ¬

  

ÃÄ¥A›-™A

ξ = (ξ1, . . . , ξn) º˜A°q¯A”A•ˆ¡ Ÿ–£n•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ–—

P (x, ϑ) ¬Ë;¢$—

™A”A¦4”ˆµ! ™A”A¯A°¦4– ¢A¯A“4•™A”A˜ŸU›-™VŸV™A–ˆ›-™–ˆ¡Ÿ

t(ξ) ¯A°®¢Ÿ zÆ;Á‘ˆµ!šˆ“4”A¯*¹”G¸–ˆž{”Ä–;¸”A›-™VŸV™A”A ˆšˆ”ˆµ

 ™A”A¯A°=¸ˆ¢$—Ž˜A›'—ˆ¡”Aœzªˆ“4š™A•ˆ–ˆ•ˆ”A˜Ÿ#šˆšˆ”Aœl¦4– ¢A¯A“4•™A”A˜A”AœŽ›-™VŸV™A–ˆ›-™–ˆ¡$–

η = s(ξ) ³

™VŸ#¡”Aœµ! ™A”



η = 0 ÂWµˆ˜A°q¤ˆ”V¢š— ¢”A›4



t(ξ)η = 0 ¬



docsity.com

         

¬GÃÄ¥A›-™A

t(ξ) º¦4– ¢A¯A“4•™A”A˜Ÿ_šˆ“4›4ž{“-Êl“4šˆšŸV—z”Aªˆ“4šˆ¡ Ÿ

τ(ϑ) ¬*’”A¦:¸Ÿ

t(ξ) + λη º ™A”*Å0“E¦4– ¢A¯A“4•™A”A˜Ÿ0šˆ“4›4ž{“-Êl“Gšˆš$ŸV—…”Aªˆ“4šˆ¡ Ÿ

τ(ϑ) ¸ˆ¢$—]˜A›4“W¹

λ ¬ÆįA”#£Gš$Ÿ* ˆ–ˆž

ϕλ = 

(t(ξ)− τ(ϑ) + λη)2.

min λ ϕλ =



(t− τ)2 − [ 

tη]2 

η2

( ¤ˆ•ˆ–

λ = λ∗ = − 

tη 

η2

) .

³

E“4”A¯G¹”*¸–ˆž{”A›-™AÂW¬É{›W¢–P¤ˆ”A›W¢“W¸šˆ“4“›W¢Ÿ#¦WŸ#“4ž{”A“‘šˆ“Ç•$Ÿ#˜Ašˆ”2š¥G¢²Žµ™A”2›-¥Êl“4›4™A˜#¥“-™

šˆ“4›4ž{“-Êl“4šˆš$ŸV—…›-™VŸV™A–ˆ›4™A–$¡ Ÿn›Ä¸–ˆ›4¤ˆ“4•ˆ›4–ˆ“4œXµž{“4šˆ#Àl“4œµ ˆ“4žb¥

t(ξ) ¬

³

ËŽ”A›-™VŸV™A”A ˆšˆ”A›-™AÂW¬UÉ{›W¢–¤ˆ”A›W¢“W¸šˆ“4“›W¢Ÿ#¦WŸ#“4ž{”A“[¤ˆ•ˆ–o¢²U¯A°®¹

η µ



η = 0 •$Ÿ#˜Ašˆ”

š¥G¢²Žµ™A”›-™#ŸV™A–ˆ›-™–ˆ¡ Ÿ

t(ξ) –ˆž{“4“-™]š$Ÿ#–ˆž{“4šˆ#ÀŽ¥ ²w¸–ˆ›4¤ˆ“4•ˆ›4–ˆ² ›4•ˆ“W¸–[˜A›4“W¹=¦4– ¢A¯A“4•™A”V¨

˜A°®¹šˆ“4›4ž{“-Êl“4š$šˆ°®¹P”Aªˆ“4šˆ”A¡™A–ˆ¤$Ÿ

t(ξ) + λη µŸ…›W¢“W¸”A˜ŸV™A“W¢Ašˆ”ˆµ˜A›4“W¹J¦4– ¢A¯A“4•™A”A˜A°®¹

šˆ“4›4ž{“-Êl“4šˆšˆ°Š¹5”Aªˆ“4šˆ”A¡µ#¤ˆ”A›4¡”V¢A¡¥;¢²U¯#¥ ²D¦4– ¢A¯A“4•™A”A˜#¥lšˆ“-›4ž{“-Êl“Gšˆš¥ ²È”Aªˆ“4šˆ¡¥Žž{”*Å0¨

šˆ”0¤ˆ•ˆ“W¸›-™VŸ#˜A–™†˜5™#Ÿ#¡”Až˜A– ¸“#¬

Ešˆ”A¦:¸Ÿ_¡ Ÿ* ˆ“4›-™A˜A”U”Aªˆ“4šˆ¡ˆ–Žž{”*ņšˆ”_”G¹Ÿ#•$Ÿ#¡™A“4•ˆ–£G”A˜ŸV™Aˆµ!£Gš$ŸV—;ž{–ˆšˆ–ˆž9Ÿ!¢Ašˆ”±˜A”#£Gž{”*Å0¨

šˆ”A“Ä£Gš$Ÿ! ˆ“4šˆ–ˆ“z“4“ĸ–ˆ›4¤ˆ“4•ˆ›4–ˆ–

³

šˆ“4•$Ÿ#˜#“4šˆ›-™A˜A”Ç»Ÿ#”V¨r´E•$Ÿ#ž{“4•$ŸÂW¬



,#3.-V.F?.-"$<.-¬!¾Ž¥ šˆ¡ˆªˆ–ˆ“4œŽ¤ˆ•$Ÿ#˜V¸”A¤ˆ”G¸”A¯A–—ĸˆ¢$—Ešˆ“4¡ ”#™A”A•ˆ”A¦4”_•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“Gšˆ–—

P (x, ϑ) š$ŸV£G°q˜AŸ#“-™A›B—

L(x, ϑ) = f(x1, ϑ)f(x2, ϑ) . . . f(xn, ϑ) µX¦:¸“

f(xi, ϑ) º×¢–ˆ¯A”]¤ ¢”#™Ašˆ”A›-™A

•$Ÿ#›4¤ˆ•ˆ“W¸“B¢“Gšˆ–—

pξ(x, ϑ) ›W¢½¬$˜A“W¢–ˆ ˆ–ˆšˆ°

ξ µ¢–ˆ¯A”

Pϑ{ξ = x} �

*¬

 







  

ÃÄ¥›-™A

L(x, ϑ) º E¥ šˆ¡ˆªˆ–—ƒ¤ˆ•$Ÿ#˜V¸”A¤ˆ”G¸”A¯A–—µ

ϑ ∈ R1 –˜A°q¤ˆ”V¢šˆ“4šˆ°8¥›B¢”A˜A–—Õ

«A¬

t(ξ) º`šˆ“4›4ž{“-Êl“4šˆšŸV—…”Aªˆ“4šˆ¡ Ÿ

τ(ϑ) ¬

· ¬¾Ž¥ šˆ¡ˆªˆ–ˆ–

L(x, ϑ) –

τ(ϑ) ¸–  ;“4•ˆ“4šˆªˆ–ˆ•¥“4ž{° ¤ˆ”

ϑ ¬



¬Á]šˆ”!Å5“4›-™A˜A”0™A“W¹

x µ¸ˆ¢$—]¡”#™A”A•ˆ°®¹

L(x, ϑ) > 0 šˆ“E£*Ÿ#˜A–ˆ›4–™†”#™

ϑ –

d

∫ L(x, ϑ)dx =

∫ ∂

∂ϑ L(x, ϑ)dx

d

∫ t(x)L(x, ϑ)dx =

∫ t(x)

∂ϑ L(x, ϑ)dx.

’”A¦:¸Ÿ

 t(ξ) > |τ ′(ϑ)|2



[ ∂ ln(ξ,ϑ)

∂ϑ

]2 , ³

«

"

Â

¤ˆ•ˆ–ˆ ˆ“4žb£Gš$Ÿ#¡]•$Ÿ#˜A“4šˆ›-™A˜Ÿn–ˆž{“4“W™Çž{“4›-™A”0™A”A¦'¸Ÿ0–™A”V¢A¡”0™A”A¦:¸Ÿµ¡”A¦:¸Ÿ

∂ ln(ξ, ϑ)

∂ϑ = a(ϑ)[t(ξ)− τ(ϑ)]

³

«*¶Â

›E˜A“4•ˆ”!—™Ašˆ”A›-™AA²i“W¸–ˆšˆ–ˆª$Ÿl¸ˆ¢$—]šˆ“4¡”#™A”A•ˆ”A¦4”

a(ϑ) ¬

         

¬WËŽ–  ;“4•ˆ“4šˆªˆ–ˆ•¥#—;™A”!Å5¸“4›-™A˜Ÿ

∫ L(x, ϑ)dx = 1

∫ t(x)L(x, ϑ)dx =

τ(ϑ) µ$¤ˆ”V¢$¥  ˆ–ˆž

∫ d lnL(x, ϑ)

dϑ L(x, ϑ)dx = 0,

∫ t(x)

d lnL(x, ϑ)

dϑ L(x, ϑ)dx = τ ′(ϑ)

%

-F(I/0/0+



' /GP 01RE @09,<:;:),+.@0+ ),+.-:1RE 9,<.6G6GBH<:7:9010;=<:LG7.6 E P <TP



' /GP 01RE +.7

ϑ N <UG/,<'/0LG/01RE

x1, x2, . . . , xn 

;F( -.+.9GP <  @,<:9,<.BLG7:9G( R



!

docsity.com

– ¢–

∫ [t(x)− τ(ϑ)]d lnL(x, ϑ)

dϑ L(x, ϑ)dx = τ ′(ϑ)

–”#™A›4²®¸Ÿn¤ˆ”0šˆ“4•$Ÿ#˜A“4šˆ›-™A˜#¥…´E”#Àl– ¨rА¥ š—ˆ¡”A˜A›4¡ ”A¦4”n¤ˆ”V¢$¥  $Ÿ#“4ž

³

«

"

ÂW¬

É{›W¢–l˜±¥A›W¢”A˜A–— ¹z™A“4”A•ˆ“4ž{°P»Ÿ#”V¨r´E•$Ÿ#ž{“4•$Ÿ_–ˆž{“4“-™Ež{“4›-™A”Ä•$Ÿ#˜A“4šˆ›-™A˜A”ˆµ!™A”U›4¤ˆ•$Ÿ#˜A“W¸ˆ¢– ¨

˜A”

³

«*¶½›Š˜A“4•ˆ”*—™Ašˆ”A›-™AA²o“W¸–ˆšˆ–ˆª$Ÿ¬Î§-™A”Až[›W¢$¥  $Ÿ#“q”Aªˆ“4šˆ¡ ŸÄš$ŸV£G°q˜Ÿ#“-™A›'—0§9 ;“4¡™A–ˆ˜Ašˆ”Aœ

–“4“ĸ–ˆ›4¤ˆ“4•ˆ›4–—ƒ•$Ÿ#˜Aš$Ÿ

 t(ξ) = |τ ′(ϑ)||a(ϑ)| ¬

´¼™VŸ#¡ˆ–ˆž|”Aªˆ“4šˆ¡Ÿ#žqµ š$Ÿ#¤ˆ•ˆ–ˆž{“4•µ¤ˆ•ˆ–ˆ˜A”G¸$—™2•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ–ˆ—µ¤ ¢”#™Ašˆ”A›-™A–P¡”#™A”A•ˆ°®¹

ž{”*ņšˆ”5¤ˆ•ˆ“W¸›-™#Ÿ#˜A–™A†˜n˜A– ¸“

f(x, ϑ) = exp{a(ϑ)b(x) + c(ϑ) + d(x)}, x ∈ R1, ϑ ∈ R1. ³

ÆÄšˆ–š$ŸV£G°q˜Ÿ#²±™A›'—…§4¡ ›4¤ˆ”Ašˆ“4šˆªˆ–$Ÿ!¢#šˆ°_ž{–ƒ›4“4ž{“4œˆ›-™A˜Ÿ#ž{–¬¿Âq’”A¦:¸Ÿ

L(x, ϑ) = exp{a(ϑ) ∑

b(xi) + nc(ϑ) + ∑

d(xi)} –

∂ ln(ξ, ϑ)

∂ϑ = a′(ϑ)n

{ 1

n

∑ b(xi) +

c′(ϑ)

a′(ϑ)

} .

ÃÄ¥A›-™AE¥A›W¢”A˜A–—5™A“4”A•ˆ“4ž{°»Ÿ#”V¨r´E•$Ÿ#ž{“4•$ŸU˜A°q¤ˆ”V¢šˆ“4šˆ°Eµ#™A”A¦:¸Ÿ

t(ξ) = 1 n

∑ b(xi)

“4›W™A

§9 ;“-¡™A–ˆ˜Aš$ŸV—…”Aªˆ“4šˆ¡ Ÿ

τ(ϑ) = − c′(ϑ) a′(ϑ)

›Ä¸–ˆ›4¤ˆ“4•ˆ›4–ˆ“4œ

∣∣∣∣ τ ′(ϑ) na′(ϑ)

∣∣∣∣ .

¡›4¤ˆ”Ašˆ“4šˆªˆ–$Ÿ!¢Ašˆ”Až¥I›4“4ž{“4œˆ›-™˜#¥I¤ˆ•ˆ–ˆš$Ÿ!¸ˆ¢“-Å0ŸV™ož{šˆ”A¦4–ˆ“˜ŸVņšˆ°q“=¸ˆ¢$—I¤ˆ•$Ÿ#¡™A– ¨

¡ˆ–|•$Ÿ#›4¤ˆ•ˆ“W¸“W¢“4šˆ–—Õ;šˆ”A•ˆž9Ÿ!¢Ašˆ”A“#µEÃÄ¥ŸV›4›4”Aš$Ÿµ;Ю“4•ˆš¥*¢ˆ¢–

³

¯A–ˆšˆ”Až{–$Ÿ!¢Ašˆ”A“*ÂWµÄ¦WŸ#ž{ž9Ÿ!¨

•$Ÿ#›4¤ˆ•ˆ“W¸“B¢“Gšˆ–ˆ“Ž–‘¸•¥ ¦4–ˆ“V¬

´Ó›4”*ÅnŸ!¢“4šˆ–ˆ²Žµ ¡ ¢Ÿ#›4›‘§9 ;“4¡™A–ˆ˜Ašˆ°®¹P”Aªˆ“4šˆ”A¡˜#“4›4Až9Ÿ…¥£G”A¡Õ“4›W¢–™VŸ#¡ ŸV—”Aªˆ“4šˆ¡ Ÿ

›-¥Êl“4›-™A˜#¥“-™¸ˆ¢$— E¥ šˆ¡ˆªˆ–ˆ–

τ(ϑ) µ{™A”[”Aš$Ÿ=šˆ“]›-¥Êl“4›-™˜#¥“-™šˆ–P¸ˆ¢$—b¡Ÿ#¡”Aœ E¥ šˆ¡ˆªˆ–ˆ–µ

”#™G¢–ˆ ˆšˆ”Aœ…”#™

c1τ(ϑ) + c2 ¬

�          

  

  

¬#Øš$Ÿ! ˆ“4šˆ–ˆ“9¤$Ÿ#•$ŸVž9“W™A•$Ÿ

ϑ = ϑ̂ µG¤ˆ•ˆ–

¡”#™A”A•ˆ”Až E¥ šˆ¡ˆªˆ–—ƒ¤ˆ•$Ÿ#˜V¸”A¤ˆ”G¸”A¯A–—]–ˆž{“4“-™‘ž9Ÿ#¡›4–ˆž¥ žqµš$ŸV£G°q˜Ÿ#“-™A›'—2”Aªˆ“4šˆ¡”Aœƒž9Ÿ#¡›4– ¨

ž9Ÿ!¢Ašˆ”A¦4”n¤ˆ•$Ÿ#˜V¸”A¤ˆ”G¸”A¯A–—¬ÆÄš$Ÿµ$¡…›4”*ÅnŸ!¢“4šˆ–ˆ²Žµšˆ“z›4˜#—£*Ÿ#š$Ÿ0›Ž¡ Ÿ#¡ˆ–ˆž¨ ¢–ˆ¯A”n¤ˆ•ˆ–ˆšˆªˆ– ¨

¤ˆ”Až”A¤™A–ˆž9Ÿ!¢Ašˆ”A›-™A–Ç–†šˆ“±”A¯V¢Ÿ!¸Ÿ#“-™!µš$Ÿ#¤ˆ•ˆ–ˆž{“4•µ›4˜A”Aœˆ›-™A˜A”AžJšˆ“4›4ž{“-Êl“Gšˆšˆ”A›-™–µ ”*¸š$Ÿ#¡”

¢“4¦4¡”Žš$Ÿ!¹”G¸–™A›'—Ç–†–ˆž{“4“-™z¹”A•ˆ”#Àl–ˆ“ÄŸV›4–ˆž{¤™A”#™A–ˆ $“4›4¡$–ˆ“Ä›4˜A”Aœˆ›-™A˜Ÿ

³

›4”A›-™A”*—™A“W¢Ašˆ”A›-™ÂW¬

 

Q  



    

©z“4¡ˆªˆ–—[«



¬

ÃE•ˆ“W¸¤ˆ”V¢”*ņ–ˆžqµ# ™A”;š$Ÿ#¯V¢²®¸“4šˆ–ˆ²¸”A›-™#¥ ¤ˆšˆ°P¢–ÀlÄ¢–ˆšˆ“4œˆšˆ°q“_¡”Až{¯A–ˆš$Ÿ#ªˆ–ˆ–5šˆ“4–£-¨

˜A“4›-™Ašˆ°¹…˜A“W¢–ˆ ˆ–ˆš

³

š$Ÿ#¯V¢²®¸“4šˆ–—[(%!+41#.-"$"$M9.'Â

ξi = k∑

j=1

aijαj + νi, i = 1, 2, . . . , n. ³

·

$

Â

ÃÄ¥A›-™A

νi º`šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°q“Ž›W¢½¬$˜A“W¢–ˆ ˆ–ˆšˆ°Eµ



νi = 0 µ

 ν = σ2 µ

i = 1, 2, . . . , n ¬

’_•ˆ“4¯#¥A“-™A›'—2”Aªˆ“4šˆ–™A

αj µ

j = 1, 2, . . . , k µ$™A”A ˆšˆ“4“#µš$Ÿ#œ™A–]¢–ˆšˆ“4œˆšˆ°q“5šˆ“4›4ž{“-Êl“4šˆšˆ°_“

”Aªˆ“4šˆ¡ˆ–

α̂j ›;ž{–ˆšˆ–ˆž9Ÿ!¢Ašˆ”Aœ‘¸–ˆ›4¤ˆ“4•ˆ›4–ˆ“4œ¬

"

docsity.com

؍Ÿ#¤ˆ–Àl“4ž

³

·

$

®˜0˜A– ¸“

ξ = k∑

j=1

ajαj + ν, ³

· «!Â

¦:¸“

aj = (a1j, a2j, . . . , anj) ∗ µ ξ, ν, aj ∈ Rn

µ

n > k µ9˜A“-¡™A”A•ˆ°®¨F›-™”V¢¯Aªˆ°

aj ¢–ˆšˆ“4œˆšˆ”

šˆ“-£*Ÿ#˜#–ˆ›4–ˆž{°Eµ– ¢–]˜0˜A– ¸“

ξ = Aα + ν, α ∈ Rk, ³

·A·AÂ

¤ˆ•ˆ–ˆ ˆ“4ž



ν = 0 µ



νν∗ = σ2I ¬

«A¬

³

©z–ˆšˆ“4œˆšˆ”A›-™AÂ;А¥G¸“4ž8–ˆ›4¡ŸV™A]”Aªˆ“4šˆ¡¥

α̂j ˜˜A– ¸“

α̂j = n∑ i=1

bjiξi = (bj, ξ) µ

bj =

(bj1, bj2, . . . , bjn) ∗ ¬

· ¬ˆ’_•ˆ“4¯A”A˜Ÿ#šˆ–ˆ“Ešˆ“4›4ž{“-Êl“Gšˆšˆ”A›-™–]¸ŸV“-™ˆÕ



α̂j = n∑

i=1

bji

k∑

s=1

aisαs = k∑

s=1

( n∑

i=1

bjiais

) = αj.

³

·



Â

ÆU™A›4²®¸Ÿ

(bj, as) = δjs µ

j, s = 1, 2, . . . , k ¬



¬$ή°q ˆ–ˆ›W¢–ˆžb¸–ˆ›4¤ˆ“4•ˆ›4–ˆ²

 α̂j =  n∑ i=1

bjiξi = σ 2

n∑ i=1

b2ji = σ 2||bj||2.

’_•ˆ“4¯A”A˜Ÿ#šˆ–ˆ“ž{–ˆšˆ–ˆž9Ÿ!¢Ašˆ”A›-™A–;¸–ˆ›-¤ˆ“4•ˆ›4–ˆ–Ž¤ˆ•ˆ–ˆ˜A”*¸–™_¡;›W¢“W¸$¥ ²±Ê5“4œz£*Ÿ!¸Ÿ* ˆ“{š$ŸŠ¥A›W¢”A˜V¨

šˆ°qœ]§4¡›-™A•ˆ“4ž¥žqÕ

;Ÿ#œ™A–

min ||bj||2 ¤ˆ•ˆ–[¥›W¢”A˜A–ˆ–

(bj, as) = δjs µ

j, s = 1, 2, . . . , k ¬ ή”A›4¤ˆ”V¢#£4¥A“4ž{›'—

ž{“-™A”G¸”Ažž{šˆ”!ņ–™A“B¢“4œ]©ŽŸ#¦4•$Ÿ#šÅ0Ÿ

WÕ$˜A˜A“W¸“4ž E¥ šˆ¡ˆªˆ–ˆ²|©ŽŸ#¦-•$Ÿ#šÅnŸ

L = ||bj||2 − 2 k∑

s=1

λjs(bj, as) ³

·



Â

–µ ¸–  ;“4•ˆ“4šˆªˆ–ˆ•¥#—…¤ˆ”

bji µˆ¤ˆ”V¢$¥  $Ÿ#“4ž

2bji − 2 k∑ s=1

λjsasi) – ¢–

bj = k∑ s=1

λjsas E›4¤ˆ”V¢V¨

£4¥A“4ž¥A›W¢”A˜A–ˆ“;šˆ“4›4ž{“-Êl“Gšˆšˆ”A›-™–Õ

(bj, as) = k∑ s=1

λjs(as, ap) = δjp ¬

ÆU™A›4²®¸Ÿ

λjs = (aj, as) − –]”#¡ ”Ašˆ $ŸV™A“W¢Ašˆ” � �

α̂j = k∑

s=1

(aj, as) −(as, ξ).

ÃE”A›4¡”V¢A¡¥‘˜0˜A“4¡™A”A•ˆšˆ”V¨Fž9ŸV™A•ˆ–ˆ ˆšˆ”Aœ ;”A•ˆž{“

(aj, as) = (A ∗A)js

µˆ™A”

α̂ = (A∗A)−1A∗ξ. ³

·



Â

% # 3GE /,<N&.+'W2),LG/01RE B10/01,B'4BH<

ϕ(x) @0901'.6%3,+.;.1RE4&

gi(x) = 0 N

i = 1, 2, . . . ,m N /0'9W?/0+)N/07:+.-F(

FG9,<N),14LG/07

gradϕ(x) -F( 3+.907:+.FG+./,<N3,LG/;=68L*B @0+.;.LG9=&4/0+=6870E,B

gi(x) = 0 N

i = 1, 2, . . . ,m NH7NR L.RHFG9,<NM

),10LG/47

gradϕ(x) B+4W LG7 -F( 7:> 9,<TU83,+4W LG/ @0+ ;.L0P07:+.9,<.B

grad gi(x)) N

i = 1, 2, . . . ,m $

grad(ϕ(x) − m∑

i=1

λigi(x)) = 0 @0901(/0L0P +.7:+.9G( &

λi R4O ( 9,< W LG/010L; 6.P +.-FP4<N&  7N<TP(/,<TU0( ;=<:L*BH< E



' /GP 01RE J <:FG9,<:/ M

W <0R

% %

/,<TP

− FG+.;.+.90107 + 7:+=B N/47.+(-.LG90LG7.6 E 68+.+.7:;.LG7.687:;.' 5 CD10K

3,L*BLG/07 BH<:7:901 G(SN+.-.9,<:7:/0+.KOP BH<:7NM

901 0L

||(aj , as)|| R



docsity.com

;Ÿ#œ ¸“4žž9ŸV™A•ˆ–ˆª¥¡”A˜Ÿ#•ˆ–$Ÿ#ªˆ–ˆœ

α̂ ¬ÃE”A›4¡”V¢A¡¥

α̂− α = (A∗A)−1A∗ξ − α = (A∗A)−1A∗(Aα + ν)− α =

= (A∗A)−1A∗Aα + (A∗A)−1A∗ν − α = (A∗A)−1A∗ν, ™A”



(α̂− α)(α̂− α)∗ =  (A∗A)−1A∗νν ∗ A(A∗A)−1 = σ2(A∗A)−1. ³

·



Â

»Ÿ#›4›4ž{”#™A•ˆ–ˆžw&;.-/0%*ƒ"$ #< &;.-"$Y5< Nb(1V #'3 #/0%!1V¬{ÃÄ¥A›-™A

α̃ ˜A°q¯A–ˆ•$Ÿ#²±™A›B—P–£Ç¥A›W¢”V¨

˜A–—



n∑

i=1

(ξi − k∑

j=1

aijαj) 2 ∼ min

αj .

ËŽ–  ;“-•ˆ“4šˆªˆ–ˆ•¥A—…¤ˆ”

αs µ$¤ˆ”V¢$¥  ˆ–ˆž

2 n∑

i=1

n∑

i=1

(ξi − k∑

j=1

aijα̃j)ais = 0⇒ n∑

i=1

k∑

j=1

aijaisα̃j = n∑

i=1

aisξi. ³

·

!

Â

ÆU™A›4²®¸Ÿ0¤ˆ”V¢$¥  $Ÿ#“4ž

α̃ = (A∗A)−1A∗ξ, ™*¬ “#¬$™#¥‘Å5“E”Aªˆ“4šˆ¡¥Aµ  ™A”Ç–

α̂ ¬

’Ÿ#¡ˆ–ˆžb”A¯A•$ŸV£G”Ažqµˆ›4¤ˆ•$Ÿ#˜A“W¸ˆ¢–ˆ˜Ÿ �

 

Q  



   

Õ

ÃÄ¥A›-™A

ξ –£Gž{“4•—ˆ“-™A›B—¤ˆ”›:¹“4ž{“

³

·

$

ÂW¬’ ”A¦'¸ŸÇ© zÆ;Á‘Ë`¸Ÿ#“-™A›'— ;”A•ˆž¥G¢”Aœ

³

·



ÂWµXŸ

ž9ŸV™A•ˆ–ˆª$Ÿ0¡”A˜Ÿ#•ˆ–$Ÿ#ªˆ–ˆœ‘º ;”A•ˆž¥G¢”Aœ

³

·



ÂW¬

´;Ÿ#¡”Aªˆ“4šˆ–™A

σ2 

؍Ÿ#ž{“-™A–ˆžqµ$ ™A”n–£

³

·

!

®›W¢“W¸$¥“-™

(ξ − Aα̂)ai = 0 µ

i = 1, 2, . . . , k µ ™!¬ “#¬

(I − A(A∗A)−1A∗)ξ ⊥ L(a1, . . . , ak) = (I − Πa)ξ. ’ŸV¡ˆ–ˆž”A¯A•$ŸV£G”Ažqµ

Πa = A(A ∗A)−1A∗

º×”A•™A”A¦4”Aš$Ÿ!¢Ašˆ°qœ[¤ˆ•ˆ”A“4¡™A”A•[š$Ÿ

L(a1, . . . , ak) ³

§-™A”nž{”*ņšˆ”0¤ˆ•ˆ”A˜A“4•ˆ–™Anšˆ“4¤ˆ”A›4•ˆ“W¸›-™˜A“4šˆšˆ”ÂW¬

ÃÄ¥A›-™A

k < n ¬ÆįA”#£Gš$Ÿ* ˆ–ˆž

s2 = ||ξ − Aα||2 = ||ν||2, s21 = ||ξ − Πaξ||2 = ||ξ − Πa(Aα + ν)||2 = ||(I − Πa)ν||2, s22 = ||Πaξ − Aα||2 = ||Πa(ξ − Aα)||2 = ||Πaν||2.

ËlŸ!¢“4“#µ



s2 = trσ2I = nσ2 µ



s21 = σ 2 tr(I − Πa) = σ2(n− k).

ÆU™A›4²®¸Ÿ

σ̂2 = 1 n=k

s21 = 1

n=k ||ξ − Πaξ||2

º`šˆ“4›4ž{“-Êl“Gšˆš$ŸV—…”Aªˆ“4šˆ¡ Ÿ

σ2 ¬

        O               

¬

ËŽ”A˜A“4•ˆ–™A“W¢Ašˆ°q“zž{šˆ”!Å5“4›-™A˜Ÿlº¼Ÿ#š$Ÿ!¢”A¦E–ˆš™A“4•ˆ˜Ÿ!¢Ašˆ°®¹…”Aªˆ“4šˆ”A¡¬

% ,

),L*68>2/0L),L83<:LG7.6 E /01GP <TP014& @090L8),@0+:3,+4W LG/010K +

ξi N

i = 1, 2, . . . , n R



$

docsity.com

ÃÄ¥A›-™A

ν ∼ N(0, σ2I) ¬X’”A¦:¸Ÿ s22 = ||Πaξ − Aα||2 = ||Πaν||2 = σ2χ2k µ

s21 = ||ξ − Πaξ||2 = ||(I − Πa)ν||2 = σ2χ2n−k

–]šˆ“-£*Ÿ#˜A–ˆ›4–ˆž{°Eµ¤ˆ”A§-™A”Až¥

Fk,n−k = 1 k χ2k

1 n−kχ

2 n−k

.

ÃÄ¥A›-™A

P{Fk,n−k 6 ε} = γF (ε) µ™A”A¦'¸Ÿ0›;˜A“4•ˆ”*—™Ašˆ”A›-™AA²

γF (ε)

||A(α− α̂)||2 = (A∗A(α− α̂), (α− α̂)) 6 ε k n− k ||(I − Πa)ξ||

2. ³

·

"

Â

©z“4˜Ÿ!—0 $Ÿ#›-™A;šˆ“4•$Ÿ#˜A“4šˆ›-™A˜Ÿ

³

·

"

¤ˆ•ˆ“W¸›-™VŸ#˜V¢$—ˆ“-™Ž›4”A¯A”Aœ0¡ˆ˜Ÿ!¸•$ŸV™A–ˆ ˆš¥ ²;”A•ˆž¥l”#™Ašˆ”A›4– ¨

™A“W¢Ašˆ”±¡”A”A•¸–ˆš$ŸV™

α ›9ž9ŸV™A•ˆ–ˆªˆ“4œ

A∗A > 0 µ*¤ˆ”A§-™A”Až¥

³

·

"

”A¤ˆ•ˆ“B¸“W¢$—ˆ“-™Ä˜±¡”A”A•A¸–ˆš$ŸV™VŸ!¹

αj §W¢ˆ¢–ˆ¤ˆ›4”A– ¸

³

¸”A˜A“4•ˆ–™A“W¢Ašˆ°qœ…§W¢ˆ¢–ˆ¤ˆ›4”A– ¸ Ä”#™A“W¢ˆ¢–ˆšˆ¦-ŸÂW¬

É{›W¢–5š$Ÿ#ž2š¥ņšˆ”Ä”Aªˆ“4šˆ–™AE”G¸š¥Ž¡”A”A•A¸–ˆš$ŸV™#¥

αj µV™A”ĘA›4¤ˆ”Až{šˆ–ˆžqµ# ™A”Ä“4“¸–ˆ›4¤ˆ“4•ˆ›4–—

•$Ÿ#˜Aš$Ÿ

σ2(aj, aj) − µ$¤ˆ”A§-™A”Až¥ αj−α̂j√

σ2(aj ,aj)− ∼ N(0, 1) µŸ

αj − α̂j√ (aj, aj)−

1 n−k ||(I − Πa)ξ||2

= tn−k,

–“4›W¢–

P{|tn−k|| < ε} = γt(ε) µˆ™A”n›;˜A“4•ˆ”*—™Ašˆ”A›-™AA²

γt(ε) šˆ“4•$Ÿ#˜A“4šˆ›-™A˜A”

|αj − α̂j| 6 ε √ (aj, aj)−||(I − Πa)ξ||2

n− k ¸Ÿ#“-™n–ˆš™A“4•ˆ˜Ÿ!¢Aš¥ ²€”Aªˆ“4šˆ¡¥

αj ¬

  

I       

©z“4¡ˆªˆ–—[«



¬

« ◦ ÃE”A›-™VŸ#šˆ”A˜A¡ Ÿ5£*Ÿ!¸Ÿ* ˆ–]šˆ“4›4ž{“-Êl“4šˆš$”Aœ…•ˆ“W¸$¥ ¡ˆªˆ–ˆ–…–£Gž{“4•ˆ“4šˆ–ˆœ¬ Ë;¢$—›:¹“-ž9° –£Gž{“4•ˆ“4šˆ–ˆœ

ξ = Af + ν µ



ν = 0 µ



νν∗ = σ2I ›-™VŸ#˜A–™A›'—





  

    

I  

Õ

inf{  ||Rξ − f ||2 | R, RA = I} = inf{σ2 trRR∗ | R, RA = I}} = h0. » “-À5Ÿ#“4žJ¥ •$Ÿ#˜Ašˆ“4šˆ–ˆ“

RA = I Õ

R = R0+Y µ¦:¸“

R0 = (A ∗A)−1A∗

µ Ÿ

Y ºw•ˆ“-Àl“4šˆ–ˆ“

¥ •$Ÿ#˜Ašˆ“4šˆ–—

Y A = 0 ⇔ YΠa = 0 ⇔ Y = Z(I − Πa) µ ∀Z ¬

’®¬ ”ˆ¬Òµˆ”A¯#Êl“4“;•ˆ“-Àl“4šˆ–ˆ“

R = (A∗A)−1A∗Z(I − Πa) ¬

Î[§-™A”Až2›W¢$¥  $Ÿ#“

σ2 trRR∗ = tr(A∗A)−1+trZ(I−Πa)Z∗ –

inf ¸”A›W™A–ˆ¦-Ÿ#“-™A›B—5š$Ÿ

R = R0 = (A

∗A)−1A∗ –Ç•$Ÿ#˜A“4š

h0 ¬ˆÆÄ ˆ“4˜A– ¸šˆ”ˆµ §-™A”#™0•ˆ“-£4¥G¢*™#ŸV™0›4”A˜A¤$Ÿ!¸Ÿ#“-™5›U•ˆ“-£4¥*¢*™#Ÿ!™”Ažqµ

¤ˆ”V¢$¥  ˆ“4šˆšˆ°qžD˜5™A“4”A•ˆ“4ž{“lÖ Ÿ*¥A›4›GŸ!¨SÁ…Ÿ#•ˆ¡”A˜Ÿ¬

Î §-™A”Až|›W¢$¥  $Ÿ#“

Rξ = f + Rν µ ¦'¸“

Rν º ÀŽ¥ žqµ›-¥ ž{ž9Ÿ#•ˆš$ŸV—§4šˆ“4•ˆ¦4–—P¡ ”#™A”A•ˆ”A¦4”

•$Ÿ#˜Aš$Ÿ

h0 ¬

· ◦ ؍Ÿ!¸Ÿ! $ŸŽ•ˆ“W¸$¥ ¡ˆªˆ–ˆ–]›E”A¦4•$Ÿ#šˆ–ˆ ˆ“4šˆ–ˆ“4žš$ŸŽ¥ •ˆ”A˜A“4šˆ5ÀŽ¥ ž9Ÿ¬ ;Ÿ#›-™A”5ÀŽ¥ žqµˆ¤ˆ”V¢$¥  ˆ“4š ¨ šˆ°qœJ¤ˆ•ˆ–J•ˆ“-Àl“4šˆ–ˆ–J£*Ÿ!¸Ÿ* ˆ–Jšˆ“4›4ž{“-Êl“Gšˆšˆ”Aœ•ˆ“W¸$¥ ¡ˆªˆ–ˆ–µšˆ“4¤ˆ•ˆ–ˆ“4ž¢“4ž{”2˜A“W¢–ˆ¡¬ή›4¤ˆ”Až¨

šˆ–ˆžqµ$ ™A”n”#Àl–ˆ¯A¡ Ÿ0›4¡ ¢Ÿ!¸°q˜Ÿ#“-™A›'—…–£;¸˜V¥¹Õ

Rξ = f + (RA− I)f +Rν.



«

docsity.com

ή˜A“W¸“4žƒ•$Ÿ#›4›-™A”*—ˆšˆ–ˆ“®ž{“-Å0¸$¥;ž9ŸV™A•ˆ–ˆª$Ÿ#ž{–



³

”A¤ˆ“4•$ŸV™A”A•$Ÿ#ž{–Â

A –

B Õ

ρ2(A−B) = tr(A− B)(A−B)∗ ¬ ÃE”A›-™VŸ#˜A–ˆžb£GŸ!¸Ÿ! ¥

                  I

Õ

inf{tr(RA− I)(RA− I)∗ | R,  ||Rν||2 6 ε}. ³

·#¶Â

؍Ÿ#ž{“-™A–ˆžqµ$ ™A”

 ||Rν||2 = σ2 trRR∗ = σ2∑ i,j

r2ij ¬

ËlŸ!¢“4“;•$Ÿ#›4›4ž{”#™A•ˆ–ˆžb¸˜Ÿ5›W¢$¥  $ŸV—¬

«A¬

h0 < ε ¬VÎ[§-™A”Ažƒ›W¢$¥  $Ÿ#“¥›W¢”A˜A–ˆ“˜±£*Ÿ!¸Ÿ* ˆ“

³

·#¶˜A°q¤ˆ”V¢š—ˆ“-™A›'—l–

R0 = (A ∗A)−1A∗

º “4›-™A†•ˆ“-Àl“4šˆ–ˆ“#µ$™#Ÿ#¡]¡ Ÿ#¡Ç¢²U¯A”A“

R = (A∗A)−1A∗Z(I −Πa) ž{–ˆšˆ–ˆž{–£G–ˆ•¥A“-™ ||RA−

I||22 ¬

· ¬ή˜A“W¸“4ž›4–ˆ›-™A“4ž¥†¡”A”A•A¸–ˆš$ŸV™l˜z¤ˆ•ˆ”A›-™A•$Ÿ#šˆ›-™˜A“Už9ŸV™A•ˆ–ˆ ˆšˆ°®¹Ç§W¢“4ž{“4š™A”A˜

³

–£G”A¯A•$Ÿ!¨

£G–ˆžP¢–Àl5¸˜Ÿ

ÂWÕ

-

6

R1

R2

&% '$µ´

¶³r r r

¾ RA = I A AAU

σ2 trRR∗ = ε

-R0 ¾ ©z–ˆšˆ–ˆ–¥ •ˆ”A˜Aš—

tr(RA− I)(RA− I)∗ = const

ÆÄ ˆ“4˜A– ¸šˆ”ˆµ•ˆ“-Àl“4šˆ–ˆ“2“4›-™A™A”A ˆ¡Ÿ¡ Ÿ#›GŸ#šˆ–—µ¦:¸“

σ2 trRR∗ = ε ³

•$Ÿ#˜Ašˆ”

ÂW¬9’”A¦:¸Ÿ

•ˆ“-À5Ÿ#“4žb£*Ÿ!¸Ÿ! ¥‘ž{“-™A”G¸”Ažž{šˆ”!ņ–™A“W¢“4œ

³

”G¸šˆ”A¦4”

©ŽŸ#¦4•$Ÿ#šÅ0Ÿ¬¾Ž¥ šˆ¡ˆªˆ–—]©ŽŸ#¦4•$Ÿ#šÅ0Ÿ

L(R) = tr(RA− I)(RA− I)∗ + ωσ2 trRR∗.

∇RL = 2(RA− I)A∗ + 2ωσ2R = 0. R(AA∗ + ωσ2I) = A∗

µ

R = R(ω) = A∗(AA∗ + ωσ2I)−1 = (A∗A + ωσ2I)−1A∗ ¬

ÆįA”#£4š$Ÿ! ˆ–ˆž

h = σ2 trR(ω)R∗(ω) = σ2 tr(A∗A + ωσ2I)−1A∗A(A∗A + ωσ2I)−1 –

"

g(ω) = tr(RA− I)(RA− I)∗ = ω2σ4 tr(A∗A+ ωσ2I)−2 ¬ ÃÄ¥A›-™Az¸Ÿ!¢“4“ {ei}

º ”A•™A”Ašˆ”A•ˆž{–ˆ•ˆ”A˜Ÿ#šˆšˆ°qœ‘¯AŸV£G–ˆ›U–£U›4”A¯A›-™A˜A“4šˆšˆ°®¹‘˜#“4¡™A”A•ˆ”A˜l”A¤ˆ“W¨

•$ŸV™A”A•$Ÿ

A∗A Õ

A∗Aei = λiei µ

λ1 > λ2 > · · · > λm > 0 �

*¬ˆ’”A¦'¸Ÿ

h = σ2 m∑

i=1

λi (λi + ωσ2)2

, g = σ4 m∑

i=1

ω2

(λi + ωσ2)2 .

ή°q ˆ–ˆ›W¢–ˆž8¤ˆ•ˆ”A–£G˜A”*¸šˆ°q“#Õ dh dω = −2σ4

m∑ i=1

λi (λi+ωσ2)3

< 0 µ

0 < ω < ∞ µ h−→ ω→0

h0 =

σ2 m∑ i=1

1 λi = σ2 tr(A∗A)−1

µ

h−→ ω→0

0 ¬ ÃE”A§-™A”Až¥=¥ •$Ÿ#˜Ašˆ“4šˆ–ˆ“

h(ω) = ε ¤ˆ•ˆ–

ε < ε0 = h0 –ˆž{“4“-™†“W¸–ˆšˆ›-™A˜A“4šˆšˆ”A“Ž•ˆ“-Àl“4šˆ–ˆ“#¬

%

D

* +'W?/0+ 7 <TPRW L ;.;.L*687:1 6.P4<N3GE090/0+.L @090+.1GUG;.L8),LG/010L

(AB)2 = trAB ∗ 1 /0+.9,B'

||A||2 = {trAA∗}1/2

NGP +.7:+.9,< E /,<TU0( ;=<:L87=6 E /0+.9,B +.K

143,>.-.LG907 <NM  B14),7N<0R

% X

),L*68>21,68@0+:3,>FUG':LG7.6 E 9,<:;.LG/,687:;.+

I −RA = I − (A∗A+ ωσ2I)−1A∗A = ωσ2(A∗A+ ωσ2I)−1 R

% !

rankA = m 6 n R



·

docsity.com

´E•ˆ”Až{“†™A”A¦4”ˆµ dg dω = σ4

m∑ i=1

[ 2ω

(λi+ωσ2)2 − 2ω2σ2

(λi+ωσ2)3

] = 2ωσ4

m∑ i=1

λi (λi+ωσ2)3

–P¤ˆ”A§-™A”Až¥

–ˆž{“4“-™†ž{“4›-™A”5¸–  ;“4•ˆ“4šˆªˆ–$Ÿ!¢Ašˆ°qœ…£*Ÿ#¡”Aš]›4”G¹•$Ÿ#šˆ“4šˆ–—Õ

ω dh

dω + dg

dω = 0.

³

$

Â

Ä™VŸ#¡µ$”A¯#Êl“4“z•ˆ“-Àl“4šˆ–ˆ“;£*Ÿ!¸Ÿ* ˆ–

³

·#¶®–ˆž{“4“-™Ç˜#– ¸½Õ

R =

  

R(ω) = (A∗A+ ωσ2I)−1, 0 < ε < ε0 = h0 = σ 2 tr(A∗A)−1,

0 ε− 0, R0 = (A

∗A)−1A∗, ε > ε0 = h0,

³



«!Â

¤ˆ•ˆ–]§-™A”Až˜A°q¤ˆ”V¢š—ˆ“-™A›'—

³

$

ÂW¬

؍Ÿ#˜A–ˆ›4–ˆž{”A›-™A

g ”#™

ε šˆ”A›4–™Çš$ŸV£G˜Ÿ#šˆ–ˆ“Ž”A¤ˆ“4•$ŸV™A–ˆ˜Ašˆ”Aœ…¹Ÿ#•$Ÿ#¡™A“4•ˆ–ˆ›-™–ˆ¡$–¬ÃE•ˆ–ƒ§-™A”Až

¹Ÿ#•$Ÿ#¡™A“4•ˆ–ˆ›-™–ˆ¡Ÿ µ ¦4•$Ÿ;–ˆ¡¡”#™A”A•ˆ”Aœ2¢“-ņ–™…šˆ–Å5“#µX›4”A”#™A˜A“-™A›-™˜#¥“-™ƒ•$Ÿ#˜Ašˆ”Až{“4•ˆšˆ”¢$¥   ¨

Àl“4ž¥‘¤ˆ•ˆ–ˆ¯A”A•¥A¬

-

6

ε

g

r

r ε0

r ©©¼¡¡ª ÆĤˆ“4•$ŸV™A–ˆ˜Ašˆ°q“;¹Ÿ#•$Ÿ#¡™A“4•ˆ–ˆ›-™–ˆ¡ˆ–





docsity.com

Здесь пока нет комментариев
Это только предварительный просмотр
3 стр. на 13 стр.
Скачать документ