Chng5.Mtsnhlýhit Chơng 5 Một số định lý hội tụ Giả sử trên không gian xác suất (, A, P) ta có dãy các biến ngẫu nhiên và biến ngẫu nhiên Y. {} ),n(X n 21= A. Sự hội tụ theo xác suất I. định nghĩa v một số đặc điểm 1. Định nghĩa Dẫy {} đợc gọi là hội tụ theo xác suất về X nếu với mọi nhỏ tuỳ ý ta đều có: ( ,nX n 21= ) 0> ( ) 1 = < XXPlim n n Lúc đó ta ký hiệu )n(XX )P( n ý nghĩa: Nh vậy nếu )n(XX )P( n thì { } ( ) < n)(X)(X:P n 1 hoặc cũng có nghĩa là { } ( ) n)(X)(X:P n 0 2. Một số đặc điểm Định lý 1: Nếu () nXX )P( n và )n(YY )P( n thì )n(YXYX )P( nn + + . Chứng minh. Với mọi ta có 0> LờVnPhongTrnTrngNguyờn,HKTQD 213 Chng5.Mtsnhlýhit ()() [] ++ 22 YYXXYXYX nnnn Vậy ()() [] + ++ 22 0 YYPXXPYXYXP nnnn Do giả thiết về sự hội tụ theo xác suất của về X và của về Y nên giới hạn ở vế bên phải bằng 0. n X n Y Từ đó ta suy ra ()() [ ] 0 = + + YXYXPlim nn n Do đó )n(YXYX )P( nn + + Định lý 2: Nếu g là hàm liên tục trên R và )n(XX )P( n thì: () )n()X(gXg )P( n Chứng minh Vì g là hàm liên tục nên tại với mọi 0 x 0> sẽ có 0> sao cho với mọi x thì khi < 0 xx ta sẽ có < )x(g)x(g 0 áp dụng cho biến ngẫu nhiên ta có thể viết: sao cho: 00 >> , ( ) [ ] < < )X(g)X(gXX nn Lấy xác suất hai vế ta đợc ( ) [ ] < < )X(g)X(gPXXP nn Suy ra ( ) [ ] < < )X(g)X(gPlimXXPlim n n n n Do )n(XX )P( n nên giới hạn ở vế trái bằng 1. Vậy [ ] 1 < )X(g)X(gPlim n n Do xác suất không thể vợt quá một nên ta suy ra LờVnPhongTrnTrngNguyờn,HKTQD 214 Chng5.Mtsnhlýhit [ ] 1 = < )X(g)X(gPlim n n Điều này chứng tỏ )n()X(g)X(g )P( n . II. Một số quy luật số lớn Ta đã biết rằng một biến cố có xác suất bằng 0 có thể coi là hầu nh không thể có. Tơng tự một biến cố có xác suất bằng 1 có thể coi là hầu nh chắc chắn xẩy ra. Mặt khác một biến cố ngẫu nhiên thờng do rất nhiều nguyên nhân ngẫu nhiên gây ra. Các nguyên nhân ngẫu nhiên này có thể biểu thị bằng các biến ngẫu nhiên. Vì vậy ta phải xem xét các biến ngẫu nhiên này phải thoả mãn những điều kiện gì để tác động tổng cộng của chúng có thể dẫn đến các biến cố có xác suất bằng 0 (hoặc bằng 1). Việc tìm ra các điều kiện này chính là nội dung của các quy luật số lớn. 1. Bất đẳng thức Trê-b-sép Bất đẳng thức này là cơ sở để chứng minh một số định lý về luật số lớn và đợc phát biểu nh sau: Với mọi biến ngẫu nhiên X mà có ( ) +< r XE trong đó 0> r thì với mọi số 0> ta đều có: () ( ) r r XEXP 1 Chứng minh Ta chứng minh cho trờng hợp X là biến ngẫu nhiên liên tục với hàm mật độ xác suất f(x) xác định trên R. Ta có () = x r r x dx)x(fxdx)x(fXP 1 LờVnPhongTrnTrngNguyờn,HKTQD 215 Chng5.Mtsnhlýhit ( ) r r r r XEdx)x(fx = + 11 Ghi chú: Nếu thay X bởi X- E(X) và r = 2 Ta có () [] 2 2 1 )X(EXE)X(EXP Tức là () 2 )X(V )X(EXP (1) Hoặc viêt dới dạng tơng đơng () 2 1 < )X(V )X(EXP (2) Các dạng (1) và (2) là các dạng thờng dùng của bất đẳng thức Trê_b_sép. 2. Định lý Trê-b-sép (luật số lớn của Trê-b-sép) Phát biểu: Nếu {} là dẫy các biến ngẫu nhiên: ),n(X n 21= a. Độc lập từng đôi. b. Có phơng sai bị chặn đều, tức là tồn tại hằng số C sao cho với mọi , thì với mọi số C)X(V i 1i 0> nhỏ tuỳ ý ta đều có: () 1 11 11 = < == n i i n i i n XE n X n Plim Chứng minh Ta ký hiệu = = n i in X n X 1 1 áp dụng bất đẳng thức (2) cho biến ngẫu nhiên n X ta đợc () () ( ) )( XV XEXP n nn < 2 1 Theo tính chất của kỳ vọng toán ta có LờVnPhongTrnTrngNguyờn,HKTQD 216 Chng5.Mtsnhlýhit () )()X(E n X n EXE n i i n i in = = == 11 11 Do giả thiêt (a) nên: () () == = = n i i n i in XV n X n VXV 1 2 1 11 Do giả thiết (b) nên ta suy tiếp: () () = n C nC n XV n 2 1 Thay các kêt quả ở () và () vào bất đẳng thức ở ( ) ta đợc: () 2 11 1 11 < == n C XE n X n P n i i n i i Lấy giới hạn hai vế: () < == 2 11 1 11 n C limXE n X n Plim n n i i n i i n () 1 11 11 < == n i i n i i n XE n X n Plim Do xác suất bị chặn trên bởi 1 nên ta suy ra hệ thức phải chứng minh. ý nghĩa: Qua định lý ta thấy biến ngẫu nhiên = = n i in X n X 1 1 hội tụ theo xác suất về giá trị trung bình của các kỳ vọng toán của các biến ngẫu nhiên thành phần tạo nên nó. Nói cách khác nếu ta ký hiệu = = n i in X n a 1 1 thì định lý Trê_b_sép cho thấy tính ổn định của biến ngẫu nhiên n X quanh giá trị này. n a Trờng hợp đặc biệt. Nếu các đều bằng )X(E i thì hệ thức đã nêu trong định lý trở thành: ( ) 1=< n n XPlim LờVnPhongTrnTrngNguyờn,HKTQD 217 Chng5.Mtsnhlýhit Một trong các trờng hợp đặc biệt này sau này ta sẽ gặp là các là những biến ngẫu nhiên độc lập, có cùng quy luật phân phối xác suất, do đó có cùng kỳ vọng là , ),n(X n 21= và cùng phơng sai là . Khi ấy, mặc dù từng biến ngẫu nhiên có thể nhận giá trị sai khác rất nhiều so với 2 i X , nhng biến ngẫu nhiên trung bình cộng n X của một số rất lớn các biến ngẫu nhiên thành phần này lại nhận giá trị rất gần với i X với xác suất rất gần 1. 3. Định lý Bernoulli (luật số lớn của Bernoulli) Phát biểu: Nếu là số lần xuất hiện của biến cố A trong n phép thử độc lập với mỗi phép thử chỉ có hai kêt quả là A và và với xác suất để A xuất hiện trong mỗi phép thử đều là P(A) = p( 0 < p < 1) thì với mọi số nhỏ tuỳ ý ta đều có: n S 0> 1= < p n S Plim n n ý nghĩa: Ta thấy n S n chính là tần suất của A trong lợc đồ Bernoulli với hai tham số n và p. vì vậy theo định lý này ta thấy n f )n(pf )P( n . Do đó nếu n khá lớn ta có thể lấy giá trị của làm giá trị xấp xỉ cho p. Đây chính là cách xác định xác suất của một biến cố A nào đó theo quan điểm thống kê. n f Chứng minh áp dụng bất đẳng thức Trê_b_sép cho biến ngẫu nhiên ta đợc: n f () ( ) 2 1 < n nn fV )f(EfP Nếu gọi là số lần xuất hiện của biến cố A trong phép thử thứ i i X )n,i( 1= thì các là các biến ngẫu nhiên độc lập, cùng tuân theo quy luật A(p) với và . i X () pXE i = () )p(pXV i = 1 LờVnPhongTrnTrngNguyờn,HKTQD 218 Chng5.Mtsnhlýhit Do đó () () pXE nn X XX E n S EfE n i i nn n == + + + = = =1 21 1 () () n )p(p )p(np n XV nn S VfV n i i n n === = = 1 1 11 2 1 2 Thay các kết quả này vào bất đẳng thức trên ta đợc: () 2 1 1 < n )p(p pfP n Lấy giới hạn hai vế ta đợc: () < 2 1 1 n )p(p limpfPlim n n n Do 4 1 1 )p(p và hữu hạn nên giới hạn bên phải bằng 1. Do xác suất bị chặn trên bởi 1 nên cuối cùng ta suy ra: ( ) 1=< pfPlim n n 4. Định lý Markov ( luật số lớn của Markov) Phát biểu: Nếu dẫy các biến ngẫu nhiên { } , ),n(X n 21 = thoả mãn điều kiện: 0 1 1 2 = = n i i n XV n lim Thì khi đó với mọi số 0> nhỏ tuỳ ý ta đều có: () 1 11 11 = < == n i i n i i n XE n X n Plim ý nghĩa: Nh vậy điều kiện trong định lý Markov rộng hơn các điều kiện trong định lý Trê_b_sép ở chỗ không đòi hỏi tính độc lập của các biến ngẫu nhiên thành phần và tính bị chặn đều của các phơng sai của chúng. LờVnPhongTrnTrngNguyờn,HKTQD 219 Chng5.Mtsnhlýhit Chứng minh á p dụng bất đẳng thức Trê_b_sép cho biến ngẫu nhiên = = n i in X n X 1 1 ta đợc 2 1 11 1 1 11 < = == n i i n i i n i i X n V X n EX n P Nh đã biết () == = n i i n i i XE n X n E 11 11 = == n i i n i i XV n X n V 1 2 1 11 Thay các kết quả này vào bất đẳng thức trên và lấy giới hạn hai vế ta đợc: () < = == n i i n n i i n i i n XV n limXE n X n Plim 1 22 11 11 1 11 Do giả thiết của định lý ta suy ra vế phải bằng 1, và do xác xuất bị chặn trên bởi 1 nên ta suy ra hệ thức phải chứng minh. Ghi chú. Đặc biệt nếu nh các biến ngẫu nhiên X n (n = 1,2.) đôi một không tơng quan (và mạnh hơn nữa đôi một độc lập) thì điều kiện trong định lý Markov trở thành: () ( = nXV n n i i 0 1 1 2 ) Thí dụ 1. Hãy xác định số lợng tối thiểu các phép thử cần thực hiện trong lợc đồ Bernoulli để dựa vào f n ta có xấp xỉ đợc p với độ chính xác 0,1 và độ tin cậy tối thiểu là 95%. Bài giải Ta phải xác định giá trị tối thiểu của n sao cho: ( ) 95010 ,,pfP n < LờVnPhongTrnTrngNguyờn,HKTQD 220 Chng5.Mtsnhlýhit Theo định lý Bernoulli ta chỉ biết đợc f n hội tụ theo xác suất về p. Tuy nhiên dựa vào bất đẳng thức Trê_b_sép áp dụng cho f n đã nêu trong phần chứng minh định lý này ta có: () ( ) 2 10 1 110 ),(n pp ,pfP n < Vậy ta phải có: () 950 10 1 1 2 , ),(n pp = do cha biết, nhng vì p(1- p) 4 1 nên ta có thể đánh giá tiếp: 950 104 1 1 2 , ),(n Suy ra n 500 Thí dụ 2. Cho dãy { X n } (n = 1,2,.) là các biến ngẫu nhiên độc lập với quy luật phân phối xác suất nh sau: X i i 0 i p(x i ) i2 1 i 1 1 i2 1 Chứng tỏ rằng dẫy biến ngẫu nhiên này tuân theo quy luật số lớn. Bài giải Ta đễ dàng tính đợc E(X i ) = 0, V(X i ) = i Từ đó n n n i n )X(V n n i n i n i i 1111 1 2 1 2 1 2 =<= === Vậy 0 1 1 2 = = n i i n )X(V n lim và { } ),n(X n 21 = tuân theo luật số lớn. B. Sự hội tụ theo quy luật LờVnPhongTrnTrngNguyờn,HKTQD 221 Chng5.Mtsnhlýhit I. Các định nghĩa Định nghĩa 1 Dãy các biến ngẫu nhiên {X n } (n = 1, 2,) đợc gọi là hội tụ theo quy luật về X nếu: với mọi x thuộc thuộc tập hợp các điểm liên tục của F )x(F)x(Flim XX n n = X (X). Khi đó ta ký hiệu )n(XX L n . Ghi chú 1. Do có sự tơng ứng ( 1-1 ) giữa hàm đặc trng và hàm phân phối nên điều kiện trên có thể thay bằng: )t(g)t(glim XX n n = Ghi chú 2. Ta biết quy luật chuẩn là quy luật thờng gặp và có nhiều ứng dụng. Vì thế ta sẽ tìm các điều kiện một dãy biến ngẫu nhiên { } ),n(X n 21= sẽ hội tụ theo quy luật về quy luật N( 0; 1). Chính xác hơn ta có khái niệm tiệm cận chuẩn nh sau: Nếu quy luật phân phối của biến ngẫu nhiên X phụ thuộc vào tham số n và nếu ta có thể chọn đợc hai đại lợng m 0 và 0 (phụ thuộc hoặc không phụ thuộc vào n) sao cho khi n thì hàm phân phối của biến ngẫu nhiên 0 0 = mX X ~ Sẽ tiến tới hàm phân phối của quy luật chuẩn N( 0;1), tức là () ==<= x u U n X ~ n due)x(FxX ~ Plim)x(Flim 2 2 2 1 Thì ta nói rằng X tiệm cận chuẩn ( ) 00 ,m . Thí dụ. Nếu X tuân theo quy luật )n( 2 thì nó tiệm cận chuẩn ( ) n,n 2. LờVnPhongTrnTrngNguyờn,HKTQD 222 [...]... fn cũng có thể coi là xấp xỉ quy luật chuẩn N(p ; pq ) n Thí dụ: Xác định số phép thử tối thiểu phải thực hiện để cho tần suất fn của biến cố A khác với xác suất p của A một lơng không quá với một xác suất không nhỏ hơn LờVnPhongTrnTrngNguyờn,HKTQD 231 Chng5.Mtsnhlýhit Bài giải Nh vậy ta phải xác định n sao cho P( f n p < ) với và đã ấn định Nếu xấp xỉ quy luật của fn bởi quy luật chuẩn N(p;... Chng5.Mtsnhlýhit Căn cứ vào (2) và (3) ta thấy khi n khá lớn thì biểu thức ở (1) có thể viết xấp xỉ là 2 u 1 1 Pn ( x ) e 2 2 npq 2 1 1 u2 1 = e = (u ) npq 2 npq Đó là điều phải chứng minh Thí dụ Nếu tính xác suất để trong 10000 sản phẩm lấy ra đã xét ở trên có đúng 40 phế phẩm thì ta có: 40 P10000 (40 ) = C10000 (0,005 ) (0,995 ) 40 9 960 áp dụng định lý giới hạn địa phơng để tính xấp xỉ xác suất. .. ) Tra bảng ta đợc (1,42 ) = 0,14 56 vì thế P10000 (40 ) 1 (0,14 56) = 0,002 06 7,05 Nếu dùng trực tiếp mà không dùng định lý giới hạn địa phơng ta có: P10000 (40 ) 0,00197 Ghi chú 4 Định lý Moivre_Laplace cho phép ta xấp xỉ quy luật nhị thức B(n;p) bởi quy luật chuẩn N(np; npq) Sự xấp xỉ này khá tốt khi np 5 và n(1-p) 5 LờVnPhongTrnTrngNguyờn,HKTQD 2 36 Chng5.Mtsnhlýhit Tuy nhiên do B(n;p) là một quy... Chng5.Mtsnhlýhit Nếu điều kiện Liapounov đợc thoả mãn, tức là nếu E(X n 1 3 n k =1 1 B n n R thì k =1 k k ak 3 ) 0 (n ) 0 khi n Do đó t2 ln g ~ ( t ) S 2 (n ) n Vì thế g ~ ( t ) e S t2 2 (n ) n Vậy định lý đợc chứng minh Hệ quả 1 (Định lý Lindeberg_levy) Nếu {X n } ( n = 1,2, ) là dãy các biến ngẫu nhiên độc lập, có cùng quy luật phân phối xác suất với E(X k ) = a và V(X k ) = b 2 và. .. k = X n là xấp xỉ quy luật chuẩn n n k =1 1 1 = E(Sn ) = n.a = a n n 1 1 b2 Sn 2 và V(X n ) = V = 2 V(Sn ) = 2 n.b = n n n n b2 tức là ta có thể coi xấp xỉ quy luật phân phối của X n là N a; kết quả n này sẽ đợc ứng dụng ở phần thống kê toán sau này Hệ quả 2 (Định lý Moivre_laplace hoặc còn gọi là định lý giới hạn tích phân) Nếu {X n } ( n = 1,2, ) là dãy các biến ngẫu nhiên độc lập, cùng... tích pq bởi giá trị lớn nhất của nó là (1, 96 ) n 4.(0,1) 1 và suy ra 4 2 2 97 Cách ớc lợng này ta cũng đã thực hiện bằng cách dùng bất đẳng thức Trê_b_sép nhng với quan niệm đại khái hơn nhiều Ghi chú 3 Liên quan tới việc xấp xỉ quy luật nhị thức bởi quy luật chuẩn, ta còn có định lý giới hạn địa phơng sau đây: Định lý Với n khá lớn và p không quá gần 0 và 1 Thì khi X đủ lớn để cho U nằm trong một... với m 0 = np k =1 và 0 = np(1 p) = npq Chứng minh Ta có thể coi đây là một trờng hợp riêng của định lý Lindeberg_levy với E ( X k ) = p và V(X k ) = p(1 p) = pq Ghi chú LờVnPhongTrnTrngNguyờn,HKTQD 229 Chng5.Mtsnhlýhit Vì các biến ngẫu nhiên Xk độc lập cùng tuân theo quy luật A(p) nên biến n ngẫu nhiên X = S n = X k , nh ta đã biết sẽ tuân theo quy luật B(n;p) Vì vậy k =1 định lý Moivre_Laplace... với m 0 = np và 0 = npq Từ đó nếu X tuân theo quy luật B(n;p) và n khá lớn, đồng thời p không quá gần 0 và 1 thì tổng x2 P(X = x ) = x = x1 x2 C x = x1 x n p x q n x Có thể tính xấp xỉ thông qua hàm 0 (u ) đã dùng cho quy luật chuẩn nh sau: x2 P(X = x ) = P( x x = x1 1 X x2 ) x np X np x 2 np = P 1 npq npq npq x np x np 0 1 0 2 npq npq Thí dụ: Xác suất để trong... pq pq n Do đó ta phải xác định n sao cho n 2 0 pq = n tức là 0 pq = 2 Do đã ấn định nên ta tra bảng giá trị của hàm 0 (u ) ta sẽ tìm đợc giá trị của U sao cho 0 (u ) = 2 Từ đó suy ra u 2 pq n u , tức là n 2 pq LờVnPhongTrnTrngNguyờn,HKTQD 232 Chng5.Mtsnhlýhit Chẳng hạn nếu = 0,95 thì 0 (u ) = 0,475 Ta tra bảng đợc u = 1, 96 (1, 96 ) pq Tuỳ trờng hợp p cha biết,... 10000 và p = 0,005 vì vậy: x P(X 70) = Pn ( x ) = C10000 (0,005 ) (0,995 ) 70 70 x =0 x =0 x 10000 x Nếu tính trực tiếp từng xác suất trên rồi cộng lại thì rất khó khăn Vì vậy ta sẽ áp dụng định lý giới hạn tích phân để tính xấp xỉ LờVnPhongTrnTrngNguyờn,HKTQD 230 Chng5.Mtsnhlýhit Ta có thể viết P(X 70 ) = P(0 X 70 ) 0 np X np 70 np = P npq npq npq Vì np = 10000.0,005 = 50 npq = 10000.0,005.0,995