Luận văn Thạc sĩ Khoa học: Bất đẳng thức Berry-Esseen

Chia sẻ: Na Na | Ngày: | Loại File: PDF | Số trang:52

Thêm vào BST

Báo xấu

53
lượt xem 3
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Một trong những công cụ để đánh giá khoảng cách giữa W và Φ hay đánh giá được tốc độ hội tụ của định lý giới hạn trung tâm là bất đẳng thức Berry - Esseen. Trong đề tài này tác giả sẽ trình bày về lịch sử, quá trình hoàn thiện, chứng minh, mở rộng, phát triển và ứng dụng của bất đẳng thức này.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Luận văn Thạc sĩ Khoa học: Bất đẳng thức Berry-Esseen

Lời cám ơn Tác giả xin bày tỏ lòng biết ơn chân thành và sâu sắc của mình tới GS.TSKH Nguyễn Duy Tiến, người đã tận tình giúp đỡ và chỉ bảo tôi trong suốt quá trình làm luận văn tốt nghiệp. Qua đây tôi cũng xin chân thành cám ơn sự giúp đỡ của các thầy giáo, cô giáo trong Bộ môn Xác suất Thống kê Trường Đại học Khoa học Tự nhiên - Đại học Quốc gia Hà Nội, những người đã giúp đỡ tôi trong suốt quá trình học tập và nghiên cứu tại trường. Tác giả xin trân trọng cảm ơn Trường Đại học Sao Đỏ, Khoa Khoa học Cơ bản và các đồng nghiệp đã tạo mọi điều kiện giúp đỡ để tác giả an tâm học tập và hoàn thành tốt luận văn. Do mới làm quen với công tác nghiên cứu khoa học và còn hạn chế về thời gian thực hiện nên luận văn không thể tránh khỏi những thiếu sót. Tác giả kính mong nhận được ý kiến đóng góp của các thầy cô và các bạn để luận văn được hoàn thiện hơn. Hà Nội, năm 2014 1
Mục lục Mở đầu 4 1 Các kiến thức chuẩn bị 6 1.1 Biến ngẫu nhiên . . . . . . . . . . . . . . . . . . . . . . . . 6 1.1.1 Định nghĩa và phân loại . . . . . . . . . . . . . . . . 6 1.1.2 Hàm phân phối . . . . . . . . . . . . . . . . . . . . 7 1.1.3 Hàm đặc trưng . . . . . . . . . . . . . . . . . . . . . 7 1.1.4 Các đặc trưng của biến ngẫu nhiên . . . . . . . . . . 8 1.2 Phân bố chuẩn . . . . . . . . . . . . . . . . . . . . . . . . . 9 1.2.1 Phân bố chuẩn một chiều . . . . . . . . . . . . . . . 9 1.2.2 Phân bố chuẩn nhiều chiều . . . . . . . . . . . . . . 10 1.3 Khoảng cách biến phân toàn phần . . . . . . . . . . . . . . 11 1.4 Sự hội tụ của dãy các biến ngẫu nhiên . . . . . . . . . . . . 11 1.5 Phương pháp Stein cho xấp xỉ chuẩn . . . . . . . . . . . . . 12 1.5.1 Phương trình Stein và ý nghĩa . . . . . . . . . . . . 12 1.5.2 Xây dựng các đẳng thức Stein . . . . . . . . . . . . 13 1.5.3 Xấp xỉ chuẩn của hàm trơn . . . . . . . . . . . . . . 14 2 Bất đẳng thức Berry - Esseen một chiều 16 2.1 Giới thiệu chung . . . . . . . . . . . . . . . . . . . . . . . . 16 2.2 Bất đẳng thức Berry – Esseen đều . . . . . . . . . . . . . . 17 2.2.1 Trường hợp cùng phân bố . . . . . . . . . . . . . . . 17 2
2.2.2 Trường hợp không cùng phân bố . . . . . . . . . . . 18 2.2.3 Chứng minh bất đẳng thức Berry - Esseen đều . . . 19 2.2.4 Áp dụng định lý Berry – Esseen đều . . . . . . . . . 24 2.3 Bất đẳng thức Berry – Esseen không đều . . . . . . . . . . 26 2.3.1 Trường hợp cùng phân bố . . . . . . . . . . . . . . . 26 2.3.2 Trường hợp không cùng phân bố . . . . . . . . . . . 26 2.3.3 Chứng minh bất đẳng thức Berry - Esseen không đều 27 3 Bất đẳng thức Berry - Esseen nhiều chiều 36 3.1 Trường hợp cùng phân bố . . . . . . . . . . . . . . . . . . . 36 3.2 Trường hợp không cùng phân bố . . . . . . . . . . . . . . . 49 Kết luận 51 Tài liệu tham khảo 52 3
Mở đầu Xác suất là một bộ phận của toán học nghiên cứu về các hiện tượng ngẫu nhiên. Lý thuyết xác suất nhằm tìm ra những quy luật trong những hiện tượng tưởng chừng không có quy luật này; và nó được ra đời đầu tiên ở nước Pháp vào nửa cuối thế kỷ 17. Trong lý thuyết xác suất định lý giới hạn trung tâm là một trong những định lý cơ bản và có nhiều ứng dụng thực tiễn. Nó đưa ra một phép tính xấp xỉ cho hàm phân phối của tổng các biến ngẫu nhiên độc lập W so với hàm phân phối chuẩn hóa Φ. Tuy nhiên định lý này không đánh giá được tốc độ hội tụ của giới hạn W→ Φ. Trong thực tế ta lại quan tâm nhiều đến khoảng cách giữa phân bố của W và phân bố chuẩn hóa. Khoảng cách này càng nhỏ thì xấp xỉ chúng ta cần càng có giá trị. Một trong những công cụ để đánh giá khoảng cách giữa W và Φ hay đánh giá được tốc độ hội tụ của định lý giới hạn trung tâm là bất đẳng thức Berry – Esseen. Trong đề tài này tôi sẽ trình bày về lịch sử, quá trình hoàn thiện, chứng minh, mở rộng, phát triển và ứng dụng của bất đẳng thức này. Nội dung đề tài gồm ba chương: Chương 1. Các kiến thức chuẩn bị. Chương này đưa ra một số kiến thức về biến ngẫu nhiên, phân phối chuẩn, khoảng cách biến phân toàn phần, phương pháp Stien. Đây là những kiến thức bổ trợ sẽ được nhắc đến ở những chương sau. 4
Chương 2. Bất đẳng Berry - Esseen một chiều. Chương này tác giả phát biểu định lý Berry - Esseen đều và không đều. Với mỗi dạng tác giả phát biểu định lý trong trường hợp cùng phân bố và không cùng phân bố, có giới thiệu sơ lược về lịch sử của định lý, cuối cùng là chứng minh và đưa ra một vài áp dụng của định lý. Chương 3. Bất đẳng Berry - Esseen nhiều chiều. Chương này là sự mở rộng của định lý Berry - Esseen một chiều. Sự mở rộng được phát biểu cho cả hai trường hợp cùng phân bố và không cùng phân bố. Tuy nhiên, để giảm độ phức tạp tác giả chỉ dừng lại ở việc chứng minh định lý trong trường hợp đơn giản hơn, đó là trường hợp cùng phân bố. 5
Chương 1 Các kiến thức chuẩn bị Chương này tác giả đưa ra một vài kiến thức cơ bản về biến ngẫu nhiên, phân bố chuẩn, khoảng cách biến phân toàn phần, phương pháp Stein. Đây là những kiến thức cơ bản của xác suất thống kê mà được sử dụng nhiều trong các chương sau. 1.1 Biến ngẫu nhiên 1.1.1 Định nghĩa và phân loại Nói một cách chung chung thì biến ngẫu nhiên là đại lượng lấy giá trị thực tùy thuộc vào kết quả ngẫu nhiên của phép thử. Định nghĩa chính xác của biến ngẫu nhiên như sau: Định nghĩa 1.1 : Giả sử (Ω, A) là không gian đo đã cho. Biến ngẫu nhiên là ánh xạ X : Ω → R sao cho: (X ≤ x) = {ω ∈ Ω |X(ω) ≤ x} ∈ A, ∀x ∈ R Hoặc tương đương: X−1 (B) = {ω ∈ Ω |X(ω) ∈ B} ∈ A, ∀B ∈ B với B là σ - đại số các tập Borel của R. Định nghĩa 1.2 : Biến ngẫu nhiên gọi là rời rạc nếu tập các giá trị của nó là hữu hạn hay đếm được. Biến ngẫu nhiên rời rạc được xác định bằng 6
bảng phân phối xác suất: X x1 x2 . . . xi . . . xn P p1 p2 . . . pi . . . pn n P trong đó pi = 1, pi > 0 i=1 Định nghĩa 1.3 : Biến ngẫu nhiên gọi là liên tục nếu các giá trị có thể có của nó lấp đầy một khoảng trên trục số. Biến ngẫu nhiên liên tục X được xác định bởi hàm mật độ f(x) thỏa mãn hai tính chất: f(x)≥ 0 với +∞ R mọi x và f (x)dx = 1 −∞ 1.1.2 Hàm phân phối Định nghĩa 1.4 : Hàm phân phối (quy luật phân phối) của biến ngẫu nhiên X là hàm F(x) được xác định như sau F(x)= P(X
bởi: Z ϕ(t) = EeitX = eitx dF (x) R eitx f (x)dx R Nếu X có hàm mật độ f(x) thì : ϕ(t) = R Các tính chất của hàm đặc trưng: • ϕ(0) = 1, |ϕ(t)| ≤ 1, ∀t ∈ R • ϕ(−t) = ϕ(t) • ϕ(t) là hàm xác định không âm: n X ∀λi ∈ C, ti ∈ R : λi λj ϕ( ti − tj ) ≥ 0 i,j=1 • ϕ(t) là hàm liên tục đều trên R. • Với mọi số thực a, b thì: ϕaX+b (t) = eibt ϕX (at) • Nếu X, Y độc lập thì ϕX+Y (t) = ϕX (t).ϕY (t) 1.1.4 Các đặc trưng của biến ngẫu nhiên a. Kỳ vọng toán Định nghĩa 1.6 : Cho (Ω, A, P ) là không gian xác suất. X là biến ngẫu R R nhiên. Ta gọi EX = XdP = X(ω)dP (ω) là kì vọng của X. Ω Ω Ta có: n P EX = xi pi nếu X - rời rạc i=1 +∞ R EX = xf (x)dx nếu X - liên tục −∞ Các tính chất của kỳ vọng: Ec = c nếu c là hằng số E(X + Y) = EX + EY EcX = c.EX, c là hằng số X, Y độc lập thì E(XY) = EX.EY Pn Eg(X) = g(xi )pi nếu X - rời rạc i=1 8
+∞ R Eg(X) = g(x)f (x)dx nếu X - liên tục −∞ b. Phương sai: Định nghĩa 1.7 : Phương sai của biến ngẫu nhiên X là một số không âm, kí hiệu DX, được xác định bởi DX = EX 2 − (EX)2 Các tính chất của phương sai: Dc = 0 nếu c là hằng số DcX = c2 DX Nếu X, Y độc lập thì D(X ± Y) = DX + DY 1.2 Phân bố chuẩn 1.2.1 Phân bố chuẩn một chiều Định nghĩa 1.8 : Biến ngẫu nhiên liên tục X nhận các giá trị trong khoảng (−∞, +∞) gọi là phân phối theo quy luật chuẩn hóa, kí hiệu: X ∼ N(0,1), nếu hàm mật độ xác suất của nó có dạng: 1 2 f (x) = √ e−x /2 2π Khi đó hàm phân bố xác suất chuẩn hóa (hàm phân bố tiêu chuẩn) có dạng: Zx 1 2 Φ(x) = √ e−t /2 dt 2π −∞ Định nghĩa 1.9 : Biến ngẫu nhiên liên tục X nhận các giá trị trong khoảng (−∞, +∞) gọi là phân phối theo quy luật chuẩn với các tham số µ và σ 2 , kí hiệu: X ∼ N (µ,σ 2 ), nếu hàm mật độ xác suất của nó có dạng: 1 (x−µ)2 f (x) = √ e− 2σ 2 σ 2π Nếu X ∼ N (µ,σ 2 ) thì EX = µ, DX = σ 2 Nếu X ∼ N (µ,σ 2 ) thì ta có thể đưa về phân phối chuẩn hóa N(0,1) 9
X−µ bằng phép biến đổi chuẩn hóa Y = σ Nếu X ∼ N (µ,σ 2 ) thì: P (a < X < b) = Φ( b−µ a−µ σ ) − Φ( σ ) 1.2.2 Phân bố chuẩn nhiều chiều Cho vectơ ngẫu nhiên X = (X1 , X2 , ..., Xk ). Khi đó ta kí hiệu: • cov(Xi , Xj ) = E(Xi − EXi )(Xj − EXj ) = EXi Xj − EXi .EXj , gọi là covarian của Xi , Xj . • A = (cov(Xi , Xj )), gọi là ma trận covarian của X. Rõ ràng A là ma trận đối xứng, xác định không âm cấp kxk. • a = EX = (EX1 , EX2 , ..., EXk ) = (a1 , a2 , ..., ak ), gọi là vectơ kỳ vọng của X. Định nghĩa 1.10 : Vectơ ngẫu nhiên X = (X1 , X2 , ..., Xk ) có phân phối chuẩn k chiều N(a,A) nếu hàm mật độ của X có dạng: 1 1 −1 t f (x) = q exp − (x − a)A (x − a) k 2 (2π) |A| ! k P k 1 Hay: f (x1 , x2 , ..., xk ) = √ exp − 12 P k aij (xi − ai )(xj − aj ) (2π) |A| i=1 j=1 Trong đó: x = (x1 , x2 , ..., xk ) ∈ Rk A là ma trận covarian của X có định thức |A| và ma trận nghịch đảo A−1 = (aij ) Cụ thể, với k = 2, vectơ ngẫu nhiên (X,Y) tuân theo quy luật phân phối chuẩn hai chiều thì hàm mật độ xác suất đồng thời của nó có dạng: 2 x−a 2 1 − 1 2(1−ρ2 ) ( σx) + y−b σy −2ρ (x−a)(x−b) σx σy f (x, y) = p .e 2πσx σy 1 − ρ2 √ √ Trong đó: a = EX, b = EY, σx = DX, σy = DY 10
cov(X,Y ) ρ là hệ số tương quan của X, Y: ρ = σx σy Nếu X, Y độc lập thì hàm mật độ của phân bố chuẩn hai chiều có dạng: 2 x−a 2 y−b 1 − 12 ( σx ) + σy f (x, y) = .e = fX (x).fY (y) 2πσx σy 1.3 Khoảng cách biến phân toàn phần Kí hiệu Ω là không gian độ đo với δ - đại số A. Định nghĩa 1.11 : Gọi µ, ν là hai độ đo xác suất trên Ω. Khi đó khoảng cách biến phân toàn phần được định nghĩa bởi: dT V (µ, ν) := sup |µ(A) − ν(A)| A∈A 1.4 Sự hội tụ của dãy các biến ngẫu nhiên Giả sử (Xn ) là dãy các biến ngẫu nhiên trong không gian xác suất (Ω, A, P ). Ta có các định nghĩa hội tụ sau: Định nghĩa 1.12 : Dãy biến ngẫu nhiên (Xn ) được gọi là hội tụ theo xác suất tới biến ngẫu nhiên X, kí hiệu Xn −→ X , nếu với ε > 0 bất kì thì : lim P (|Xn − X| ≥ ε) = 0 n→∞ Định nghĩa 1.13 : Dãy biến ngẫu nhiên (Xn ) được gọi là hội tụ hầu chắc chắn (hay hội tụ với xác suất 1) tới biến ngẫu nhiên X, kí hiệu Xn −→ X , nếu tồn tại tập A có xác suất không sao cho với ω ∈ / A: Xn (ω) → X(ω) 11
Định nghĩa 1.14 : Dãy biến ngẫu nhiên (Xn ) được gọi là hội tụ theo trung bình bậc p tới biến ngẫu nhiên X, kí hiệu Xn −→ X , nếu: E|Xn − X|p → 0 (n → ∞) Mối liên hệ giữa các dạng hội tụ: Nếu Xn −→ X thì Xn −→ X Nếu Xn −→ X thì tồn tại dãy con (Xnk ) sao cho (Xnk ) −→ X Nếu Xn −→ X (0 < p < +∞) thì Xn −→ X Nếu Xn −→ X và (Xn ) vị chặn đều với xác suất 1 thì Xn −→ X với mọi p, 0 < p < +∞ 1.5 Phương pháp Stein cho xấp xỉ chuẩn Trong lý thuyết xác suất không phải phân bố của biến ngẫu nhiên nào cũng được xác định rõ ràng. Điều đó điều hỏi chúng ta phải xấp xỉ một phân bố phức tạp bằng một phân bố đơn giản hơn. Phương pháp Stein là là phương pháp mới được công bố năm 1972. Đó là phương pháp dùng để suy ra ước lượng xấp xỉ của phân bố này bởi một phân bố khác, là công cụ cho xấp xỉ không chỉ tốt với các biến ngẫu nhiên độc lập mà còn dùng cho cả các biến ngẫu nhiên phụ thuộc. Hơn nữa ta có thể ước lượng sai số của xấp xỉ một cách trực tiếp. 1.5.1 Phương trình Stein và ý nghĩa Cho X là biến ngẫu nhiên có phân phối chuẩn hóa. h là hàm đo được nhận giá trị thực cho trước sao cho E |h (X)| < ∞ f : R → R là hàm liên tục và có đạo hàm liên tục trên từng đoạn
0
thỏa mãn E
f (X)
< ∞. Khi đó ta có: 0 f (ω) − ωf (ω) = h (ω) − Eh (X) (1.1) 12
Phương trình (1.1) được gọi là phương trình Stein tổng quát. +∞ x2 R t2 Hàm fh (x) = e 2 {h(t) − Eh(X)} e− 2 dt là nghiệm của nó. −∞ Đặc biệt: với x ∈ R cố định, phương trình (1.1) có dạng: 0 f (ω) − ωf (ω) = 1(−∞;x] (ω) − Φ (x) (1.2) Thay w bởi biến ngẫu nhiên W, rồi lấy kì vọng hai vế của phương trình (1.1), (1.2) ta được: E {f 0 (W ) − W f(W )} = Eh(W ) − Eh(X) (1.3) P (W ≤ x) − Φ(x) = E {f 0 (W ) − W f(W )} (1.4) Trong hai phương trình (1.3), (1.4) thay vì ước lượng vế phải ta đi ước lượng vế trái đơn giản hơn. Đó là ý nghĩa thiết thực của phương trình Stein. 1.5.2 Xây dựng các đẳng thức Stein Trong phần này chúng ta trở lại phương pháp cơ sở mà Stein đã sử dụng. Giả sử X1 , X2 , . . . Xn là các biến ngẫu nhiên độc lập cùng phân phối n n 2 Xi , W (i) = W − Xi và định P P có kì vọng 0 và EXi = 1. Đặt W = i=1 i=1 nghĩa: Ki (t) = E Xi I{0≤t≤Xi } − I{Xi ≤t
Viết dưới dạng tích phân ta được: ! n RXi 0 E Xi f (W (i) + t)dt P EW f (W ) = i=1 0 n +∞ R 0 f (W (i) + t)Xi (I0≤t≤Xi − IXi ≤t 0 sao cho với hàm h - Lipschiz đều ta có 14
|Eh(W) −Eh(X)| ≤ δ kh0 k thì: sup |Eh(W ) − Eh(X)| ≤ δ (1.8) h∈Lip(1) sup |P (W ≤ x) − Φ(x)| ≤ 2.δ 1/2 (1.9) x Định lý trên cho thấy cận trên của khoảng cách |Eh(W) −Eh(X)| tương ứng với cận trên của khoảng cách |P (W ≤ x) − Φ(x)|. Sau đây là các hệ quả suy ra từ định lý (1.1): Hệ quả 1.1. Cho X1 , X2 , ..., Xn là các biến ngẫu nhiên độc lập có EXi = 0 n n và E|Xi |3 < ∞, EXi2 = 1. Khi đó định lý 1.1 đúng với δ = 3 E|Xi |3 P P i=1 i=1 tức ta có: n X |Eh(W) −Eh(X)| ≤ 3 kh k 0 E|Xi |3 (1.10) i=1 Trong trường hơp không cần thiết về sự tồn tại momen bậc ba hữu hạn thì ta có khẳng định sau: Hệ quả 1.2. Cho X1 , X2 ..., Xn là các biến ngẫu nhiên độc lập có EXi = 0 n EXi2 = 1. Khi đó định lý 1.1 đúng với: P và i=1 δ = 4(4β1 + 3β2 ) (1.11) n n EXi2 I{|Xi |>1} , E|Xi |3 I{|Xi |≤1} P P với β1 = β2 = i=1 i=1 15
Chương 2 Bất đẳng thức Berry - Esseen một chiều 2.1 Giới thiệu chung Trong lý thuyết xác suất và thống kê ứng dụng, định lý giới hạn trung tâm là một trong những định lý cơ bản và có nhiều ứng dụng thực tiễn. Định lý này khẳng định: Nếu (Xn ) là các đại lượng ngẫu nhiên độc lập cùng phân phối có EXi = µ và DXi = δ 2 , i = 1,.., n X1 +X2 +.....Xn −nµ Đặt Wn = √ δ n và Fn (x) là hàm phân phối của Wn . Khi đó: với mọi x ∈ R thì Fn (x) hội tụ yếu đến hàm phân phối chuẩn hóa Φ(x) Tuy nhiên định lý này chỉ cho biết về sự hội tụ yếu của Fn (x) → Φ(x) mà chưa đánh giá được tốc độ hội tụ của nó. Berry (1941) và Esseen (1942) là hai nhà toán học đầu tiên đã độc lập đưa ra một bất đẳng thức cho phép đánh giá khoảng cách giữa Fn (x) và Φ(x). Vì vậy bất đẳng thức mang tên hai ông ra đời, đó là bất đẳng thức Berry – Esseen. Kể từ đó, nhiều nhà toán học trên thế giới đã quan tâm đến việc xác định cận cho bất đẳng thức Berry – Esseen nhằm thu hẹp khoảng cách giữa Fn (x) và Φ(x). Khoảng cách này càng nhỏ thì xấp xỉ chúng ta cần càng có giá trị. Hơn nữa trong thống kê bài toán cỡ mẫu tối thiểu có ý 16