Luận văn Thạc sĩ Khoa học: Thống kê Bayes nhiều chiều và ứng dụng

Chia sẻ: Na Na | Ngày: | Loại File: PDF | Số trang:77

Thêm vào BST

Báo xấu

166
lượt xem 23
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Trong đề tài luận văn này, tác giả trình bày một số kiến thức cơ bản về thống kê Bayes nhiều chiều và mô hình hồi quy Bayes đồng thời đưa ra một số ứng dụng cơ bản của hồi quy Bayes.

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Luận văn Thạc sĩ Khoa học: Thống kê Bayes nhiều chiều và ứng dụng

ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ------------------ TRẦN ANH TUẤN THỐNG KÊ BAYES NHIỀU CHIỀU VÀ ỨNG DỤNG LUẬN VĂN THẠC SĨ KHOA HỌC HÀ NỘI - 2015
ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC KHOA HỌC TỰ NHIÊN ------------------ TRẦN ANH TUẤN THỐNG KÊ BAYES NHIỀU CHIỀU VÀ ỨNG DỤNG Chuyên ngành: LÍ THUYẾT XÁC SUẤT VÀ THỐNG KÊ TOÁN Mã số: 60 46 01 06 LUẬN VĂN THẠC SĨ KHOA HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC GS.TSKH. ĐẶNG HÙNG THẮNG HÀ NỘI - 2015
Mục lục Lời nói đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 5 Chương 1. Các phân phối xác suất nhiều chiều quan trọng . . . . . . . . . . . . . . 7 1.1 Phân phối nhiều chiều . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 1.1.1 Phân phối chuẩn nhiều chiều . . . . . . . . . . . . . . . . . . . . 7 1.1.2 Phân phối Student nhiều chiều t . . . . . . . . . . . . . . . . . . 8 1.2 Phân phối của ma trận ngẫu nhiên . . . . . . . . . . . . . . . . . . . . 9 1.2.1 Phân phối chuẩn ma trận . . . . . . . . . . . . . . . . . . . . . 9 1.2.2 Phân phối Wishart . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.2.3 Phân phối Wishart nghịch đảo . . . . . . . . . . . . . . . . . . . 12 1.2.4 Phân phối ma trận T . . . . . . . . . . . . . . . . . . . . . . . . 14 1.3 Vectơ ngẫu nhiên liên tục . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.4 Ma trận ngẫu nhiên liên tục . . . . . . . . . . . . . . . . . . . . . . . . 16 Chương 2. Mở đầu về thống kê Bayes nhiều chiều . . . . . . . . . . . . . . . . . . . 18 2.1 Phân phối tiên nghiệm . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2.1.1 Phân phối tiên nghiệm mơ hồ . . . . . . . . . . . . . . . . . . . 18 2.1.2 Phân phối tiên nghiệm liên hợp . . . . . . . . . . . . . . . . . . 20 2.1.3 Phân phối tiên nghiệm tổng quát . . . . . . . . . . . . . . . . . 24 2.1.4 Vectơ ngẫu nhiên . . . . . . . . . . . . . . . . . . . . . . . . . . 25 2.1.5 Phân phối tiên nghiệm tương quan . . . . . . . . . . . . . . . . 28 2.2 Đánh giá siêu tham số . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 2.2.1 Hàm hợp lí phân phối chuẩn nhiều chiều . . . . . . . . . . . . . 31 1
2.2.2 Hàm hợp lí phân phối chuẩn ma trận . . . . . . . . . . . . . . . 32 2.3 Phương pháp ước lượng Bayes . . . . . . . . . . . . . . . . . . . . . . . 34 2.3.1 Trung bình biên duyên hậu nghiệm . . . . . . . . . . . . . . . . 35 2.3.2 Tối đa hóa hậu nghiệm . . . . . . . . . . . . . . . . . . . . . . . 47 Chương 3. Hồi quy Bayes và áp dụng . . . . . . . . . . . . . . . . . . . . . . . . . . . 51 3.1 Mô hình hồi quy tuyến tính đa biến . . . . . . . . . . . . . . . . . . . . 51 3.2 Hồi quy Bayes nhiều biến . . . . . . . . . . . . . . . . . . . . . . . . . 60 3.3 Áp dụng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 61 3.3.1 Xét nghiệm Insulin . . . . . . . . . . . . . . . . . . . . . . . . . 61 3.3.2 Bữa tiệc Cocktail . . . . . . . . . . . . . . . . . . . . . . . . . . 68 3.3.3 Mô hình tách nguồn . . . . . . . . . . . . . . . . . . . . . . . . 69 Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
Danh sách hình vẽ 3.1 Bữa tiệc cocktail . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 68 3.2 Quá trình hỗn hợp chưa biết . . . . . . . . . . . . . . . . . . . . . . . . 70 3.3 Ví dụ xử lí hỗn hợp . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 71 3.4 Xử lí hỗn hợp . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 73 Danh sách bảng 2.1 Phân phối tiên nghiệm 1 chiều . . . . . . . . . . . . . . . . . . . . . . . 21 2.2 Véctơ tiên nghiệm liên hợp . . . . . . . . . . . . . . . . . . . . . . . . . 22 2.3 Ma trận tiên nghiệm liên hợp . . . . . . . . . . . . . . . . . . . . . . . 24 2.4 Phân phối tiên nghiệm liên hợp vectơ tổng quát . . . . . . . . . . . . . 26 2.5 Ma trận tiên nghiệm liên hợp tổng quát . . . . . . . . . . . . . . . . . 27 3.1 Phân phối tiên nghiệm ma trận liên hợp . . . . . . . . . . . . . . . . . 61 3.2 Dữ liệu hồi quy Bayes và ma trận thiết kế (mẫu tiên nghiệm) . . . . . 62 3.3 Dữ liệu hồi quy Bayes và ma trận thiết kế (mẫu hậu nghiệm) . . . . . . 64 3.4 Prior, Gibbs, and ICM các hệ số hồi quy Bayes . . . . . . . . . . . . . 65 3.5 Prior, Gibbs, and ICM hiệp phương sai hồi quy . . . . . . . . . . . . . 66 3.6 Các hệ số thống kê . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 67 3
Lời cảm ơn Trước khi trình bày nội dung chính của luận văn, Tác giả xin bày tỏ lòng biết ơn sâu sắc tới GS. TSKH. Đặng Hùng Thắng người Thầy đáng kính đã luôn tận tình chỉ bảo giúp đỡ tác giả trong suốt thời gian qua. Mặc dù có nhiều cố gắng, song trong quá trình thực hiện luận văn Tác giả không tránh khỏi những thiếu sót. Vì vậy, Tác giả rất mong nhận được ý kiến đóng góp của Thầy Cô và bạn bè đồng nghiệp, để luận văn được hoàn thiện hơn. Tác giả xin chân thành cảm ơn! Hà Nội, ngày 10 tháng 10 năm 2015. Học viên Trần Anh Tuấn 4
Lời nói đầu Hiện tại thống kê có hai trường phái: Thống kê tần suất và thống kê Bayes. Thống kê tần suất đã ra đời trước, là phương pháp phổ biến hiện nay. Nó dựa trên những kết quả quan sát mẫu của hiện tại mà không cần để ý đến những thông tin, dữ liệu đã biết trước. Thống kê Bayes dựa trên những thông tin dữ liệu đã biết trước về vấn đã quan sát để suy luận cho những thống kê hiện tại. Trước sự phát triển mạnh mẽ của công nghệ thông tin, đặc biệt là những phần mềm thống kê, việc lưu trữ những thông tin rất thuận lợi thì thống kê Bayes ngày càng phát triển. Chúng ta có thể đem thống kê Bayes vào phương pháp tần suất để phát triển nhiều kết quả lí thuyết cũng như ứng dụng. Chính vì vậy, có thể nói thống kê Bayes là một mảng kiến thức rộng lớn được rất nhiều nhà thống kê trên thế giới quan tâm, tuy nhiên ở nước ta vấn đề này chưa được nghiên cứu nhiều. So với các phương pháp khác, phương pháp thống kê Bayes lập luận theo kinh nghiệm được tích lũy áp dụng vào mô hình phân loại đối tượng linh hoạt hơn, phù hợp với đặc trưng của bài toán hơn. Các cơ chế ước lượng cũng gần gũi với cách suy luận thông thường, chính vì vậy mà các kết quả phân loại tương đối giống với cách phân loại thông thường. Suy luận Bayes được sử dụng rất rộng rãi trong tất cả các ngành nghề như y học, kinh tế, tin học,... Đặc biệt trong xác suất và thống kê hiện nay nó đóng vai trò cũng hết sức quan trọng. Hiện tại chúng ta tìm được một số biểu thức giải tích hậu nghiệm cụ thể khi giả sử tiên nghiệm là các hàm mật độ xác suất thông dụng như Beta, mũ, chuẩn,... Trong thống kê sử dụng định lí Bayes cho ước lượng và kiểm định tham số thống kê, cũng như các bài toán phân loại ngày nay trở nên phổ biến. Trong đề tài luận văn này, tác giả trình bày một số kiến thức cơ bản về thống kê Bayes nhiều chiều và mô hình hồi quy Bayes đồng thời đưa ra một số ứng dụng cơ bản của hồi quy Bayes. 5
Luận văn của tác giả được chia làm 3 chương. Chương 1. Các phân phối xác suất nhiều chiều quan trọng. Trong chương này, tác giả hệ thống lại một số quy luật phân phối nhiều chiều thường gặp như: Phân phối chuẩn nhiều chiều, phân phối Student nhiều chiều; các phân phối của ma trận ngẫu nhiên; véctơ ngẫu nhiên liên tục và ma trận ngẫu nhiên liên tục. Từ đó làm cơ sở để nghiên cứu các phần tiếp theo. Chương 2. Mở đầu về thống kê Bayes nhiều chiều. Trong chương này, tác giả trình bày những kiến thức cơ bản nhất về thống kê Bayes nhiều chiều, bao gồm: phân phối tiên nghiệm, đánh giá siêu tham số, phương pháp ước lượng Bayes. Chương 3. Hồi quy Bayes và áp dụng. Trong chương này, tác giả những kiến thức cơ bản về hồi quy đa biến và hồi quy Bayes. Đồng thời, tác giả trình bày một số ví dụ minh họa cho phương pháp hồi quy Bayes. 6
Chương 1 Các phân phối xác suất nhiều chiều quan trọng 1.1 Phân phối nhiều chiều  p-biến Một  vectơ quan sát x là một tập hợp của p qua sát vô hướng, được kí hiệu x  1   ..  x =  . .   xp 1.1.1 Phân phối chuẩn nhiều chiều p-biến ngẫu nhiên phân phối chuẩn nhiều chiều được sử dụng để miêu tả đồng thời p biến ngẫu nhiên giá trị thực liên tục. Một biến ngẫu nhiên tuân theo quy luật p-biến ngẫu nhiên phân phối chuẩn nhiều chiều với vectơ kì vọng µ và ma trận hiệp phương sai Σ được kí hiệu là x|µ, Σ ∼ N (µ, Σ), (1.1) ở đây tham số (µ, Σ) được cho bởi p 1 1 0 −1 (x−µ) p(x|µ, Σ) = (2π)− 2 |Σ|− 2 e− 2 (x−µ) Σ , (1.2) với x ∈ Rp , µ ∈ Rp , Σ > 0, (1.3) 7
CHƯƠNG 1. CÁC PHÂN PHỐI XÁC SUẤT NHIỀU CHIỀU QUAN TRỌNG ở đây Rp kí hiệu là tập các số thực p-chiều và Σ > 0 là ma trận p-chiều xác định dương. Tính chất: kì vọng, mode, phương sai của phân phối chuẩn nhiều chiều là E (x|µ, Σ) = µ, (1.4) M ode (x|µ, Σ) = µ, (1.5) var (x|µ, Σ) = Σ, (1.6) điều này có thể tìm được bằng phép lấy vi phân và tích phân. Vì x là một phân phối chuẩn nhiều chiều, phân phối điều kiện và phân phối biên duyên của tập con bất kì là phân phối chuẩn nhiều chiều. p-biến ngẫu nhiên phân phối chuẩn nhiều chiều với moomen cấp một và cấp hai hội tụ tới trung bình theo định lí giới hạn trung tâm. 1.1.2 Phân phối Student nhiều chiều t t-phân phối Student nhiều chiều được sử dụng để mô tả các biến ngẫu nhiên giá trị thực liên tục với "cái đuôi nặng hơn" phân phối chuẩn nhiều chiều. Nó có nguồn gốc bởi x ∼ N (µ, φ−2 ) và G ∼ W (Σ, p, ν) , (1.7) đổi biến 1 1 t = ν 2 G− 2 (x − µ) + t0 và W = G, (1.8) với Jacobian 1 p J(x, G → t, W ) = ν − 2 W 2 , (1.9) và sau đó lấy tích phân đối với W . Trong phép lấy đạo hàm, x có thể là trung bình của biến độc lập và biến đồng nhất vectơ phân phối chuẩn với cùng ma trận kì vọng và hiệp phương sai, trong khi G có thể là tổng bình phương độ lệch của các biến với trung bình của chúng. Một biến ngẫu nhiên tuân theo t-phân phối Student nhiều chiều được kí hiệu là t|ν, t0 , Σ, φ2 ∼ t(ν, t0 , Σ, φ2 ), (1.10) 8
CHƯƠNG 1. CÁC PHÂN PHỐI XÁC SUẤT NHIỀU CHIỀU QUAN TRỌNG ở đây tham số (ν, t0 , Σ, φ2 ) được cho bởi ν 1 2 kt (φ2 )− 2 |Σ|− 2 p(t|ν, t0 , Σ, φ ) = ν+p , (1.11) 1 2 φ2 + (t − t0 )0 Σ−1 (t − t0 )) ν ở đây ν+p Γ 2 kt = p ν , (1.12) (νπ) 2 Γ 2 với t ∈ Rp , ν ∈ R+ , t0 ∈ Rp , Σ > 0, φ ∈ R+ . (1.13) Tính chất: kì vọng, mode, phương sai của t-phân phối Student nhiều chiều là E(t|ν, t0 , Σ, φ2 ) = t0 , (1.14) M ode(t|ν, t0 , Σ, φ2 ) = t0 , (1.15) ν var(t|ν, t0 , Σ, φ2 ) = φ2 Σ, (1.16) ν−2 điều này có thể tìm được bằng phép lấy vi phân và tích phân. Chú ý rằng các tham số này là một sự tổng quát được sử dụng, có thể tìm được khi φ2 = 1. Kì vọng của biến ngẫu nhiên t-phân phối Student nhiều chiều chỉ có thể tồn tại với ν > 1 và phương sai chỉ có thể tồn tại với ν > 2. Khi ν = 1, t-phân phối Student nhiều chiều là phân phối Cauchy nhiều chiều mà kì vọng và phương sai hoặc mô men cấp 1 và mô men cấp 2 không tồn tại. Khi số bậc tự do là tăng, một biến ngẫu nhiên t-phân phối vô hướng Student nhiều chiều t ∼ t(ν, t0 , Σ, φ2 ) hội tụ tới phân phối chuẩn t ∼ N (t0 , φ2 Σ). 1.2 Phân phối của ma trận ngẫu nhiên 1.2.1 Phân phối chuẩn ma trận Phân phối chuẩn ma trận n × p có thể được coi như là trường hợp đặc biệt np-biến ngẫu nhiên phân phối chuẩn nhiều chiều khi mà ma trận hiệp phương sai là tách được. Kí hiệu np-phân phối chuẩn nhiều chiều với các ma trận kì vọng toán µ là np-chiều và np × np ma trận hiệp phương sai Ω bởi np 1 1 0 −1 (x−µ) p (x|µ, Ω) = (2π)− 2 |Ω|− 2 e− 2 (x−µ) Ω . (1.17) 9
CHƯƠNG 1. CÁC PHÂN PHỐI XÁC SUẤT NHIỀU CHIỀU QUAN TRỌNG Một ma trận có thể tách được là ma trận có dạng Ω = Φ⊗Σ ở đây ⊗ là tích Kronecker, tích này làm tăng bội lần tất cả các phần tử của ma trận thứ nhất bởi toàn bộ ma trận thứ hai. Tích Kronecker của Φ và Σ là các ma trận tương ứng n và p chiều, là   φ11 Σ · · · φ1n Σ  . .. ..    Φ ⊗ Σ =  .. . .  (1.18)   φn1 Σ · · · φnn Σ Thế ma trận hiệp phương sai tách được vào phân phối trên ta được np 1 1 0 −1 p (x|µ, Σ, Φ) = (2π)− 2 |Φ ⊗ Σ|− 2 e− 2 (x−µ) (Φ⊗Σ) (x−µ) . (1.19) với đồng nhất thức ma trận ở trên 1 p n |Φ ⊗ Σ|− 2 = |Φ|− 2 |Σ|− 2 , và (x − µ)0 (Φ ⊗ Σ)−1 (x − µ) = trΦ−1 (X − M )Σ−1 (X − M )0 , ở đây x = (X 0 ) = (x01 , . . . , x0n )0 , X 0 = (x1 , . . . , xn ), µ = vec(M 0 ) = (µ01 , . . . , µ0n ), và M 0 = (µ1 , . . . , µn ), thì phương trình 1.19 trở thành np p n 1 −1 (X−M )Σ−1 (X−M )0 p(X|M, Σ, Φ) = (2π)− 2 |Φ|− 2 |Σ|− 2 e− 2 trΦ . (1.20) Một ma trận ngẫu nhiên có phân phối chuẩn ma trận n × p được kí hiệu X|M, Σ, Φ ∼ N (M, Φ ⊗ Σ) (1.21) ở đây (M, Σ, Φ) là các tham số của phân phối trên với X ∈ Rx×p , M ∈ Rx×p , Σ, Φ > 0. (1.22) các ma trận Σ và Φ thường được gọi là ma trận hiệp phương sai trong và giữa. Thỉnh thoảng cũng được gọi là ma trận hiệp phương sai phải và trái. Tính chất: kì vọng, mode và phương sai của phân phối chuẩn ma trận là E(X|M, Σ, Φ) = M, (1.23) M ode(X|M, Σ, Φ) = M, (1.24) var(vec(X 0 )|M, Σ, Φ) = Φ ⊗ Σ, (1.25) 10
CHƯƠNG 1. CÁC PHÂN PHỐI XÁC SUẤT NHIỀU CHIỀU QUAN TRỌNG điều này có thể tìm được bằng phép lấy vi phân và tích phân. Khi X là một phân phối chuẩn ma trận, phân phối điều kiện và phân phối biên duyên của bất kì hàng hoặc cột là phân phối chuẩn nhiều chiều. Nó cũng có thể được kí hiệu là kì vọng dòng thứ i của X là x0i , dòng thứ i của M là µ0i và hiệp phương sai của dòng thứ i của X là φii Σ, ở đây φii là phần tử dòng thứ i và cột thứ i của Φ. Hiệp phương sai giữa thứ i và dòng thứ i của X là φ0ii Σ, ở đây φ0ii là phần tử dòng thứ i và cột thứ i của Φ. Tương tự, kì vọng của cột j của X là cột thứ j của M và hiệp phương sai giữa thứ j và cột thứ j 0 của X là σjj 0 Φ. Đơn giản chỉ cần đặt, nếu   x01  .    X =  ..  = X1 , . . . , Xp (1.26)   0 xn   µ01  ..    M =  .  = M1 , . . . , Mp (1.27)   0 µn φii0 được kí hiệu là phần tử thứ ii0 của Φ và σjj 0 được kí hiệu là phần tử thứ jj 0 của Σ thì var(xi |µi , φii , Σ) = φii Σ, (1.28) cov(xi , x0i |µi , µ0i , φii0 , Σ) = φii0 Σ, (1.29) var(Xj |Mj , σjj , Φ) = σjj Φ, (1.30) cov(Xj , Xj0 |Mj , Mj0 , σjj 0 , Φ) = σjj 0 Φ. (1.31) 1.2.2 Phân phối Wishart Một biến ngẫu nhiên Wishart được chỉ ra như là tích chuyển vị G = (X − M )0 (X − M ), ở đây X là phân phối chuẩn ma trận ν0 × p với ma trận kì vọng M và ma trận hiệp phương sai Tν0 ⊗ Υ. Chú ý rằng, nếu p = 1, đây là tổng bình phương của ν0 biến ngẫu nhiên chuẩn quy tâm độc lập với cùng kì vọng µ và phương sai v 2 , g = (x1 − µ)2 + · · · + (xν0 − µ)2 . Ma trận hiệp phương sai Υ được đưa vào phân phối 11
CHƯƠNG 1. CÁC PHÂN PHỐI XÁC SUẤT NHIỀU CHIỀU QUAN TRỌNG Wishart. Một p × p ma trận đối xứng G tuân theo phân phối Wishart được kí hiệu G|Υ, p, ν0 ∼ W (Υ, p, ν0 ) (1.32) ở đây tham số (Υ, p, ν0 ) được cho bởi ν0 ν0 −p−1 1 −1 G p(G|Υ, p, ν0 ) = kW |Υ|− 2 |G| 2 e− 2 trΥ , (1.33) ở đây p −1 ν0 p p(p−1) Y ν0 + 1 − j kW =2 2 π 2 Γ (1.34) j=1 2 với G > 0, ν0 ∈ R+ , Υ > 0, (1.35) và kí hiệu ">0" được kí hiệu cho cả G và Υ là các ma trận xác định dương. Mặc dù phân phối Wishart được dẫn xuất từ ν0 biến ngẫu nhiên vectơ chuẩn (một số nguyên dương), không có hạn chế rằng ν0 trong phân phối Wishart là giá trị nguyên. Tính chất: Kì vọng, mode, và phương sai của phân phối Wishart là E(G|ν0 , Υ) =ν0 Υ, (1.36) M ode(G|ν0 , Υ) =(ν0 − p − 1)Υ, (1.37) V ar(G|ν0 , Υ) =ν0 (vij2 + vii vjj ), (1.38) cov(G|ν0 , Υ) =ν0 (vik vjl + vil vjk ), (1.39) điều này có thể tìm được bằng phép lấy vi phân và tích phân, ở đây gij và vij được kí hiệu là phần tử cấp ij của G và Υ tương ứng. Mode của phân phối Wishart được xác định với ν0 > p + 1. Phân phối Wishart là nhiều biến (biến ma trận) tương tự của phân phối đơn biến Gamma. 1.2.3 Phân phối Wishart nghịch đảo Một biến ngẫu nhiên phân phối Wishart nghịch đảo Σ được chỉ ra như là nghịch đảo của một biến ngẫu nhiên có phân phối Wishart, Σ = G−1 . Một p × p ma trận ngẫu nhiên Σ tuân theo phân phối Wishart nghịch đảo được kí hiệu Σ|Q, p, ν ∼ IW (Q, p, ν) (1.40) 12
CHƯƠNG 1. CÁC PHÂN PHỐI XÁC SUẤT NHIỀU CHIỀU QUAN TRỌNG ở đây tham số (Σ|Q, p, ν) được cho bởi ν−p−1 ν 1 −1 Q p(Σ|ν, Q) = kIW |Q| 2 |Σ|− 2 e− 2 trΣ , (1.41) ở đây p −1 (ν−p−1)p p(p−1) Y ν−p−j kIW =2 2 π 4 Γ (1.42) j=1 2 với Σ > 0, ν ∈ R+ , Q > 0. (1.43) Chú ý: Phép đổi biến từ G tới Σ, Q = Υ−1 , ν0 = ν − p − 1, (1.44) và biến đổi Jacobian là J(G → Σ) = |Σ|−(p+1) . (1.45) Mặc dù phân phối Wishart nghịch đảo được dẫn xuất từ ν − p − 1 vectơ ngẫu nhiên chuẩn (một số nguyên dương), không có hạn chế rằng ν trong phân phối Wishart nghịch đảo là giá trị nguyên. Tính chất: Kì vọng, mode, và phương sai của phân phối Wishart nghịch đảo là Q E(Σ|ν, Q) = , (1.46) ν − 2p − 2 Q M ode(Σ|ν, Q) = , (1.47) ν 2qii2 var(σii |ν, Q) = , (1.48) (ν − 2p − 2)2 (ν − 2p − 4) ν−2p qii qνν + ν−2p−2 qii2 0 var(σii0 |ν, Q) = , (1.49) (ν − 2p − 1)(ν − 2p − 2)(ν − 2p − 4) 2 q q 0 + qii qi0 i0 + qii0 qii0 ν−2p−2 ii ii cov(σii0 , σii0 + ν, Q) = , (1.50) (ν − 2p − 1)(ν − 2p − 2)(ν − 2p − 4) điều này có thể tìm được bằng phép lấy vi phân và tích phân. Kì vọng được xác định khi ν > 2p+2, trong khi đó phương sai và hiệp phương sai được xác định khi ν > 2p+4. Phương sai được xác định khi i 6 i0 . Ở đây σij và qij kí hiệu là phần tử cấp ij của Σ và Q tương ứng. 13
CHƯƠNG 1. CÁC PHÂN PHỐI XÁC SUẤT NHIỀU CHIỀU QUAN TRỌNG 1.2.4 Phân phối ma trận T T -phân phối ma trận Student được sử dụng để mô tả các biến ngẫu nhiên liên tục với cái đuôi nặng hơn phân phối chuẩn. Nó có nguồn gốc bởi X ∼ N (M, In ⊗ Σ) và G ∼ W (Φ−1 , p, ν) (1.51) đổi biến 1 1 T = ν 2 G− 2 (X − M ) + T0 và W = G, (1.52) với Jacobian np p J(X, G → T, W ) = ν − 2 W 2 (1.53) và sau đó lấy tích phân đối với W . Trong phép lấy đạo hàm, X có thể là trung bình của biến độc lập và biến đồng nhất ma trận phân phối chuẩn với cùng kì vọng và phương sai, trong khi G có thể là tổng bình phương độ lệch của các biến với trung bình của chúng. Một biến ngẫu nhiên T tuân theo T -phân phối ma trận Student được kí hiệu là T |ν, T0 , Σ, Φ ∼ T (ν, T0 , Σ, Φ), (1.54) ở đây tham số (ν, T0 , Σ, Φ) được cho ν n |Φ| 2 |Σ|− 2 p(T |ν, T0 , Σ, Φ) = kT
ν+p , (1.55)
Φ + 1 (T − T0 )Σ−1 (T − T0 )0
2 ν ở đây ν+p+1−j Πnj=1 Γ 2 kT = np . (1.56) (νπ) 2 Πnj=1 Γ ν+1−j 2 với T ∈ Rn×p , ν ∈ R+ , T0 ∈ Rn×p , Σ, Φ > 0. (1.57) Tính chất: Kì vọng, mode, và phương sai của T -phân phối ma trận Student là E(T |ν, T0 , Σ, Φ) = T0 , (1.58) M ode(T |ν, T0 , Σ, Φ) = T0 , (1.59) ν cov(vec(T 0 )|ν, T0 , Σ, Φ) = (Φ ⊗ Σ), (1.60) ν−2 14