intTypePromotion=1
zunia.vn Tuyển sinh 2024 dành cho Gen-Z zunia.vn zunia.vn
ADSENSE

Bài giảng Lý thuyết nhận dạng

Chia sẻ: Văn Hiệp | Ngày: | Loại File: PDF | Số trang:93

352
lượt xem
101
download
 
  Download Vui lòng tải xuống để xem tài liệu đầy đủ

Chương 1 : cơ sở lý luận và lý thuyết nhận dạng Chương 2: Các hàm quyết định phân lớp dạng Chương 3 : phân lớp dạng bằng các hàm khoảng cách Chương 4: Phân lớp dạng bằng các hàm xác suất

Chủ đề:
Lưu

Nội dung Text: Bài giảng Lý thuyết nhận dạng

  1. TRƯ NG Đ I H C BÁCH KHOA HÀ N I VI N TOÁN NG D NG VÀ TIN H C ------------------------- BÀI GI NG LÝ THUY T NH N D NG ( TÀI LI U LƯU HÀNH N I B ) Đ u có nhà xu t b n :v
  2. Bài Giảng Lý thuyết nhận dạng
  3. M cl c 1 Cơ s lý lu n c a lý thuy t nh n d ng 6 1.1 Khái ni m cơ b n v nh n d ng . . . . . . . . . . . . . . 6 1.1.1 S ra đ i c a khoa h c nh n d ng và hai đ nh hư ng trong khoa h c nh n d ng(KHND) . . . . 6 1.1.2 M t s ví d v nh n d ng d n đ n đ nh nghĩa t ng quát v d ng . . . . . . . . . . . . . . . . . . 7 1.1.3 Đ nh nghĩa t ng quát v d ng . . . . . . . . . . . 8 1.2 M t s bài toán cơ b n làm cơ s cho vi c xây d ng h nh n d ng . . . . . . . . . . . . . . . . . . . . . . . . . . 9 1.2.1 Bài toán mã hóa d ng . . . . . . . . . . . . . . . 9 1.2.2 Bài toán v vi c x lý sơ b và l a ch n các d u hi u . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.2.3 Bài toán xây d ng h nh n d ng . . . . . . . . . 12 1.2.4 Bài toán đánh giá tham s . . . . . . . . . . . . . 12 1.2.5 Bài toán mô ph ng d ng . . . . . . . . . . . . . . 12 1.3 M t s nguyên t c và phương pháp lu n làm cơ s đ xây d ng h nh n d ng . . . . . . . . . . . . . . . . . . . . . 13 1.3.1 M i s nguyên t c cơ b n . . . . . . . . . . . . . 13 1.3.2 M t s phương pháp lu n làm cơ s cho vi c xây d ng h nh n d ng t đ ng . . . . . . . . . . . . 13 1.4 V m t s phương pháp toán h c xây d ng tiêu chu n nh n d ng cho h nh n d ng t đ ng . . . . . . . . . . . 14 1.4.1 M t s khái ni m cơ b n . . . . . . . . . . . . . . 14 1.4.2 Xây d ng tiêu chu n nh n d ng cho h nh n d ng t đ ng . . . . . . . . . . . . . . . . . . . . . . . 15 2 Các hàm quy t đ nh phân l p d ng 18 2.1 Hàm quy t đ nh và các y u t xác đ nh hàm quy t đ nh . 18 2.2 Nh n d ng b ng các hàm quy t đ nh tuy n tính . . . . . 21 2.3 M t s trư ng h p phân l p d ng b ng hàm quy t đ nh tuy n tính . . . . . . . . . . . . . . . . . . . . . . . . . . 23 2
  4. Giáp Văn Hi p - Toán Tin 2 - K54 2.4 Nh n d ng b ng hàm quy t đ nh suy r ng . . . . . . . . 28 2.4.1 D ng t ng quát c a các hàm suy r ng . . . . . . 28 2.4.2 M t s bi n d ng quan tr ng c a các hàm suy r ng 29 2.5 Các phép lư ng phân t p d ng . . . . . . . . . . . . . . 31 2.5.1 Khái ni m v phép lư ng phân và có ý nghĩa c a phép lư ng phân . . . . . . . . . . . . . . . . . . 31 2.5.2 Xác đ nh b c lư ng phân b ng hàm suy r ng . . . 34 2.6 Phương pháp xâu d ng hàm tuy n tính trên cơ s x p x b i 1 h các đa th c tr c giao, tr c chu n . . . . . . . . 35 2.6.1 Xây d ng h tr c giao, tr c chu n các hàm 1 bi n 35 2.7 Xây d ng h tr c giao, tr c chu n đ y đ , các hàm nhi u bi n trên c s h tr c giao, tr c chu n đ y đ các hàm 1 bi n . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 2.7.1 Xây d ng m t s h đa th c tr c giao, tr c chu n đ y đ 1 bi n đ c bi t và áp d ng xây d ng h đa th c tr c giao, tr c chu n nhi u chi u. . . . . . . 40 2.8 Phương pháp xây d ng các hàm quy t đ nh d a trên c s x p x b i h các đa th c tr c giao, tr c chu n. . . . . 43 3 Phân l p d ng b ng các hàm kho ng cách 45 3.1 Đ c trưng c a vi c phân l p d ng b ng các hàm kho ng cách . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 45 3.1.1 Khái ni m kho ng cách, hàm kho ng cách . . . . 45 3.1.2 Đăc trưng c a vi c phân l p d ng b ng các hàm kho ng cách . . . . . . . . . . . . . . . . . . . . . 46 3.2 M t s phương pháp phân l p d ng theo tiêu chu n c c ti u kho ng cách . . . . . . . . . . . . . . . . . . . . . . 46 3.2.1 Phương pháp 1 . . . . . . . . . . . . . . . . . . . 46 3.2.2 Phương pháp 2 . . . . . . . . . . . . . . . . . . . 49 3.3 M t s thu t toán phân ho ch t p d ng theo tiêu chu n c c ti u kho ng cách . . . . . . . . . . . . . . . . . . . . 52 3.3.1 Khái ni m đ đo đ ng d ng và m t s đ đo đ ng d ng tiêu bi u . . . . . . . . . . . . . . . . . . . . 52 3.3.2 M t s thu t toán phân ho ch d ng theo tiêu chu n c c ti u kho ng cách. . . . . . . . . . . . . . . . . 55 4 Phân l p d ng b ng các hàm xác su t 66 4.1 Phân l p d ng như là m t bài toán v lý thuy t các phép gi i th ng kê . . . . . . . . . . . . . . . . . . . . . . . . 66 3
  5. Giáp Văn Hi p - Toán Tin 2 - K54 4.1.1 Xác đ nh bài toán phân l p d ng như là 1 trò chơi mang đ c trưng th ng kê. . . . . . . . . . . . . . 66 4.1.2 Xây d ng tiêu chu n nh n d ng cho vi c phân l p d ng theo nghĩ xác su t. . . . . . . . . . . . . . . 68 4.1.3 Large Xây d ng các hàm quy t đ nh phân l p d ng theo quy t c phân l p Bayets . . . . . . . . . . . 70 4.2 Phân l p d ng theo quy t c phân l p Bayets trong trư ng h p các d ng tuân theo lu t phân ph i chu n . . . . . . 71 4.2.1 Nh c l i đ c trưng c a các bi n ng u nhiên có phân ph i chu n . . . . . . . . . . . . . . . . . . 71 4.2.2 Xây d ng tiêu chu n nh n d ng, hàm quy t đ nh theo quy t c phân l p Bayets có các d ng có phân ph i chu n . . . . . . . . . . . . . . . . . . . . . . 72 4.3 M t s đánh giá xác su t sai s c a phân l p Bayets trong m t s trư ng h p đ c bi t . . . . . . . . . . . . . . . . . 77 4.3.1 Đánh giá sai s c a phân l p Bayets trong trư ng h p phân ph i chu n . . . . . . . . . . . . . . . . 77 4.3.2 M r ng đánh giá cho trư ng h p phân l p d ng đư c thưc hi n b i các hàm tuy n tính . . . . . . 80 4.4 Gi i thi u m t s hàm m t đ phân ph i quan tr ng trong nh n d ng . . . . . . . . . . . . . . . . . . . . . . . . . . 81 4.4.1 Hàm m t đ d ng t ng quát . . . . . . . . . . . . 81 4.4.2 M t s hàm m t đ d ng Peason . . . . . . . . . 81 4.5 Phương pháp xây d ng các hàm quy t đ nh phân l p d ng theo quy t c phân l p Bayets trên cơ s x p x các hàm m t đ phân ph ix ác su t . . . . . . . . . . . . . . . . . 83 4.5.1 Xây d ng các công th c truy toán tính kỳ v ng, ma tr n hi p bi n c a các d ng thu c cùng 1 l p 83 4.5.2 Xây d ng x p x m t đ phân ph i b i h hàm . 85 4.5.3 Xây d ng các hàm quy t đ nh phân l p d ng theo quy t c phân l p Bayets trên cơ s xâp x các hàm m t đ phân ph i . . . . . . . . . . . . . . . . . . 88 Tài li u tham kh o 92 4
  6. L i nói đ u Theo như yêu c u c a 1 s anh em, mình đã biên so n xong quy n này, trong quá trình tang gia b i r i vi t không tránh kh i nh ng sai sót và ph i nói là m t m i không bi t di n t b ng t gì n a =)), vì v y b n nào có ý ki n thì v v m m luôn :v 5
  7. Chương 1 Cơ s lý lu n c a lý thuy t nh n d ng 1.1 Khái ni m cơ b n v nh n d ng S ra đ i c a khoa h c nh n d ng và hai đ nh hư ng 1.1.1 trong khoa h c nh n d ng(KHND) a. S ra đ i c a KHND Có th gi i thích s ra đ i c a KHND d a trên hai nguyên nhân sau đây: – KHND ra đ i b t ngu n t vi c quan sát s nh n d ng t nhiên c a con ngư i và m t s sinh v t s ng khác. ∗ Con ngư i và m t s sinh v t s ng khác nh n d ng các đ i tư ng c th thông qua các giác quan: · Th giác: Nh n bi t đư c các hình d ng to nh , ví d như ô tô, nhà c a ... · Thính giác: Nh n bi t (d ng) âm thanh, ti ng đ ng như ti ng s m, đ ng cơ, ti ng hát, cư i ... · Kh u giác: Nh n bi t đư c các d ng mùi... · V giác: Nh n bi t các d ng v như chua, chát, th i r a ... · Xúc giác: Nh n bi t d ng tròn, nh n, xù xì, gh gh ... ∗ Đ c bi t, con ngư i còn nh n đư c các đ i tư ng tr u tư ng thông qua các phán đoán, lý lu n, suy di n, nh n d ng không ch m t đ i tư ng c th mà c m t l p đ i tư ng có cùng tính ch t đ c trưng chung. Ví d 1.1. Nh n d ng th i ti t c a m t ngày (tháng, năm) 6
  8. Giáp Văn Hi p - Toán Tin 2 - K54 · S c gió ·Đ m · Th y văn ⇒ D ng th i ti t ngày A: Sáng nhi u sương mù, trưa chi u gi m mây tr i n ng. ⇒ D ng th i ti t ngày B: Tương t ngày A n u các thông s đo đ c x p x các thông s đo đ c ngày A. – KHND ra đ i còn do các yêu c u c p bách c a vi c s lý thông tin ngày càng phát tri n, gia tăng do n n văn mình c a con ngư i ngày càng hi n đ i. b. Hai đ nh hư ng cơ b n trong KHND – Đ nh hư ng 1: Nghiên c u các kh năng ND và b n ch t t nhiên c a con ngư i và m t s v t s ng khác có. Hư ng này liên quan đ n ngành nghiên c u:tâm lý h c, sinh h c, v t lý h c. – Đ nh hư ng 2: Phát tri n lý thuy t và các phương pháp xây d ng các thi t b nh m gi i các bài toán nh n d ng riêng bi t cho t ng lĩnh v c ng d ng nh t đ nh. Hư ng này liên quan đ n các KH công ngh , các ng d ng tin h c, máy tính đi n t , khoa h c máy tính, k thu t h c. M t s ví d v nh n d ng d n đ n đ nh nghĩa t ng quát 1.1.2 v d ng Ví d 1.2. D báo th i ti t là m t s nh n d ng trên cơ s các d li u đ u vào B n tin v th i ti t cho m t ngày: • S c gió •Đ m • M c nư c th y văn • Hình d ng mây • Nhi t đ 7
  9. Giáp Văn Hi p - Toán Tin 2 - K54 Quán trình nh n d ng ⇒ D ng th i ti t c a ngày A. Ngày B có các thông s x p x thông s ngày A hay v i các đi u ki n mà tương t như ngày A ⇒ D ng th i ti t ngày B tương t d ng th i ti t ngày A. Ví d 1.3. Chu n đoán b nh y h c là m t s nh n d ng. B nh nhân A đ n bác sĩ, bác sĩ c n ph i bi t đư c các tri u ch ng b nh trên các d u hi u: • Nhi t đ cơ th • Th c hi n các xét nghi m – Máu – Nư c ti u, phân – Đi n tim, não đ – Đo huy t áp – Ch p X- Quang Quá trình nh n d ng ⇒ D ng b nh c a ngư i A B nh nhân B có tri u ch ng tương t như ngư i A thì b nh nhân B m c b nh tương t như b nh nhân A. Đ nh nghĩa t ng quát v d ng 1.1.3 T t c các đ i tư ng (ph n t ) có cùng chung m t s tính ch t đ c trưng đi n hình và ch nh ng đ i tư ng đó nhóm h p v i nhau t o thành t ng l p xác đ nh. D ng là s mô t m t ph n t b t kỳ đư c l y làm đ i di n cho nh ng ph n t khác trong cùng m t l p mà đư c đ ng nh t v i ph n t đ i di n (d ng m u) b i các tính ch t chung đó. Do đó, nh n d ng chính là đoán nh n c m t l p d ng, phân bi t l p d ng này v i các l p d ng khác. a. Ch c năng cơ b n c a h nh n d ng t đ ng – Đ nh nghĩa Ch c năng cơ b n c a h nh n d ng t đ ng là phát hi n và tách ra các d u hi u đ c trưng cho các d ng trong t p d ng, đ ng th i phân ho ch t p d ng thành t ng l p xác đ nh sao cho m i l p có ít nh t m t d ng m u (d ng đ i di n cho l p) đư c lưu tr trong b nh c a h nh n d ng. 8
  10. Giáp Văn Hi p - Toán Tin 2 - K54 Nh n ra các d ng m i và x p phân l p chúng hoăc xây d ng thêm các l p d ng m i. – Ví d minh h a cho ch c năng c a h nh n d ng Gi suwe có t p d ng g m t t c d ng đư ng cong trong m t ph ng và h nh n d ng t đ ng đã phân ho ch đư c chúng thành t ng l p xác đ nh, m i l p có nh ng d ng m u đã đư c bao qu n (lưu tr ) trong b nh c a h nh n d ng. V n đ đ t ra là nh n d ng ch COINS. Ta có sơ đ sau: 1.2 M t s bài toán cơ b n làm cơ s cho vi c xây d ng h nh n d ng Bài toán mã hóa d ng 1.2.1 Đ nh nghĩa Bài toán mã hóa d ng là bài toán mà m i 1 đ i lư ng v t lý đo đư c t d ng đ u đư c xem là 1 d u hi u đ c trưng cho d ng và d ng s đư c 9
  11. Giáp Văn Hi p - Toán Tin 2 - K54 đ ng nh t v i 1 b các d u hi u đ c trưng cho chúng. Gi s có 1 d ng x và t x ta xác đ nh 1 b n d u hi u đ c trưng x1 , · · · , xn t k t qu c a n phép đo thì x đ ng nh t (x1 , · · · , xn )T xem như m t véc tơ trong KG Euclid n chi u Rn nào đó. V y 1 đư ng b t kỳ có th mã hóa đư c thành 1 véc tơ trong không gian KG Euclid n chi u Rn . M t s ví d Ví d 1.4. Mã hóa d ng ch s 5. Trên m t ph ng ch a ch s 5, ta d ng h t a đ 0xy, sau đó v 1 h các đư ng th ng song song v i 0x, 0y t o thành m t h m t lư i hình ch nh t ph s 5. Gi s có n m t lư i ph ch s 5, ký hi u: 1n u m t lư i th j ∩ 5 = φ xj = 0n u m t lư i th j ∩ 5 = φ ⇒ 5 ≡ (x1 , · · · , xn )T trong đó xj nh n các giá tr là 0 ho c 1. Như v y, 1 ch s có th đ ng nh t v i 1 véc tơ nh phân. Ví d 1.5. Mã hóa 1 d ng sóng âm thanh. Gi s cho m t sóng âm f=f(t) như hình v . Gi s t i m i th i đi m ti ta đo đư c bư c sóng f (ti ) v i m i i=1,2,...,n. ⇒ Sóng âm f = (f (t1 , · · · , f (tn ))) ∈ Rn . 10
  12. Giáp Văn Hi p - Toán Tin 2 - K54 Ví d 1.6. Mã hóa 1 d ng th i ti t. Đ có đư c d ng th i ti t c a 1 ngày A, ta c n ph i bi t đư c (đo đư c) các đ i lư ng sao: • S gó x1 •Đ m x2 • Đo m c nư c th y văn x3 • Đo nhi t đ x4 ⇒ Th i ti t ngày A=(x1 , x2 , x3 , x4 )T . Bài toán v vi c x lý sơ b và l a ch n các d u hi u 1.2.2 Đ nh nghĩa Là bài toán ti p sau bài toán mã hóa, m c đích nh m l a ch n ra các d u hi u đ c trưng đi n hình, lo i b các d u hi u ph đ gi m b i kích thư c c a d ng, gi m m c đo ph c t p trong tính toán. Ví d 1.7. Đ i v i d ng sóng âm f=f(t) ch c n đo bư c sóng c c đ i và các bư c sóng c c ti u cũng đ t o ra đư c 1 b d u hi u đ c trưng cho f. 11
  13. Giáp Văn Hi p - Toán Tin 2 - K54 Bài toán xây d ng h nh n d ng 1.2.3 Đ nh nghĩa Bài toán xây duwjngj h nh n d ng t đ ng là bài toán xây d ng các thi t b cho h nh n d ng sao cho các yêu c u sau đư c th a mãn: • Yêu c u 1: Ph i phát hi n và tách ra đư c các d u hi u đ c trưng cho các d ng đ ng th i phân ho ch t p d ng ra thành t ng l p xác đ nh. • Yêu c u 2: Ti p nh n d ng m i, phân l p chúng, ho c xây d ng l p m i. Bài toán xây d ng h nh n d ng là bài toán đư c đ t ra sau hai bài toán trên và bài toán đư c gi i quy t qua hai giai đo n • Giai đo n 1: Căn c vào các d u hi u đ c trưng c a các d ng phân ho ch t p d ng ra thành t ng l p xác đ nh. • Giai đo n 2: Nh n d ng các d ng m i và x p l p chúng. Bài toán đánh giá tham s 1.2.4 Trong quá trình gi i quy t bài toán d ng có th n y sinh m t lo t các thông s c n ph i đư c x lý 1 cách t i ưu. Như v y, ta thư ng có bài toán đánh giá thông s . Các thông s thư ng đư c đánh giá thông qua các công c c a lý thuy t t i ưu. Bài toán mô ph ng d ng 1.2.5 Là bài toán liên quan đ n vi c s lý thông tin ch a trong văn c nh, l i nói ho c ch vi t. N u thông tin ch đư c ch a trong văn c nh ho c mô t b ng l i thì h nh n d ng t đ ng c n ph i xác đ nh ra 1 lo t các d u hi u đ c trưng đ trên c s đó mô ph ng đư c d ng. Có th xác đ nh đư c các d u hi u đ c trưng này nh các xác su t có đi u ki n, các th ng kê ngôn ng h c và các phương pháp x p x ,... và b các d u hi u đ c trưng thu đư c đư c g i là ng pháp c a d ng. 12
  14. Giáp Văn Hi p - Toán Tin 2 - K54 1.3 M t s nguyên t c và phương pháp lu n làm cơ s đ xây d ng h nh n d ng M i s nguyên t c cơ b n 1.3.1 1. Nguyên t c li t kê b ph n. Là nguyên t c li t kê các thành ph n c a d ng mà theo đó ch nh ng thành ph n có tính ch t đ c trưng đi n hình cho d ng đư c gi l i, còn s đư c ... (đ u d ch đư c).. nh ng thành ph n không c n thi t. Khi 1 d ng đã mã hóa đư c d a vào h nh n d ng thì h nh n d ng s li t kê và so sánh các d u hi u đ c trưng c a d ng v i các d u hi u đ c trưng c a d ng m u đã đư c lưu tr trong b nh c a h nh n d ng. 2. Nguyên t c đ ng nh t các tính ch t. Các d ng m i s đư c so sánh v i các d ng m u thu c t ng l p xác đ nh c a h nh n dang, h nh n d ng s đ ng nh t các d u hi u đ c trưng c a d ng m i v i các d u hi u đ c trưng c a d ng m u và ti n hành phân l p d ng m i (nh n d ng). 3. Nguyên t c "Classteration": Là nguyên t c chuy n t ng l p d ng đã đư c mã hóa xác đ nh c a t p d ng vào trong nh ng t p compact tách bi t c a không gian Euclid tương ng (ch ng h n là yêu c u tách bi t) và đư c g i là nh ng "Classter". T nh ng Classter tách bi t này vi c phân l p các d ng m i đư c th c hi n mang tính đ nh hư ng và rõ ràng hơn.(Chính xác hơn nh ng l p này đư c bao b c trong nh ng bi u c u tách bi t g i là nh n "Classter"). M t s phương pháp lu n làm cơ s cho vi c xây d ng 1.3.2 h nh n d ng t đ ng 1. Phương pháp Heuristic (tìm ki m) Tr c giác và kinh nghi m c a con ngư i đư c l y làm cơ s c a phương pháp này, trong đó các nguyên t c li t kê và đ ng nh t, các tính ch t đư c s d ng. 2. Phương pháp toán h c. Thông thư ng có 2 phương pháp. 13
  15. Giáp Văn Hi p - Toán Tin 2 - K54 – Phương pháp đơn hình : là phương pháp xây d ng các thu t toán l p trong vi c phân ho ch t p d ng và nh n d ng. – Phương pháp th ng kê : Là phương pháp s d ng lý thuy t xác su t th ng kê đ phân l p d ng có m c r i ro (t n th t) trung bình th p nh t. 3. Phương pháp ngôn ng N u vi c mô ta các d ng đư c th c hi n b ng phương pháp mô ph ng, thì đ xây d ng h nh n d ng, ngư i ta thư ng s d ng phương pháp ngôn ng đ ng th i v i vi c s d ng nguyên t c đ ng nh t các tính ch t, y u t then ch t c a phương pháp này là vi c l a ch n các ph n t mô ph ng c a d ng, đ ng th i k t h p các ph n t này v i các m i tương quan c a chúng t o thành ng pháp c a d ng và cu i cùng th c hi n trong ngôn ng tương ng quá trình phân tích và đón nh n. 1.4 V m t s phương pháp toán h c xây d ng tiêu chu n nh n d ng cho h nh n d ng t đ ng M t s khái ni m cơ b n 1.4.1 1. Khái ni m v các b ph n c u thành h nh n d ng. a. Kh i c m bi n : Là 1 thi t b dùng đ bi n các đ c trưng v t lý c a d ng thành 1 b d u hi u đ ng trưng cho d ng. Nói cách khacs, kh i c m bi n là thi t b dùng đ mã hóa d ng (d ng đư c mã hóa thành nh ng véc tơ). b. Kh i phân l p : Là thi t b dùng đ ti p nh n các d ng đã đư c mã hóa t kh i c m bi n phân ho ch thành t ng l p xác đ nh cùng v i nh ng d ng m u tương ng đư c lưu tr vào b nh nh n d ng m i và x p l p các d ng m i. 2. Khái ni m v sai s trong h nh n d ng M t s h nh n d ng đư c g i là ph m sai s n u 1 d ng th c ch t thu c vào 1 l p nào đó nhưng h nh n d ng l i x p (phân) d ng đó sang 1 l p khác. Ví d : Cho 2 h nh n d ng R1 , R2 . Ta nói h R1 t t hơn R2 n u xác su t ph m sai (sai s ) c a h R1 nh hơn xác su t sai s c a h 14
  16. Giáp Văn Hi p - Toán Tin 2 - K54 R2 khi phân l p d ng. 3. M t s khái ni m xác su t trên nghi m, m t đ phân ph i xác su t (PPXS), xá su t phân l p chúng Gi s 1 d ng Ω ⊂ Rn đã đư c phân ho ch thành m l p xác đ nh Ω1 , Ω2 , · · · , Ωm , x là 1 d ng c n đư c phân l p. Khi đó, xác su t xu t hi n d ng x trong l p Ωi ký hi u là p(Ωi ) đư c g i là xác su t tiên nghi m (xác su t ban đ u)c a Ωi v i m i i=1,2,...,m. N u s xu t hi n c a x trong các l p đ ng kh năng thì các xác su t tiên nghi m p(Ωi )= 1/m. v i i=1,2,...m. Xác su t có đi u ki n p(Ωi /x) đư c g i là xác su t phân l p đúng d ng x vào l p Ωi . Xác su t có đi u ki n p(Ωi /x) là MĐPPXS d ng x vào l p Ωi . Xác su t p(x) đ ch xác su t xu t hi n d ng x trong t p d ng. Xây d ng tiêu chu n nh n d ng cho h nh n d ng t 1.4.2 đ ng 1. Xây d ng tiêu chu n t ng quát Gi s t p d ng ΩØcphnhchthnhm l p Ω1 , Ω2 , · · · , Ωm , x là d ng m i c n đư c phân l p. Đ ti n l i, ta gi i thi u các xác su t tiên nghi m b ng nhau, t c là p(Ω1 ) = p(Ω2 ) = · · · = p(Ωm ) (∗) N u x đư c phân l p Ωi thi ta có xác su t phân l p đúng. p(xΩi ) p(x/Ωi )p(Ωi ) p(xΩi )p(Ωi ) pi = p(Ωi /x) = = = m p(x) p(xΩ) p(x Ωk ) k =1 p(x/Ωi )p(Ωi ) p(x/Ωi )p(Ωi ) p(x/Ωi ) (∗) = = = m m m p(xΩk ) p(x/Ωk )p(Ωk ) p(x/Ωk ) k =1 k =1 k =1 T đó suy ra xác su t phân sai x vào l p Ωi là 1-pi V i i = j ta có 1-pi < 1- pj ⇔ pi > pj p(x/Ωi ) p(x/Ωj ) ⇔ > m m p(x/Ωk ) p(x/Ωk ) k =1 k =1 15
  17. Giáp Văn Hi p - Toán Tin 2 - K54 ⇔ p(x/Ωi ) > p(x/Ωj ) T đó ngư i ta xây d ng đư c 1 tiêu chu n nh n d ng t ng quát D ng m i x s đư c phân vào l p mà có xác su t sai s đ i v i l p đó là bé x’ so v i t t c các xác su t sai s đ i v i các l p còn l i. Nói các khác x đư c phân l p có MĐPPXS là l n x’ so v i t t c các MĐPPXS đ i v i các l p khác. ⇒ Đi u đó có nghĩa là x ∈ D n u p(x/Ωi ) > p(x/Ωj ) v i m i i = j, j =1,2,...,m. Trư ng h p t n t i l p Ωk sao cho p(x/Ωi ) = p(x/Ωk ), đ ng th i p(x/Ωk ) > p(x/Ωj ) v i m i j = k , j = i thì máy s phân 1 cách tùy ý vào Ωi ho c Ωk . 2. Ví d v xây d ng tiêu chu n nh n d ng trong TH các d ng tuân theo phân ph i chu n. a. Nh c l i đ nh nghĩa v bi n ng u nhiên tuân theo lu t phân ph i chu n (ppc) D ng x = (x1 , · · · , xn ) ∈ Rn xem như là 1 bi n ng u nhiên n chi u đư c g i là tuân theo lu t ppc n u hàm MĐPPXS (ppxs) c a nó có d ng 1 1 exp{− (x − m) c−1 (x − m)} p(x) = n 1 2 (2π ) /2 |det(c)| /2 trong đó m = (m1 , · · · , mn ) là véc tơ kỳ v ng toán h c (tr trung bình) c a x, mi = Exi , ∀i = 1, · · · , n, C = (cij )n×n - ma tr n hi p bi n vuông c p n. Vi cij = cov(xi − xj ) = E {(xi − mi )(xj − mj )} ⇒ c = E {(x − m)(x − m) } (C- MT đ i x ng xác đ nh d u) Gi s Ω - t p d ng đã đư c phân ho ch thành M l p Ω1 , · · · , ΩM g m các d ng tuân theo lu t chu n. Gi s x là 1 d ng c n đư c phân l p. T đ nh nghĩa ⇒ MĐPPXS c a d ng x đ i v i l p Ωi là: 1 1 exp − (x − mi ) ci (x − mj ) p(x/Ωi ) = (2a)n/2 |det(ci )|1/2 2 trong đó mi = (mi , · · · , mi ) , mi = E (xj /Ωi ), ∀i = 1, · · · , M. 1 n j 16
  18. Giáp Văn Hi p - Toán Tin 2 - K54 Ma tr n hi p bi n : ci = (ci )n×n v i ci = E (xp − mi )(xq − mi ) . pq pq p q Đ ti n lý lu ta gi gi các xác su t trên nghi m b ng nhau p(Ωi ) = 1/M, ∀i = 1, · · · , M . Các ma tr n hi p bi n như nhau cho t t c các l p, t c là c1 = · · · = cM = c Theo tiêu chu n nh n d ng t ng quát, x đư c phân vào l p Ωi n u p(x/Ωi ) > p(x/Ωj ), ∀i = j, j = 1, · · · , M p(x/Ωi ) p(x/Ωi ) (∗) ⇔ > 1 ⇔ ln >0 p(x/Ωj ) p(x/Ωj ) Đ t dij (x) = ln p(x/Ωji ) p(x/Ω ) 1 1 = − (x − mi ) c−1 (x − mi ) + (x − mj ) c−1 (x − mj ) 2 2 1 1 1 1 = − x c−1 x + x c−1 mi + mi c−1 x − mi c−1 mi 2 2 2 2 1 −1 1 −1 1 1 + x c x − x c mj − mj c−1 x + mj c−1 mj 2 2 2 2 1 1 1 1 = x c−1 (mi −mj )− mi c−1 mi − mj c−1 mj + mj c−1 mi + mj c−1 mj 2 2 2 2 1 1 = x c−1 (mi − mj ) − (mi + mj ) c−1 mi + mj c−1 (mi + mj ) 2 2 1 1 −1 −1 c =(c ) = x c−1 (mi − mj ) − (mi + mj ) c−1 mi + (mi + mj ) c−1 mj 2 2 Hay 1 dij (x) = x c−1 (mi − mj ) − (mi + mj )c−1 (mi − mj ) 2 công th c trên là t h p tuy n tính c a các bi n b. Phát bi u ti u chu n nh n d ng D ng x đư c phân vào l p Ωi (trong trư ng h p các d ng tuân theo lu t chu n v i cùng ma trân hi p bi n cho các l p và xác su t trên nghi m b ng nhau) n u 1 dij (x) = x c−1 (mi −mj )− (mi +mj )c−1 (mi −mj ) > 0∀i = j, j = 1, · · · , M 2 Trư ng h p t n t i l p Ωk sao cho dik (x) = 0 còn dki > 0 v i m i j = k, i, j = 1, · · · , M thì h nh n d ng s đưa x vào Ωi hay Ωk tùy ý. 17
  19. Chương 2 Các hàm quy t đ nh phân l p d ng 2.1 Hàm quy t đ nh và các y u t xác đ nh hàm quy t đ nh 1. Khái ni m hàm quy t đ nh a. Đ nh nghĩa: M t hàm th c n bi n xác đ nh trong không gian Euclid Rn ch a 1 t p d ng nào đó đư c g i là hàm quy t đ nh phân l p t p d ng, nêu căn c vào d u c a nó có th xác đ nh đư c kh năng phân 1 d ng b t kỳ c a t p d ng vào l p nào đó trong s các l p đã đư c phân ho ch c a t p d ng. Khi đó, n u d = d(x) là 1 hàm quy t (đo n này không d ch đư c) là t p d ng thì phương trình d(x)=0 bi u dienj 1 (cái gì đó ý cũng ko bit luôn :-)) )trong không gian Rn đư c goi là siêu m t quy t đ nh phân l p d ng. (Trư ng h p đ c bi t). Khi n d(x) = ωj xj + ωn+1 j =1 hàm tuy n tính thì d(x) = 0 là siêu ph ng trong Rn b. M t s ví d Ví d 2.1. Gi s Ω là t p d ng đư c mã hóa vào R2 g m 2 l p Ω1 = các c u th bóng đá Ω2 = các v n đ ng viên đua ng a b i b 2 d u hi u đ c trưng x1 = chi u cao và x2 = cân n ng. 18
  20. Giáp Văn Hi p - Toán Tin 2 - K54 Ω1 ⊂ claster S1 -hình tròn t p I1 (a1 , b1 ), bán kinh R1 . Ω2 ⊂ claster S2 -hình tròn t p I2 (a2 , b2 ), bán kinh R2 . Gi thi t I1 I2 > R2 + R2 , đư ng th ng trung tr c c a đo n th ng I1 I2 có phương trình: 1 d12 (x) = (a2 − a1 )x1 + (b2 − b1 )x2 − (a2 − a2 + b2 − b2 ) = 0 22 1 2 1 N u trung đi m I n m ngoài 2 đư ng tròn thì d12 (x) là hàm quy tđ nh phân l p 2 l p d ng Ω1 , Ω2 . d12 (x) chia m t ph ng ra làm 2 n a d+ = x ∈ R2 |d12 (x) > 0 12 d− = x ∈ R2 |d12 (x) < 0 12 x thu c Ω1 n u d12 (x) < 0, x thu c Ω2 n u d12 (x) > 0. d12 (x) = 0 là đư ng quy t đ nh tách l p Ω1 ra kh i Ω2 . Ví d 2.2. L y l i Ví d chương I, trong trư ng h p ppc và t p d ng Ω đư c phân ho ch thành M l p v i các xác su t tiên nghi m và ma tr n hi p bi n như nhau cho t ng l p thì c n t i 2 CM hàm quy t đ nh l p t p d ng 1 dij (x) = x c−1 (mi − mj ) − (mi + mj )c−1 (mi − mj ), ∀1 ≤ i < j ≤ M 2 2 ⇒ CM si u ph ng quy t đ nh đư c cho b i các phương trình dij (x) = 0 cho phép tách l p Ωi ra kh i l p Ωj . 19
ADSENSE

CÓ THỂ BẠN MUỐN DOWNLOAD

 

Đồng bộ tài khoản
2=>2