Các khái niệm căn bản về mạng máy tính - Phần 2

Chia sẻ: Nguyen Uyen | Ngày: | Loại File: PDF | Số trang:5

Thêm vào BST

Báo xấu

85
lượt xem 8
download

Download Vui lòng tải xuống để xem tài liệu đầy đủ

Tham khảo tài liệu 'các khái niệm căn bản về mạng máy tính - phần 2', công nghệ thông tin, quản trị mạng phục vụ nhu cầu học tập, nghiên cứu và làm việc hiệu quả

Chủ đề:

Bình luận(0) Đăng nhập để gửi bình luận!

Lưu

Nội dung Text: Các khái niệm căn bản về mạng máy tính - Phần 2

7/2/2010 Chương 1: Các khái ni m căn b n 1.2 Đo thông tin 2 7/2/2010 Huỳnh Văn Kha ð không ch c ch n có ñi u ki n và là hai bi n ng u nhiên • ð không ch c ch n c a v i ñ i u ki n • ð không ch c ch n c a v i ñi u ki n là trung bình theo tr ng lư ng c a , nghĩa là: 1
7/2/2010 3 7/2/2010 Huỳnh Văn Kha ð nh lý 1.4 Ch ng minh: nên ta có ñi u c n ch ng minh Do 4 7/2/2010 Huỳnh Văn Kha ð nh lý 1.5 ñ cl p D u b ng x y ra khi và ch khi và Ch ng minh: Theo ñ nh lý 1.4 thì: Theo ñ nh lý 1.3 thì: ñ cl p D u b ng x y ra khi và ch khi , T hai ñi u này ta suy ra ñi u c n ch ng minh 2
7/2/2010 5 7/2/2010 Huỳnh Văn Kha ðo thông tin • Có 2 đ ng xu, m t đ ng cân b ng, m t đ ng có 2 m t đ u x p. • Ch n ng u nhiên m t đ ng, tung hai l n. • N u bi t t ng s m t x p c a hai l n tung thì ta bi t gì v đ ng xu đư c ch n? • N u s m t x p ít hơn 2 thì đ ng xu đư c ch n là đ ng xu cân b ng ngư c l i thì không ch c ch n • K t qu m t s ki n có th cho ta bi t m t s thông tin v các s ki n khác 6 7/2/2010 Huỳnh Văn Kha ðo thông tin • Bi t trư c k t qu bi n ng u nhiên Y, đ i lư ng nào s đo lư ng thông tin có th bi t đư c c a bi n ng u nhiên X? • G i X là bi n ng u nhiên nh n giá tr 0 n u đ ng xu cân b ng đư c ch n, nh n giá 1 n u đ ng xu còn l i đư c ch n, Y là t ng s m t x p 0 0 1/4 Y 1 1/2 X 1/4 1 1 2 3
7/2/2010 7 7/2/2010 Huỳnh Văn Kha ðo thông tin • Khi ch n ng u nhiên 1 đ ng xu thì đ không ch c ch n c n xác đ nh là H(X) • Sau khi bi t đư c t ng s m t x p thì đ không ch c ch n c n xác đ nh ch còn là H(X|Y) • Do đó ngư i ta đ nh nghĩa lư ng thông tin thu đư c v bi n X khi bi t Y là: I(X|Y) = H(X) – H(X|Y) • I(X|Y) đư c s d ng nhi u trong vi c truy n t i thông tin qua kênh b nhi u, mà ta s xét k trong chương 3 8 7/2/2010 Huỳnh Văn Kha M t s tính ch t c a • Do ñ nh lý 1.5, ta th y , d u b ng x y ra khi và ch khi , ñ c l p • Theo ñ nh lý 1.4: Do ñó: Nhưng: V y: 4
7/2/2010 9 7/2/2010 Huỳnh Văn Kha • Tính I(X|Y) trong ví d trên? • Tính I(Y|X) trong ví d trên? • Chú ý: N u ta bi t trư c các xác xu t thì nên tính theo công th c 5