... Phan Tấn Tài & Ks Dương Văn Hiếu 39 Giáo trình: Lý thuyết thông tin BÀI 3. 3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ Mục tiêu Sau hoàn tất học bạn có thể: - Hiểu định lý Shannon (1948), - Biết tiêu chuẩn đánh ... 0 .37 5 p(y2) = Px’ A2 = 0 .3 p(y3) = Px’ A3 = 0 .32 5 ⇒ PY’ =(0 .37 5, 0 .3, 0 .32 5) Tính Entropy: H(Y) = H(0 .37 5, 0 .3, 0 .32 5) = 1.58 (bit) H(Y/X=x1) = H(0.5, 0.2, 0 .3) = 1.49 (bit) H(Y/X=x2) = H(0 .3, ... 0.4 0 .3 x3 x4 0.2 0.1 Biên soạn: TS L ê Quy ết Thắng, ThS Phan Tấn Tài & Ks Dương Văn Hiếu 43 Giáo trình: Lý thuyết thông tin Cho biến ngẫu nhiên Y có phân phối sau: Y P y1 y2 0 .3 0.2 y3 y4 y5...