Đang tải... (xem toàn văn)
Bạn đã gặp khó khăn về việc so sánh nguyên lý ,đặc điểm và Hiệu suất của hai phương pháp mã hóa shannon và Huffman thì bài viết này sẽ giúp bạn giải quyết những thắc mắc này.Cảm ơn bạn đã xem và tải liệu cũng mình thường xuyên dõi trang để nhận được nhiều tài liệu mới nhất nhé
Nguyễn Minh Tiến Hoàng Quốc Khánh GROUP Nguyễn Văn Phụng Đặng Văn Tuyền Võ Huỳnh Tấn Đạt SO SÁNH PHƯƠNG PHÁP MÃ HÓA SHANNON VỚI PHƯƠNG PHÁP HUFFMAN 01 NHẮC LẠI 02 03 ÔN TẬP SO SÁNH Nhắc lại Mã hóa gì: • Mã hóa việc biến đổi thơng tin nhằm mục đích phải đảm bảo tính xác, an tồn, tăng hiệu suất đường truyền Mã hóa nguồn gì: • Là phương thức mã hóa tín hiệu thành bit thơng tin để truyền đi, đồng thời để làm tối đa dung lượng truyền tin Mã hóa tối ưu nào: • Mã hóa tối ưu ghép mã hóa mà kết mã có chiều dài trung bình nhỏ tất ghép mã hóa cho nguồn • Bộ mã phép mã hóa tối ưu cho nguồn gọi mã tối ưu SO SÁNH Nguyên Lý Đặc Điểm Hiệu Suất Let’s Go NGUYÊN LÝ SH B1: xếp lượng phân bố theo xác suất giảm dần Khơng tính tổng qt giả sử p1 ≥ p2 ≥ p3 ≥ ≥ pk AN NO B2: gán q1= qi= = 1,2,…,k B3: đổi qi sang số 2, (biểu diễn qi số 2) chuỗi nhị phân B4: từ mã gán cho xi li, kí hiệu lấy từ vị trí sau dấu phẩy chuỗi nhị phân tương ứng qi với: Li= -log2Pi, [-log2 Pi] nguyên Li = [-log2Pi] +1 [-log2 Pi] không nguyên D=2 N M F UF H AN B1: Sắp xếp lượng phân bố theo xác suất giảm dần.Khơng tính tổng qt giả sử p1 ≥ p2 ≥ p3 ≥ ≥ pk B2: Gán tới bit cuối wK-1 đến bit cuối Wk ngược lại Tuy nhiên qui ước thực theo chiều thứ B3: Kết hợp PK PK-1 để tạo thành tập xác suất P1 ,….,PK-2,Pk-1+Pk B4: Lặp lại bước cho tập NGUYÊN LÝ CHO NGUỒN RỜI RẠC D>2 Mã hóa nguồn theo Shannon Mã hóa nguồn theo Huffman *Chú ý: bố Huffman D>2.suất B1: xếp lượng phân theo xác B1: xếp lượng phân bố theo xác suất giảm giảm dần Nếu Khơng dần.Khơng tính K ≤ D thìtính Chotổng nguồnquát X= { x1, x2,x3,…,xk } với phân bố tương ứng tổng quát • giả sử p1 ≥ p2 ≥ p3 ≥ ≥ pk giả sử p1 ≥ p2 ≥ p3 ≥ ≥ pk P={ p1,p2,p3,…,pk } B2: gán q• 1= B2:Gán 0,1,…,D-1 tới bit cuối D từ mã Giả sử K>D,tồn n cho :D+(n-1)(m-1) 2 Example 1: X={X1,X2,X3,X4,X5,X6} P={0.3;0.25;0.2;0.12;0.08;0.05} Mã hóa X theo Shannon số D=3 tính hiệu suất lập mã X P qi Giá Trị Cơ số qi li Wi 0.3 0,00 00 0.25 0.3 0,02200 02 0.2 0.55 0,11221 11 0.12 0.75 0,2020 20 0.08 0.87 0,21211 212 0.05 0.95 0,22112 221 VÍ DỤ CHO NGUỒN RỜI RẠC VỚI D>2 Vậy Wi = { 00, 02, 11, 20, 212, 221 } pili = 0,3.2 + 0,25.2 + 0,2.2 + 0,12.2 + 0,08.3 + 0,05.3 =2,13 (bits) H(X)= pilog3pi=-0.3.log3(0,3) – 0,25.log3(0.25) – 0,2.log3(0,2) – 0,12.log3 (0.12) – 0,08.log3 (0,08) – 0,05.log3 (0,05) =1,49 (bits) h = =0.70 VÍ DỤ CHO NGUỒN RỜI RẠC VỚI D>2 Example 2: X={X1,X2,X3,X4,X5,X6} P={0.3;0.25;0.2;0.12;0.08;0.05} Mã hóa X theo Huffman số D=3 tính hiệu suất lập mã X Pi Lần Lần Wi li 0.3 0.3 0.45 1 0.25 0.25 0.3 0.2 0.2 0.25 00 0.12 0.13 02 0.08 0.12 010 0.05 011 0.0 VÍ DỤ CHO NGUỒN RỜI RẠC VỚI D>2 Vậy Wi = { 1, 2, 00, 02, 010, 011 } pili = 0,3.1+0,25.1+0,2.2+0,12.2+0,08.3+0,05.3 =1,58 (bits) H(X)= pilog3pi=-0.3.log3(0,3) – 0,25.log3(0.25) – 0,2.log3(0,2) – 0,12.log3 (0.12) – 0,08.log3 (0,08) – 0,05.log3 (0,05) =1,49 (bít h = = 0.94 Nhận xét: Độ dài trung bình từ mã Shannon lớn độ dài trung bình từ mã Huffman Hiệu suất lập mã Shannon nhỏ hiệu suất lập mã Huffman BÀI TẬP ÁP DỤNG: Bài 1: Cho X={X1,X2,X3,X4,X5,X6,X7} P={0.25;0.25;0.125;0.125;0.125;0.0625;0.0625} Mã hóa X theo Huffman số D=3 tính hiệu suất lập mã BÀI GIẢI BÀI TẬP ÁP DỤNG: Bảng mã X Pi Lần Lần Wi li 0.25 0.25 0.5 2 0.25 0.25 0.25 00 0.125 0.25 0.25 01 0.125 0.125 02 0.125 0.125 10 0.0625 11 0.0625 12 BÀI TẬP ÁP DỤNG: Vậy từ mã Wi={2;00;01;02;10;11;12} pili = 0,25.1+0,25.2+0,125.2+0,125.2+0,125.2+0,0625.2+0,0625.2 =1,75 H(X)= pilog3pi=-0.25.log3(0,25) – 0,25.log3(0.25) – 0,125.log3(0,125) – 0,125.log3 (0.125) – 0,125.log3 (0,125) – 0,0625.log3 (0,0625) 0,0625.log3 (0,0625) =1,656 h==0.9462=94.62% BÀI TẬP ÁP DỤNG: Bài 2: Hãy mã hóa nguồn sau phương pháp Shannon với số D=3 tính hiệu suất: S={a1,a2,a3,a4,a5,a6,a7} với xác suất là: 0.25;0.25;0.125;0.125;0.125;0.625;0.625 BÀI GIẢI BÀI TẬP ÁP DỤNG: Bảng mã Tin Xác suất pi qi= 0.25 0.25 li =[-log3pi] Từ mã wi 0.000 00 0.25 0.0220 02 0.125 0.5 0.111111… 11 0.125 0.625 0.121212… 12 0.75 0.202020… 20 0.875 0.212121… 212 0.9375 0.2210221… 221 0.125 0.0625 0.0625 Biễu diễn tam phân BÀI TẬP ÁP DỤNG: pili = 0,25.2+0,25.2+0,125.2+0,125.2+0,125.2+0,0625.3+0,0625.3 =2.125 H(X)= pilog3pi=-0.25.log3(0,25) – 0,25.log3(0.25) – 0,125.log3(0,125) – 0,125.log3 (0.125) – 0,125.log3 (0,125) – 0,0625.log3 (0,0625) 0,0625.log3 (0,0625) =1,656 h==0.77929=77.929 % THANK YOU Any Questions? ... nguyên Li = [-logDPi] +1 [-logDPi] không nguyên ĐẶC ĐIỂM Huffman Shannon -Mã Huffman mã có tính prefix -Mã Shannon mã có tính prefix -Mã Huffman có từ mã tương ứng với lớp tin có xác suất xuất... (bít h = = 0.94 Nhận xét: Độ dài trung bình từ mã Shannon lớn độ dài trung bình từ mã Huffman Hiệu suất lập mã Shannon nhỏ hiệu suất lập mã Huffman BÀI TẬP ÁP DỤNG: Bài 1: Cho X={X1,X2,X3,X4,X5,X6,X7}... -Kết tạo mã hóa Huffman ln tối ưu -Mã Shannon có từ mã tương ứng với lớp tin có xác suất xuất lớn ngắn, từ mã ứng với lớp tin có xác suất xuất dài -Các mã tạo phương pháp mã hóa Shannon khơng tối