... Hiếu.
3
Giáo trình: Lýthuyếtthông tin.
Mô hình lýthuyếtthông tin theo quan điểm Shannon
Lý thuyếtthông tin được xét ở đây theo quan điểm của Shannon. Đối tượng nghiên cứu là một hệ
thống ... Văn Hiếu.
28
Giáo trình: Lýthuyếtthông tin.
• Biết các khái niệm về kênh truyền tin rời rạc không nhớ, dung lượng kênh truyền và phân
lớp kênh truyền. Hiểu định lý về dung lượng kênh truyền, ... trên kênh truyền 47
7. Định nghĩa dung lượng kênh truyền 48
BAI 4.2: CÁC DẠNG KÊNH TRUYỀN 49
1. Mục tiêu 49
2. Hiểu định lý về dung lượng kênh truyền,Kênh truyền không mất tin 49
3. Kênh...
... Giáo trình: Lýthuyếtthông tin.
Mô hình lýthuyếtthông tin theo quan điểm Shannon
Lý thuyếtthông tin được xét ở đây theo quan điểm của Shannon. Đối tượng nghiên cứu là một hệ
thống ... Văn Hiếu.
10
Giáo trình: Lýthuyếtthông tin.
• Biết các khái niệm về kênh truyền tin rời rạc không nhớ, dung lượng kênh truyền và phân
lớp kênh truyền. Hiểu định lý về dung lượng kênh truyền, ... và xác suất
thống kê (nếu thiếu).
• Học và nghiên cứu kỹ từng chương theo trình tự các chương được trình bày trong giáo
trình này. Trong từng chương, học các bài theo thứ tự được trình bày,...
... Giáo trình: Lýthuyếtthông tin.
CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN
Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã ... tin của kênh, thì
cần phải giảm tốc độ nạp thông tin sao cho nhỏ hơn tốc độ truyền tin.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
14
Giáo trình: Lýthuyết ... Hiếu.
20
Giáo trình: Lýthuyếtthông tin.
BÀI 2.2: CÁC TÍNH CHẤT CỦA ENTROPY
Mục tiêu:
Sau khi hoàn tất bài học này bạn có thể:
- Hiểu các tính chất cơ bản của Entropy,
- Hiểu định lý cực...
... vào các định lý 1,2 và 3 cùng với các kết quả
đã tính được để so sánh và minh họa.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
27
Giáo trình: Lýthuyếtthông ... Giáo trình: Lýthuyếtthông tin.
Phân phối của Y khi nhận được đồng tiền có 2 mặt đều có đầu hình (Y/X=2) ... ta có:
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
28
Giáo trình: Lýthuyếtthông tin.
3. Những người dân của một làng được chia làm 2 nhóm A và B. Một nửa...
... & Ks. Dương Văn Hiếu.
33
Giáo trình: Lýthuyếtthông tin.
BÀI 3.3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
- Hiểu định lý Shannon (1948),
- Biết được ... Ks. Dương Văn Hiếu.
38
Giáo trình: Lýthuyếtthông tin.
BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI
MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể hiểu:
- Định lý Kraft (1949),
- Định ... Giáo trình: Lýthuyếtthông tin.
Tập hợp S
4
={00, 110}
Tập hợp S
5
={01, 0, 011, 110}
Tập hợp S
6
={0,...
... Giáo trình: Lýthuyếtthông tin.
BAI 4.2: CÁC DẠNG KÊNH TRUYỀN
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
Biết kênh truyền không mất tin,
Biết kênh truyền xác ... Văn Hiếu.
49
Giáo trình: Lýthuyếtthông tin.
CHƯƠNG 4: KÊNH TRUYỀN
Mục tiêu:
Trình bày mô hình truyền tin rời rạc từng ký tự mã độc lập lẫn nhau (phù hợp với đặc điểm
của kênh). Mô hình ... kênh truyền xác định,
Biết kênh truyền không nhiễu,
Biết kênh truyền không sử dụng được,
Hiểu kênh truyền đối xứng,
Hiểu định lý về dung lượng kênh truyền,Kênh truyền không mất tin
Mô...
... ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
60
Giáo trình: Lýthuyếtthông tin.
1 – H(β,1-β)
Định lý về dung lượng kênh truyền
Giả sử ma trạn A có dạng vuông và có ma trận nghịch ... liệt kê y
3
vào tập hợp B
2
tương ứng với x
2
.
=> B
2
={y
3
}.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
56
Giáo trình: Lýthuyếtthông tin.
- Quá trình ... Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
59
Giáo trình: Lýthuyếtthông tin.
Xây dựng công thức tính dung lượng kênh truyền đối xứng
Do H(Y/X) không phụ thuộc vào phân phối...
... Văn Hiếu.
70
Giáo trình: Lýthuyếtthông tin.
Ví dụ tìm m nhỏ nhất từ n và e
Giả sử biết trước n=7 và e=1. Tìm số bit kiểm tra tối thiểu cần thiết của bộ mã chẵn lẻ.
Theo định lý điều kiện ... vào đinh lý Điều kiện cần (Cận Hamming) và Điều kiện đủ
(ĐK Varshamov-Gilbert-Sacks).
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
68
Giáo trình: Lýthuyết ...
61
Giáo trình: Lýthuyếtthông tin.
-
Biết tính chất cơ bản của phương pháp kiểm tra chẵn lẻ,
-
Hiểu và vận dụng tốt phương pháp sinh mã kiểm tra chẵn lẻ,
-
Hiểu và vận dụng tốt Định lý...
... Giáo trình: Lýthuyếtthông tin.
BÀI 5.7: THANH GHI LÙI TỪNG BƯỚC
Mục tiêu
Sau khi hoàn tất bài học ... chẵn lẻ.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
79
Giáo trình: Lýthuyếtthông tin.
Ví dụ minh họa lược đồ sửa lỗi 3 bit
Lược đồ sửa lỗi:
Bước 1: Lập bảng ... có thể:
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
76
Giáo trình: Lýthuyếtthông tin.
Lược đồ sửa lỗi theo các hiệp hợp
Bước 1:
Lập bảng các hiệp hợp ứng...
...
83
Giáo trình: Lýthuyếtthông tin.
Bài 5.10: PHƯƠNG PHÁP SINH MÃ XOAY VÒNG
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
-
Hiểu các phương pháp sinh mã vòng,
-
Biết bảng liệt kê một ... a3 = 0.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
89
Giáo trình: Lýthuyếtthông tin.
Thủ tục sinh thanh ghi lùi từng bước
Để sinh thanh ghi lùi từng bước ... quát.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
87
Giáo trình: Lýthuyếtthông tin.
BÀI 5.9: ĐA THỨC ĐẶC TRƯNG CỦA THANH GHI
Mục tiêu
Sau khi hoàn tất...
... Giáo trình: Lýthuyếtthông tin.
Câu 2: Phân lớp các giá trị của Y về các lớp B
0
, B
1
, B
2
, và B
3
... sơ đồ.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
93
Giáo trình: Lýthuyếtthông tin.
TÀI LIỆU THAM KHẢO
12.
G.J.ChaiTin, Algorithmic Information Theory, ...
http://www2.rad.com/networks/1994/err_con/hamming.htm.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
95
Giáo trình: Lýthuyếtthông tin.
BÀI TẬP TỔNG HỢP
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:...