... ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
3
Giáo trình: Lýthuyếtthông tin.
Mô hình lýthuyếtthôngtin theo quan điểm Shannon
Lý thuyếtthôngtin được xét ở đây theo quan điểm của Shannon. ... Văn Hiếu.
29
Giáo trình: Lýthuyếtthông tin.
CHƯƠNG 1: GIỚI THIỆU
1: Mục tiêu
Sau khi hoàn tất bài học này bạn có thể biết:
- Đối tượng nghiên cứu,
- Mô hình lýthuyếtthôngtin theo quan ...
44
Giáo trình: Lýthuyếtthông tin.
CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN
Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã biết về một biến ngẫu nhiên
X. Tính toán các lượng tin...
... Giáo trình: Lýthuyếtthông tin.
Mô hình lýthuyếtthôngtin theo quan điểm Shannon
Lý thuyếtthôngtin được xét ở đây theo quan điểm của Shannon. ... Văn Hiếu.
8
Giáo trình: Lýthuyếtthông tin.
CHƯƠNG 1: GIỚI THIỆU
1: Mục tiêu
Sau khi hoàn tất bài học này bạn có thể biết:
- Đối tượng nghiên cứu,
- Mô hình lýthuyếtthôngtin theo quan ... nghiên cứu của sinh viên, giáotrình
này được biên soạn cùng với các giáotrình khác thuộc chuyên ngành Công nghệ thôngtin của
Khoa Công nghệ thôngtin và Truyền thông – Đại Học Cần Thơ theo...
... Giáo trình: Lýthuyếtthông tin.
CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN
Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã biết về một biến ngẫu nhiên
X. Tính toán các lượng tin ... phải giảm tốc độ nạp thôngtin sao cho nhỏ hơn tốc độ truyền tin.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
14
Giáo trình: Lýthuyếtthông tin.
Minh họa kỹ ... thông tin.
Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thôngtin (phát tín hiệu) với tốc
độ truyền tin. Nếu tốc độ nạp thôngtin bằng hoặc lớn hơn so với tốc độ truyền tin...
... định lý 1,2 và 3 cùng với các kết quả
đã tính được để so sánh và minh họa.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
27
Giáo trình: Lýthuyếtthông tin. ... Giáo trình: Lýthuyếtthông tin.
Phân phối của Y khi nhận được đồng tiền có 2 mặt đều có đầu hình (Y/X=2)
Y/X=2 ...
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
28
Giáo trình: Lýthuyếtthông tin.
3. Những người dân của một làng được chia làm 2 nhóm A và B. Một nửa nhóm A...
... & Ks. Dương Văn Hiếu.
33
Giáo trình: Lýthuyếtthông tin.
BÀI 3.3: TÍNH TỐI ƯU CỦA ĐỘ DÀI MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
- Hiểu định lý Shannon (1948),
- Biết được ... Dương Văn Hiếu.
38
Giáo trình: Lýthuyếtthông tin.
BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI
MÃ
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể hiểu:
- Định lý Kraft (1949),
- Định ... Giáo trình: Lýthuyếtthông tin.
Tập hợp S
4
={00, 110}
Tập hợp S
5
={01, 0, 011, 110}
Tập hợp S
6
={0, 10,...
... vật lý như sau:
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
45
Giáo trình: Lýthuyếtthông tin.
Định nghĩa dung lượng kênh truyền
Dựa vào ma trận truyền tin ...
Lượng thôngtin truyền trên kênh:
I (X/Y)= I (Y/X)= H(Y) - H(Y/X) = 0,09 (bit)
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
47
Giáo trình: Lýthuyếtthông tin. ... Giáo trình: Lýthuyếtthông tin.
BAI 4.2: CÁC DẠNG KÊNH TRUYỀN
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
Biết kênh truyền không mất tin,
Biết kênh truyền...
... ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
52
Giáo trình: Lýthuyếtthông tin.
Các khái niệm cơ bản của kỹ thuật truyền tin
Xét sơ đồ truyền tin như sau:
R
Kênh
Bộ tạo mã Bộ giải mã ... L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
60
Giáo trình: Lýthuyếtthông tin.
1 – H(β,1-β)
Định lý về dung lượng kênh truyền
Giả sử ma trạn A có dạng vuông và có ... Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
57
Giáo trình: Lýthuyếtthông tin.
Bài tập 1
1.
Cho ma trận truyền tin sau:
⎥
⎥
⎥
⎦
⎤
⎢
⎢
⎢
⎣
⎡
3/12/16/1
2/16/13/1
6/13/12/1
3
2
1
x
x
x
...
... số bit thôngtin ⇒ s=2
k
(vì với k bit thôngtin thì ta chỉ có thể biểu diên tối đa
2
k
trạng thái thôngtin k bit).
+ Đoạn kiểm tra: gồm m bit dùng để kiểm tra mã sai.
+ Đoạn thông tin: gồm ... trận A)
Số bit thôngtin k = n – m = 3 => Số từ mã s=2
k
=8 từ mã.
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
66
Giáo trình: Lýthuyếtthông tin.
BÀI 5.4: ... Văn Hiếu.
70
Giáo trình: Lýthuyếtthông tin.
Ví dụ tìm m nhỏ nhất từ n và e
Giả sử biết trước n=7 và e=1. Tìm số bit kiểm tra tối thiểu cần thiết của bộ mã chẵn lẻ.
Theo định lý điều kiện...
... Giáo trình: Lýthuyếtthông tin.
BÀI 5.7: THANH GHI LÙI TỪNG BƯỚC
Mục tiêu
Sau khi hoàn tất bài học này bạn ...
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
79
Giáo trình: Lýthuyếtthông tin.
Ví dụ minh họa lược đồ sửa lỗi 3 bit
Lược đồ sửa lỗi:
Bước 1: Lập bảng sửa ...
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
76
Giáo trình: Lýthuyếtthông tin.
Lược đồ sửa lỗi theo các hiệp hợp
Bước 1:
Lập bảng các hiệp hợp ứng với các...
... Giáo trình: Lýthuyếtthông tin.
Nhận xét:
kết quả theo 3 cách sinh bộ mã xoay vòng nói trên la như nhau (cho ...
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
89
Giáo trình: Lýthuyếtthông tin.
Thủ tục sinh thanh ghi lùi từng bước
Để sinh thanh ghi lùi từng bước với số ...
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
87
Giáo trình: Lýthuyếtthông tin.
BÀI 5.9: ĐA THỨC ĐẶC TRƯNG CỦA THANH GHI
Mục tiêu
Sau khi hoàn tất bài học...
... Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
93
Giáo trình: Lýthuyếtthông tin.
TÀI LIỆU THAM KHẢO
12.
G.J.ChaiTin, Algorithmic Information Theory, CamBridge University Express-1992. ... Giáo trình: Lýthuyếtthông tin.
Câu 2: Phân lớp các giá trị của Y về các lớp B
0
, B
1
, B
2
, và B
3
dùng ...
Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu.
95
Giáo trình: Lýthuyếtthông tin.
BÀI TẬP TỔNG HỢP
Mục tiêu
Sau khi hoàn tất bài học này bạn có thể:
-
Hiểu...
... sở lýthuyết truyền tin ) chỉ là
một bộ phận của lýthuyếtthôngtin chung – Nó là phần áp dụng của Lýthuyếtthôngtin vào kỹ
thuật thôngtin liên lạc.
Trong các quan hệ của Lýthuyếtthông ... và các định lý mã
hoá. Những công trình này là nền tảng vững chắc của lýthuyếtthông tin.
Ngày nay, lýthuyếtthôngtin phát triển theo hai hướng chủ yếu sau:
Lý thuyếtthôngtin toán học: ... LỜI NÓI ĐẦU
Giáo trìnhLýthuyếtthôngtin là một giáotrình cơ sở dùng cho sinh viên chuyên ngành
Điện tử – Viễn thông và Công nghệ thôngtin của Học viện Công nghệ Bưu chính Viễn thông.
Đây...
...
7
Giáo trình: Lýthuyếtthông tin.
GIỚI THIỆU TỔNG QUAN
GIÁO TRÌNHLÝTHUYẾTTHÔNGTIN
MỤC ĐÍCH
Giáotrình này sẽ cung cấp cho người đọc những khối kiến thức cơ bản của lýthuyếtthôngtin ... tin, giáotrình sẽ trình bày các khái niệm cơ bản về thông tin,
entropy, một số công thức, tính chất, các định lý quan trọng của entropy và cách tớnh
lng tin.
ã V Sinh mó tỏch c
, giáotrình ... truyền nhận dữ liệu với quy
trình cơ bản: mã hóa, giải mã và bảo mật thông tin.
Lýthuyếtthôngtin cũng là một trong các môn học khó của ngành Công nghệ thôngtin vì nó
đòi hỏi người học...
... Giáo trình: Lýthuyếtthông tin.
Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thôngtin (phát tín hiệu) với tốc
độ truyền tin. Nếu tốc độ nạp thôngtin bằng hoặc ... thông tin.
Mô hình lýthuyếtthôngtin theo quan điểm Shannon
Lý thuyếtthôngtin được xét ở đây theo quan điểm của Shannon. Đối tượng nghiên cứu là một hệ
thống liên lạc truyền tin (communication ...
Lý thuyếtthống kê về thôngtin được xây dựng trên hai hướng khác nhau bởi hai nhà toán học
Shannon (1948) và Wiener (1949). Lýthuyếtthôngtin nghiên cứu quá trình xử lýtín hiệu như
sau:...
...
41
Giáo trình: Lýthuyếtthông tin.
GIỚI THIỆU TỔNG QUAN
GIÁO TRÌNHLÝTHUYẾTTHÔNGTIN
MỤC ĐÍCH
Giáotrình này sẽ cung cấp cho người đọc những khối kiến thức cơ bản của lýthuyếtthôngtin ... Tấn Tài & Ks. Dương Văn Hiếu.
22
Giáo trình: LýthuyếtthôngtinGiáo trình: Lýthuyếtthông tin.
Nhận tiếp 0 -> 00 -> Giải ra x
1
, còn lại 0. ... tin, giáotrình sẽ trình bày các khái niệm cơ bản về thông tin,
entropy, một số công thức, tính chất, các định lý quan trọng của entropy và cách tớnh
lng tin.
ã V Sinh mó tỏch c
, giáo trình...