bài giảng về lý thuyết thông tin

Slide bài giảng môn môn học lý thuyết thông tin

Ngày tải lên : 13/09/2012, 10:52

... (tt) () () xx 1 x 1 y 11 ∑∑ == === N n N n n N N E N () ( ) () ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ −=−= ∑ = 2 1 2 2 y xx 1 yy N n n N N N EE δ () ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ −= ∑ = 2 1 xx 1 N N E N n n () () ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎝ ⎛ ⎥ ⎦ ⎤ ⎢ ⎣ ⎡ −= ∑ = 2 1 2 xx 1 N n n E N () () ( ) N N N E N N n n 2 x 2 x 2 1 2 2 1 xx 1 δ δ ==−= ∑ = Trang 17 Thông tin  Thông tin là một khái niệm trừu tượng, phi vật chất và rất khó được định nghĩa chính xác. Hai định nghĩa về thông tin.  Thông tin là sự cảm hiểu của con người về thế giới ... học  Bài 4 Lượng tin  Bài 5 Entropy  Bài 6 Mã hiệu  Bài 7 Mã hóa tối ưu nguồn rời rạc không nhớ  Bài 8 Mã hóa nguồn phổ quát  Bài 9 Kênh rời rạc không nhớ, lượng tin tương hỗ Trang 29 Bài ... 1948) Trang 12 Những ứng dụng của LT thông tin  Cuộc cách mạng thông tin đang xảy ra, sự phát triển mạnh mẽ của các phương tiện mới về truyền thông, lưu trữ thông tin làm thay đổi ngày càng sâu...

316
3.2K
43

Slide bài giảng môn môn học lý thuyết thông tin - Giới thiệu

Ngày tải lên : 29/09/2013, 22:20

9
647
5

Slide bài giảng môn môn học lý thuyết thông tin - Một số khái niệm cơ bản

Ngày tải lên : 29/09/2013, 22:20

13
843
0

BÀI GIẢNG LÝ THUYẾT THÔNG TIN

Ngày tải lên : 25/11/2013, 13:31

227
1.1K
0

Tài liệu Bài giảng hệ thống viễn thông 2 - Chương 1: Lý thuyết thông tin pptx

Ngày tải lên : 19/01/2014, 08:20

27
1K
5

Tài liệu Bài giảng môn học lý thuyết thông tin ppt

Ngày tải lên : 25/01/2014, 06:24

311
857
8

Bài giảng Lý thuyết thông tin trong các hệ mật - Chương 2 Các hệ mật khóa bí mật- Hoàng Thu Phương

Ngày tải lên : 16/06/2014, 14:43

119
1.2K
13

Bài giảng Lý thuyết thông tin trong các hệ mật - Chương 1 : Nhập môn mật mã học

Ngày tải lên : 16/06/2014, 14:44

46
815
4

Bài tập nhóm môn lý thuyết thông tin

Ngày tải lên : 17/09/2012, 11:50

... suất điều kiện p(yi | xi). Tính các lượng tin tương hỗ I(x i ,y j ), các lượng tin có điều kiện I(x i ,y j ), lượng tin tương hỗ trung bình I(X,Y), lượng tin có điều kiện trung bình I(X|Y). 9. ... 7. Cho nguồn tin X. Hiện thực giải thuật mã hoá nguồn phổ quát với m=2. 8. Xây dựng chương trình cho phép nhập vào hai nguồn tin X, Y, các xác suất p(x i ) của X và ... ma trận sinh. Viết chương trình mã hoá thông báo thành từ mã. Viết chương trình phát hiện sai và sửa sai 1 bit cho một mã tuyến tính có d > 2 và rút ra thông báo tương ứng với từ mã nhận được. 12....

2
3.7K
27

Bài tập và gợi ý giải môn học Lý thuyết thông tin

Ngày tải lên : 16/11/2012, 16:39

18
10K
30

Bài giảng các lý thuyết tâm lý về dạy học đại học

Ngày tải lên : 10/04/2014, 20:40

52
8.9K
69

Giáo trình lý thuyết thông tin

Ngày tải lên : 23/08/2012, 16:23

... thuyết thông tin. Mô hình lý thuyết thông tin theo quan điểm Shannon Lý thuyết thông tin được xét ở đây theo quan điểm của Shannon. Đối tượng nghiên cứu là một hệ thống liên lạc truyền tin (communication ... trình: Lý thuyết thông tin. CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã biết về một biến ngẫu nhiên X. Tính toán các lượng tin này thông ... Hiếu. 29 Giáo trình: Lý thuyết thông tin. CHƯƠNG 1: GIỚI THIỆU 1: Mục tiêu Sau khi hoàn tất bài học này bạn có thể biết: - Đối tượng nghiên cứu, - Mô hình lý thuyết thông tin theo quan điểm...

95
1.6K
10

Lý thuyết thông tin

Ngày tải lên : 13/09/2012, 10:21

... đi m c a thông tin sộ ố ượ ể ủ ố (1). H th ng thông tin s th ng ph c t p h n m t h th ng t ng t t ng   " $         đ ng. (2). Chi phí l p đ t l n h n so v i thông tin t ng ... a h th ng thông tin sƯ ượ ể ủ ệ ố ố 1.4.1. Nh ng u đi m c a thông tin sữ ư ể ủ ố (1). Tăng đ c kh năng truy n d n d li u    '  (2). Tăng kh năng tích h p, đ ph c t p và s tin c y c ... b ng 0.   M ch l c Nyquist đ c ng d ng trong nhi u lĩnh v c thông tin s , m t thí d   $       đ c nêu ra là thông tin vô tuy n s , kênh truy n d n t nó không ch u nh h ng  ...

87
803
0

Lý thuyết thông tin

Ngày tải lên : 18/09/2012, 09:12

... sổ, mục đích của những người thiết kế là chuyển đổi thông tin thành tín hiệu sổ, chuyển đi thông qua một môi trường truyền tin, nhận thông tin tại trạm cuối và tái hiện lại tín hiệu sổ một cách ... trong bài báo “A Maththemathical Theroy of Communication” xuất bản năm 1948 tại Bell System Technical Journal - nơi đưa ra lý thuyết thông tin. Shannon đã giải thích hai khía cạnh này thông ... nhiễu). 2.4.1 Định lý mã hóa nguồn Định lý mã hóa nguồn phát biểu: “số bit yêu cầu để biểu diễn cho một nguồn tin duy nhất có thể xấp xỉ lượng tin. Xét nguồn tạo bởi các ký tự tiếng anh. Lượng tin (hoặc...

3
1.1K
10

Giáo trình: Lý thuyết thông tin 1

Ngày tải lên : 09/10/2012, 14:39

... Giáo trình: Lý thuyết thông tin. Mô hình lý thuyết thông tin theo quan điểm Shannon Lý thuyết thông tin được xét ở đây theo quan điểm của Shannon. Đối ... ta biết cụ thể thông tin về X) thì lượng tin về biến ngẫu nhiên X coi như đã biết hoàn toàn, trong trường hợp này X có một lượng tin đã biết. Nếu biết thông tin c ủa một BNN X thông qua BNN ... hóa, giải mã và bảo mật thông tin.  Lý thuyết thông tin cũng là một trong các môn học khó của ngành Công nghệ thông tin vì nó đòi hỏi người học phải có kiến thức cơ bản về toán và xác suất thống...

10
1K
9

Giáo trình: Lý thuyết thông tin 2

Ngày tải lên : 09/10/2012, 14:53

... trình: Lý thuyết thông tin. CHƯƠNG 2: ĐỘ ĐO LƯỢNG TIN Mục tiêu: trình bày các khái niệm về độ đo lượng tin chưa biết và đã biết về một biến ngẫu nhiên X. Tính toán các lượng tin này thông ... thông tin. Một vấn đề quan trọng cần lưu ý là phải đồng bộ giữa tốc độ nạp thông tin (phát tín hiệu) với tốc độ truyền tin. Nếu tốc độ nạp thông tin bằng hoặc lớn hơn so với tốc độ truyền tin ... thông tin về Y đã được biết). Trong trường hợp này, một phần lượng tin không chắc chắn của thông qua lượng tin đã biết của Y được gọi là Entropy có điều kiện. Nhận xét về độ đo lượng tin Rõ...

10
825
5

Giáo trình: Lý thuyết thông tin 3

Ngày tải lên : 09/10/2012, 14:53

... lượng tin về X khi Y xảy ra là bằng 0. Nếu Y có tương quan với X thì khi Y xảy ra ta biết hoàn toàn về Y và một phần thông tin về X. Phần thông tin đó chính là lượng tin đã biết về X nhưng ... sinh viên. a. Tìm thông tin về trạng thái học tập của sinh viên khi biết điều kiện về phương tiện đi lại của họ. b. Tìm thông tin về tình trạng học tập của sinh viên khi biết tinh thần ái hữu ... Lý thuyết thông tin. BÀI 2.4: MINH HỌA CÁC ENTROPY Mục tiêu Sau khi hoàn tất bài học này bạn có thể: - Biết được Yêu cầu của bài toán, - Biết cách xác định các phân phối ngẫu nhiên của bài...

10
767
5

Giáo trình: Lý thuyết thông tin 4

Ngày tải lên : 09/10/2012, 14:53

... Dương Văn Hiếu. 38 Giáo trình: Lý thuyết thông tin. BÀI 3.2: QUAN HỆ GIỮA MÃ TÁCH ĐƯỢC VÀ ĐỘ DÀI MÃ Mục tiêu Sau khi hoàn tất bài học này bạn có thể hiểu: - Định lý Kraft (1949), - Định nghĩa ... luận bảng mã tách được (k≥1). Bài toán 1- yêu cầu Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 33 Giáo trình: Lý thuyết thông tin. BÀI 3.3: TÍNH TỐI ƯU CỦA ĐỘ ... trình: Lý thuyết thông tin. Chú ý: ngoài bảng mã tức thời chọn được ở trên, ta còn có thể sinh được nhiều bảng mã tức thời khác. Đề nghị sinh viên đưa ra bảng mã tức thời khác. Bài tập...

10
753
4

Giáo trình: Lý thuyết thông tin 5

Ngày tải lên : 09/10/2012, 14:53

... Giáo trình: Lý thuyết thông tin. BAI 4.2: CÁC DẠNG KÊNH TRUYỀN Mục tiêu Sau khi hoàn tất bài học này bạn có thể:  Biết kênh truyền không mất tin,  Biết kênh truyền xác ... vật lý như sau: Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 45 Giáo trình: Lý thuyết thông tin. Định nghĩa dung lượng kênh truyền Dựa vào ma trận truyền tin ... Lượng thông tin truyền trên kênh: I (X/Y)= I (Y/X)= H(Y) - H(Y/X) = 0,09 (bit) Biên soạn: TS. L ê Quy ết Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 47 Giáo trình: Lý thuyết thông tin. ...

10
770
2

Giáo trình: Lý thuyết thông tin 6

Ngày tải lên : 09/10/2012, 14:54

... Phan Tấn Tài & Ks. Dương Văn Hiếu. 52 Giáo trình: Lý thuyết thông tin. Các khái niệm cơ bản của kỹ thuật truyền tin Xét sơ đồ truyền tin như sau: R Kênh Bộ tạo mã Bộ giải mã ký tự ... Thắng, ThS. Phan Tấn Tài & Ks. Dương Văn Hiếu. 57 Giáo trình: Lý thuyết thông tin. Bài tập 1 1. Cho ma trận truyền tin sau: ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎣ ⎡ 3/12/16/1 2/16/13/1 6/13/12/1 3 2 1 x x x ... Hiếu. 59 Giáo trình: Lý thuyết thông tin. Xây dựng công thức tính dung lượng kênh truyền đối xứng Do H(Y/X) không phụ thuộc vào phân phối của X => Max của I(X/Y) được quy về mã của H(Y). Hay...

10
779
3