1 lý thuyết thông tin

Tài liệu Bài giảng hệ thống viễn thông 2 - Chương 1: Lý thuyết thông tin pptx

... Pi 0,0000 0, 010 1 0 ,10 01 0 ,11 00 0 ,11 011 0 ,11 1 01 0 ,11 111 10 ni Từ mã 3 4 00 010 10 0 11 00 11 01 111 01 111 111 0 + Pi tính theo bước 2: i = 1 P1 = p0 = i = 2→ P2 = p1 = 0,34 i =3→ P3 = p1 + p2 = 0,57 ... =1; G(

27
1,024
5

Tài liệu Chương 1: Lý thuyết thông tin trong các hệ mật pdf

Danh mục: Cao đẳng - Đại học

...  1. 1 Một số khái niệm mật mã 1. 2 Sơ đồ khối đơn giản HT thông tin số 1. 3 Thuật toán độ phức tạp 1. 3 .1 Khái niệm thuật toán  1. 3.2 Độ phức tạp thuật toán   1. 4 Độ mật hoàn thiện      1. 4 .1 ... Hoàng Thu Phương - 18 1. 4 Độ mật hoàn thiện  1. 4 .1 Quan điểm độ an toàn hệ mật  1. 4.2 Nhắc lại số lí thuyết xác suất  1. 4.3 Độ mật hoàn thiện Hoàng Thu Phương - 19  1. 4 .1  Quan điểm độ an ... Thu Phương - 29 1. 5 Entropy  1. 5 .1 Entropy  1. 5.2 Một số tính chất entropy Hoàng Thu Phương - 30  1. 5 .1 Entropy  Entropy khái niệm lí thuyết thông tin Shannon đưa vào năm 19 48  Có thể coi...

42
1,134
1

BÀI GIẢNG HỆ THỐNG VIỄN THÔNG 2 - CHƯƠNG 1 LÝ THUYẾT THÔNG TIN

Danh mục: Cao đẳng - Đại học

... Pi 0,0000 0, 010 1 0 ,10 01 0 ,11 00 0 ,11 011 0 ,11 1 01 0 ,11 111 10 ni Từ mã 3 4 00 010 10 0 11 00 11 01 111 01 111 111 0 + Pi tính theo bước 2: i = 1 P1 = p0 = i = 2→ P2 = p1 = 0,34 i =3→ P3 = p1 + p2 = 0,57 ... =1; G(

108
352
0

Giáo trình: Lý thuyết thông tin 1

Danh mục: Cao đẳng - Đại học

... Hiếu Giáo trình: Lý thuyết thông tin GIỚI THIỆU TỔNG QUAN GIÁO TRÌNH LÝ THUYẾT THÔNG TIN MỤC ĐÍCH Giáo trình cung cấp cho người đọc khối kiến thức lý thuyết thông tin như: Độ lượng tin (Measure of ... Hiếu Giáo trình: Lý thuyết thông tin Mô hình lý thuyết thông tin theo quan điểm Shannon Lý thuyết thông tin xét theo quan điểm Shannon Đối tượng nghiên cứu hệ thống liên lạc truyền tin (communication ... trình: Lý thuyết thông tin CHƯƠNG 1: GIỚI THIỆU 1: Mục tiêu Sau hoàn tất học bạn biết: - Đối tượng nghiên cứu, - Mô hình lý thuyết thông tin theo quan điểm Shannon, - Các khái niệm Lượng tin biết...

10
1,001
9

Đề thi môn Lý Thuyết Thông Tin - 1

Danh mục: Cao đẳng - Đại học

... (A) 11 1 010 0 (B) 11 0 011 0 (C) 011 010 0 (D) 011 0 011 (E) 11 0 010 0 Câu 30 Cho biết thông báo m = 010 1 mã hoá thành từ mã kết sau (A) 10 110 11 (B) 00 010 11 (C) 0 011 011 (D) 0 011 0 01 (E) 10 110 01 Câu 31 Cho ... 21 Cho biết từ mã w = 10 110 10 giải mã thành thông báo sau (A) 011 1 (B) 010 1 (C) 11 01 (D) 10 11 (E) 10 01 Câu 22 Cho biết từ mã w = 010 010 1 giải mã thành thông báo sau (A) 11 01 (B) 010 1 (C) 11 10 ... 0 0  0  1 0 0 1 1 0  1  1 Câu 15 Dùng G để mã hoá thông báo m = 011 0 thành từ mã kết sau (A) 011 10 01 (B) 010 110 1 (C) 010 10 01 (D) 011 0 011 (E) 11 010 01 Câu 16 Cho biết bit c1, c2, c3,...

4
2,096
75

Bài giảng Lý thuyết thông tin trong các hệ mật - Chương 1 : Nhập môn mật mã học

Danh mục: Kỹ thuật lập trình

... (x1, x2, x3) = (10 1, 010 , 11 1); K = (K1, K2, K3) = ( 010 , 10 0, 11 0) Khi phép mã hoá: y = eK(x) = (10 1  010 , 010  10 0, 11 1  11 0 ) = (11 1, 11 0, 0 01) phép giải mã: x= dK(y) = (11 1  010 , 11 0  10 0, ... 0 01  11 0) = (10 1, 010 , 11 1) Hoàng Thu Phương - Khoa ATTT 33 1. 5 Entropy  1. 5 .1 Entropy  1. 5.2 Một số tính chất entropy Hoàng Thu Phương - Khoa ATTT 34 1. 5 .1 Entropy Entropy khái niệm lí thuyết ...  1. 1 Một số khái niệm mật mã  1. 2 Sơ đồ khối đơn giản HT thông tin số  1. 3 Thuật toán độ phức tạp 1. 3 .1 Khái niệm thuật toán 1. 3.2 Độ phức tạp thuật toán  1. 4 Độ mật hoàn thiện 1. 4 .1 Quan...

46
815
4

Giáo trình: Lý thuyết thông tin part 1 pdf

Danh mục: Cao đẳng - Đại học

... Hiếu Giáo trình: Lý thuyết thông tin GIỚI THIỆU TỔNG QUAN GIÁO TRÌNH LÝ THUYẾT THÔNG TIN MỤC ĐÍCH Giáo trình cung cấp cho người đọc khối kiến thức lý thuyết thông tin như: Độ lượng tin (Measure of ... Hiếu Giáo trình: Lý thuyết thông tin Mô hình lý thuyết thông tin theo quan điểm Shannon Lý thuyết thông tin xét theo quan điểm Shannon Đối tượng nghiên cứu hệ thống liên lạc truyền tin (communication ... trình: Lý thuyết thông tin CHƯƠNG 1: GIỚI THIỆU 1: Mục tiêu Sau hoàn tất học bạn biết: - Đối tượng nghiên cứu, - Mô hình lý thuyết thông tin theo quan điểm Shannon, - Các khái niệm Lượng tin biết...

10
472
0

Giáo trình lý thuyết thông tin 1 potx

Danh mục: Cao đẳng - Đại học

... sở lý thuyết truyền tin ) phận lý thuyết thông tin chung – Nó phần áp dụng Lý thuyết thông tin vào kỹ thuật thông tin liên lạc Trong quan hệ Lý thuyết thông tin chung với ngành khoa học khác ... qua kênh truyền tin có nhiễu định lý mã hoá Những công trình tảng vững lý thuyết thông tin Ngày nay, lý thuyết thông tin phát triển theo hai hướng chủ yếu sau: Lý thuyết thông tin toán học: Xây ... Xibecnetic; lý thuyết hệ thống; lý thuyết kỹ thuật thông tin liên lạc… đạt nhiều kết Tuy nhiều vấn đề cần giải giải hoàn chỉnh Giáo trình “ Lý thuyết thông tin (còn gọi “Cơ sở lý thuyết truyền tin )...

40
1,174
19

LÝ THUYẾT THÔNG TIN - CÁC TÍNH CHẤT CỦA ENTROPY - KS. DƯƠNG VĂN HIẾU - 1 pps

Danh mục: Cao đẳng - Đại học

... < 1/ 4 (xác suất nhiễu cho trước kênh truyền) Sơ đồ truyền tin: Bit truyền Tuyền lặp lần 000 000 000 000 000 000 000 000 11 1 11 1 11 1 11 1 11 1 11 1 11 1 11 1 Nhận bit 000 0 01 010 10 0 10 1 011 11 0 11 1 ... Khối tin ban đầu : 010 1 010 1 Khối ký hiệu mã đầu truyền (lặp lần): 00 011 100 011 100 011 100 011 1 Khối ký hiệu mã đầu nhận : 0 011 1 010 011 1 011 0 010 0 011 1 Khối tin nhận cuối : 010 110 01 (sai bit so với khối tin ... 010 10 0 10 1 011 11 0 11 1 000 0 01 010 10 0 011 11 0 11 1 11 1 Giải mã 0 0 1 1 0 0 1 1 Thật vậy: Giả sử Xi xác định giá trị hay sai bit thứ i nhận cuối kênh truyền với Xi =1 bit thứ i nhận sai Xi =0 bit...

16
943
16

LÝ THUYẾT THÔNG TIN bất cân XỨNG (1)

Danh mục: Tài chính doanh nghiệp

... nhiều thông tin phát tín hiệu đến bên thông tin cách trung thực tin cậy Vậy, làm mà cá nhân có thông tin tốt thị trường truyền, phát tín hiệu thông tin cách đáng tin cậy cho cá nhân thông tin hơm, ... giao dịch có nhiều thông tin đối tượng giao dịch bên kia, người có ưu thông tin cung cấp thông tin không trung thực đối tượng giao dịch cho bên ưu thông tin Kết là, bên ưu thông tin đồng ý hoàn ... - Thông tin bất cân xứng xảy bên đối tác nắm giữ thông tin bên khác đích thực mức độ thông tin mức đó.” (Nguyễn Trọng Hoài, 2006) - Thông tin không đối xứng, hay gọi thông tin bất cân...

17
811
3

Lý thuyết thông tin k55 đề 1

Danh mục: Kỹ thuật lập trình

...

1
249
1

Giáo trình lý thuyết thông tin

Danh mục: Kỹ thuật lập trình

... < 1/ 4 (xác suất nhiễu cho trước kênh truyền) Sơ đồ truyền tin: Bit truyền Tuyền lặp lần 000 000 000 000 000 000 000 000 11 1 11 1 11 1 11 1 11 1 11 1 11 1 11 1 Nhận bit 000 0 01 010 10 0 10 1 011 11 0 11 1 ... Khối tin ban đầu : 010 1 010 1 Khối ký hiệu mã đầu truyền (lặp lần): 00 011 100 011 100 011 100 011 1 Khối ký hiệu mã đầu nhận : 0 011 1 010 011 1 011 0 010 0 011 1 Khối tin nhận cuối : 010 110 01 (sai bit so với khối tin ... W={ 010 , 00 01, 011 0, 11 00, 00 011 , 0 011 0, 11 110 , 10 1 011 } có phải bảng mã tách không? Áp dụng Giải thuật kiểm tra tính tách bảng mã: Bước khởi tạo bước - Tập hợp S0 ={ 010 , 00 01, 011 0, 11 00, 00 011 ,...

95
1,585
10

Lý thuyết thông tin

Danh mục: Kỹ thuật lập trình

... số ( 65 ) 10 1. 2.2 Mô hình hệ truyền tin số nói chung Hinh 1. 1: Cac phân ban cua môt hệ thông thông tin số ̀ ́ ̀ ̀ ̉ ̉ ̣ ́ Hình 1. 1 minh họa sơ đồ chức thành phần hệ thống truyền thông số Ở ... thời gian) 1. 4 Ưu, nhược điểm hệ thống thông tin số 1. 4 .1 Những ưu điểm thông tin số (1) Tăng khả truyền dẫn dư liệu (2) Tăng khả tích hợp, độ phức tạp tin cậy hệ thống điện tử số việc xử lý tín ... (ISI) ̃ ̣ 1. 2 Hệ thống thông tin số 1. 2 .1 Khái niệm thông tin số Trước hết ta cần hiểu khái niệm “digital” có nghĩa giá trị rời rạc có hàm ý tín hiệu có biến giá trị nguyên độc lập Thông tin số...

87
803
0

Slide bài giảng môn môn học lý thuyết thông tin

Danh mục: Kỹ thuật lập trình

... 5) = 1/ 18 P(Đồng xu = U) = 5/9 P(Đồng xu = N) = 4/9 P(Xúc xắc = 5) = 7/72 P(Xúc xắc = biết Đồng xu = U) = (1/ 18)/(5/9) =1/ 10 Trang 34 1/ 12 1/ 12 1/ 18 1/ 24 1/ 9 1/ 24 1/ 9 1/ 6 1/ 9 1/ 12 1/ 18 1/ 18 U N ... Lý thuyết xác suất Kỹ thuật truyền số liệu Xử lý tín hiệu số Trang Bài Giới thiệu 1. 1 Thông tin gì? 1. 2 Vai trò thông tin 1. 3 Lý thuyết thông tin nghiên cứu gì? 1. 4 Những ứng dụng lý thuyết thông ... quả: 10 10 -> số 11 Quá trình thực câu hỏi no =1 Lượng tin Xét tin x có xác suất xuất p(x), xem tin tin tập có 1/ p(x) tin với tin có xác suất xuất Nếu p(x) nhỏ 1/ p(x) lớn “lượng tin nhận tin lớn...

316
3,165
43

Bài tập nhóm môn lý thuyết thông tin

Danh mục: Kỹ thuật lập trình

... sinh 10 Tìm mã có nhiều từ mã có chiều dài từ mã 1, quãng cách Hamming d Các số d thay đổi sau: < < 32, < d < Nếu mã tuyến tính trình bày ma trận sinh ma trận kiểm tra Lưu kết vào file 11 Cho ... khả phát sai sửa sai 14 Viết chương trình mô việc truyền tin hệ thống truyền tin chống nhiễu bao gồm việc sau: • Cho phép chọn hay nhập vào ma trận sinh • Thực việc mã hoá thông báo thành từ mã ... nguồn tin X Hiện thực giải thuật mã hoá nguồn phổ quát với m=2 Xây dựng chương trình cho phép nhập vào hai nguồn tin X, Y, xác suất p(xi) X ma trận xác suất điều kiện p(yi | xi) Tính lượng tin...

2
3,724
27

Lý thuyết thông tin

Danh mục: Kỹ thuật lập trình

... với dòng bit: 11 0 11 0 10 11 1 Sơ đồ mã hóa yều cầu yêu cầu trung bình 1. 65 bits/ký tự Nếu mã hóa ký tự trực tiếp mà không xét đến xác suất, sơ đồ mã hóa là: AA 00 AB 01 BA 10 BB 11 Như cần bits/ký ... Communication” xuất năm 19 48 Bell System Technical Journal nơi đưa lý thuyết thông tin Shannon giải thích hai khía cạnh thông qua định lý mã hóa nguồn định lý mã hóa kênh truyền ông.(Định lý mã hóa nguồn ... có lẽ đạt giới hạn Shannon Dựa lý thuyết này, văn tiếng Anh nén xuống 1. 5 bits/ký tự bạn có sử dụng mã giải mã tinh vi Lý thuyết đặt tảng cho việc mã hóa thông tin (văn bản, giọng nói, video)...

3
1,072
10

Giáo trình: Lý thuyết thông tin 2

Danh mục: Kĩ thuật Viễn thông

... < 1/ 4 (xác suất nhiễu cho trước kênh truyền) Sơ đồ truyền tin: Bit truyền Tuyền lặp lần 000 000 000 000 000 000 000 000 11 1 11 1 11 1 11 1 11 1 11 1 11 1 11 1 Nhận bit 000 0 01 010 10 0 10 1 011 11 0 11 1 ... Khối tin ban đầu : 010 1 010 1 Khối ký hiệu mã đầu truyền (lặp lần): 00 011 100 011 100 011 100 011 1 Khối ký hiệu mã đầu nhận : 0 011 1 010 011 1 011 0 010 0 011 1 Khối tin nhận cuối : 010 110 01 (sai bit so với khối tin ... 010 10 0 10 1 011 11 0 11 1 000 0 01 010 10 0 011 11 0 11 1 11 1 Giải mã 0 0 1 1 0 0 1 1 Thật vậy: Giả sử Xi xác định giá trị hay sai bit thứ i nhận cuối kênh truyền với Xi =1 bit thứ i nhận sai Xi =0 bit...

10
825
5

Giáo trình: Lý thuyết thông tin 3

Danh mục: Cao đẳng - Đại học

... phối: X =1 P 0.5 Y P 0.25 0.5 0.5 0.25 Tính H(X,Y) - Lập phân phối P(X,Y) X,Y P(X,Y) X=0,Y=0 0 .12 5 X=0,Y =1 0.25 X=0,Y=2 0 .12 5 X =1, Y=0 0 .12 5 X =1, Y =1 0.25 X =1, Y=2 0 .12 5 - H(X,Y) =H(0 .12 5, 0.25, 0 .12 5, ... log pij i =1 j =1 (3) i =1 j =1 Từ (1) , (2) (3), ta có H(X,Y)≤ H(X)+H(Y) đẳng thức xảy X, Y độc lập (đpcm) Hệ quả: H(X1, …, Xn) ≤ H(X1)+…+H(Xn) H(X1,…Xn; Y1,…,Yn) ≤ H(X1,…Xn)+ H(Y1,…,Yn) Quan ... p(X =1) p(Y=0/X =1) +p(X=2)p(Y=0/X=2) = 0,5 x 0,25 +0,5 x =0 .12 5 P(Y =1) = p(X =1) p(Y =1/ X =1) +p(X=2)p(Y =1/ X=2) = 0,5 x 0,5 +0,5 x =0.250 P(Y=2) = p(X =1) p(Y=2/X =1) +p(X=2)p(Y=2/X=2) = 0,5 x 0,25 + 0,5 x 1= 0.625...

10
767
5

Giáo trình: Lý thuyết thông tin 4

Danh mục: Cao đẳng - Đại học

... W={ 010 , 00 01, 011 0, 11 00, 00 011 , 0 011 0, 11 110 , 10 1 011 } có phải bảng mã tách không? Áp dụng Giải thuật kiểm tra tính tách bảng mã: Bước khởi tạo bước - Tập hợp S0 ={ 010 , 00 01, 011 0, 11 00, 00 011 , ... tập hợp {0, 1, 2, …, D -1} thay cho bảng chữ A={a1, a2, …, aD} Ví dụ 1: Cây bậc D=2 cỡ k=3 00 Ví dụ 2: Cây bậc D=3 cỡ k=2 000 00 0 01 01 01 010 02 011 10 11 0 10 11 10 0 10 1 11 12 11 1 20 21 22 Tính ... Dương Văn Hiếu 34 Giáo trình: Lý thuyết thông tin Tập hợp S4={00, 11 0} Tập hợp S5={ 01, 0, 011 , 11 0} Tập hợp S6={0, 10 , 0 01, 11 0, 0 011 , 011 0} Tập hợp S6 chứa từ mã 011 0 nên bảng mã bảng mã tách...

10
753
4