Đang tải... (xem toàn văn)
Giáo trình Lỹ thuyết tín hiệu và truyền tin
Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềL i nói đ uờ ầNgay nay, các lĩnh v c khoa h c máy tính và truy n thông đãự ọ ề thâm nh p l n nhau và g n k t d n đ n làm thay đ i r t nhi u lĩnhậ ẫ ắ ế ẫ ế ổ ấ ề v c công ngh và s n xu t. Chính đi u này đã làm cho r t nhi uự ệ ả ấ ề ấ ề lĩnh v c khoa h c công ngh có nh ng đi u ki n c s đ phátự ọ ệ ữ ề ệ ơ ở ể tri n m nh m . Trong hoàn c nh đó, vi c nghiên c u tìm hi u v lýể ạ ẽ ả ệ ứ ể ề thuy t tín hi u và truy n tin ngày càng tr nên quan tr ng và c nế ệ ề ở ọ ầ đ c đ t trong m t tình hình m i.ượ ặ ộ ớV i yêu c u c n có m t giáo trình cho sinh viên ngành Đi n tớ ầ ầ ộ ệ ử - Vi n thông, giáo trình Lý thuy t tín hi u và truy n tin đã đ cễ ế ệ ề ượ biên so n. Trong quá trình biên so n không tránh kh i thi u sótạ ạ ỏ ế mong đ c gi góp ý đ giáo trình ngày càng hoàn thi n h n.ọ ả ể ệ ơThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử3 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềCh ng 1ươ Các khái ni m c b n c a lý thuy t tín hi u và truy n tinệ ơ ả ủ ế ệ ề1.1. V trí, vai trò và l ch s phát tri n ị ị ử ể1.1.1. V trí, vai trò c a lý thuy t thông tinị ủ ếTrong cu c s ng con ng i luôn có nhu c u trao đ i, giao ti pộ ố ườ ầ ổ ế v i nhau, cái mà m i ng i trao đ i v i nhau g i là thông tin. Nhớ ỗ ườ ổ ớ ọ ờ s phát tri n c a khoa h c công ngh , con ng i cũng có th nh nự ể ủ ọ ệ ườ ể ậ thông tin t đài, báo, m ng internet, truy n hình . v.v. Hay đ n gi nừ ạ ề ơ ả nh các b n sinh viên nh n thông tin t gi ng viên và ph c t p h nư ạ ậ ừ ả ứ ạ ơ n a là s liên l c, thông tin gi a các m ng máy tính v i nhau. Đi uữ ự ạ ữ ạ ớ ề đó có nghĩa là thông tin là cái gì đó đ c truy n t đ i t ng này t iượ ề ừ ố ượ ớ đ i t ng khác đ chuy n, thông báo m t đi u gì đó. Thông tin số ượ ể ể ộ ề ẽ ch có ý nghĩa khi đi u gì đó mà bên nh n ch a bi t.ỉ ề ậ ư ếNh nh ng ví d trên trình bày, thông tin có th đ c ch aư ữ ụ ể ượ ứ trong nhi u d ng nh hình nh, âm thanh, văn b n. Nh ng d ng nàyề ạ ư ả ả ữ ạ là v b c v t ch t c a thông tin. V b c có th hi u là ph n xác,ỏ ọ ậ ấ ủ ở ọ ể ể ầ thông tin là ph n h n.ầ ồM t trong nh ng ph ng ti n đ di n đ t thông tin là ngônộ ữ ươ ệ ể ễ ạ ng , thông tin ch có th đ c truy n đ t, hi u n u c hai bênữ ỉ ể ượ ề ạ ể ế ả truy n và nh n hi u đ c ng nghĩa c a nhau.ề ậ ể ượ ữ ủThông tin có th đ c truy n ho c l u tr . Môi tr ng th cể ượ ề ặ ư ữ ườ ự hi n vi c đó đ c g i là môi tr ng ch a tin hay kênh tin.ệ ệ ượ ọ ườ ứThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử4 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềCác đ i t ng s ng luôn có nhu c u tìm hi u v th gi i xungố ượ ố ầ ể ề ế ớ quang đ thích nghi t n t i và phát tri n. Thông tin tr thành m tể ồ ạ ể ở ộ nhu c u c b n, m t đi u ki n c n cho s t n t i và phát tri n.ầ ơ ả ộ ề ệ ầ ự ồ ạ ể Ngày nay, khi khoa h c phát tri n m nh m thì thông tin ngày càngọ ể ạ ẽ tr nên quan tr ng đ i v i m i con ng i. M i hành đ ng c a conở ọ ố ớ ỗ ườ ỗ ộ ủ ng i đ u xu t phát t nh ng suy nghĩ c a ng i đó. M i suy nghĩườ ề ấ ừ ữ ủ ườ ỗ đó l i ch u s nh h ng c a nh ng thông tin mà ng i đó cóạ ị ự ả ưở ủ ữ ườ đ c, do v y hành đ ng c a con ng i ch u s nh h ng c aượ ậ ộ ủ ườ ị ự ả ưở ủ thông tin.Đ ng v khía c nh khoa h c lý thuy t tín hi u và truy n tinứ ề ạ ọ ế ệ ề nghiên c u nh m t o ra m t đi u ki n t t cho vi c x lý phân tíchứ ằ ạ ộ ề ệ ố ệ ử tín hi u và truy n tin nhanh chóng, an toàn và l u tr hi u qu . M tệ ề ư ữ ệ ả ộ cách t ng quát lý thuy t tín hi u và truy n tin nghiên c u các v nổ ế ệ ề ứ ấ đ v x lý thông tin.ề ề ửM t s lĩnh v c nghiên c u c a môn h c:ộ ố ự ứ ủ ọ- Phân tích, t ng h p tín hi uổ ợ ệ- Mã hoá ch ng nhi uố ễ- Nén d li uữ ệ- M t mã hoáậLý thuy t thông tin đã có nhi u ng d ng trong cu c s ng vàế ề ứ ụ ộ ố khoa h c k thu t. S bùng n v thông tin đang làm thay đ i di nọ ỹ ậ ự ổ ề ổ ệ m o cu c s ng c a con ng i, t o ra s phát tri n m nh m c aạ ộ ố ủ ườ ạ ự ể ạ ẽ ủ các ph ng th c truy n thông, truy n tin và l u tr thông tin. Cũngươ ứ ề ề ư ữ chính nh thông tin mà con ng i đ c cung c p nh ng c s lýờ ườ ượ ấ ữ ơ ở thuy t và cái nhìn tri t h c sâu s c h n v các v n đ con ng iế ế ọ ắ ơ ề ấ ề ườ g p ph i hôm nay và trong t ng lai. Lý thuy t thông tin đã đ c ápặ ả ươ ế ượ d ng trong h u h t các lĩnh v c công ngh nh truy n thông, nén,ụ ầ ế ự ệ ư ề b o m t, đ c bi t đã đ c áp d ng vào trong lĩnh v c giáo d c ả ậ ặ ệ ượ ụ ự ụ ở nhi u khía c nh nh đào t o, nghiên c u và phát tri n công ngh .ề ạ ư ạ ứ ể ệThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử5 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềV y lý thuy t tín hi u và thông tin đã có l ch s hình thànhậ ế ệ ị ử phát tri n nh th nào?ể ư ế1.1.2. L ch s hình thành và phát tri nị ử ểNg i đ t viên g ch đ u tiên đ xây d ng lý thuy t thông tinườ ặ ạ ầ ể ự ế là Hartley R.V.L. Năm 1928, ông đã đ a ra s đo l ng thông tin làư ố ượ m t khái ni m trung tâm c a lý thuy t thông tin. D a vào khái ni mộ ệ ủ ế ự ệ này, ta có th so sánh đ nh l ng các h truy n tin v i nhau. Nămể ị ượ ệ ề ớ 1933, V.A Kachenhicov ch ng minh m t lo t nh ng lu n đi m quanứ ộ ạ ữ ậ ể tr ng c a lý thuy t thông tin trong bài báo “V kh năng thông quaọ ủ ế ề ả c a không trung và dây d n trong h th ng liên l c đi n”.ủ ẫ ệ ố ạ ệNăm 1935, D.V Ageev đ a ra công trình “Lý thuy t tách tuy nư ế ế tính”, trong đó ông phát bi u nh ng nguyên t c c b n v lý thuy tể ữ ắ ơ ả ề ế tách các tín hi u. ệNăm 1946, V.A Kachenhicov thông báo công trình “Lý thuy tế th ch ng nhi u’ đánh d u m t b c phát tri n r t quan tr ng c aế ố ễ ấ ộ ướ ể ấ ọ ủ lý thuy t thông tin. ếTrong hai năm 1948 – 1949, Shanon C.E công b m t lo t cácố ộ ạ công trình vĩ đ i, đ a s phát tri n c a lý thuy t thông tin lên m tạ ư ự ể ủ ế ộ b c ti n m i ch a t ng có. Trong các công trình này, nh vi c đ aướ ế ớ ư ừ ờ ệ ư vào khái ni m l ng thông tin và tính đ n c u trúc th ng kê c a tin,ệ ượ ế ấ ố ủ ông đã ch ng minh m t lo t đ nh lý v kh năng thông qua c a kênhứ ộ ạ ị ề ả ủ truy n tin khi có nhi u và các đ nh lý mã hoá. Nh ng công trình nàyề ễ ị ữ là n n t ng v ng ch c c a lý thuy t thông tin. Ngày nay, lý thuy tề ả ữ ắ ủ ế ế thông tin phát tri n theo hai h ng ch y u sau:ể ướ ủ ếLý thuy t thông tin toán h c: ế ọ Xây d ng nh ng lu n đi mự ữ ậ ể thu n tuý toán h c và nh ng c s toán h c ch t ch c a lý thuy tầ ọ ữ ơ ở ọ ặ ẽ ủ ế thông tin. C ng hi n ch y u trong lĩnh v c này thu c v các nhàố ế ủ ế ự ộ ề bác h c l i l c nh : N.Wiener, A. Feinstain, C.E Shanon, A.N.ọ ỗ ạ ư Kanmôgorov, A.JA Khintrin.ThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử6 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềLý thuy t thông tin ng d ng: ế ứ ụ (lý thuy t truy n tin) Chuyênế ề nghiên c u các bài toán th c t quan tr ng do k thu t liên l c đ tứ ự ế ọ ỹ ậ ạ ặ ra có liên quan đ n v n đ ch ng nhi u và nâng cao đ tin c y c aế ấ ề ố ễ ộ ậ ủ vi c truy n tin. Các bác h c C.E Shanon, S.O RiCe, D. Midleton, W.ệ ề ọ Peterson, A.A Khakevich, V. Kachenhicov đã có nh ng công trìnhữ quý báu trong lĩnh v c này.ự1.2. Tin t c và các khái ni m c b nứ ệ ơ ả1.2.1. Các đ nh nghĩaị1.2.1.1. Thông tinThông tin là m t khái ni m tr u t ng, phi v t ch t và r t khóộ ệ ừ ượ ậ ấ ấ đ nh nghĩa. Có nhi u cách đ nh nghĩa v thông tin. D i đây là m tị ề ị ề ướ ộ s đ nh nghĩa:ố ịThông tin là s c m hi u c a con ng i v th gi i xungự ả ể ủ ườ ề ế ớ quanh thông qua vi c ti p xúc v i nó.ệ ế ớThông tin là m t h th ng nh ng tin báo và m nh l nh giúpộ ệ ố ữ ệ ệ lo i tr s không ch c ch n c a n i nh n tin. Nói m t cách ng nạ ừ ự ắ ắ ủ ơ ậ ộ ắ g n, thông tin là cái mà lo i tr s không ch c ch n.ọ ạ ừ ự ắ ắĐ nh nghĩa đ u tiên ch a nêu rõ b n ch t c a thông tin, đ nhị ầ ư ả ấ ủ ị nghĩa th hai nói rõ h n v b n ch t c a thông tin và đ c dùng đứ ơ ề ả ấ ủ ượ ể đ nh l ng thông tin trong k thu t.ị ượ ỹ ậNgoài ra có ng i còn đ nh nghĩa thông tin là nh ng tính ch t xácườ ị ữ ấ đ nh c a v t ch t mà con ng i (ho c h th ng k thu t) nh nị ủ ậ ấ ườ ặ ệ ố ỹ ậ ậ đ c t th gi i v t ch t bên ngoài ho c t nh ng quá trình x y raượ ừ ế ớ ậ ấ ặ ừ ữ ả trong b n thân nó.ảV i đ nh nghĩa này, m i ngành khoa h c là khám phá ra cácớ ị ọ ọ c u trúc thông qua vi c thu th p, ch bi n, x lý thông tin. đâyấ ệ ậ ế ế ử Ở “thông tin” là m t danh t ch không ph i là đ ng t đ ch m tộ ừ ứ ả ộ ừ ể ỉ ộ hành vi tác đ ng gi a hai đ i t ng (ng i, máy) liên l c v i nhau.ộ ữ ố ượ ườ ạ ớ Theo quan đi m tri t h c, thông tin là m t qu ng tính c a th gi iể ế ọ ộ ả ủ ế ớ ThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử7 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềv t ch t (t ng t nh năng l ng, kh i l ng). Thông tin khôngậ ấ ươ ự ư ượ ố ượ đ c t o ra mà ch đ c s d ng b i h th c m.ượ ạ ỉ ượ ử ụ ở ệ ụ ảThông tin t n t i m t cách khách quan, không ph thu c vàoồ ạ ộ ụ ộ h th c m. Trong nghĩa khái quát nh t, thông tin là s đa d ng. Sệ ụ ả ấ ự ạ ự đa d ng đây có th hi u theo nhi u nghĩa khác nhau: Tính ng uạ ở ể ể ề ẫ nhiên, trình đ t ch c,…ộ ổ ứ1.2.1.2. TinTin là d ng v t ch t c th đ bi u di n ho c th hi n thôngạ ậ ấ ụ ể ể ể ễ ặ ể ệ tin. Có hai d ng là tin r i r c và tin liên t c.ạ ờ ạ ụVí d các b c nh, b n nh c, bài nói, b ng s li u, .v.v làụ ứ ả ả ạ ả ố ệ các tin.1.2.1.3. Tín hi uệThông tin là m t hi n t ng v t lý, nó th ng t n t i và đ cộ ệ ượ ậ ườ ồ ạ ượ truy n đi d i d ng v t ch t nào đó.ề ướ ạ ậ ấNh ng d ng v t ch t đ mang thông tin đ c g i là tín hi u.ữ ạ ậ ấ ể ượ ọ ệTrong k thu t có th hi u, tín hi u là các đ i l ng v t lýỹ ậ ể ể ệ ạ ượ ậ bi n thiên, ph n ánh tin c n truy n.ế ả ầ ềC n chú ý r ng không ph i b n thân quá trình v t lý là tín hi uầ ằ ả ả ậ ệ mà s bi n đ i các tham s riêng c a quá trình v t lý m i là tínự ế ổ ố ủ ậ ớ hi u. Các đ c tr ng v t lý có th là dòng đi n, đi n áp, ánh sáng,ệ ặ ư ậ ể ệ ệ âm thanh, .v.v.1.2.2. S đ kh i h th ng thông tinơ ồ ố ệ ốNgay nay, v i s phát tri n m nh m c a công ngh đi n tớ ự ể ạ ẽ ủ ệ ệ ử vi n thông, có r t nhi u các h th ng thông tin khác nhau đã đ cễ ấ ề ệ ố ượ hình thành và phát tri n. Khi đó vi c phân lo i các h th ng thôngể ệ ạ ệ ố tin có th đ c d a trên nhi u c s khác nhau. Ví d nh d a trênể ượ ự ề ơ ở ụ ư ự ThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử8 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềc s v năng l ng mang tin có th chia các h th ng truy n tinơ ở ề ượ ể ệ ố ề thành các lo i nh :ạ ư- H th ng thông tin vô tuy n dùng sóng đi n tệ ố ế ệ ừ- H th ng thông tin quang h u tuy n dùng ánh sángệ ố ữ ế- H th ng thông tin dùng sóng âm, siêu âm (năng l ng cệ ố ượ ơ h c) .ọHay d a vào các bi u hi n bên ngoài mà ta chia thành các hự ể ệ ệ th ng nh :ố ư- H th ng truy n s li uệ ố ề ố ệ- H th ng truy n hìnhệ ố ề- H th ng đi n tho i c đ nh công c ngệ ố ệ ạ ố ị ộ- H th ng thông tin di đ ng, .v.v.ệ ố ộChúng ta cũng có th chia h th ng thông tin thành hai lo i hể ệ ố ạ ệ th ng:ố- H th ng truy n tin r i r cệ ố ề ờ ạ- H th ng truy n tin liên t cệ ố ề ụTuy nhiên, m t cách t ng quát h th ng thông tin có th đ cộ ổ ệ ố ể ượ bi u di n b i s đ kh i sau:ể ễ ở ơ ồ ố1.2.2.1. Ngu n tinồNgu n tin là n i s n sinh ra hay ch a các tin c n truy n đi.ồ ơ ả ứ ầ ề Khi m t đ ng truy n tin đ c thi t l p đ truy n tin t ngu n tinộ ườ ề ượ ế ậ ể ề ừ ồ đ n n i nh n tin, m t dãy các ph n t c s (các tin) c a ngu n sế ơ ậ ộ ầ ử ơ ở ủ ồ ẽ đ c truy n đi v i m t phân b xác su t nào đó. Dãy này đ c g iượ ề ớ ộ ố ấ ượ ọ là m t b n tin. Do đó có th đ nh nghĩa:ộ ả ể ịThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử9Ngu n tinồ Kênh tin Nh n tinậNhi uễHình 1.1. S đ kh i h th ng thông tinơ ồ ố ệ ố Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềNgu n tin là t p h p các tin mà h th ng truy n tin dùng đồ ậ ợ ệ ố ề ể l p các b n tin khác nhau đ truy n tin.ậ ả ể ềN u t p tin là h u h n thì ngu n sinh ra nó đ c g i là ngu nế ậ ữ ạ ồ ượ ọ ồ r i r c. N u t p tin là vô h n thì ngu n sinh ra nó đ c g i làờ ạ ế ậ ạ ồ ượ ọ ngu n liên t c.ồ ụNgu n tin có hai tính ch t: Tính th ng kê và tính hàm ý.ồ ấ ốV i ngu n r i r c, tính th ng kê bi u hi n ch xác su tớ ồ ờ ạ ố ể ệ ở ỗ ấ xu t hi n các tin là khác nhau.ấ ệTính hàm ý bi u hi n ch xác su t xu t hi n c a m t tinể ệ ở ỗ ấ ấ ệ ủ ộ nào đó sau m t dãy tin khác nhau nào đó là khác nhau.ộVí d : ụ P(x/ta) ≠ P(x/ba)Thông tin tr c khi truy n đi có th đ c x lý mã hoá đướ ề ể ượ ử ể nén, ch ng nhi u và b o m t.ố ễ ả ậ1.2.2.2. Kênh tinKênh tin là n i hình thành, truy n hay l u tr tín hi u mang tinơ ề ư ữ ệ đ ng th i đó x y ra các t p nhi u phá hu tin t c.ồ ờ ở ả ạ ễ ỷ ứTrong lý thuy t tín hi u và truy n tin, kênh tin là m t kháiế ệ ề ộ ni m tr u t ng đ i bi u cho h n h p tín hi u và t p nhi u.ệ ừ ượ ạ ể ỗ ợ ệ ạ ễĐ truy n tin, ta th ng s d ng m t môi tr ng nào đó để ề ườ ử ụ ộ ườ ể truy n. Môi tr ng truy n tin th ng r t đa d ng. Môi tr ngề ườ ề ườ ấ ạ ườ không khí, ta có th truy n tin d i d ng âm thanh, ti ng nói hayể ề ướ ạ ế b ng l a (ánh sáng). Môi tr ng t ng đi n ly th ng là n i x y raằ ử ườ ầ ệ ườ ơ ả s truy n tin gi a các v tinh nhân t o và các tr m rada m t đ t.ự ề ữ ệ ạ ạ ở ặ ấ Hay có th truy n tin b ng ánh sáng qua các môi tr ng truy n làể ề ằ ườ ề s i d n quang trong đó tín hi u mang tin đ c truy n d i d ngợ ẫ ệ ượ ề ướ ạ ánh sáng, .v.v.Cho dù truy n tin d i b t kỳ môi tr ng nào cũng đ u b nhề ướ ấ ườ ề ị ả h ng b i nhi u. Nhi u r t phong phú và đa d ng, ph thu c vàoưở ở ễ ễ ấ ạ ụ ộ b n ch t c a môi tr ng truy n tin. Ví d khi truy n tin b ng âmả ấ ủ ườ ề ụ ề ằ ThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử10 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềthanh thì nh ng ti ng n xung quanh chính là nhi u hay khi truy nữ ế ồ ễ ề b ng sóng đi n t qua nh ng n i có đi n t tr ng m nh thì cũngằ ệ ừ ữ ơ ệ ừ ườ ạ s b nh h ng. Nhi u có nhi u lo i nh nhi u c ng tính hayẽ ị ả ưở ễ ề ạ ư ễ ộ nhi u nhân.ễ1.2.2.3. Nh n tinậN i nh n tin là n i ti p nh n thông tin t kênh truy n và khôiơ ậ ơ ế ậ ừ ề ph c l i thông tin ban đ u nh ngu n tin đã phát đi. Tin đ n đ cụ ạ ầ ư ồ ế ượ n i nh n tin th ng không thu đ c nh tin ban đ u truy n đi vì đãơ ậ ườ ượ ư ầ ề ch u s tác đ ng c a nhi u. Vì th , n i nh n ph i th c hi n vi cị ự ộ ủ ễ ế ơ ậ ả ự ệ ệ phát hi n sai và s a sai. H n th n a, n u ngu n tin đ c th c hi nệ ử ơ ế ữ ế ồ ượ ự ệ mã hoá nén hay b o m t thì n i nh n tin cũng ph i th c hi n vi cả ậ ơ ậ ả ự ệ ệ gi i nén hay gi i mã b o m t đ nh n l i tin.ả ả ả ậ ể ậ ạN i nh n tin th ng có ba ch c năng c b n:ơ ậ ườ ứ ơ ả- L u gi tin, ví d nh b nh máy tính, băng ghi âm, ghiư ữ ụ ư ộ ớ hình, .- Bi u th tin làm cho các giác quan c a con ng i hay các bể ị ủ ườ ộ c m bi n c m th đ c đ x lý tin, ví d nh băng ghi âm, hìnhả ế ả ụ ượ ể ử ụ ư nh, .ả- X lý tin đ a tin v d ng d s d ng. Ch c năng này có thử ư ề ạ ễ ử ụ ứ ể th c hi n b i con ng i hay b ng các thi t b máy móc.ự ệ ở ườ ằ ế ị1.2.3. H th ng thông tin sệ ố ốCác h th ng thông tin t ng t đ c ti p t c phát tri n tệ ố ươ ự ượ ế ụ ể ừ th k tr c và đ t đ c nhi u thành t u. Tuy nhiên, h th ngế ỷ ướ ạ ượ ề ự ệ ố thông tin t ng t có nh ng nh c đi m c h u không th kh cươ ự ữ ượ ể ố ữ ể ắ ph c. Các h th ng này th ng r t c ng k nh, không hi u qu vàụ ệ ố ườ ấ ồ ề ệ ả chi phí r t cao. Ví d v n đ v nhi u trong h th ng thông tinấ ụ ấ ề ề ễ ệ ố t ng t luôn làm đau đ u các nhà khoa h c.ươ ự ầ ọThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử11 Giáo trình Lý thuy t tín hi u và truy n tinế ệ ềCác h th ng r i r c (s ) có nhi u u đi m và kh c ph cệ ố ờ ạ ố ề ư ể ắ ụ đ c nh ng nh c đi m c a h th ng liên t c. Ngày nay, các hượ ữ ượ ể ủ ệ ố ụ ệ th ng r i r c ngày càng đ c phát tri n m nh m và thu đ cố ờ ạ ượ ể ạ ẽ ượ nh ng thành t u v t c ngoài s mong đ i.ữ ự ượ ả ự ợĐ th c hi n đ c các h th ng r i r c tr c h t ph i r iể ự ệ ượ ệ ố ờ ạ ướ ế ả ờ r c hoá tín hi u mang tin. Có hai lo i r i r c hoá: R i r c hoá theoạ ệ ạ ờ ạ ờ ạ tr c th i gian hay còn g i là l y m u và r i r c hoá theo biên đụ ờ ọ ấ ẫ ờ ạ ộ hay còn g i là l ng t hoá.ọ ượ ửL y m u tín hi u là t m t hàm ban đ u ta l y ra nh ng m uấ ẫ ệ ừ ộ ầ ấ ữ ẫ nh ng th i đi m nh t đ nh. Đi u quan tr ng là làm th nào đ cóở ữ ờ ể ấ ị ề ọ ế ể th thay th t ng đ ng các m u l y đ c v i tín hi u g c. Đi uể ế ươ ươ ẫ ấ ượ ớ ệ ố ề này đ c gi i quy t b i đ nh lý l y m u c a Shannon. Shannonượ ả ế ở ị ấ ẫ ủ chính là cha đ c a lý thuy t tín hi u và truy n tin.ẻ ủ ế ệ ềĐ nh lý l y m u Shannon đ c phát bi u nh sau:ị ấ ẫ ượ ể ưM t hàm S(t) có ph h u h n, không có thành ph n t n s l nộ ổ ữ ạ ầ ầ ố ớ h n ơωmax (= 2πfmax) có th thay th b ng các m u c a nó đ c l yể ế ằ ẫ ủ ượ ấ t i các th i đi m cách nhau m t kho ng ạ ờ ể ộ ả∆t≤ π/ωmax hay nói cách khác t n s l y m u F ầ ố ấ ẫ≥ 2fmax. Hình 1.2 minh ho đi u này.ạ ềBiên đ c a tín hi u th ng là m t kho ng liên t c (Sộ ủ ệ ườ ộ ả ụmin , Smax). L ng t hoá là phân chia kho ng này thành m t s m c nh tượ ử ả ộ ố ứ ấ ThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử12S(t)SmaxSmintHình 1.2. Quá trình l y m u tín hi uấ ẫ ệ [...]... vơ ị Giáo trình Lý thuy t tín hi u và truy n tin ệ ề Ngu n tin là t p h p các tin mà h th ng truy n tin dùng đồ ậ ợ ệ ố ề ể l p các b n tin khác nhau đ truy n tin. ậ ả ể ề N u t p tin là h u h n thì ngu n sinh ra nó đ c g i là ngu nế ậ ữ ạ ồ ượ ọ ồ r i r c. N u t p tin là vơ h n thì ngu n sinh ra nó đ c g i làờ ạ ế ậ ạ ồ ượ ọ ngu n liên t c.ồ ụ Ngu n tin có hai tính ch t: Tính th ng kê và tính hàm... bao hình) và trị ễ ễ ễ pha (Phase delay) nh sau: ư ThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử 42 Hình 3.3. B l c cosinộ ọ Giáo trình Lý thuy t tín hi u và truy n tin ệ ề ThS. Đoàn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử 14 Hình 1.4. Các ph ng pháp bi n đ i thông tin ươ ế ổ s trong các kh i ch c năng c a h th ng.ố ố ứ ủ ệ ố Giáo trình Lý thuy t tín hi u và truy n tin ệ ề D a vào tính ch... ử 16 Giáo trình Lý thuy t tín hi u và truy n tin ệ ề V y lý thuy t tín hi u và thơng tin đã có l ch s hình thànhậ ế ệ ị ử phát tri n nh th nào?ể ư ế 1.1.2. L ch s hình thành và phát tri nị ử ể Ng i đ t viên g ch đ u tiên đ xây d ng lý thuy t thông tin ờ ặ ạ ầ ể ự ế là Hartley R.V.L. Năm 1928, ông đã đ a ra s đo l ng thông tin làư ố ượ m t khái ni m trung tâm c a lý thuy t thông tin. D a vào khái... c.ự 0 b a Hình 1.8. D ng tín hi u e mũạ ệ Giáo trình Lý thuy t tín hi u và truy n tin ệ ề Ch ng 1ươ Các khái ni m c b n c a lý thuy t tín hi u và truy n tin ơ ả ủ ế ệ ề 1.1. V trí, vai trị và l ch s phát tri n ị ị ử ể 1.1.1. V trí, vai trị c a lý thuy t thông tin ủ ế Trong cu c s ng con ng i ln có nhu c u trao đ i, giao ti pộ ố ườ ầ ổ ế v i nhau, cái mà m i ng i trao đ i v i nhau g i là thông tin. Nhớ ỗ ườ... Fourier c a tín hi u cost đ c ch nh l u nhị ỗ ủ ệ ượ ỉ ư ư hình sau: Gi i:ả Ta có: ππ π π 21 2 2 0 == ∫ − tdtcosa T ng t ta có:ươ ự ThS. Đồn H u Ch cữ ứ B môn K thu t Đi n tộ ỹ ậ ệ ử 29 Hình 2.2. Tín hi u cost ch nh l uệ ỉ ư Giáo trình Lý thuy t tín hi u và truy n tin ệ ề 1.5.2. Phân lo i tín hi uạ ệ N u phân lo i tín hi u theo d ngế ạ ệ ạ tốn h c thì ta có hai lo i tín hi u:ọ ạ ệ - Tín hi u liên... t cệ ụ - Tín hi u gián đo nệ ạ Chúng ta cũng có th phân tín hi u thành hai lo i là tín hi uể ệ ạ ệ tu n hồn và khơng tu n hồn.ầ ầ Theo d ng v t lý thì ta có lo i tín hi u ng u nhiên và ti nạ ậ ạ ệ ẫ ề đ nh.ị Trong th c t k thu t đi n t vi n thơng ta cịn chia các tín ế ỹ ậ ệ ử ễ hi u thành các lo i tín hi u: tín hi u l ng t , r i r c, s và t ngệ ạ ệ ệ ượ ử ờ ạ ố ươ t .ự 1.6. M t s d ng tín hi u... i hình thành, truy n hay l u tr tín hi u mang tin ề ư ữ ệ đ ng th i đó x y ra các t p nhi u phá hu tin t c.ồ ờ ở ả ạ ễ ỷ ứ Trong lý thuy t tín hi u và truy n tin, kênh tin là m t kháiế ệ ề ộ ni m tr u t ng đ i bi u cho h n h p tín hi u và t p nhi u.ệ ừ ượ ạ ể ỗ ợ ệ ạ ễ Đ truy n tin, ta th ng s d ng m t mơi tr ng nào đó để ề ườ ử ụ ộ ườ ể truy n. Môi tr ng truy n tin th ng r t đa d ng. Môi tr ngề... ử 13 S(t) S n S 1 t Hình 1.3. Q trình l ng t hóaượ ử Giáo trình Lý thuy t tín hi u và truy n tin ệ ề 3.1.4. Đi u ki n truy n tín hi u khơng méoề ệ ề ệ Khi tín hi u truy n qua môi tr ng truy n d n ta g i là kênhệ ề ườ ề ẫ ọ truy n thì đ tín hi u khơng b méo d ng thì ph c a tín hi u ph iề ể ệ ị ạ ổ ủ ệ ả n m l t trong d i thông c a kênh truy n truy n.ằ ọ ả ủ ề ề Trong th c t khi truy n tín hi u th ng b méo.... hai ngu n X={xế ồ 1 , , x n } và Y={y 1 , , y m } là đ c l p thìộ ậ v i z={x,y} ta có:ớ H(Z) = H(X) +H(Y) 1.4. T c đ l p tin và đ d c a ngu nố ộ ậ ộ ư ủ ồ Thông s thông kê quan tr ng nh t c a ngu n tin là Entropy.ố ọ ấ ủ ồ Thông s th hai chính là t c đ l p tin. T c đ l p tin ph thu cố ứ ố ộ ậ ố ộ ậ ụ ộ vào tính ch t v t lý c a ngu n tin. ấ ậ ủ ồ T c đ l p tin R đ c tính b i bi u th c sau:ố ộ ậ ượ... ờ ệ ư vào khái ni m l ng thơng tin và tính đ n c u trúc th ng kê c a tin, ệ ượ ế ấ ố ủ ông đã ch ng minh m t lo t đ nh lý v kh năng thông qua c a kênhứ ộ ạ ị ề ả ủ truy n tin khi có nhi u và các đ nh lý mã hố. Nh ng cơng trình nàyề ễ ị ữ là n n t ng v ng ch c c a lý thuy t thông tin. Ngày nay, lý thuy tề ả ữ ắ ủ ế ế thông tin phát tri n theo hai h ng ch y u sau:ể ướ ủ ế Lý thuy t thơng tin tốn . thông tin ồ ố ệ ố Giáo trình Lý thuy t tín hi u và truy n tin ệ ềNgu n tin là t p h p các tin mà h th ng truy n tin dùng đồ ậ ợ ệ ố ề ể l p các b n tin. ứ B môn K thu t Đi n tộ ỹ ậ ệ ử5 Giáo trình Lý thuy t tín hi u và truy n tin ệ ềV y lý thuy t tín hi u và thông tin đã có l ch s hình thànhậ ế ệ ị