I HC THI NGUYấN TRNG I HC CễNG NGH THễNG TIN V TRUYN THễNG PHM MNH HNG PHN LP D LIU S DNG LOGIC M Luận văn thạc Sĩ KHOA HC MY TNH Mu Trang ph bỡa lun (title page) THI NGUYấN - 2012 S húa bi Trung tõm Hc liu i hc Thỏi NguyờnThái Nguyên 2012 http://www.lrc-tnu.edu.vn I HC THI NGUYấN TRNG I HC CễNG NGH THễNG TIN V TRUYN THễNG PHM MNH HNG PHN LP D LIU S DNG LOGIC M Chuyên ngành: Khoa hc mỏy tớnh Mã số: 60 48 01 Luận văn thạc Sĩ KHOA HC MY TNH Ng-ời h-ớng dẫn khoa học: TS V MNH XUN THI NGUYấN - 2012 S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn i LI CAM OAN Tụi xin cam oan ton b ni dung lun hon ton theo ỳng ni dung ca cng ó ng ký v ni dung cỏc phn trớch lc ti liu hon ton chớnh xỏc Nu cú sai sút gỡ tụi xin hon ton chu trỏch nhim Ngi vit Phm Mnh Hựng S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn ii MC LC LI CAM OAN i DANH MC CC HèNH v DANH MC CC BNG vi M U .1 CHNG 1: TNG QUAN V PHN LP D LIU 1.1 Khỏi quỏt v phõn lp d liu 1.1.1 Cỏc bc tin hnh phõn lp d liu 1.1.2 Chun b d liu 1.1.3 Lm sch d liu 1.1.4 Phõn tớch d liu 1.1.5 Chuyn i d liu .7 1.1.6 So sỏnh cỏc mụ hỡnh phõn lp 1.2 Phõn lp d liu vi k thut cõy quyt nh 1.2.1 Khỏi nim v cõy quyt nh 1.2.2 Gii thut 1.2.3 Rỳt lut phõn lp t cõy quyt nh 10 1.2.4 u im v hn ch ca cõy quyt nh 11 1.3 Phõn lp d liu vi k thut mng Bayes .12 1.3.1 nh lý Bayes 12 1.3.2 Phõn loi Bayes ngõy th (Bayes n gin) .12 1.4 Phõn lp d liu vi k thut mng n-ron 13 1.4.1 C s v mng n-ron 13 1.4.2 Cu trỳc v mụ hỡnh mng n-ron 14 1.4.3 Dng toỏn hc ca tng liờn kt .15 1.4.4 Dng ca hm a(f) - Hm hot tớnh phi tuyn .15 1.5 Phõn lp d liu bng Fuzzy C- MEANS (FCM) 17 1.6 Phõn lp d liu bng WEKA 19 1.6.1 Gii thiu chung .19 1.6.2 ng dng ca phn mm Weka 3.7.5 vo bi toỏn phõn lp d liu im ca hc sinh 21 S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn iii 1.7 Kt lun chng 23 CHNG 2: PHN LP D LIU S DNG LOGIC M 24 2.1 Tp m: 24 2.1.1 Lý thuyt m 24 2.1.2 Khỏi nim m .25 2.1.3 Mt s nh ngha c bn 27 2.1.4 Cỏc phộp toỏn trờn m 29 2.2 Quan h m 31 2.2.1 Khỏi nim chung 31 2.2.3 Cỏc phộp hp thnh m 38 2.3 Suy din m 39 2.3.1 Phộp suy din: if P then Q 39 2.3.2 Phộp suy din if P then Q else Q1 40 2.4 Logic m .40 2.4.1 M u 40 2.4.2 Bin ngụn ng v mnh m .41 2.4.3 Cỏc phộp kt ni .43 2.5 Phõn lp d liu da trờn quan h m 45 2.5.1 C s lớ thuyt 45 2.5.2 Phõn hoch cỏc i tng m bi toỏn thc t 45 2.5.3 Quan h m phõn lp d liu 46 CHNG 3: CI T TH NGHIM 50 3.1 Khỏi nim chung bi toỏn phõn lp 50 3.2 Bi toỏn minh s phõn lp cỏc i tng m 51 3.2.1 Phỏt biu bi toỏn .51 3.2.2 Thut toỏn 51 3.3 Th nghim bi toỏn ng dng phõn lp bng logic m 52 3.4 Kt qu th nghim .55 KT LUN V KIN NGH 61 TI LIU THAM KHO 63 S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn iv DANH MC CC K HIU V CH VIT TT Phộp hi Phộp tuyn Lng t vi mi Phộp giao Phộp hp Phộp kộo theo Tp rng Phộp thuc Lng t tn ti Phộp tng ng Phộp ph nh Cha ì Tớch cỏc CSDL C s d liu S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn v DANH MC CC HèNH Hỡnh 1.1: Quỏ trỡnh phõn lp d liu v bc xõy dng mụ hỡnh phõn lp Hỡnh 1.2: Quỏ trỡnh phõn lp d liu - c lng chớnh xỏc ca mụ hỡnh .6 Hỡnh 1.3: Quỏ trỡnh phõn lp d liu - phõn lp d liu mi Hỡnh 1.4: Cõy quyt nh mua mỏy tớnh ca sinh viờn 10 Hỡnh1.5: Minh ho v mt n- ron 14 Hỡnh1.6: S liờn kt ca hai n-ron 15 Hỡnh1.7: Giao din ban u ca phn mm WEKA 19 Hỡnh 2.1: Khỏi nim m 28 Hỡnh2.2: Cỏc m biu din cỏc giỏ tr ngụn ng: Chm, Trung bỡnh" v Nhanh.42 Hỡnh 2.3: Tp m tui tr .43 S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn vi DANH MC CC BNG Bng 1.1: Bng mua mỏy tớnh ca sinh viờn Hỡnh 1.3: Hỡnh minh i uụi XLS sang CSV (comma delimited) 21 Bng 1.4: Bng d liu u vo phõn lp bng WEKA 22 Bng1.3: Bng phõn lp cỏc trng d liu WEKA 22 Bng 3.1: Bng im hc sinh 53 Bng 3.2: Ma trn khong cỏch Hamming .55 Bng 3.3: Ma trn phõn lp Hamming 57 S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn M U Phõn lp d liu l mt bi toỏn thng gp i sng hng ngy Chng hn ngi ta phõn loi hc lc sinh viờn da vo im trung bỡnh tng hc k hoc phõn chia theo tng vựng lónh th, phõn loi cỏc bnh tt thng gp, cỏc cỏch phõn loi nh vy u xut phỏt t vic xỏc nh mt quan h tng ng trờn cỏc i tng ang xột Tuy nhiờn phõn lp thụng qua quan h tng ng thụng thng mc dự thun tin, d lp trỡnh, song thiu mm v ụi khụng phn ỏnh ỳng thc cht i tng Chng hn mt sinh viờn cú im trung bỡnh 6,9 thỡ c xp loi trung bỡnh, ng hng vi ngi cú im 5,0; song ngi cú im trung bỡnh 7,0 li xp hng khỏ! Tng t nh vy, i sng ngi ta phõn loi mt cỏch tng i chng hn nh nhng ngi cao Logic m c i v phỏt trin da trờn lý thuyt m ó giỳp cho tin hc cú cỏi nhỡn gn vi thc tin hn, cỏc cụng c ca logic m cho phộp x lý nhng thụng tin khụng y , khụng chớnh xỏc, chng hn vic tỡm hai i tng ging ch khụng phi bng nh vi cỏch tỡm kim thụng thng Nhm tỡm hiu k hn v logic m v ng dng bi toỏn phõn lp d liu, giỳp cho vic phõn lp mm hn, gn vi i thng hn, tụi ó la chn ti Phõn lp d liờu s dng logic m lm ti lun ca mỡnh Mc ớch ca ti: Mc ớch cua ti ny nh m nghiờn cu ly thuyờt tõp m , quan h m, logic m, trờn c s ú nghiờn cu phng phỏp phõn lp d liu da trờn logic m ng thi minh ho trờn mt s bi toỏn c th Ni dung chớnh ca lun gm ba chng Chng 1: Tng quan v phõn tớch d liu Chng ny trỡnh by khỏi quỏt v mt s k thut phõn lp, cỏch phõn lp thụng thng ó s dng Chng ny cng a mt s vớ d minh c th Chng 2: Phõn lp d liờu s dng logic m Chng ny trỡnh by khỏi nim m, cỏc phộp toỏn trờn m v quan h m cựng vi nhng tớnh cht c bn ca quan h m mnh m, cỏc phộp toỏn logớc m, c bit l cỏc lut logic m lm c s cho chng sau S húa bi Trung tõm Hc liu i hc Thỏi Nguyờn http://www.lrc-tnu.edu.vn data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read data error !!! can't not read ... phõn loi mt cỏch tng i chng hn nh nhng ngi cao Logic m c i v phỏt trin da trờn lý thuyt m ó giỳp cho tin hc cú cỏi nhỡn gn vi thc tin hn, cỏc cụng c ca logic m cho phộp x lý nhng thụng tin khụng... kim thụng thng Nhm tỡm hiu k hn v logic m v ng dng bi toỏn phõn lp d liu, giỳp cho vic phõn lp mm hn, gn vi i thng hn, tụi ó la chn ti Phõn lp d liờu s dng logic m lm ti lun ca mỡnh Mc ớch... ti: Mc ớch cua ti ny nh m nghiờn cu ly thuyờt tõp m , quan h m, logic m, trờn c s ú nghiờn cu phng phỏp phõn lp d liu da trờn logic m ng thi minh ho trờn mt s bi toỏn c th Ni dung chớnh ca lun