Mơn h c NH P MƠN I U KHI N THƠNG MINH Gi ng viên: PGS TS Hu nh Thái Hồng B mơn i u Khi n T ng Khoa i n – i n T i h c Bách Khoa TP.HCM Email: hthoang@hcmut.edu.vn Homepage: http://www4.hcmut.edu.vn/~hthoang 19 August 2014 © H T Hồng - ÐHBK TPHCM Ch ng NG G D NG G M NG G TH N KINH 19 August 2014 © H T Hồng - ÐHBK TPHCM N i dung    Nh n d ng h th ng phi hi ttuy n H c lu t u n Nh n d ng m u:  Nh n d ng ti ng nói, âm thanh,… g hình nh: b ng g s xe,, m t ng g  Nh n d ng nhìn, d u vân tay,… 19 August 2014 © H T Hồng - ÐHBK TPHCM i,, h ng g NH N D NG H PHI TUY N 19 August 2014 © H T Hồng - ÐHBK TPHCM Thôn ng tin biết trước h hệ thống: qui luật vật lý, cá ác phát bie ểu ngôn ngữ, … ng d ng nh n d ng h th ng Thí nghiệm thu thập liệu Xư ly Xử lý sơ liệu Chọn cấu trúc mô hình Chọn tiêu chuẩn ước lương ươc lượng Ước lượng thông số Không tốt  xét lạïi thông tin biết trước 19 August 2014 Đánh giá mô hình Không tốt  lặp lại Tốt  chấp nhận mô hình © H T Hồng - ÐHBK TPHCM Mơ hình hóa h phi n dùng m ng th n kinh  it ng phi n: y (k )  f [u(k  1),  , u(k  m), y (k  1),  , y (k  n )]  v (k )  Mơ hình: yˆ (k , W )  f NN [u(k  1), , u(k  m), y (k  1), , y (k  n )] u(k) z1 u(k1)  u(km) v11 v21 zm z1 zn 19 August 2014 z1 v22  y(kn) vl2 vlr w1 vr1 v21 y(k1) Mạng thần kinh z2 wq (k) v2m vl1  wl zl © H T Hồng - ÐHBK TPHCM Hu n luy n m ng th n kinh nh n d ng h th ng  (k) u(k) it y(k) ng +   (k,W) M ng NN (k,W)  Ch tiêu bình ph ng t i thi u hu n luy n m ng NN: N N E (W )    ( k , W )   [ y ( k )  yˆ ( k , W )]2 k  k0 k  k0 19 August 2014 © H T Hồng - HCMUT Thí d nh n d ng h b n đ n dùng m ng th n kinh  Mơ hình tốn h c h b n n  c ((s d ng g đ mơ p ph ng): g) Ku(t )  C D a gy (t ) y (t )  A( y ) Amax  Amin y  Amin A( y )  y max   u c u: Nh n d ng h b n đ n dùng mơ hình m ng NN Gi s chu k l y m u T T=0.1s, 0.1s, nhi u đo m c ch t l ng có b giá tr trung bình  = ph ng sai  = 0.1 19 August 2014 © H T Hồng - ÐHBK TPHCM Thơng s h b n đ n  u(t) n áp  y(t): đ cao  A(y): (y) tti t d di u n máy b m (V) m c ch t l ng b n (cm) n ngang ga g b n cch a (c (cm2) (p (ph tthu u c đ cao)  ymax: đ cao c c đ i c a b n ch a  Amax, Amin: ti t di n ngang c c đ i c c ti u  k : h s t l v i cơng su t máy b m  a: ti t di n van x (cm2)  g: gia t c tr ng tr ng (981cm/sec2)  CD: h s x (tùy lo i ch t l ng) Giá tr c th : ymax = 50cm,, Amax = 200 cm2, Amin = 100 cm2, a = cm2, k = 300 cm3/sec, CD=0.6 19 August 2014 © H T Hồng - ÐHBK TPHCM S đ mơ ph ng thí nghi m thu th p d li u   Kh i SingleTank_Input: tín hi u có biên đ t n s ng u nhiên Biên đ n m kho ng [0, 1] Kh i Gain nh m t o tín hi u u có biên đ n m mi n  u  12V 19 August 2014 © H T Hồng - ÐHBK TPHCM 10 Thí d hu n luy n m ng NN h c b u n PD m (tt) K t qu luy n u n lái tàu dùng m ng th n kinh hu n phi(t) 45 -45 500 1000 1500 2000 2500 3000 3500 4000 500 1000 1500 2000 2500 3000 3500 4000 50 delta a(t)  -50 19 August 2014 © H T Hồng - ÐHBK TPHCM 24 Thí d hu n luy n m ng NN h c b u n PD m (tt) So sánh v i k t qu phi(t) 45 -45 500 1000 1500 2000 2500 3000 3500 4000 500 1000 1500 2000 2500 3000 3500 4000 50 de lta(t)  -50 i u n m 19 August 2014 K dùng m ng th n kinh © H T Hồng - ÐHBK TPHCM 25 Thí d hu n luy n m ng h c b u n PI m  Ph ng trình vi phân mơ t đ c tính đ ng h c h b n ch a:  h(t )  ku k (t )  C D a gh h(t ) A(h)  Amax  Amin A(h)  h  Amin hmax 19 August 2014 © H T Hồng - ÐHBK TPHCM 26 Thí d hu n luy n m ng NN h c b u n PI m (tt)  S đ thu th p d li u đ hu n luy n m ng th n kinh 19 August 2014 © H T Hồng - ÐHBK TPHCM 27 Thí d hu n luy n m ng NN chép b u n PI m (tt) e(t) 30 15 -15 -30 d de(t) D li u đ hu n luy n m ng th n kinh 50 25 -25 -50 40 80 120 160 200 240 280 320 50 100 150 200 250 300 50 100 150 200 250 300 12 u(t)  19 August 2014 © H T Hồng - ÐHBK TPHCM 28 Thí d hu n luy n m ng NN h c b u n PI m (tt)  C u trúc m ng th n kinh chép b u n PI m  M ng có ngõ vào e(t), de(t), u(t1), ngõ u(t)  L p n g m t bào th n kinh có hàm kích ho t d ng sigmoid  L p g m t bào th n kinh có hàm kích ho t n tính 19 August 2014 © H T Hồng - ÐHBK TPHCM 29 Thí d hu n luy n m ng NN h c b u n PI m (tt)  B u n m ng th n kinh sau hu n luy n 19 August 2014 © H T Hồng - ÐHBK TPHCM 30 Thí d hu n luy n m ng NN h c b u n PI m (tt) K t qu u n m c ch t l ng dùng m ng th n kinh hu n luy n h h(t) 40 20 0 40 80 120 160 200 240 280 320 40 80 120 160 200 240 280 320 20 10 u(t)  -10 19 August 2014 © H T Hồng - ÐHBK TPHCM 31 NH N D NG M U 19 August 2014 © H T Hồng - ÐHBK TPHCM 32 ng d ng nh n d ng m u  Nh n d ng m u dùng m ng neuron: b c  Hu n luy n m ng neuron d a vào t p m u  Nh n d ng dùng dù m ng neuron hu h n luy l n 19 August 2014 © H T Hồng - ÐHBK TPHCM 33 ng d ng nh n d ng m u  Hu n luy n m ng neuron:  Trích đ c tr ng  Hu n luy n m ng s d ng d li u đ c tr ng T pm u hu n luy n  Trích T í hđ c tr ng Hu n luy H l n m ng L u tr ng s m ng Trích đ c tr ng: tùy theo t ng tốn c th  Nh n d ng ti ng nói: đ c tr ng t n s , Mel, Mel  Nh n d ng hình nh: đ c tr ng m c xám c a vùng nh đ c tr ng Haar, nh, Haar PCA,… PCA 19 August 2014 © H T Hồng - ÐHBK TPHCM 34 ng d ng nh n d ng m u  Nh n d ng:  Trích đ c tr ng  a đ c tr t ng vào ngõ õ vào c a m ng, k t qu nh n d ng xu t hi n ngõ c a m ng M uc n nh n d ng Trích đ c tr ng M ng NN Tính ngõ c a m ng Tr ng s l u tr 19 August 2014 © H T Hồng - ÐHBK TPHCM K t qu nh n d ng 35 Nh n d ng b ng s xe Tách b ng s  Tách ch s  c tr t ng? ?  Hu n luy n m ng  19 August 2014 © H T Hồng - ÐHBK TPHCM 36 Nh n d ng ti ng nói Tách t ?  c tr ng?  Hu H n luy l n m ng  Nh n d ng  19 August 2014 © H T Hồng - ÐHBK TPHCM 37 Tách t 19 August 2014 d a vào n ng l ng © H T Hồng - ÐHBK TPHCM 38 [...]... n lái tàu dùng m ng th n kinh đã hu n phi(t) 45 0 -45 0 500 1000 150 0 2000 2500 3000 3500 4000 500 1000 150 0 2000 2500 3000 3500 4000 50 delta a(t)  0 -50 19 August 2014 © H T Hồng - ÐHBK TPHCM 24 Thí d hu n luy n m ng NN h c b đi u khi n PD m (tt) So sánh v i k t qu phi(t) 45 0 -45 0 500 1000 150 0 2000 2500 3000 3500 4000 500 1000 150 0 2000 2500 3000 3500 4000 50 de lta(t)  0 -50 i u khi n m 19... hu n luy n m ng th n kinh 19 August 2014 © H T Hồng - ÐHBK TPHCM 27 Thí d hu n luy n m ng NN sao chép b đi u khi n PI m (tt) e(t) 30 15 0 -15 -30 d de(t) D li u đ hu n luy n m ng th n kinh 50 25 0 -25 -50 0 40 80 120 160 200 240 280 320 50 100 150 200 250 300 50 100 150 200 250 300 12 u(t)  8 4 0 19 August 2014 © H T Hồng - ÐHBK TPHCM 28 Thí d hu n luy n m ng NN h c b đi u khi n PI m (tt)  C u trúc... hình phi tuy n Mơ hình phi tuy n đ c ng d ng trong  i u khi n: đi u khi n d báo, đi u khi n thích nghi, đi u khi n dùng g mơ hình ng g c  D báo  Chu n đốn s c 19 August 2014 © H T Hồng - ÐHBK TPHCM 15 H C LU T I U KHI N 19 August 2014 © H T Hồng - ÐHBK TPHCM 16 i u khi n dùng m ng th n kinh uc(k) r(k) ( ) i t ng g đi u khi n y(k)) y( unn(k) M ng th n kinh có th đ c s d ng đ h c kinh nghi m chun gia ... NN chép b u n PI m (tt) e(t) 30 15 -15 -30 d de(t) D li u đ hu n luy n m ng th n kinh 50 25 -25 -50 40 80 120 160 200 240 280 320 50 100 150 200 250 300 50 100 150 200 250 300 12 u(t)  19 August... luy n m ng NN h c b u n PD m (tt) So sánh v i k t qu phi(t) 45 -45 500 1000 150 0 2000 2500 3000 3500 4000 500 1000 150 0 2000 2500 3000 3500 4000 50 de lta(t)  -50 i u n m 19 August 2014 K dùng... (tt) K t qu luy n u n lái tàu dùng m ng th n kinh hu n phi(t) 45 -45 500 1000 150 0 2000 2500 3000 3500 4000 500 1000 150 0 2000 2500 3000 3500 4000 50 delta a(t)  -50 19 August 2014 © H T Hồng