MC LC 1.3 Tớnh gn ỳng o hm bng a thc ni suy 13 1.4.1 Hm hm c s bỏn kớnh (Radial Basis Function networks) 16 M U Ngy vi s phỏt trin mnh m ca cụng ngh thụng tin, ngi ó ng dng nhng thnh tu ca nú rt nhiu lnh vc khỏc Mỏy tớnh ó tr thnh mt cụng c h tr c lc cho ngi vic x lý d liu mt cỏch nhanh chúng v chớnh xỏc T khong hai chc nm ngi ta ó v ang phỏt trin mt k thut ni suy mi cú chớnh xỏc cao ú l ni suy bi hm c s bỏn kớnh (Radial Basis Functions) vit tt l RBF Phng phỏp ni suy ny ó c s dng nhiu lnh vc ca CNTT nh x lý tớn hiu, x lý nh, mỏy tớnh v lý thuyt iu khin Mt s phn mm v hm RBF v cỏc ng dng cng ó c phỏt trin Ngoi ra, mt lnh vc ng dng khỏc rt hiu qu ca ni suy RBF l tớnh toỏn khoa hc Cỏc k thut RBF c s dng ngy cng nhiu vic gii s phng trỡnh o hm riờng, c bit l cỏc bi toỏn phi tuyn v/hoc cỏc bi toỏn cỏc hỡnh hc phc Lnh vc ny c phỏt trin da trờn nn tng ca hỡnh hc hỡnh, hỡnh hc tớnh toỏn, hỡnh hc vi phõn cựng nhiu kin thc toỏn hc ca i s v gii tớch, cng nh cỏc thnh tu ca phn cng mỏy tớnh Lun gm cú ba chng: Chng Ni suy hm nhiu bin bi hm RBF Khỏi nim c bn v ni suy v xp x hm s Mt s phng phỏp ni suy hm mt bin Ni suy hm nhiu bin Hm c s bỏn kớnh v cỏc tớnh cht Ni suy bi hm RBF Chng Phng trỡnh khuych tỏn - truyn ti Gii thiu bi toỏn Phng phỏp sai phõn gii phng trỡnh khuych tỏn - truyn ti Mt s thớ d tớnh toỏn Chng Gii phng trỡnh khuch tỏn - truyn ti bng phng phỏp khụng li Chng trỡnh MATLAB gii bi toỏn bng phng phỏp sai phõn v phng phỏp RBF Em xin c by t lũng bit n n thy giỏo PGS.TS ng Quang ó tn tỡnh hng dn em hon thnh lun ny Em cng xin chõn thnh cm n cỏc thy cụ giỏo, bn bố, ng nghip, Khoa Cụng ngh Thụng tin i hc Thỏi Nguyờn ó ng viờn, giỳp em quỏ trỡnh hc v nghiờn cu Thỏi Nguyờn, ngy 30 thỏng 10 nm 2010 CHNG : NI SUY HM NHIU BIN BI HM RBF 1.1 XP X HM BNG NI SUY 1.1 1Bi toỏn ni suy Gi s chỳng ta cú hm s y=f(x), v bit giỏ tr ca nú ti cỏc im x0 =a < x1 t=0 Trong miền ta xét, biên , thuộc không gian R3 tơng ứng không gian ba chiều dài, rộng, cao môi trờng, u đại lợng cần xác định, thông thờng nh nồng độ chất, ô nhiễm, t thời gian t = thời điểm bắt đầu xảy tợng Việc giải phơng trình đạo hàm riêng có ý nghĩa quan trọng thực tế nhằm đo lờng ô nhiễm môi trờng hay ảnh hởng tác nhân có hại Từ trớc tới việc giải phơng trình đạo hàm riêng thờng sử dụng phơng pháp cổ điển có lới, nhiên không gian ta xét thờng phức tạp, điểm cần xác định thờng rời rạc không nên phơng pháp có lới thờng tỏ có nhũng hạn chế định Một phơng pháp cải tiến đáng kể dùng phơng pháp phơng pháp không lới Phơng pháp có điểm mạnh giải miền phức tạo hay xác định mốc rời rạc ổn định Trong phần dới tính toán thử số trờng hợp đơn giản phơng trình 3.2 Phơng pháp không lới giải toán 3.2.1 Bài toán tổng quát 30 Trớc hết nh biết công thức xấp xỉ hàm u(x) sử dụng hàm xuyên tâm sở: u ( x ) = j ( x , x j ) + ( x ) N x Rd j =1 (3.21) hàm xuyên tâm sở x = (x , xN) điểm cho trớc j (j=1 N) hệ số cần xác định Đa thức phơng trình (3.2.1) đợc cho dới dạng: m ( x ) = j Pi ( x ) (3.2.2) i =1 P(x) sở không gian đa thức có bậc m < N Các tham số i phơng trình (1) phải thoả mãn điều kiện: P(x ) = N j =1 j i i=1 m j (3.2.3) Để xác định hệ số j, i ta áp dụng phơng trình (3.2.1) với điều kiện (3.2.3) điểm i = N u i, i=1 N biết ta có N+m phơng trình N+m ẩn {jj=1 N, ii=1 m} Bây ta xét phơng trình khuếch tán - truyền tải: u ( X, t ) = u ( X, t ) + u ( X, t ) t XR3, t>0 (3.2.4) x,t > (3.2.5) Với điều kiện biên: c1u(X,t)+c2u(X,t)=f(X,t) u(X,t) = u0(X) t=0 (3.2.6) u(X,t) hàm biểu diễn nhiệt độ vị trí X thời điểm t, toán từ gradient, R3 biên , , v=[vx, vy, vz]T hệ số thích hợp, c1c2 số thực f(X,t) u0(X) hàm cho Đầu tiên ta đa trọng số vào phơng trình (3.2.4) ta có u ( X, t + ) u ( X , t ) = { u ( X, t + ) + u ( X, t ) + } + (1 ) { u ( X, t ) + u ( X, t )} Trong < < bớc thời gian Từ (3.2.7) ta suy 31 (3.2.7 u(X,t+)-u(X,t)={2u(X,t+)+u(X,t+) + (1-) {2u(X,t)+u(X,t)} =2u(X,t+)+u(X,t+)+(1-)2u(X,t+(1-)u(X,t+) (3.2.8) u(X,t+)-u(X,t+) - v2(X,t+)+(1-)vu(X,t+) Đặt =-, ={x; y; z}T = -; =(1-) = {x; y; z}T=(1-) Và đặt un = u (X, tn), tn=tn-1+ thời gian bớc thứ n thu đợc: un+1+2un+1+un+1=un+2un + un (3.2.9) Giả thiết có N-4 điểm cho trớc XR3 nên ta biểu diễn X dới dạng X = (x,y,z) u (X,t) = u(x,y,z,t n), ta xấp xỉ (X) hàm xuyên tâm sở un(X) = ( r ) + n j n N j x + nN2 y + nN1z + nN (3.2.10) Để xác định hệ số (1, 2, N-1, N) ta sử dụng (3.2.10) điểm i=1 N-4 cho Ta có u (xi, yizi) = ( r ) + N j1 n j=1 n j ij n N Trong rij = X i X j = x i + nN y i + nN 1z i + nN (x x j ) + ( yi y j ) + ( zi z j ) i (3.2.11) từ (3.2.3) ta có: N4 N N4 N j=1 j =1 j=1 j =1 nj = nj x j = nj y j = nj z j = (3.2.12) từ (3.2.11) (3.2.12) ta viết gộp lại dới ma trận: u1n 1,1 u nN4 N1,1 = x1 y1 z1 1,N4 N , N4 x N4 y N4 z N x1 x N y1 y N hay ta viết gọn lại là: 32 z1 z N n1 nN4 n N3 n N [U ] n = A n (3.2.13) [U ] n {u1n , u2n , u Nn ,0 Trong đó: A = {aij : ij N } [ ] n = {1n , , nN Micchelli chứng tỏ ma trận A không đặc biệt hàm xuyên tâm xác định lời giản hệ phơng trình (3.2.13) tồn Bây giả sử tập hợp N-4 điểm có p điểm (p (3.2.17) với điều kiện biên: u ( a , t ) = f (t ) (3.2.18) u (b, t ) = f1 (t ) u (c , t ) = u ( x ) dựa vào toán tổng quát ta xây dựng chơng trình tính Sử dụng (3.2.7) ta có: u ( x, t + ) u ( x, t ) 2u = x + (1 + ) t + 2u x t bớc thời gian + (1 ) 2u x t + u ( x, t ) + (1 ) u x t u ( x, t + ) u ( x, t ) = u ( x, t + ) u x 2 2u x t + t + đặt u(x,t+)=un+1 ta viết lại phơng trình nh sau: u n +1 u n +1 2u n n = u + (1 ) x x đặt = , = (1 ) , ta có u n +1 u u +1 2u n n + = u + x x (3.2.19) xấp xỉ un(x) phơng pháp dùng hàm xuyên tâm sở: N ( ) u n ( x) = nj x x j + nN + nN j =1 xi(i = 1, , N-2) điểm cho trớc, điểm ta lấy hai điểm x1 = a, xN-2 = b hai điểm biên, điểm khác tự chọn Tại điểm xi ta có 34 N ( ) u n ( x) = nj x x j + nN i + nN j =1 (3.2.20) đồng thời: N N j =1 j =1 nj = nj x j = (3.2.21) từ (3.20.20) (3.2.21) ta có đợc hệ: với kí hiệu: ( ij = xi x j ( ) ij'' = '' xi x j ) ta đợc: u1n 1,1 1, n 2, u 2,1 = u Nn N 2,1 N 2, x x2 1 1, N 2, N N 2, N x N x1 x2 x N 0 n 1 n n N n N n N (3.2.22) áp dụng (3.2.22) vào (3.2.19) với ý x1, xN-2 điểm biên không tuân theo phơng trình (3.2.19) ta có hệ phơng trình sau: 1,1 + '' ,1 2,1 '' N 3,1 + N 3,1 N 2,1 x1 1,1 + '' ,1 2,1 = N 3,1 + N'' 3,1 N 2,1 x1 1, N 2, N + 2'' , N N 3, N + N'' 3, N N 2, N x N 1, N 2, N + 2'' , N N 3, N + N'' 3, N N , N x N n+1 x1 1 n+1 x2 n+1 x N N x N nN+12 0 n+1 N 0 n+1 N n n +1 n x1 1 f f n x2 n x N N + n n+1 n x N N f1 f1 0 n N 0 n N (3.2.23) 35 hay viết gọn lại A1 n+1 = A2n từ phơng trình ta tìm 1, , N bớc thời gian thứ n + theo 1, ,N bớc thời gian thứ n với n = 0, J, J số bớc thời gian J = (t2 - t1) Bây sử dụng điều kiện biên ta thiết lập phơng trình tính 1, , N bớc n = 0, áp dụng nội suy hàm xuyên tâm cho hàm u0(x): N ( ) u ( xi ) = 0j xi x j + 0N xi + 0N = u0 ( x1 ) j =0 N N j =1 j =1 0j = 0j x j = ta thiết lập đợc: 1, 1,1 2, 2,1 N 2,1 N 2, x2 x1 1, N , N N , N x N x1 x2 x N 0 1 u0 ( x1 ) u0 ( x2 ) = N u0 ( x N ) 0 N 0 N (3.2.24) hay A00 = u0 giải hệ ta tìm đợc số 1, ,N bớc từ theo (3.2.23) ta tìm đợc 1, ,N bớc J điểm thời gian cần tìm Và cuối sử dụng (3.2.22) ta thu đợc nghiệm toán điểm chọn làm tâm Từ thực theo sơ đồ thuật toán sau: 36 MT S KT QU TNH TON i vi phng trỡnh cho dng sau: u 2u = k (0[...]... bng a thc ni suy - Gi s ngi ta phi tớnh xp x o hm ca hm s f(x) trờn on (a,b) Trc ht ngi ta thay hm f(x) bng a thc ni suy p(x), sau ú ly o hm p'(x) v coi l xp x ca o hm f'(x) Ta cú th dựng cụng thc ni suy Lagrange tớnh o hm: Vỡ im c ph thuc x nờn c lng (3.3) ch ỏnh giỏ c khi x l cỏc mc ni suy x=xi; Thụng thng ngi ta xột a thc ni suy vi mc cỏch u vi h=xi+1 xi Vớ d Gi s ta xỏc nh c a thc ni suy l: p3(x)... v à + z z z 3 2.3 M rng hm RBF Hm RBF nhiu lp cho phng trỡnh khuch tỏn truyn ti: Hm RBF v hm Perceptron nhiu lp cú mt s u v nhc im sau: Hm RBF cú tc hi t nhanh nhng cú th b mt thụng tin do kh nng tng hp thp nu s dng thut lan truyn ngc sai s Hm perceptron nhiu lp thng cú tc hi t chm nhng chớnh xỏc cao trong nhn dng Nh vy cn m rng hm RBF theo hng thờm cỏc lp n bờn trong RBF hi t c nhng c trng tt... quát 30 Trớc hết nh chúng ta đã biết công thức xấp xỉ hàm u(x) sử dụng hàm xuyên tâm cơ sở: u ( x ) = j ( x , x j ) + ( x ) N x Rd j =1 (3.21) trong đó là hàm xuyên tâm cơ sở x = (x 1 , xN) là các điểm cho trớc j (j=1 N) là các hệ số cần xác định Đa thức trong phơng trình (3.2.1) đợc cho dới dạng: m ( x ) = j Pi ( x ) (3.2.2) i =1 P(x) là cơ sở của không gian đa thức có bậc m < N Các tham số... nhn dng mụ hỡnh nhng vn m bo hi t nhanh Ngoi ra khi hm RBF c luyn s dng thut bỡnh phng nh nht thỡ RBF hot ng nhanh hn perceptron nhiu lp Nhng nu tp mu luyn c chn kộm thỡ hm RBF li khụng cho kt qu ti u ton cc tt nh hm perceptron nhiu lp Vic khỏc nhau gia hm RBF nhiu lp so vi perceptron nhiu lp l cỏc phng trỡnh nỳt ti cỏc lp n v lp u ra Trong hm RBF nhiu lp khụng s dng thut luyn ti u theo bỡnh phng... cp 2 tớnh o hm cp 2 ta dựng cụng thc ni suy cp 2 tớnh y(x i) o hm hai ln liờn tip biu thc ta cú: ta cú cỏc cụng thc sau: Vy sai s cú bc O(h2) Chỳng ta ó cú cụng thc tớnh o hm cp 1 v cp 2 ti cỏc mc ni suy tớnh o hm ti cỏc im khụng l mc ta li ỏp dng phng phỏp ni suy Lagrange Sai s khi tớnh o hm ngoi sai s ca cụng thc cũn phi tớnh n sai s lm trũn, v cỏc bc ni suy h phi nh Vớ d: Hm y=f(x) c cho ti cỏc... thứ n + 1 theo 1, ,N tại bớc thời gian thứ n với n = 0, J, J là số bớc thời gian J = (t2 - t1) Bây giờ sử dụng điều kiện biên ta thiết lập phơng trình tính 1, , N tại bớc n = 0, áp dụng nội suy hàm xuyên tâm cho các hàm u0(x): N 2 ( ) u 0 ( xi ) = 0j xi x j + 0N 1 xi + 0N = u0 ( x1 ) j =0 và N 2 N 2 j =1 j =1 0j = 0j x j = 0 ta thiết lập đợc: 1, 2 1,1 2, 2 2,1 N 2,1 N 2, 2 x2 x1 1 1... chỳng th hin d liu u vo Khi RBF tớnh toỏn quỏ trỡnh xp x i vi mt s im d liu u vo thỡ khong cỏch gia cỏc im u vo v mi tõm c tớnh theo khong cỏch euclidean Nhng khong cỏch ny c chuyn qua W sau ú c trng s húa bng Bi v c tng hp li sinh ra ton b RBF 22 Hm Gaussian th hin hỡnh nh mi u ra ca hm c s s xa hn hoc gn hn so vi cỏc im d liu x = A i tõm hm c s Mt khỏc dng Gauss ca RBF cung cp cỏc ghộp ni qua logic... hnh vi hoc phn ng khụng ch ca RBF m cũn l ca h thng m RBF thc hin nhn dng Ngoi ra cú th cú cỏc la chn khỏc i vi hm c s nh hm spline lm vic rt hiu qu trong bi toỏn nhn dng mụ hỡnh Nhn xột: Hm hm c s bỏn kớnh cú hm kớch hot dng: W ( x ) = W ( x A1 ) W ( x A M ) T Kt qu ca hm l: f ( x ) = { B, W ( x ) } vỡ vy, õy l hm tuyn tớnh phõn lp d liu trờn khụng gian RM Hm RBF cũn cú th dựng xp x hm s nu... ca f'(x) Tớnh o hm cp 1 o hm ti cỏc im biờn Khi x l im biờn x0 hoc xn ta dựng cụng thc ni suy bc nht vi hai mc ni suy tớnh gn ỳng o hm: 13 y(x0) = (y1-y0)/h y(xn) = (yn-yn-1)/h Vỡ yn = yn-1 + y(xn) h + 0(h2) nờn sai s ca c lng O(h2) o hm ti cỏc im trong Khi x=xi l cỏc im trong (i=1,2, ,n-1) ta dựng cụng thc ni suy bc 2 cú xi l im gia vi x = xi-1 +ht o hm theo x ta c: thay x=xi hay t=1 vo cụng thc trờn... tõm RBF W Hm c s hoc hm kớch hot ca hm r Bỏn kớnh , Cỏc thụng s t l || || - Chun euclidean, tc l nu x cha n phn t thỡ: x = n x i =1 2 i (6) 16 1.4.3 hm c s bỏn kớnh (RBF) : Gi s ta cú D tõm c 1cD, khi ú hm hm c s bỏn kớnh l t hp tuyn tớnh ca cỏc hm bỏn kớnh ti cỏc tõm ny Nh vy 1 Hm hm c s bỏn kớnh ó to ra ỏnh x vi 2 Kt qu ca hm l vỡ vy, õy l hm tuyn tớnh phõn lp d liu trờn khụng gian 3 Hm RBF ... ba chng: Chng Ni suy hm nhiu bin bi hm RBF Khỏi nim c bn v ni suy v xp x hm s Mt s phng phỏp ni suy hm mt bin Ni suy hm nhiu bin Hm c s bỏn kớnh v cỏc tớnh cht Ni suy bi hm RBF Chng Phng trỡnh... v lý thuyt iu khin Mt s phn mm v hm RBF v cỏc ng dng cng ó c phỏt trin Ngoi ra, mt lnh vc ng dng khỏc rt hiu qu ca ni suy RBF l tớnh toỏn khoa hc Cỏc k thut RBF c s dng ngy cng nhiu vic gii s... chc nm ngi ta ó v ang phỏt trin mt k thut ni suy mi cú chớnh xỏc cao ú l ni suy bi hm c s bỏn kớnh (Radial Basis Functions) vit tt l RBF Phng phỏp ni suy ny ó c s dng nhiu lnh vc ca CNTT nh x lý