Chương PHƯƠNG PHÁP GRADIENT 7.1ẵPHƯƠNG PHÁP HƯỚNG D ố c NHÂT 7.1.1ệ Nội d u n g phư ng ph áp Xét tốn tối ưu khơng ràng buộc ( f ( x ) : X £ K"| Ta xây dựng dãy điểm x°, X1, X2, cho f(xk+l) < f(x k) với k = 0, , , , dãy (x k Ị hội tụ tới X* k -> 00 Vf(x*) = G iả sử ta có điểm xk thuộc lân cận X*, để giảm hàm m ục tiêu ta dịch chuyển từ xk theo hướng dk tạo với véctơ gradient Vf(xk) góc tù, tức xác định xk+l = xk + a kdk a k > 0, < Thật vậy, khai triển hàm f(x) thành chuỗi Taylor điểm xk ta a2 f(x) = f(xk) + a + — , „ong dó vf(x) Ể g í ì ỠX| ỡx2 m f v>f(j) ỡxn ƠXịỡXj cấp nxn x k = xk + 0(x - xk) với e [0,1] Nếu < với a > đủ nhỏ ta có f(x) < f(xk) Việc lựa chọn hướng dịch chuyển dk độ dài bước a k khác cho ta phương pháp gradient khác N ếu chọn d k — - Vf(xk) với k phương pháp gradient gọi phương 183 pháp luỉớng dốc (Steepest Descent M ethod) Đây phương pháp thơng dụng để tìm cực tiểu, đơn giản áp dụng cho nhiều lớp hàm rộng Phương pháp xây dựng dãy lặp: xk+' = xk - otkVf(xk), ctk > 0, k = 0, , (7.1) Ì3 T h u ậ t tốn xác địn h a k bước lặp {Qui tắc Armijo): 1) Chọn giá trị a tùy ý (như với bước lặp, chẩng hạn a = 1) xác định đ iểm X = x k - ccV f(xk) 2) Tính f(x) = f[xk - a V f(x k)] 3) Kiểm tra bất đảng thức: f(x) - f(xk) < e a = - eallV f(xk)ll2 (7.2) với < £ < số chọn tùy ý, với k = 0,1, 4) Nếu (7.2) thỏa mãn a giá trị cần tìm: a k = a Nếu (7.2) khơng thỏa mãn ta giảm a (bằng cách nhân a với số Ấ (0, 1), chẳng hạn Ằ = Vì) bất đẳng thức (7.2) thỏa mãn 7.1.2 Sự hội tụ củ a phương p h p g d ie n t Ta n ói dãy ( x k) hội tụ tới đ iểm X* v i tô Ệ c đ ộ l i ộ i t ụ t u y ế n lí n h hay tốc độ hội tụ cấp số nhân (công bội q) chi số k ta có bất đảng thức llxk+l - x*ll < q llxk - x * ll, < q < Cơ sở việc lựa chọn a hội tụ phương pháp gradient cho định lý sau Đ ịnh lý 7.1ẻ Giả sử hàm f(x) bị chặn dưới, gradient Vf(x) thỏa mãn điều kiện L ipschitz: IIVf(x) - Vf(y)ll < Lllx - yll, Vx, y e l ” a k chọn theo thuật toán nêu Khi đó, với bát kỳ’ điềm ban đầu x°, q trình lặp (7.1) có tính chất: IIVf(xk)ll -> k -► X 184 C h ứ n g m inh Theo định lý giá trị trung bình: f(x ) - f(x k) = < V f( x k ), x - x k>, x k = xk + 0(x - xk) với e [0, 1], Do X - xk = - aV f(x k) nên ta có f(x) - f( x k) = < V f ( x k), X - x k> + < V f( x k ) - V f(x k), X - x k>, < - a< V f(x k), Vf(xk)> + ã > 0, ã chọn sơ' tùy ý khơng vượt q (1 - £)/ L (vì bất đảng thức (7.2) hay (7.3) thỏa mãn với a = (1 - e)/L) Từ (7.4), (7.5) ý suy IIVf(xk)ll -» k -> 00 Đ ịnh lý chứng minh Đ ịnh lý 7.1 bảo đàm giá trị hàm mục tiêu hội tụ đến cận iưới inf f(x), tới giá trị hàm điểm dừng (có thể điểm cực tiểu địa phương hay điểm yên ngựa) Với giả 185 thiết định độ trơn tính lồi hàm cần tìm cực tiểu, la đánh giá tốc độ hội tụ cùa phương pháp gradient Đ ịnh lý 7.2 Giá sử f(x) hàm lồi hai vi liên tục ma trận dạo liàm bậc hai llìòa m ãn điêu kiện : m llyll2 < < v 2f(x)y, y> < M llyll2, M > m > (7.6) với m ọi X, y Kn, CÒI1 d ã y 1xk I dược x â y dựng th eo phương pháp (7.1 ), dó a k chọn tlieo tliuật tốn d ã mó tà Khi dó với b ấ t kỳ điểm ban (láu Xo, ta s ẽ có x k —> X*, f ( x k) —> f(x *), dó X* lủ điểm cực tiểu (duy nhất) f(x) Đồng tliời, ta có đánh giá sau tấc dộ liội tụ cùa tliuật toán: f(xk) - f(x*) < q'ffíx") - f(x*)], llxk - x*ll < C q ^ , c < 00,0 < q , X = 0X + ( - 0)x* với e [0, 1] Từ nhà tính đến (7.6) ta có f(x) - f(x*) = < V f(x ), X - x*> - ‘/ < v 2f ( x ) ( x - X*), X - x*> < < V f(x ), X - x * > - — llx - x * ll2 < IIVf(x)llắllx - x*ll - — llx - x*ll2 (7.7) Đồng thời (do Vf(x*) = 0) f(x) - f(x*) = Vỉ < v 2f( X )(x - X*), X - x*>, X = 0X + ( - 0)x* với e e [0, 1] Vì theo giả thiết (7.6) V llx - x*ll2 < f(x ) - f(x * ) < — llx - x*ll2 186 (7.8) Sử dụng bất đẳng thức trái (7.8) ước lượng (7.7) ta có llx -x * ll< — IIVf(x)ll m từ bất đẳng thức phải (7ề8) suy llx -x * ll2 > — [f(x) - f(x*)] M Dùng hai bất đẳng thức trên, ta đánh giá tiếp (7.7) f(x) - f(x*) < — IIVf(x)ll2 - — [f(x) - f(x*)] m M Từ IIVf(x)ll2 > m( + — )[f(x) - f(x*)] M (7.9) Sử dụng đánh giá vào bất đẳng thức (7.3) ta nhận f(xk+1) - f ( x k) < - e a km (l + — )[f(xk) - f(x*)] M (7.10) Với điều kiện cùa định lý f(x) - f(xk) = + Vỉ = - allV f(xk)ll2 + — < - a( - — )IIVf(xk)ll2 Từ suy bất đẳng thức (7.2) thỏa mãn chọn aM 2(1 - e ) ( —- ) > £, tức a < a = — M Khi đó, từ (7.10) suy f(xk+l) - f(x*) < [1 - e a km( + — )].[f(xk) - f(x*)] < q[f(xk) - f(x*)], M 187 đ ó q = l - e a i ( l + m /M ) < 1, tức f(xk) - f ( x * ) < q k[ f ( x ") - f ( x * ) ] (7.11) Do ã = 2(1 - e)/M ta có M M Từ suy ràng giá trị cực tiểu cùa q đạt E = ị-, thời m ,ấ qm,n" 2M m X M điểu kiện (7.2) nên đật e = — Đánh giá (7.11) với vế trái cùa (7.8) cho phép khảng định hội tụ đánh giá tốc độ hội tụ dãy I xk I tới điểm cực tiểu llxk - x * l l < í — ì " [ f ( x k) - f ( x * ) ] l/2 Vm ) < [f(x " )-f(x * )]lữ qk/2< C q k Định lý chứng minh đầy đù Q ua chứng minh ta thấy để thu đánh giá (7.11) ta sứ dụng điều kiện (7.2) (7.9) Ta kết luận lớp hàm có đánh giá (7.11) thực rộng nhiều so với lớp hàm thòa mân điều kiện (7.6) đánh giá (7.11) với hàm thỏa mãn điều kiện cùa Định lv 7.1 điều kiện: IIVf(x)ll: > ỗ[f(x) - f(x*)] ỗ > Thuật toán xác định a theo (7.2) thường gọi thuật toán quay lui (backtracking) Sau nêu số cách xác định a khác m bảo đảm hội tụ cùa phương pháp gradient 188 7.1.3 C ác d n g k h ác phương p h p g rad ie n t • P hư ng p h áp g rad ie n t với độ dài bước cỏ định Nếu số L (trong Định lý 7.1) M (trong Định lý 7.2) biết trước phương pháp (7.1) chọn cố định trước a k = ã , < ã < — < ã < — L M Khi đó, định lý hội tụ 7.1 7.2 • Phương pháp gradient với cực tiều hàm theo hướng dịch chuyển Độ dài bước a k bước lặp chọn từ điều kiện f[xk - a kV f(xk)] = I f[xk - ctVf(xk)] : a > ) Cách xác định a gọi phiíơiiỊi pliáp tìm clúiih xác theo lia (Exact Line Search) Khi định lý hội tụ 7.1 7.2 Ngồi ra, ta nhận đánh giá xác ló c đ ộ h ộ i tụ : „ k llx - x*ll < Í m Y /2 — xllx - x * l l x V, m y ( M - mÝ — VM + m ) • P hương p h áp g d ie n t khác Cho F(x) ma trận đối xứng thỏa mãn điều kiện: pllyll2 < < TỊllyll2 (p > 0), Vx y e K" (7.12) Nếu chọn d = - F(x).V f(x) Vf(x) * = - < - pllVf(x)ll2 < 0, nghĩa d = - F (x).V f(x) hướng giảm f(x) Như vậy, để tìm ực tiếu f(x) ta có thê dùng phép lặp: XUI = xk - a kFk.Vf(x), a k > 0, k = 1, rong {Fk) dãy ma trận bát kỳ thỏa mãn (7.12) 189 Đế thống ký hiệu, ta dùng phép lặp xk+' = xk - c x kF k 1.Vf(xk) , a k > , k = 0, 1, (7.13) F ¡“1 ma trận nghịch đảo cùa Fk Có chứng minh Fk thỏa mãn (7.12) F [ ' thỏa mãn: mIllyll2 < < F [ ‘ y, y> < M|llyll: với m, = p /iỷ M | = 1/p = - T x ’ = (7/3, 4/3, /3 )T Cực tiếu đạt Xj = b / ( a j ^ ni / a k ), j = .n; 10 fmin = -3 - y / ĩ (- 0,25; 0,5) 338 = + CC đạt (-3, -V ã )T fraj, = dụt 11 fmm = đại (1, O)1 Không, thay đổi hàm f 12 xmin = (7/9, 1/3)t , X = -1 /3 , fmi„ = 8/9 13 fmin = đạt x mi" = (2, - 2)T Chưưng x"p' = ( , - )T fmin = - I x’’p' = (1, 1)T fmin = - 3 x"p' = (2, 2)T fmm = - 20 xopl = (0,8; ,4 )t fmm = 0,4 Chưưng 10 x"p' = (- 4, 3)T fmin = - 7 xl,p' = (2, )T fmin = Chương 11 Hàm chắn lôga B(x, t) = (x, + ,5 )2 + (x - ,5 )2 - t[ln(X|) + ln(l - X,) + ln(x2) + ln( - x 2)] fmìn = f(0; ,5 ) = 0,25 Hàm chắn nghịch đảo B(x, t) = X + t/(x - 2), giá trị cực tiểu + \ / ĩ , đạt x*(t) = + \JĨ -> (khi t -> ) => fmin = f( ) = Hàm chắn nghịch đảo B(x, t) = Vĩ (X ị + l )3 + x + t/(x, - 1) + t/x2, giá trị cực tiểu {'/3[(1 + síĩ)'/2 + l f + Vt + n/Ĩ [1 + + ( + Vt )'/j]}, đạt x*( t ) = (1 + Vt )l/ỉ -> , X (t) = Vt -> (khi t -> ) = > fmin = f ( l , ) = 8/3 - f m,n = 4 , đ t t i X* = ( , )T fmin = - đ t tạ i X * = (3 , ) T f = - 3456, đạt X* = (24, 12, 12)T a) f = 10 đạt X* = (2, 3)T, 339 b) fmm = / đ t X* = (8/5, 12/5)T fmin = 6,2403 đạt X* = (1,4422; 1,4422; 1,4422)T fmin = đ t X* = (2, V3 )T C hữ viết tất 340 • c đ đ í- cực đại địa phương • c.đ.t.c - cực đại tồn cục • c.t.d í - cực tiểu địa phương • c.t.t.c - cực tiểu tồn cục • c.n.đ - chấp nhận • đ.k - điều kiện TÀI LIỆU THAM KHẢO [1] L A kulitch (1986), Q ui lioạcli tốn học: V í dụ b i tậ p , Nxb C ao đ ẳn g, M t-x -v a (tiến g N ga) [2] B M A le k c e e v , E M G a leev V M T ik h om irov (1 ), Tuyển tập cá c bà i lập vê tố i ưu h óa, N xb Khoa học, M át-xcơva (tiến g N g a ) [3] D p Bertsekas (1 999), N on lin ear P rogram m ing, nd edition, A th en a S c ien tific , B elm on t, M assach u setts [4] B D Bunday (1984), Basic O ptim isation M eth o d s, Edward A rnold [5] R F letch er (1 ), P r a c t ic a l M e th o d s o f O p tim iz a t io n , nd edition, John W iley & Sons [6] V G K arm anov (1 ), Q u i h o c h to n h ọ c , N x b K hoa h ọc, M t-x c -v a (tiến g N g a ) [7] N g u y ễ n T hị Bạch K im (2 0 ), u - L ý th u y ế t v th u ậ t to n [8 ] G iá o t r ì n h c c p h n g p h p t ố i , N x b B ách kh oa, H N ộ i p Konhiukhovxki (2000), C c phươiig p h p toán vận trù kinh tế Saint Peterburg (tiếng Nga) [9] D in h T h e L uc (1 9 ), I n t r o d u c t io n to N o n lin e a r O p t im iz a t io n , D epartm en t o f M ath em atics o f C IE A -IP N , M e x ic o [10] D G L uen b erger and Y Y e (2 0 ), L in e a r a n d N o n lin e a r P rogram m ing, rd edition Springer [ ”] Lê D ũng Mưu (1998), N liập môn phương p h p tố i ưu, N x b K hoa h ọ c K ỹ thuật, Hà N ội 341 [11] J N ocedal and s J Wright (1999), N u m erical O p tim ization , Springer [12] P Pedregal (2 004), Introduction to O p tim ization Springer [13] J J Strodiot (2 002), N u m erical M eth ods ill O ptim ization , Namur - Belgium [14] w Sun and Y -X Y uan (2 0 ), O p tim iz a t io n T h e o ry and M eth ods - N on lin ear Program m ing, Springer [15] Trần VQ Thiệu (2 004), G iáo trìnli tố i ưu tuyến lính, N xb Đại học Q uốc gia Hà Nội [1 ] R T hom as (W inter 2009), N o n lin e a r O p tim iz a t io n , M ath 408 A, E-mail: http//w w w m ath w ashin gton edu /~th om as/teaching/m 408_w 2009 _web/math408.html [17] Hoang Tuy (1998), C on vex A n alysis a n d G lo b a l O ptim ization , K lu w er A c a d e m ic P u b lish ers B o sto n / L o n d o n / D ordrecht (Chapters and 2, pp - ) [1 ] H o n g T ụ y (2 0 ), L ý th u y ế t t ố i m (B ài g iả n g c a o h ọ c ), V iện Toán học, Hà N ội [19] G Zoutendijk (1960), M eth ods o f F ea sib le D ire c tio n s, N.Y P rinceton [20] S I Zukhovitxki L.I A vdeeva (1 ), Q u i lioạcli tuyến tính v q u i h o c h lồ i, 342 N x b K hoa h ọ c , M t-x c -v a (tiế n g N g a ) CÁC TỪ KHÓA B toán dầu tư chứng khoán, 23 đối ngẫu, 122, 124 gốc, 122, 123 lát cắt lớn nhất, 24 phân hoạch, 2 qui hoạch d-c, 26 (K EY S W O R D S) bao afin, 40 đóng, 46, 47 lồi, 44, 48, 62 lồi đóng, 49 nón, 44 bất đẳng thức Cauchy-Schwartz, 203 biên tương đối, 46 lõm, 26 biến bù, 18 lói, 26, 1 lồi đảo, 26 bổ đề Farkas, 106 đối ngầu, 123 tuyến tính, 25 sản xuất, tập ổn định lớn nhất, 35 cạnh, 58, 61 thể tích lớn nhất, 23 cực đại tối ưu, 17 có ràng buộc, 17 địa phương, 19, 67, 86 địa phương chặt, 19, 86 dạng chuẩn, 18, 239 toàn cục, 19, 67, 89 đa mục tiêu, 27 tồn cục chặt, 19 khơng lồi, 26 khơng ràng buộc, 17,85,165 lồi, 25, 248 phi tuyến, 25, 223 toàn cục, 26 với ràng buộc hiển, 103 với ràng buộc tập, 91 xấp xỉ, cực tiểu địa phương, 18,67,85,107,113, 315 địa phương chặt, 18, 85, 97, 105, 115, 116 toàn cục, 19, 67 88 toàn cục chặt, 19 cực trị, 34 cực trị địa phương, 20 điều kiện cực trị tồn cục, 20 qui, 104, 110 D qui Slater, 105, 126, 132, 300, 310 diện, 58 dừng, 109 diện thực sự, 58, 61 đủ toi ưu 95, 103 111, 114, 30, ,3 dò tìm theo m ẫu, 168 dò tìm quanh điểm c sở, 167 KKT, 108, 310 gradient, 74 L ipschitz, 183, 198 vi phân, 74, 89 tối ưu cán dù, 99, 119, 129 tối ưu cấp 0, 101 Đ tối đa diện lồi, tối ưu cấp 2, 95, 96, 97, 112, 114 đa tạp tuyến tính, 37 đạo hàm theo hướng, 77 điểm biên, , 57 chấp nhận được, 111, 281 qui, 105, 107, 113, 315 sờ, 167 cực biên, 58 dừng 87 K KT, 108, 114, 240, 320 m ẫu, 167, 168 trong, 46 tương đ ối, 46 tựa, 57 yên ngựa, 131 điều kiện bù, 109 bức, 30 cần tối uu, ,9 ,9 ,1 106, 113 chấp nhặn được, 109 344 ƯU cấp 1, 94, 97, 107 định lý biểu diễn tập lồi đa diện, 62 C arathéodory, 45 đối ngẫu m ạnh, 126 đối ngẫu yếu, 125 K arash-K uhn-Tucker, 107 M inkowski, 59 tách I, 52, 101, 133 tách II, 54, 55 đỉnh, 43, 61, 62 đoạn thẳng, 41 độ dài bước, 137, 182, 188, 195, 263, 273 đ ộ dài bước dò tìm , 167 độ dài bước tối ưu, 136 dộ lệch đối ngầu, 126 độc lập afín, 41 đối ngẫu m ạnh, 126, 129 đối ngẫu yếu, 125, 129 đơn hình, 62 đơn hình qui, 173 đơn hình chuẩn, 62 đường mức, 165 dường thẳng, 37 đường trung tàm đối ngẫu, 312 đường trung tâm gốc, 308 G giá trị hàm lồi chật, 64, 70, 73 lồi khả vi, 70 lồi liên tục, 68 lồi mạnh, 78 biến, 135, 136, 140, 142, 154, 158 mũ hai biến, 166 mục tiêu, 17 cực đại, 18 nhiều biến, 135, 155, 158 cực tiêu, 17 ký lục, 167 nửa liên tục dưới, 28 nửa liên tục trẽn, 28 phạt, 316 phạt tối ưu, 17 H bậc hai, 316 hàm xác, 322, 326 điểm ngoài, 315 afin, 64, 76, 105 bậc hai, 32, 73 bức, 30 Lagrange gia tăng, 316, 326 Powell, 166 chi phí, 17 thường, 65 ràng buộc, 18 chỉ, 65, 301 Rosenbrock, 166 toàn phương, 32 73 chắn, 301 chắn lôga, 303 chắn nghịch đáo, 305 chuẩn, 65 đối ngẫu, 123 đơn mốt, 139, 140 khoảng cách, 65 Lagrange, 108, 123, 130,230, 311 lõm, 64, 6 , 67, 73, 89 lõm chật, 64, 73 lói 63, 6 67, 73, 89, 99 tuyến tính, 53 tựa, 65 tựa lồi, 67, 139 hạng, 60 hệ độc lập tuyến tính, 60 hình cầu dóng, 41 mở, 42 hình chiếu, 49, 107 hướng cải tiến, 272 34 hướng chấp nhận được, 92,272,283,284 dốc nhất, 208 miền trị hàm, giảm, 94, 137, 263, 272, 284 N giảm nhanh nhất, 191, 208 liên hợp, 208 nghiệm chấp nhận được, 17 cực đại mầu, 167 Newton, 194 địa phương, 19 địa phương chặt, 19 K toàn cục, 19 khoảng toàn cục chặt, 19 cực tiểu bất định, 138 đơn mốt, 139, 140 địa phương, 18 tìm kiếm, 137 địa phương chặt, 19 khơng gian con, 37 tồn cục, 19 không gian song song, 38 khoảng cách, 39, 49 toàn cục chặt, 19 tối ưu, 17, 281 L tối ưu toàn cục, tối ưu địa phương, lời giải chấp nhận được, 17 lời giải tối ưu, 17 nhân tửLagrange, 108,123, 230,310 nón, 43 lược đồ Gram-Schmidth, 210 nón chấp nhận được, 92, 275 M ma trận Hessian, 71, 193, 201, 219 lồi, 43 không xác định dương, 190 nửa xác định âm, 73, 86 lồi đa diện, 60, 106 lùi xa, 56 nửd xác định dương, 71, 73,85 nhọn, 43 xác định âm, 73, 86 pháp tuyến ngoài, 50 xác định dương, 72, 73, 85 pháp tuyến trong, 50, 57 tiếp xúc, 93 miền chấp nhận được, 17,281,223, : hữu dụng, 64 346 chấp nhận tuyến tính hóa, 104 nửa khơng gian mờ, 40, 53 nửa khơng gian đóng, 40 tựa, 57 phương pháp Hooke-Jeeves 167 hướng chấp nhận được, 272 nứa dưừng thẳng, 55 hướng có thể, 272 hướng dốc nhất, 182, 209 không dùng đạo hàm, 165 khử liên tiếp, 142 Lagrange, 228 lát cát vàng, 148 lặp Newton, 140 p phần (rong, 46 phẩn tương đối, 46, 47 phép co, 173 dãn, 173 phản xạ, 173 phương, 55 metric biến thiên, 200 Nelder-Mead, 173 Newton, 193 phương Newton suy rộng, 195 199 Newton túy, 194 cực biên, 58, 63 lùi xa, 55 Newton với bước điều chỉnh, 195 tiếp xúc, 93 phương án nhàn tử Lagrange 228 nội suy bậc ba, 157 chấp nhận được, 17, 281 nội suy bậc hai 154 tối ưu, 17, 281 phạt điểm ngoài, 300, 315 phương pháp phạt điểm trong, 300 Powell, 154 chiếu Rosen, 291 Davidon, 157 Davidon-Fletcher-Povvell 200 quay lui 195 dùng điều kiện KKT, 239 đơn hình biên thiên, 173 siêu phắng cắt Kelley, 254 tiến lùi, 138 Fibonacci, 143 Fletcher-Reeves, 211 tìm xác theo tia, 188 tìm theo tọa độ, 165 Frank-Wolfe 263 trực tiếp, 223 gradient 182 gradient liên hợp, 208 tuyến tính hóa, 254 tựa Newton, 200 hàm chắn 300 Zoutendijk 272 hàm phạt 315 hình học 223 Q qui hoạch d-c, 26 34 qui hoạch đa mục tiêu, 27 động, 27 hình học, 26 Lipschitz, 27 lõm, 26 lồi, 26, 248 lồi tồn phương, 26, 129 ràng buộc tích cực, 274 tuyến tính, 275 281 vé dấu, 18, 223 s siêu phảng, 39 siêu phảng lồi tách biến, 26 cat 257 ngẫu nhiên, 27 tách, 52, 74 nguyên, 26 nguyên biến Boole, 26 nguyên - , 26 tách hẳn, 51, 53, 54 tựa, 57 số chiều, 38, 42 nón, 27 phân thức, 26 phi tuyến, 25 T tham số, 27 tồn phương khơng lồi, 26 tách hấn, 53 tập tách, 52 qui hoạch tuyến tính, 25, 129, 255, 263 afin, 37 bị chặn, 60, 63 qui hoạch tuyến tính nguyên, 26 qui tắc Armijo, 137, 183 chấp nhận dược, 17 qui tắc Lagrange, 230 dóng, 48 R hướng giảm , 94 lồi, 41 ràng buộc, 61 lồi đa diện, 60 ràng buộc bất đảng thức, 18, 228 mớ, 46 mở tương đối 46 chặt, 61, 274 mức dưới, 28 6 79 đảng thức, 18, 129, 229 mức 66 hiên, 103 không âm, 18, 223, 235 nghiệm chấp nhận 17 nghiệm tối ưu, 17 phi tuyến, 275 ổn định đổ thị 35 ràng buộc, 17, 300 tập, 91 348 compac, 48, 54 tập đổ thị, 64, 100 •ham số phạt, 316 thuật tốn Frank-Wolfe, 263 hàm phạt bậc hai, 317 hàm phạt Lagrange gia tăng, 328 hình học, 224 liên tiếp cực tiểu khỏng ràng buộc, 313 quay lui, 187 siêu phảng cắt K elley, 254 SUMT, 313 Zoutendijk, 276 thứ nguyên, 38, 42 tổ hợp nón, 43 tuyến tính, 43, 63 tuyến tính không âm, 43,63, 106 tốc độ hội tụ bậc hai, 194 198 cấp số nhãn 183 tuyến tính, 196 200 tuyến tính, 183 tối ưu đa mục tiêu, 27 không lồi, 26 không trơn, 27 lồi, 26 thứ nguyên dầy đù 42 nhiều cấp, 27 tia, 55 phi tuyến, 25 tìm rời rạc, 26 chấp nhận dược theo tia, 136 tồn cục 26 xác theo tia, 136, 188 199 tổ hợp, 26 gần theo tia, 136 tuyến lính, 25 kiếm chiều, 135 theo tia, 135 V ưu theo tia, 136 véctơ gradient, 76, 209 phương 55 tổ hợp afin, 40 lói, 42, 44 pháp luyến, 39, 57 349 NHÒ XUẤT BẢN ĐỌI HỌC QUỐC G in Hồ NỘI 16 Hàng Chuối - Hai Bà Trưng - Hà Nội Đ iê n thoai: B iê n tả p -C h ế b ản : ( ) 9 ; n a iin cninn: ( I4 » y y ; 1o n a B iẽntãD : (0 ) 9 ; Fax: ( ) 9 Chịu trách nhiọm xuát bàn: G iá m d ố c : PH Ù N G Q UỐ C BẢO T ổ n g b iê n lậ p : PH ẠM TH Ị TRÂM B iê n t ậ p : LAN HƯƠNG C liế b n : TH U HƯƠNG Trìnli NGỌC ANH b y b ìa : Đ ố i tá c liê n k ế t x u ấ t b n : ĐẠI HỌC TH ÁI N G U Y Ê N G IÁ O T R ÌN H T Ố I ƯU PHI T U Y Ế N Mã số: 1L- Đ H 1 In 215 cuốn, khổ 15,5 x 22 cm Công ty CP in K hoa học C ông n°hê Sô' xuất bàn: 178- 201 l/C X B /0 - 18Đ H Q G H N , n g y /2 /2 1 ~ Q uyết địnii xuất bàn sô: 2 LK -TN/QĐ - N X BĐ H Q G H N In xong nộp lưu chiểu quý II năm 2011 350