1 MỤC LỤC Mục lục Mở đầu Các điều kiện cần đủ cực trị cho toán tối ưu không ràng buộc 1.1 Các điều kiện tối ưu tổng quát 1.2 Điều kiện tối ưu cho hàm biến số ví dụ minh họa Các điều kiện cần đủ cực trị cho toán ràng buộc bất đẳng thức 2.1 Điều kiện tối ưu dạng hình học 2.2 Điều kiện tối ưu dạng Fritz John 2.3 Điều kiện tối ưu dạng Karush-Kuhn-Tucker tối ưu với 13 13 17 24 Các điều kiện cực trị cho toán tối ưu với ràng đẳng thức bất đẳng thức 3.1 Điều kiện tối ưu dạng hình học 3.2 Điều kiện tối ưu dạng Fritz John 3.3 Điều kiện tối ưu dạng Karush-Kuhn-Tucker 3.4 Các điều kiện tối ưu dạng bậc hai Kết luận Tài liệu tham khảo buộc 27 27 29 32 36 43 44 MỞ ĐẦU Nghiên cứu điều kiện cần đủ cực trị hướng nghiên cứu quan trọng Lý thuyết tối ưu Hướng nghiên cứu nhiều nhà toán học để ý đến Điều kiện cần cực trị cho phép thu hẹp miền tìm kiếm nghiệm, điều kiện đủ lại điểm cực trị (nếu điểm thoả điều kiện đủ) Hơn thế, việc nghiên cứu điều kiện tối ưu đưa đến gợi ý tốt để xây dựng thuật giải tìm nghiệm tối ưu cách hiệu Năm 1948, Fritz John thiết lập điều kiện cần cực trị (FJ) cho toán tối ưu với ràng buộc bất đẳng thức Hạn chế lớn điều kiện (FJ) hàm mục tiêu (một yếu tố quan trọng toán tối ưu) mặt điều kiện (FJ) Dưới số điều kiện qui, H W Kuhn A W Tucker (1951) chứng minh kết luận điều kiện Fritz John nhân tử Lagrange kết hợp với hàm mục tiêu dương điều cho phép hàm mục tiêu tham gia vào điều kiện cần Thực điều kiện tương tự trình bày luận văn thạc sỹ Karush (1939) Tuy nhiên, kết Karush không công bố nên không nhiều người biết đến Chính thế, điều kiện người ta gọi điều kiện tối ưu Karush-KunhTucker (KKT) O L Mangasarian S Fromovitz (1967) phát triến điều kiện (FJ) (KKT) cho toán tối ưu có ràng buộc đẳng thức bất đẳng thức (xem [3, 4]) Mặc dù lý thuyết tối ưu phát triển tiếp cận nghiên cứu toán tối ưu với liệu không trơn (xem [5]), mô hình cổ điển (với giả thiết hàm tham gia toán trơn) đóng vai trò cốt yếu lý thuyết tối ưu Để tập duyệt nghiên cứu khoa học, tiếp cận hướng nghiên cứu nhằm tìm hiểu sâu điều kiện tối ưu cho toán quy hoạch toán học cổ điển Trong phạm vi kiến thức nhiều hạn chế, giới hạn việc nghiên cứu không gian hữu hạn chiều Điều làm giảm ứng dụng chúng, nhiên không làm việc nghiên cứu chất điều kiện cần đủ cực trị Luận văn hoàn thành trường Đại học Vinh hướng dẫn TS Nguyễn Huy Chiêu Tác giả xin chân thành cám ơn Thầy hướng dẫn Nhân dịp này, tác giả xin gửi lời cám ơn tới khoa Toán, khoa Sau đại học, Thầy Cô tổ Giải tích- khoa Toán, trường Đại học Vinh tạo điều kiện giúp đỡ tác giả suốt trình học tập nghiên cứu Xin chân thành cám ơn gia đình bè bạn chia sẻ khó khăn suốt trình học tập nghiên cứu Mặt dù có nhiều cố gắng, luận văn không tránh khỏi hạn chế, thiếu sót Tác giả mong nhận ý kiến đóng góp thầy, cô giáo bạn bè để luận văn hoàn thiện Vinh, tháng 12 năm 2011 Hồ Văn Đức CHƯƠNG CÁC ĐIỀU KIỆN CẦN VÀ ĐỦ CỰC TRỊ CHO BÀI TOÁN TỐI ƯU KHÔNG RÀNG BUỘC Trong chương này, hệ thống nghiên cứu số khái niệm, tính chất liên quan đến điều kiện cần đủ cực trị cho toán tối ưu không ràng buộc 1.1 Các điều kiện tối ưu tổng quát 1.1.1 Định nghĩa Điểm x¯ gọi điểm cực tiểu (toàn cục) f f (¯ x) f (x) với x ∈ Rn Nếu tồn lân cận U x¯ mà f (¯ x) f (x) (f (¯ x) < f (x)) với x ∈ U , gọi điểm cực tiểu địa phương (tương ứng, cực tiểu địa phương chặt ) f 1.1.2 Định lý Giả sử f : Rn → R hàm số khả vi x¯ d ∈ Rn véctơ thoả mãn điều kiện ∇f (¯ x)T d < 0, ∇f (¯ x) ma trận Jacobian f x¯ ∇f (¯ x)T ma trận chuyển vị ma trận ∇f (¯ x) Khi đó, tồn δ > thoả mãn f (¯ x + λd) < f (¯ x) với λ ∈ (0, δ) Chứng minh Vì f khả vi x¯ nên f (¯ x + λd) = f (¯ x) + λ∇f (¯ x)T d + λ d α(¯ x, λd), α(¯ x, λd) → λ → 0, d chuẩn Euclidean d ∈ Rn Từ đó, suy f (¯ x + λd) − f (¯ x) = ∇f (¯ x)T d + d α(¯ x, λd) λ Vì ∇f (¯ x)T d < α(¯ x, λd) → λ → 0, nên tồn δ > cho T ∇f (¯ x) d+ d α(¯ x, λd) < với λ ∈ (0, δ) Do f (¯ x +λd)−f (¯ x) < với λ ∈ (0, δ) 1.1.3 Hệ Giả sử f : Rn → R hàm số khả vi x¯ Khi đó, x¯ cực tiểu địa phương f ∇f (¯ x) = Chứng minh Ta chứng minh phương pháp phản chứng Giả sử ngược lại ∇f (¯ x) = Lấy d = −∇f (¯ x) Ta có ∇f (¯ x)T d = − ∇f (¯ x) < Theo Định lý 1.1.2, tồn δ > cho f (¯ x + λd) − f (¯ x) < với λ ∈ (0, δ) Điều mâu thuẫn với giả thiết x¯ điểm cực tiểu địa phương f Do ∇f (¯ x) = 1.1.4 Định lý Giả sử f : Rn → R hàm khả vi hai lần x¯ Khi đó, x¯ điểm cực tiểu địa phương f ∇f (¯ x) = H(¯ x) nửa xác định dương, H(¯ x) ma trận Hessian f x¯ Chứng minh Lấy d ∈ Rn Ta có f (¯ x + λd) = f (¯ x) +λ∇f (¯ x)T d + 21 λ2 dT H(¯ x)d +λ2 d (1.1) α(¯ x; λd), α(¯ x; λd) → λ → Vì x¯ cực tiểu địa phương nên theo Hệ 1.1.3, ta có ∇f (¯ x) = Chia hai vế (1.1) cho λ2 > ta thu f (¯ x + λd) − f (¯ x) T = d H(¯ x)d + d α(¯ x, λd) λ Vì x¯ cực tiểu địa phương nên f (¯ x + λd) Do đó, từ (1.2) ta suy T d H(¯ x)d + d α(¯ x, λd) (1.2) f (¯ x) với λ > đủ nhỏ với λ > đủ nhỏ Cho λ → 0, ta dT H(¯ x)d với d ∈ Rn Nghĩa ma trận Hessian H(¯ x) nửa xác định dương 1.1.5 Định lý Giả sử f : Rn → R hàm khả vi hai lần x¯ Nếu ∇f (¯ x) = H(¯ x) ma trận xác định dương, x¯ điểm cực tiểu địa phương chặt f Chứng minh Do f hàm khả vi hai lần x¯, với x ∈ Rn , ta có f (x) = f (¯ x) + ∇f (¯ x)T (x − x¯) + 12 (x − x¯)T H(¯ x)(x − x¯) + x − x¯ α(¯ x; x − x¯), (1.3) α(¯ x; x − x¯) → x → x¯ Ta chứng minh x¯ cực tiểu địa phương chặt phương pháp phản chứng Thật vậy, giả sử ngược lại x¯ cực tiểu địa phương chặt Khi đó, tồn dãy {xk } hội tụ đến x¯ cho f (xk ) f (¯ x) xk = x¯ với k Lưu ý ∇f (¯ x) = f (xk ) f (¯ x) Từ (1.3) ta suy T d H(¯ x)dk + α(¯ x; xk − x¯) k ∀k, (1.4) dk := (xk − x¯)/ xk − x¯ Vì dk = với k nên tồn dãy {dki } hội tụ đến d ∈ Rn với d = Từ (1.4) ta suy dT H(¯ x)d Điều mâu thuẫn với giả thiết H(¯ x) xác định dương Do đó, x¯ cực tiểu địa phương chặt 1.1.6 Định nghĩa (i) Hàm f : Rn → R gọi lồi thoả mãn f tx + (1 − t)y tf (x) + (1 − t)f (y), với x, y ∈ Rn t ∈ [0, 1] (ii) Cho f : Rn → R hàm khả vi x¯ Hàm f gọi giả lồi x¯ từ ∇f (¯ x)(x − x¯) ta suy f (x) f (¯ x) Ta nói f giả lồi chặt x¯ f (x) > f (¯ x) với x ∈ Rn thoả mãn ∇f (¯ x)(x − x¯) x = x¯ Hàm f gọi giả lõm (giả lõm chặt ) x¯ −f giả lồi (tương ứng, giả lồi chặt ) x¯ (iii) Cho S tập mở Rn f : S → R hàm số khả vi Hàm f gọi giả lồi x1 , x2 ∈ S với ∇(x1 )T (x2 −x1 ) 0, ta có f (x2 ) f (x1 ) Hàm f gọi giả lồi chặt với x1 , x2 ∈ S, x1 = x2 thoả mãn ∇f (x1 )T (x2 − x1 ) 0, ta có f (x2 ) > f (x1 ) Hàm f gọi giả lõm (giả lõm chặt ) hàm −f giả lồi (tương ứng, giả lồi chặt) (iv) Cho S tập lồi Rn f : S → R Ta nói f hàm tựa lồi f λx1 + (1 − λ)x2 max{f (x1 ), f (x2 )}, với x1 , x2 ∈ S λ ∈ (0, 1) Hàm f gọi tựa lồi x¯ ∈ S f λx + (1 − λ)¯ x max{f (x), f (¯ x)}, với x ∈ S λ ∈ (0, 1) Ta nói f tựa lõm (tựa lõm x¯ ∈ S ) −f tựa lồi (tương ứng, tựa lồi x¯) 1.1.7 Nhận xét Nếu hàm khả vi f : Rn → R lồi giả lồi chặt, giả lồi Một hàm giả lồi chặt, (do đó, hàm giả lồi) không lồi hàm lồi không giả lồi chặt 1.1.8 Ví dụ Xét hàm f : R → R cho công thức f (x) = xex với x ∈ R Ta có f hàm giả lồi chặt điểm x¯ ∈ R, f hàm lồi Thật vậy, lấy x¯ ∈ R, ta có ∇f (¯ x) = (¯ x + 1)ex¯ Giả sử ∇f (¯ x)(x − x¯) x = x¯ (1.1) Ta cần chứng minh f (x) > f (¯ x) Xét ba trường hợp sau: a) Trường hợp x¯ < −1 Khi đó, ∇f (¯ x) < Do đó, từ (1.1) ta suy x < x¯ < −1 Vì f (x) hàm giảm ngặt (−∞, −1) nên f (x) > f (¯ x) b) Trường hợp x¯ = −1 Vì f (x) đạt giá trị nhỏ điểm x¯ = −1 nên f (x) > f (¯ x) c) Trường hợp x¯ > −1 Khi đó, ∇f (¯ x) > Do đó, từ (1.1) ta suy x > x¯ > −1 Vì f (x) hàm tăng ngặt (−1, +∞) nên f (x) > f (¯ x) Như f (x) hàm giả lồi chặt x¯ Bây ta chứng minh f (x) không lồi Lấy x1 = −3, x2 = −5 t = 1/2 ∈ [0, 1] Ta có f (1 − t)x1 + tx2 = f (−4) = −4e−4 > − 3e−3 − 5e−5 = (1 − t)f (x1 ) + tf (x2 ) Điều chứng tỏ f (x) hàm lồi 1.1.9 Chú ý Hàm f (x) = xex lấy từ [5, p 92], f dùng để minh hoạ cho hàm giả lồi điểm mà không lồi 1.1.10 Ví dụ Hàm f : R → R cho f (x) = với x ∈ R hàm lồi R, không giả lồi chặt x¯ ∈ R Thật vậy, với x1 , x2 ∈ R t ∈ [0, 1], ta có f (1 − t)x1 + tx2 ) = = (1 − t)f (x1 ) + tf (x2 ) Do f hàm lồi Ta chứng minh f không giả lồi chặt x¯ ∈ R Lấy x¯ ∈ R x ∈ R\{¯ x} Ta có ∇f (¯ x)(x − x¯) = Mặt khác, f (x) = f (¯ x) Do đó, f không giả lồi chặt x¯ 1.1.11 Định lý Nếu f : Rn → R hàm giả lồi x¯, x¯ cực tiểu toàn cục ∇f (¯ x) = Chứng minh Theo Hệ 1.1.3, x¯ cực tiểu hàm f ∇f (¯ x) = Ngược lại, ∇f (¯ x) = ∇f (¯ x)T (x − x¯) = với x ∈ Rn Do đó, nhờ giả thiết f hàm giả lồi x¯, ta có f (x) > f (¯ x) với x ∈ Rn Định lý chứng minh 1.2 Điều kiện tối ưu cho hàm biến số ví dụ minh họa Kết điều kiện cần cực tiểu cho hàm biến khả vi vô hạn lần 1.2.1 Định lý Cho f : R → R hàm khả vi vô hạn lần x¯ Khi đó, x¯ cực tiểu địa phương f f (j) (¯ x) = với j = 1, tồn số tự nhiên n chẵn (n > 0) cho f (n) (¯ x) > f (j) (¯ x) = với j = 1, 2, , n − Chứng minh Giả sử x¯ điểm cực tiểu địa phương f không xẩy trường hợp f (j) (¯ x) = với j = 1, Khi đó, tồn số tự nhiên n (n 2) cho f (n) (¯ x) = f (j) (¯ x) = với j = 1, 2, , n − Lấy h ∈ R Khai triển Taylor lân cận x¯, ta có f (¯ x + th) − f (¯ x) = f (n) (ξt ) (th)n , n! với t > đủ nhỏ ξt nằm x¯ x¯ + th Vì x¯ điểm cực tiểu địa phương f nên f (¯ x + th) − f (¯ x) với t > đủ nhỏ Do f (n) (ξt )hn với t > đủ nhỏ Cho t → 0+ , f (n) (¯ x)hn với h ∈ R Từ ta suy n chẵn f (n) (¯ x) > Định lý chứng minh Tiếp theo điều kiện f (j) (¯ x) = với j = 1, điều kiện đủ để x¯ điểm cực tiểu địa phương hàm f khả vi vô hạn 1.2.2 Ví dụ Xét hàm số f (x) =    − e x2 x = 0,    x = 0 Ta có f khả vi vô hạn lần f (j) (0) = với j = 1, x¯ = điểm cực tiểu địa phương f Thật vậy, ta ký hiệu Pn (x) đa thức bặc n Với x = 0, ta có 1 − 2 − f (x) = − e x = P3 ( )e x x x Mặt khác, e x2 , x2 ∀x = Do đó, f (x) − f (0) 1/|x| = x−0 e x2 |x|, ∀x = 10 Từ suy f (0) = Ta chứng minh mệnh đề (T ) sau đúng:    −  Pn+2 ( )e x2 x = 0, (n) x (T ) : f (x) =     x = Theo chứng minh trên, ta có (T ) với n = Giả sử (T ) với n = k , tức    −  P ( )e x2 x = 0, k+2 (k) x f (x) =     x = Khi đó, với x = 0, ta có − 1 f (k+1) (x) = − Pk ( ) + Pk ( ) e x2 x x x x 1 − = Pk+3 ( )e x x Vì e x2 x2k+4 với x = nên f (k) (x) − f (k) (0) x−0 1 Pk+2 ( ) x = x e x2 |x|2k+3 Pk+2 ( ) , ∀x = x Chú ý lim |x|2k+3 Pk+2 ( ) = Do f (k+1) (0) = Ta chứng x→0 x minh (T ) với n = k + Theo nguyên lý quy nạp, mệnh đề (T ) với n Từ ta suy f (j) (0) = với j = 1, Tuy nhiên, dễ dàng nhận thấy x¯ = điểm cực tiểu địa phương f 30 cho inf{pT x : x ∈ S1 } sup{pT u : u ∈ S2 } 3.2.2 Định lý (Điều kiện cần Fritz John).(xem [2]) Cho x¯ ∈ S nghiệm địa phương toán (PEI ), I := i ∈ {1, 2, , m} : gi (¯ x) = , gi (i ∈ / I) liên tục x¯, f gi (i ∈ I) khả vi x¯, hj (j = 1, 2, , ) khả vi liên tục x¯ Khi đó, tồn u0 , ui , vj ∈ R, với i ∈ I j = 1, , , cho điều kiện Fritz John sau thoả mãn: u0 ∇f (¯ x) + ui ∇gi (¯ x) + vj ∇hj (¯ x) = 0, j=1 i∈I u0 , ui 0, i ∈ I, (u0 , uI , v) = (0, 0, 0), uI véctơ có thành phần ui (i ∈ I) v = (v1 , , v )T Hơn nữa, giả thiết thêm gi (i ∈ I) khả vi x¯, tồn u0 , ui , vj ∈ R, với i ∈ 1, 2, , m j ∈ 1, , , cho m u0 ∇f (¯ x) + ui ∇gi (¯ x) + i=1 j=1 ui gi (¯ x) = 0, u0 , ui vj ∇hj (¯ x) = 0, 0, i = 1, , m, i = 1, , m, (u0 , u, v) = (0, 0, 0), u = (u1 , , um )T Chứng minh Chúng ta xét hai trường hợp sau Trường hợp 1: Hệ ∇hj (¯ x) : j = 1, , phụ thuộc tuyến tính Khi đó, tồn v1 , , v ∈ R không đồng thời thoả mãn vi ∇hi (¯ x) = i=1 31 Bằng cách đặt u0 = ui = (i ∈ I), ta thấy điều kiện Fritz John thoả mãn nhân tử u0 , ui (i ∈ I ) vj (j = 1, 2, , ) Trường hợp 2: Hệ ∇hj (¯ x) : j = 1, , độc lập tuyến tính Gọi A1 ma trận có hàng ∇f (¯ x)T ∇gi (¯ x)T , i ∈ I , A2 ma trận có hàng ∇hj (¯ x)T (j = 1, , ) Vì x¯ nghiệm địa phương toán (PEI ) nên, theo Định lý 3.1.3, hệ A1 d < 0, A2 d = 0, d ∈ Rn (3.1) vô nghiệm Đặt S1 := (z1 , z2 ) ∈ R1+r × R : z1 = A1 d, z2 = A2 d, d ∈ Rn S2 := (z1 , z2 ) ∈ R1+r × R : z1 < 0, z2 = , r số phần tử I Ta có S1 S2 tập lồi khác rỗng R1+r × R Từ (3.1) ta suy S1 ∩ S2 = ∅ Theo Bổ đề 3.2.1, tồn p = (p1 , p2 ) ∈ R1+r × R \{0} cho pT1 A1 d + pT2 A2 d pT1 z1 + pT2 z2 với d ∈ Rn (z1 , z2 ) ∈ S2 Lấy z2 = z1t ∈ R1+r véctơ có thành phần tọa độ −ti (ti > 0, i = 1, 2, , + r) Ta có (z1 , z2t ) ∈ S2 Do đó, pT1 A1 d + pT2 A2 d pT1 z1t + pT2 z2 = pT1 z1t , với d ∈ Rn ti > (i = 1, 2, , 1+r) Cho ti → 0+ (i = 1, 2, , 1+r), ta có (pT1 A1 + pT2 A2 )d cho d ∈ Rn Nói riêng ra, với d = −(AT1 p1 + AT2 p2 ), ta có − AT1 p1 + AT2 p2 Từ suy AT1 p1 + AT2 p2 = Với i ∈ {1, 2, , + r}, lấy d = 0, ti = tj → 0+ với j ∈ {1, 2, , + r}\{0}, ta suy thành phần thứ i véctơ p1 không âm Như vậy, tồn véc tơ khác không pT = (pT1 , pT2 ) với p1 cho AT1 p1 + AT2 p2 = Đặt (u0 , uTI ) := pT1 v := p2 Ta thu điều phải chứng minh 3.2.3 Định lý (Điều kiện đủ Fritz John).(xem [2]) Cho x¯ ∈ S điểm Fritz John (F J) toán (PEI ), tức x¯ thoả điều kiện Fritz John nói Định lý 3.2.3 Giả sử hj (i = 1, , ) là hàm affine {∇hj (¯ x) : j = 1, , } hệ độc lập tuyến tính Khi đó, 32 tồn ε > cho f giả lồi S ∩ Bε (¯ x) gi (i ∈ I) giả lồi chặt S ∩ Bε (¯ x), x¯ nghiệm địa phương cho toán (PEI ) Chứng minh Trước hết, chứng minh F0 ∩ G0 ∩ H0 = ∅ phương pháp phản chứng Giả sử tồn tai d ∈ F0 ∩ G0 ∩ H0 Theo giả thiết, tồn u0 , ui , vj ∈ R (i ∈ I, j = 1, , ) không đồng thời cho u0 ∇f (¯ x) + ui ∇gi (¯ x) + (3.2) j=1 i∈I u0 , ui vj ∇hj (¯ x) = 0, 0, i ∈ I, (u0 , uI , v) = (0, 0, 0) (3.3) Lấy d ∈ F0 ∩ G0 ∩ H0 Ta có u0 ∇f (¯ x)T d + ui ∇gi (¯ x)T d = i∈I (do d ∈ H0 ).Vì d ∈ F0 ∩ G0 nên ∇f (¯ x)T d < ∇gi (¯ x)T d < với i ∈ I Kết hợp với điều kiện (u0 , uI ) 0, ta suy (u0 , uI ) = (0, 0) Do vj ∇hj (¯ x) = v = Điều mâu thuẫn đó, theo (3.2) (3.3), j=1 với giả thiết {∇hj (¯ x) : j = 1, , } hệ độc lập tuyến tính Từ suy F0 ∩ G0 ∩ H0 = ∅ Theo Định lý 3.1.3, x¯ nghiệm địa phương toán (PEI ) 3.3 Điều kiện tối ưu dạng Karush-Kuhn-Tucker Mục dành để khảo sát điều kiện cần đủ cực trị dạng Karush-Kuhn-Tucker cho toán tối ưu với ràng buộc đẳng thức bất đẳng thức (PEI ) 3.3.1 Định lý (Điều kiện cần Karush-Kuhn-Tucker).(xem [2]) Giả sử x¯ ∈ S nghiệm địa phương toán (PEI ) I := i ∈ {1, 2, , m} : gi (¯ x) = Giả sử f gi (i ∈ I) khả vi x¯, gi 33 (i ∈ / I) liên tục x¯, hj (j = 1, , ) khả vi liên tục x¯ Hơn nữa, giả sử hệ ∇gi (¯ x), ∇hj (¯ x) : i ∈ I, j = 1, , độc lập tuyến tính Khi đó, tồn ui ∈ R (i ∈ I) vj ∈ R (j = 1, , ) cho ∇f (¯ x) + ui ∇gi (¯ x) + vj ∇hj (¯ x) = 0, j=1 i∈I ui i ∈ I 0, Ngoài giả thiết trên, gi (i ∈ / I) khả vi x¯, điều kiện KKT viết tương đương dạng m ∇f (¯ x) + ui ∇gi (¯ x) + i=1 vj ∇hj (¯ x) = 0, i=1 ui gi (¯ x) = 0, ui 0, i = 1, , m, i = 1, , m Chứng minh Theo Định lý 3.2.3, tồn u0 ∈ R ui ∈ R (i ∈ I), vj ∈ R (j = 1, , ) không đồng thời không cho u0 ∇f (¯ x) + ui ∇gi (¯ x) + (3.4) j=1 i∈I u0 , ui vj ∇hj (¯ x) = 0, i ∈ I 0, Ta chứng minh u0 > Thật vậy, u0 = thì, theo (3.4), ta có ui ∇gi (¯ x) + vj ∇hj (¯ x) = 0, j=1 i∈I ui ∈ R (i ∈ I), vj ∈ R (j = 1, , ) không đồng thời không Điều mâu thuẫn với giả thiết véctơ ∇gi (¯ x) (i ∈ I ) ∇hj (¯ x) (j = 1, , ) độc lập tuyến tính Do u0 > Đặt ui = ui /u0 (i ∈ I) vj = vj /u0 (j = 1, , ) Từ (3.4) ta suy ∇f (¯ x) + ui ∇gi (¯ x) + i∈I vj ∇hj (¯ x) = 0, j=1 34 ui 0, i ∈ I Tính nhân tử Lagrange ui (i ∈ I ) vj (j = 1, 2, , ) suy trực tiếp từ giả thiết hệ ∇gi (¯ x), ∇hj (¯ x) : i ∈ I, j = 1, , độc lập tuyến tính Nếu thêm giả thiết gi (i ∈ / I) khả vi x¯, cách đặt ui := với i ∈ / I , ta thu điều kiện tương đương sau m ∇f (¯ x) + ui ∇gi (¯ x) + i=1 vj ∇hj (¯ x) = 0, i=1 ui gi (¯ x) = 0, ui 0, i = 1, , m, i = 1, , m Định lý chứng minh 3.3.2 Chú ý Điều kiện KKT Định lý 3.3.1 viết dạng véctơ sau ∇f (¯ x) + ∇g(¯ x)T u + ∇h(¯ x)T v = 0, uT g(¯ x) = 0, u 0, ∇g(¯ x) ma trận Jacobi cỡ m × n ∇h(¯ x) ma trận Jacobi cỡ T × n tương ứng hàng thứ i ∇gi (¯ x) ∇hi (¯ x)T , u := (u1 , u2 , , um )T v := (v1 , v2 , , v )T véctơ nhân tử Lagrange 3.3.3 Định lý (Điều kiện đủ Karush-Kuhn-Tucker).(xem [2]) Giả sử x¯ ∈ S I := i ∈ {1, 2, , m} : gi (¯ x) = Giả sử f gi (i ∈ I) khả vi x¯, gi (i ∈ / I) liên tục x¯, hj (j = 1, , ) khả vi liên tục x¯ Giả sử điều kiện KKT cho toán (PEI ) x¯, nghĩa tồn ui ∈ R (i ∈ I) vj ∈ R (j = 1, , ) cho ∇f (¯ x) + ui ∇gi (¯ x) + vj ∇hj (¯ x) = 0, j=1 i∈I ui 0, i ∈ I 35 Đặt J := {j : vj > 0} K := {j : vj < 0} Giả sử f giả lồi x¯, gi hj (i ∈ I, j ∈ J) tựa lồi x¯ hj (j ∈ K) tựa lõm x¯ Khi đó, x¯ nghiệm toàn cục toán (PEI ) Nếu giả thiết lồi suy rộng hạn chế lên Bε (¯ x) (ε > 0), x¯ nghiệm địa phương (PEI ) Chứng minh Lấy x ∈ S Với i ∈ I , gi (x) gi (¯ x) Vì gi tựa lồi x¯ nên gi x¯ + λ(x − x¯) gi (¯ x) = 0, gi (x) = gi λx + (1 − λ)¯ x max{gi (x), gi (¯ x)} = gi (¯ x), với λ ∈ (0, 1) Do đó, ∇gi (¯ x)T (x − x¯) = lim+ λ→0 x) gi x¯ + λ(x − x¯) − gi (¯ λ (3.5) 0, với i ∈ I Tương tự, hj (j ∈ J ) giả lồi x¯ hj (j ∈ K ) tựa lõm x¯ nên ∇hj (¯ x)T (x − x¯) (j ∈ J) (3.6) ∇hj (¯ x)T (x − x¯) (j ∈ K) (3.7) Từ (3.5), (3.6) (3.7), ta suy ui ∇gi (¯ x) + i∈I vj ∇hj (¯ x) T x − x¯ j∈J∪K Mặt khác, ∇f (¯ x)T (x − x¯) = − ui ∇gi (¯ x) + ui ∇gi (¯ x) + i∈I T (x − x¯) j=1 i∈I =− vj ∇hj (¯ x) vj ∇hj (¯ x) j∈J∪K T (x − x¯) 36 Do đó, ∇f (¯ x)T (x − x¯) Từ đó, sử dụng giả thiết f giả lồi x¯, ta suy f (x) f (¯ x), nghĩa x¯ nghiệm toàn cục toán (PEI ) Trong trường hợp giả thiết lồi suy rộng Bε (¯ x), lập luận tương tự, ta có x¯ nghiệm toàn cục (PEI ) hạn chế lên Bε (¯ x) Do đó, x¯ nghiệm địa phương (PEI ) 3.4 Các điều kiện tối ưu dạng bậc hai Như khảo sát Chương 1, toán tối ưu không ràng buộc (P ), với giả thiết hàm mục tiêu khả vi, điều kiện cần bậc để x¯ nghiệm tối ưu ∇f (¯ x) = Tuy nhiên, ∇f (¯ x) = x¯ nghiệm tối ưu (P ) Để loại bỏ bớt ứng cử viên cho nghiệm tối ưu, điều kiện cần đủ bậc hai phát triển Trong Chương mục 3.1-3.4 Chương 3, điều kiện cần cực trị dạng bậc cho toán tối ưu có ràng buộc nghiên cứu Đặc biệt, điều kiện chuẩn hoá miền ràng buộc thích hợp, thu điều kiện cần bậc dạng KKT Nếu thêm vào số giả thiết lồi suy rộng, điều kiện cần bậc điều kiện đủ để điểm chấp nhận (thuộc miền ràng buộc) nghiệm tối ưu toán Mục dành cho điều kiện cực trị dạng bậc hai cho toán tối ưu có ràng buộc 3.4.1 Định nghĩa (i) Hàm φ : Rn × Rm × R → R xác định m φ(x, u, v) = f (x) + ui gi (x) + i=1 vj hj (x) j=1 gọi hàm Lagrange toán (PEI ) (ii) Giả sử x¯ điểm KKT cho toán (PEI ) Gọi u v nhân tử Lagrange x¯ tương ứng với ràng buộc bất đẳng thức đẳng thức Hàm Lagrange hạn chế hàm xác định L(x) = φ(x, u, v) = f (x) + ui gi (x) + i∈I v j hj (x), j=1 37 I = i ∈ {1, 2, , m} : gi (¯ x) = tập số hoạt x¯ 3.4.2 Nhận xét Điều kiện ∇f (¯ x) + ui ∇gi (¯ x) + i∈I v j ∇hj (¯ x) = j=1 hệ KKT tương đương khẳng định ∇L(¯ x) = Hơn nữa, ta có L(¯ x) = f (¯ x) L(x) f (x) với x ∈ S Do đó, x¯ cực tiểu địa phương cho L, x¯ nghiệm địa phương cho toán (PEI ) 3.4.3 Bổ đề (xem [2]) Xét toán (PEI ), hàm f, gi , hj : Rn → R (i = 1, 2, , m, j = 1, 2, , ) khả vi hai lần Giả sử x¯ điểm KKT toán (PEI ), u v nhân tử Lagrange x¯ tương ứng với ràng buộc bất đẳng thức đẳng thức Khi đó, khẳng định sau (i) Nếu ma trận Hessian ∇2 L(x) xác định dương x ∈ Rn , x¯ nghiệm toàn cục toán (PEI ) Nếu ∇2 L(x) nửa xác định dương với x ∈ Bε (¯ x) (ε > 0), x¯ nghiệm địa phương cho toán (PEI ) (ii) Nếu ∇2 L(¯ x) xác định dương, x¯ cực tiểu địa phương chặt f S Chứng minh (i) Vì ma trận Hessian ∇2 L(x) xác định dương x ∈ Rn nên L hàm lồi Do x¯ điểm KKT (PEI ), ∇L(¯ x) = Theo Định lý 1.1.11, x¯ cực tiểu toàn cục L Do đó, x¯ nghiệm toàn cục (PEI ) Hạn chế L lên Bε (¯ x), lập luận tương tự, ta suy x¯ nghiệm địa phương cho toán (PEI ) miễn ∇2 L(x) nửa xác định dương với x ∈ Bε (¯ x) (ii) Giả sử ∇ L(¯ x) xác định dương Do x¯ điểm KKT (PEI ), ∇L(¯ x) = Theo Định lý 1.1.5, x¯ cực tiểu địa phương chặt L Mặt khác, L(¯ x) = f (¯ x) L(x) f (x) với x ∈ S Từ ta suy x¯ cực tiểu địa phương chặt f S 3.4.4 Định lý (Điều kiện đủ KKT dạng bậc hai) (xem [2]) Xét toán (PEI ), f, gi , hj : Rn → R (i = 1, 2, , m, j = 1, 2, , ) 38 khả vi hai lần Giả sử x¯ điểm KKT toán (PEI ), u v nhân tử Lagrange x¯ tương ứng với ràng buộc bất đẳng thức đẳng thức Ký hiệu I tập số hoạt x¯, I + := {i ∈ I : ui > 0} I = {i ∈ I : ui = 0} Đặt C := d ∈ Rn \{0} : ∇gi (¯ x)T d = 0, i ∈ I + , ∇gi (¯ x)T d ∇hi (¯ x)T d = 0, i = 1, , 0, i ∈ I , Khi đó, dT ∇2 L(¯ x)d > với d ∈ C , x¯ cực tiểu địa phương chặt f S Chứng minh Giả sử x¯ cực tiểu địa phương chặt f S Khi đó, tồn dãy xk S hội tụ tới x¯ cho xk = x f (xk ) f (¯ x) với k Đặt dk := (xk − x)/ xk − x λk := xk − x với k Ta có xk = x + λk dk , dk = λk → 0+ k → ∞ Do dk = với k , cách thay dãy cần thiết, ta giả thiết dk → d ∈ Rn với d = Sử dụng khai triển Taylor, ta suy x) f (x + λk dk ) − f (¯ = λk ∇f (¯ x)T dk T x)dk λk dk ∇ f (¯ + + λ2k αf (x; λk dk ), (3.8) gi (¯ x + λk dk ) − gi (¯ x) = λk ∇gi (¯ x)T dk + T x)dk λk dk ∇ gi (¯ x; λk dk ), + λ2k αgi (¯ (3.9) = hj (¯ x + λk dk ) − hj (¯ x) = λk ∇hj (¯ x)T dk + 21 λ2k dTk ∇2 hj (¯ x)dk + λ2k αhj (¯ x; λk dk ), (3.10) αf , αgi αhj (i ∈ I, j = 1, , ) tiến tới k → ∞ Do đó, ∇f (¯ x)T d 0, ∇gi (¯ x)T d ∇hj (¯ x)T d = (i ∈ I , j = 1, , ) Vì x¯ điểm KKT toán (PEI ) u, v nhân tử Lagrange x¯ tương ứng với ràng buộc bất đẳng thức đẳng thức, nên ∇f (¯ x)T d + ui ∇gi (¯ x)T d + i∈I v j ∇hj (¯ x)T d = j=1 39 Do đó, ∇f (¯ x)T d = 0, ∇gi (¯ x)T d = (i ∈ I + ), ∇gi (¯ x)T d (i ∈ I ) ∇hj (¯ x)T d = (j = 1, , ) Điều có nghĩa d ∈ C Lưu ý ∇f (¯ x)T dk + ui ∇gi (¯ x)T dk + i∈I v j ∇hj (¯ x)T dk = j=1 Từ (3.8), (3.9) (3.10) ta suy λ2k T dk ∇ L(¯ x)dk + λ2k αf (¯ x; λk dk ) + ui αgi (¯ x; λk dk ) i∈I + v j αhj (¯ x; λk dk ) j=1 Chia hai vế bất đẳng thức cho λ2k > lấy giới hạn k → ∞, ta dT ∇2 L(¯ x)d 0, d ∈ C Điều mâu thuẫn với giả thiết dT ∇2 L(¯ x)d > với d ∈ C Do đó, x¯ cực tiểu địa phương chặt f S 3.4.5 Định lý (Điều kiện cần KKT dạng bậc hai) (xem [2]) Xét toán (PEI ), f, gi , hj : Rn → R (i = 1, 2, , m, j = 1, 2, , ) khả vi hai lần Giả sử x¯ nghiệm địa phương (PEI ) I := i ∈ {1, 2, , m} : gi (¯ x) = Giả sử ∇gi (¯ x) (i ∈ I) ∇hj (¯ x) (j = 1, , ) độc lập tuyến tính Khi đó, x¯ điểm KKT dT ∇2 L(¯ x)d với d ∈ C , C := {d = : ∇gi (¯ x)T d = 0, i ∈ I + , ∇gi (¯ x)T d 0, i ∈ I , ∇hj (¯ x)T d = 0, j = 1, , }, I + = {i ∈ I : ui > 0} I = {i ∈ I : ui = 0}, u v nhân tử Lagrange tương ứng với ràng buộc bất đẳng thức đẳng thức Chứng minh Theo Định lý 3.3.1, x¯ điểm KKT Lấy d ∈ C đặt I(d) := {i ∈ I : ∇gi (¯ x)T d = 0} Vì gi , hj (i ∈ I, j = 1, 2, , ) khả 40 vi liên tục x¯ hệ ∇gi (¯ x), ∇hj (¯ x) : j = 1, , tính, nên theo Định lý Ljusternik, độc lập tuyến b TM (¯ x) = v ∈ Rn : ∇gi (¯ x)v = 0, ∇hj (¯ x)v = 0, i ∈ I(d), j = 1, 2, , , M := x ∈ Rn : gi (x) = 0, hj (x) = 0, i ∈ I(d), j = 1, 2, , b (¯ Do đó, d ∈ TM x) Vì vậy, tồn ε > hàm r : [0, ε] → Rn cho x¯ + td + r(t) ∈ M với t ∈ [0, ε] lim+ t−1 r(t) = Gọi t→0 Rn α : [0, ε] → hàm xác định công thức α(t) = x¯ + td + r(t) với t ∈ [0, ε] Ta có α liên tục phải 0, α(0) = x¯ α+ (0) = d Đặt xt := α(t) Theo khai triển Taylor, L(xt ) = L(¯ x) + ∇L(¯ x)T (xt − x¯) + (xt − x¯)T ∇2 L(¯ x)(xt − x¯) (3.11) + xt − x¯ β(¯ x; xt − x¯)), β(¯ x; xt − x¯) → t → 0+ Hơn nữa, gi (xt ) = với i ∈ I(d) ⊇ I + , hj (xt ) = (j = 1, , ), L(xt ) = f (xt ) L(¯ x) = f (¯ x) Vì x¯ điểm KKT, nên ∇L(¯ x) = Chú ý xt = α(t) ∈ S với t > đủ nhỏ Vì x¯ nghiệm địa phương (PEI ) nên f (xt ) f (¯ x) với t > đủ nhỏ Do đó, từ (3.11) ta có (xt − x¯)T (xt − x¯) xt − x¯ ∇ L(¯ x) + β(¯ x; xt − x¯) t t t = f (xt ) − f (¯ x) t2 0, với t > đủ nhỏ Lưu ý lim+ t→0 xt − x¯ α(t) − α(0) = lim+ = α+ (0) = d t t t→0 Trong (3.12), cho t −→ 0+ , ta có dT ∇2 L(¯ x)d (3.12) 41 3.4.6 Ví dụ (McCormick (1967)) Xét toán tối ưu:  f (x) = (x1 − 1)2 + x22 → inf, (PEI )  g1 (x) = 2kx1 − x22 0, k > số x = (x1 , x2 )T ∈ R2 Vì ∇g1 (x) = (2k, −2x2 )T = (0, 0)T nên giả thiết tính độc lập tuyến tính Định lý 3.4.5 thoả mãn điểm x thuộc miền ràng buộc Hệ điều kiện KKT 2k 2(x1 − 1) + u1 −2x = , 2x2 với u1 0, u1 (2kx1 − x22 ) = g1 (x) (i) Nếu u1 = x = (x1 , x2 ) = (1, 0) x không thoả mãn g1 (x) (ii) Nếu u1 > 2kx1 = x22 Từ hệ điều kiện KKT ta suy x2 = u1 = Ta xét hai trường hợp sau: a) Trường hợp x2 = Từ điều kiện 2kx1 = x22 hệ KKT ta suy x1 = u1 = k1 Vì x = (0, 0) thuộc miền ràng buộc u1 = k1 > nên x = (0, 0) điểm KKT u1 = k1 nhân tử Lagrange tương ứng kết hợp với ràng buộc bất đẳng thức b) Trường hợp u1 = Tương tự trên, ta có x1 = − k x2 = ± 2k(1 − k) k ∈ (0, 1] Vì x = (x1 , x2 ) với x1 = − k x2 = ± 2k(1 − k) (với k ∈ (0, 1]) thuộc miền ràng buộc nên chúng điểm KKT Như vậy, k ∈ (0, 1) toán (PEI ) có ba điểm KKT x1 = (0, 0)T , x2 = (1 − k, 2k(1 − k)) x3 = (1 − k, − 2k(1 − k)) Các điểm KKT có nhân tử Lagrange tương ứng u11 = k1 , u21 = u31 = 1; k > toán (PEI ) có điểm KKT x1 = (0, 0)T nhân tử Lagrange tương ứng u11 = k1 Tiếp theo ta xét điều kiện cần bậc hai Định lý 3.4.5 Đặt L(x) := f (x) + ug1 (x) = (x1 − 1)2 + x22 + u(2kx1 − x22 ) Ta có ∇2 L(¯ x) = 2(1 − u) C = {d = : kd1 = x2 d2 } 42 Nếu k ∈ (0, 1) điều kiện dT ∇2 L(¯ x)d = 2d21 + 2(1 − k1 )d22 với d = (d1 , d2 ) ∈ C không thoả mãn điểm (x1 , u11 ) Do đó, trường hợp này, theo Định lý 3.4.5, x1 = (0, 0) nghiệm địa phương (PEI ) Trong đó, điểm x2 = (1 − k, 2k(1 − k)) x3 = (1 − k, − 2k(1 − k)) thoả mãn điều kiện cần bậc hai dạng KKT Nếu k > toán có điểm KKT x1 = (0, 0) nhân tử x)d = 2d21 + 2(1 − k1 )d22 > với Lagrange tương ứng u11 = k1 Vì dT ∇2 L(¯ d = (d1 , d2 ) ∈ C nên, theo Định lý 3.4.4, x1 nghiệm địa phương chặt (PEI ) Với k = 1, x1 nghiệm toán (PEI ), nhận điều thông qua Định lý 3.4.4, trường hợp dT ∇2 L(x1 )d = 2d21 = với d ∈ C = {d = : d1 = 0} Điểm KKT x2 tương ứng với nhân tử Lagrange u21 = (với < k < 1) thoả mãn điều kiện đủ bậc hai dạng KKT, C = {d = : kd1 = 2k(1 − k)d2 } dT ∇2 L(x2 )d = 2d21 > với d ∈ C Do đó, k ∈ (0, 1) x2 nghiệm địa phương chặt (PEI ) 43 kết luận Luận văn thu kết sau: 1) Hệ thống lại số khái niệm tính chất liên quan đến điều kiện cần đủ cực trị cho toán tối ưu không ràng buộc, điều kiện tối ưu tổng quát, điều kiện tối ưu cho hàm biến số Chứng minh chi tiết kết mà tài liệu đưa không chứng minh chứng minh vắn tắt Lấy số ví dụ minh hoạ hàm giả lồi chặt hàm lồi thể Ví dụ 1.1.8 hàm lồi không giả lồi chặt thể Ví dụ 1.1.10 2) Trình bày điều kiện cần đủ cực trị cho toán tối ưu với ràng buộc bất đẳng thức: điều kiện tối ưu dạng hình học, điều kiện tối ưu dạng Fritz John, điều kiện tối ưu dạng Karush-Kuhn-Tucker Đưa ví dụ minh họa để phân tích kết trình bày 3) Trình bày chứng minh chi tiết vấn đề điều kiện Fritz John Karush-Kuhn-Tucker cho toán tối ưu với ràng buộc đẳng thức bất đẳng thức: điều kiện tối ưu dạng hình học, điều kiện tối ưu dạng Fritz John, điều kiện tối ưu dạng Karush-Kuhn-Tucker 44 TÀI LIỆU THAM KHẢO [1] Nguyễn Xuân Liêm (1998), Giải tích, Tập hai, Nxb Giáo dục [2] M S Bazaraa, H D Sherali, C M Shetty (2006), Nonlinear Programming: Theory and Algorithms, John Willey & Sons [3] J M Borwein, A S Lewis (2000), Convex Analysis and Nonlinear Optimization: Theory and Examples, Springer, New York [4] A D Ioffe, V M Tihomirov (1979), Theory of Extrenal Problems, North-Holland, Amsterdam, The Netherlands [5] J Jahn (2007), Introduction to the Theory of Nonlinear Optimization, Third Edition, Springer, Birlin [...]... Mục 2.2 đưa ra các điều kiện tối ưu dạng Fritz John Các điều kiện cần và đủ cực trị dang Karush-Kuhn-Tucker được trình bày trong mục 2.3 2.1 Điều kiện tối ưu dạng hình học Trong mục này, chúng ta sẽ tìm hiểu các điều kiện cần và đủ để một điểm x¯ ∈ Rn là nghiệm tối ưu (địa phương) của bài toán: (PI ) f (x) → inf, x ∈ S, trong đó f : Rn → R và S là một tập con của Rn 2.1.1 Định nghĩa (i) Cho S là một... > 0 sao cho 2d21 t→0 2 3d1 d2 t > − 0 với mọi t ∈ (−δ, δ) Từ đó suy ra ϕd (t) t ∈ (−δ, δ), nghĩa là ϕd đạt cực tiểu địa phương tại 0 0 với mọi 13 CHƯƠNG 2 CÁC ĐIỀU KIỆN CẦN VÀ ĐỦ CỰC TRỊ CHO BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC BẤT ĐẲNG THỨC Trong chương này chúng ta thiết lập điều kiện cần và đủ cực trị cho các bài toán tối ưu với ràng buộc đẳng thức Mục 2.1 dành cho các điều kiện tối ưu dạng hình học Mục... Điều kiện tối ưu dạng Fritz John Trong mục này, chúng ta sẽ chuyển các điều kiện tối ưu được thiết lập ở Mục 3.1 thành các điều kiện tối ưu có dạng đại số Các điều kiện tối ưu dạng đại số này là dễ sử dụng hơn các điều kiện tối ưu dạng hình học 3.2.1 Bổ đề (Xem [2, Theorem 2.4.8]) Cho S1 và S2 là hai tập con lồi khác rỗng của Rn thoả mãn S1 ∩ S2 = ∅ Khi đó, tồn tại p ∈ Rn \{0} 30 sao cho inf{pT x : x ∈... = 0 thì x¯ có thể không phải là nghiệm tối ưu của (P ) Để loại bỏ bớt các ứng cử viên cho nghiệm tối ưu, các điều kiện cần và đủ bậc hai đã được phát triển Trong Chương 2 và các mục 3.1-3.4 của Chương 3, các điều kiện cần cực trị dạng bậc nhất cho các bài toán tối ưu có ràng buộc đã được nghiên cứu Đặc biệt, dưới điều kiện chuẩn hoá miền ràng buộc thích hợp, chúng ta thu được điều kiện cần bậc nhất... 3 CÁC ĐIỀU KIỆN CỰC TRỊ CHO BÀI TOÁN TỐI ƯU VỚI RÀNG BUỘC ĐẲNG THỨC VÀ BẤT ĐẲNG THỨC Mục đích của chương này là khảo sát các điều kiện cần và đủ cực trị cho bài toán tối ưu: f (x) → inf, (PEI ) x ∈ S, trong đó tập ràng buộc S cho bởi công thức S := x ∈ X : gi (x) 0, hj (x) = 0, i = 1, , m, j = 1, , , ở đây f, gi , hj : Rn → R (i = 1, , m, j = 1, , ) và X là một tập con mở của Rn 3.1 Điều kiện tối ưu. .. phương của bài toán (theo quan hệ bao hàm) Nó được dùng để loại bỏ bớt các điểm không là nghiệm của bài toán và thu hẹp miền tìm kiếm nghiệm (chỉ cần tìm trong tập điểm Fritz John) Nếu bài toán tồn tại nghiệm và tập điểm Fritz John có duy nhất một phần tử thì phần tử duy nhất đó chính là nghiệm tối ưu của bài toán Chẳng hạn ở ví dụ trên, bài toán tồn tại nghiệm tối ưu (vì hàm mục tiêu liên tục và tập ràng... compact) và có duy nhất một điểm Fritz John là x¯ = (2, 1)T , do đó x¯ = (2, 1)T chính là nghiệm tối ưu của bài toán 2.3 Điều kiện tối ưu dạng Karush-Kuhn-Tucker Trong mục này chúng ta sẽ trình bày một điều kiện cần và một điều kiện đủ cực trị dưới dạng Karush-Kuhn-Tucker (KKT) cho bài toán tối ưu với ràng buộc bất đẳng thức 2.3.1 Định lý (Điều kiện cần cực trị dạng Karush-Kuhn-Tucker).(xem [2]) Cho X... 1, , m) ở trong Định lý 2.2.3 được gọi là các nhân tử Lagrange Điều kiện x¯ ∈ S được gọi là điều kiện chấp nhận được của bài toán ban đầu (P F ) Điều kiện m u0 ∇f (¯ x) + ui ∇gi (¯ x) = 0, i=1 (u0 , u) (0, 0), và (u0 , u) = (0, 0) (i = 1, m), 21 được gọi là điều kiện chấp nhận được của bài toán đối ngẫu (DF ) Điều kiện ui gi (¯ x) = 0 với i = 1, , m được gọi là điều kiện độ lệch bù (CS) Điều kiện bao... ràng buộc thích hợp, chúng ta thu được điều kiện cần bậc nhất dạng KKT Nếu thêm vào một số giả thiết lồi suy rộng, các điều kiện cần bậc nhất này cũng là điều kiện đủ để một điểm chấp nhận được (thuộc miền ràng buộc) là nghiệm tối ưu của bài toán Mục này được dành cho các điều kiện cực trị dạng bậc hai cho các bài toán tối ưu có ràng buộc 3.4.1 Định nghĩa (i) Hàm φ : Rn × Rm × R → R xác định bởi m φ(x,... (3.2) và (3.3), j=1 với giả thiết {∇hj (¯ x) : j = 1, , } là một hệ độc lập tuyến tính Từ đó suy ra F0 ∩ G0 ∩ H0 = ∅ Theo Định lý 3.1.3, x¯ là một nghiệm địa phương của bài toán (PEI ) 3.3 Điều kiện tối ưu dạng Karush-Kuhn-Tucker Mục này được dành để khảo sát các điều kiện cần và đủ cực trị dạng Karush-Kuhn-Tucker cho bài toán tối ưu với ràng buộc đẳng thức và bất đẳng thức (PEI ) 3.3.1 Định lý (Điều kiện ... Trong chương thiết lập điều kiện cần đủ cực trị cho toán tối ưu với ràng buộc đẳng thức Mục 2.1 dành cho điều kiện tối ưu dạng hình học Mục 2.2 đưa điều kiện tối ưu dạng Fritz John Các điều kiện. .. phương toán (PEI ) 3.2 Điều kiện tối ưu dạng Fritz John Trong mục này, chuyển điều kiện tối ưu thiết lập Mục 3.1 thành điều kiện tối ưu có dạng đại số Các điều kiện tối ưu dạng đại số dễ sử dụng điều. .. không giả lồi chặt thể Ví dụ 1.1.10 2) Trình bày điều kiện cần đủ cực trị cho toán tối ưu với ràng buộc bất đẳng thức: điều kiện tối ưu dạng hình học, điều kiện tối ưu dạng Fritz John, điều kiện