Đang tải... (xem toàn văn)
Luận văn:PHƯƠNG PHÁP HÀM CHẮN VÀ PHƯƠNG PHÁP HÀM PHẠT trong các bài toán tối ưu Chương 3. Luận văn:PHƯƠNG PHÁP HÀM CHẮN VÀ PHƯƠNG PHÁP HÀM PHẠT trong các bài toán tối ưu Chương 3. Luận văn:PHƯƠNG PHÁP HÀM CHẮN VÀ PHƯƠNG PHÁP HÀM PHẠT trong các bài toán tối ưu Chương 3. Luận văn:PHƯƠNG PHÁP HÀM CHẮN VÀ PHƯƠNG PHÁP HÀM PHẠT trong các bài toán tối ưu Chương 3. Luận văn:PHƯƠNG PHÁP HÀM CHẮN VÀ PHƯƠNG PHÁP HÀM PHẠT trong các bài toán tối ưu Chương 3. Luận văn:PHƯƠNG PHÁP HÀM CHẮN VÀ PHƯƠNG PHÁP HÀM PHẠT trong các bài toán tối ưu Chương 3.
Chơng phơng pháp hàm phạt Trong phơng pháp hàm chắn trình bày chơng 2, ta đa vào hàm chắn để ngăn cản di chuyển vợt miền chấp nhận đợc Chơng trình bày phơng pháp hàm phạt Chiến thuật giải là: đa thêm vào hàm mục tiêu ban đầu lợng phạt (phụ thuộc tham số), điểm đợc xét vi phạm ràng buộc Trong mục 3.1 ta dùng hàm phạt bậc hai, hàm có u điểm trơn nhng đòi hỏi tham số phạt tiến vô hạn toán không ràng buộc thu đợc trở nên khó giải Để khắc phục hạn chế này, mục 3.2 ta xét hàm phạt xác theo nghĩa nghiệm toán phạt cho lời giải toán ban đầu với giá trị hữu hạn tham số phạt, nhiên hàm phạt lại không khả vi Cuối cùng, để nhận đợc hàm phạt xác khả vi mục 3.3, ta xét hàm phạt Lagrange gia tăng Nội dung trình bày chơng chủ yếu dựa tài liệu [6] 3.1 Hàm phạt bậc hai Xét toán tối u với ràng buộc đẳng thức: (P) {f(x) : hi(x) = 0, i = 1, , m; x |Rn}, f(x), hi(x): |Rn |R, i = 1, , m hàm hai lần khả vi liên tục Miền ràng buộc (miền chấp nhận đợc) toán (P) tập D = {x |Rn : hi(x) = 0, i = 1, , m} Định nghĩa Hàm phạt hàm liên tục thoả mãn 39 (x) = x D (x) > x D Trong mục ta xét hàm phạt bậc hai có dạng Q(x, ) = f(x) + m ì h i ( x ) , i=1 > tham số phạt Khi + vi phạm ràng buộc bị phạt ngày tăng Phơng pháp phạt tiến hành giải dãy toán cực tiểu không ràng buộc: (P) {Q(x, ) : x |Rn} với dãy tăng {k} tiến vô hạn Do hàm f h i (i = 1, 2, , m) trơn nên Q(x, ) hàm trơn kỹ thuật tối u hoá không ràng buộc có rthể đợc sử dụng để giải toán phụ (P) Hơn nghiệm xk toán (P k ) đợc dùng làm điểm xuất phát để giải toán phụ (P k+1 ) Tuy nhiên rõ ràng hiệu phơng pháp phụ thuộc vào việc chọn dãy tham số phạt {k} Bài toán với ràng buộc tổng quát có dạng (PI) f(x), với điều kiện ràng buộc hi(x) = 0, i = 1, 2, , m, gj(x) 0, j = 1, 2, , p 40 Đối với toán ta xác định Q nh sau [ ] m p 1 Q(x, ) = f(x) + ì h i ( x ) + ì max(0, g j ( x )) i=1 j=1 Trong trờng hợp hàm Q trơn hàm mục tiêu hàm ràng buộc ban đầu Chẳng hạn, g(x) = - x [max(0, g(x))]2 = [max(0, -x))]2 = [min(0, x))]2 có đạo hàm cấp hai gián đoạn, Q không thuộc lớp C2 Thuật toán phạt bậc hai: Cho trớc tham số phạt > 0, độ sai số > điểm xuất phát x s0 Với k = 0, 1, Xuất phát từ x sk , tìm điểm cực tiểu xấp xỉ xk Q(x, k) Dừng tìm cực tiểu ||xQ(x, k)|| k Nếu điều kiện hội tụ đợc thoả mãn dừng thuật toán lời giải xk Trái lại, chọn tham số phạt k+1 > k, độ sai số k+1 [0, k] đặt x sk +1 = xk Quay lại thực Sau hai ví dụ hàm phạt bậc hai Ví dụ 3.1 Xét toán x1 + x2 với điều kiện x 12 + x 22 = 41 Lời giải toán x* = (- 1, - 1) hàm phạt bậc hai Q(x, ) = x1 + x2 + (x + x 22 - 2)2 Ví dụ 3.2 Xét toán (x1 2)4 + (x1 - 2x2)2 với điều kiện x 12 - x2 = vòng lặp k, với giá trị tham số phạt k, toán không ràng buộc (x1 2)4 + (x1 - 2x2)2 + k(x 12 - x2)2 Lời giải thu đợc vòng lặp đợc vẽ Hình 3.1 Định lý 3.1 Giả thiết xk điểm cực tiểu toàn cục xác hàm m Q(x, k) = f(x) + k h i ( x ) i=1 với dãy {k} tăng hội tụ tới + Khi đó, điểm tụ x* dãy {xk} điểm cực tiểu toàn cục toán với ràng buộc đẳng thức (P) 42 3.0 x = x2 2.5 2.0 1.5 1.0 điểm tối ưu o điểm xuất phát o o o o 0.5 0.0 0.5 1.5 2.5 Hình 3.1 Phơng pháp phạt bậc hai Chứng minh Giả sử x điểm cực tiểu toàn cục (P) Do xk điểm cực tiểu toàn cục Q(., k) nên ta có Q(xk, k) Q( x , k), nghĩa f(xk) + m k m h ( x ) x f( ) + k k h i ( x ) = f( x ) i i=1 i=1 Từ ta có 43 (3.1) m h i2 ( x k ) [f( x ) - f(xk)] k i =1 (3.2) Giả sử x* điểm tụ dãy {xk} {xk}kK dãy hội tụ tới x* Trớc hết, ta chứng minh x* điểm chấp nhận đợc Qua giới hạn hai vế (3.2) k + , k K, ta đợc m h i ( x ) lim i =1 [f( x ) - f(xk)] = k k + Vì thế, hi(x*) = 0, i = 1, 2, , m Tiếp theo, ta chứng minh f(x*) f( x ) Do k > nên từ (3.1) suy f(xk) f( x ) với k Qua giới hạn k + , k K, ta đợc f(x*) f( x ) Nh vậy, x* cực tiểu toàn cục (P) Khó sử dụng kết này, đòi hỏi tính điểm cực tiểu toàn cục Q vòng lặp Nếu Q không lồi việc làm không dễ Trong định lý sau, trình tìm cực tiểu không ràng buộc Q dừng nếu: ||xQ(xk, k)|| k với k Định lý 3.2 (sự hội tụ tới điểm KKT) Giả thiết độ sai số k tham số phạt k + Khi đó, điểm tụ x* dãy {xk} mà 44 véctơ građiên hi(x*), i = 1, 2, , m, độc lập tuyến tính, điểm KKT, nghĩa tồn à* |Rm cho f(x*) + h(x*)Tà* = h(x*) = Hơn nữa, với điểm limkK kh(xk) = à*, K N cho xk x*, k K Chứng minh Giả sử x* điểm tụ dãy {x k} véctơ hi(x*), i = 1, 2, , m, độc lập tuyến tính K N cho xk x*, k K Trớc hết, ta chứng minh x* chấp nhận đợc: Theo định nghĩa Q ta có m k k xQ(xk, k) = f(xk) + k h i ( x )h i ( x ) i =1 (3.3) Do ||xQ(xk, k)|| k nên ta có m k k ||f(xk) + k h i ( x )h i ( x ) || k i =1 Từ đó, sử dụng bất đẳng thức tam giác, ta đợc m m i =1 i =1 k k k k k|| h i ( x )h i ( x ) || ||f(xk) + k h i ( x )h i ( x ) || + ||f(xk)||, tức 45 (3.4) m k k || h i ( x )h i ( x ) || i =1 [k + ||f(xk)||] k Do k +, k ||f(xk)|| ||f(x*)|| nên qua giới hạn k + ta đợc m m || h i ( x )h i ( x ) || = h i ( x )h i ( x ) = i =1 i =1 Theo giả thiết véctơ hi(x*), i = 1, , m, độc lập tuyến tính nên đẳng thức cuối kéo theo hi(x*) = 0, i = 1, , m Do x* chấp nhận đợc Tiếp theo, ta rõ tồn à* |Rm thoả mãn f(x*) + h(x*)Tà* = 0: Đặt àk = kh(xk) Ta chứng minh àk hội tụ tới véctơ |Rm, ký hiệu à* Dùng định nghĩa àk, từ (3.3) suy h(xk)Tàk = - f(xk) + xQ(xk, k) Vì sau nhân với h(xk) ta có h(xk)h(xk)Tàk = - h(xk)f(xk) + h(xk)xQ(xk, k) (3.5) Do h(xk) có hạng m h(xk) h(x*), k K, nên hạng f(xk) m với k K đủ lớn Vì với k đủ lớn ma trận vuông h(xk)h(xk)T (cấp m) không suy biến Vì từ (3.5) ta có 46 àk = - [h(xk)h(xk)T]-1h(xk)[f(xk) - xQ(xk, k)] Do ||xQ(xk, k)|| nên qua giới hạn k +, k K, ta nhận đợc lim k + ,kK k = - [h(x*)h(x*)T]-1h(x*)f(x*) Ký hiệu giới hạn à* Hơn nữa, qua giới hạn k +, k K, (3.4) ta đợc f(x*) + h(x*)Tà* = Đó điều cần chứng minh Khi k lớn, việc tìm cực tiểu Q(x, k) khó thực Lý ma trận Hessian 2x Q(x, k) có điều kiện xấu gần điểm cực tiểu Do phơng pháp Newton nhạy cảm với điều kiện xấu ma trận Hessian (trái với hầu hết phơng pháp tìm cực tiểu không ràng buộc khác) nên phơng pháp hay đợc sử dụng để tìm cực tiểu Q(x, k) Tuy nhiên, hớng Newton nghiệm hệ phơng trình tuyến tính 2x Q(x, k)d = - xQ(x, k) Vì thế, điều kiện xấu 2x Q gây khó khăn cho việc giải hệ phơng trình để tìm d Để thấy rõ điều kiện xấu, ta xét chi tiết cấu trúc ma trận Hessian m 2x Q(x, k) = 2f(x) + k h i ( x ) h i ( x ) + kh(x)Th(x) i =1 47 Khi x gần điểm cực tiểu Q(., k) điều kiện Định lý 3.2 đợc thoả mãn ta có kh(x) kh(xk) à* k đủ lớn Khi 2x Q(x, m k) f(x) + i h i ( x ) + kh(x)Th(x) i =1 m Để ý ma trận 2f(x) + i h i ( x ) không phụ thuộc k ma trận i =1 h(x)Th(x) có hạng m h(x) có hạng m Hơn nữa, h(x)Th(x) đối xứng nửa xác định dơng Vì thế, h(x)Th(x) có m giá trị riêng dơng n m giá trị riêng Điều kéo theo 2x Q(x, k) có số giá trị riêng tiến tới số, giá trị riêng khác dần tới + k + Điều đợc minh hoạ ví dụ sau Ví dụ 3.3 Xét toán f(x) x 12 + x 22 với điều kiện h(x) x1 + x2 = Hàm phạt bậc hai có dạng Q(x, ) = x 12 + x 22 + (/2)(x1 + x2 1)2 Vì thế, Q(x, ) = (2x1 + (x1 + x2 1), 2x2 + (x1 + x2 1))T, 48 (Q) x2 với điều kiện x = Lời giải toán x* = Nhân tử Lagrange tơng ứng = - Nếu dùng hàm phạt bậc hai Q(x, ) = x2 + (/2)(x 1)2 với > ta nhận đợc điểm cực tiểu x = /(2 + ) Khi +, lời giải tiến tới (lời giải toán (Q)) Nếu dùng hàm phạt xác x2 + |x 1| 3.0 2.5 2.0 1.5 1.0 0.5 0.0 = 10 3.0 2.5 2.0 1.5 1.0 0.5 0.0 =1 x2 + (/2)(x 1)2 0.0 0.4 0.8 1.2 1.6 2.0 x2 + 3|x 1| f(x) = x2 0.0 0.4 0.8 1.2 1.6 2.0 Hình 3.2 Hàm phạt bậc hai (trái) hàm phạt xác (phải) dễ dàng thấy với > 2, cực tiểu đạt đợc điểm x = Vì với > cực tiểu hàm phạt xác lời giải toán (Q) Điều đợc minh hoạ Hình 3.2 Hơn nữa, = - nên điều kiện trở thành 52 > |à| Điều kiện trờng hợp tổng quát nh đợc rõ định lý sau Định lý 3.3 Giả sử x* thoả mãn điều kiện đủ cấp hai điểm cực tiểu địa phơng toán (P) Giả sử nhân tử Lagrange tơng ứng với ràng buộc đẳng thức bất đẳng thức Khi đó, với > max {|ài|, j, i = 1, 2, , m, j = 1, 2, , p}, x* điểm cực tiểu địa phơng hàm phạt m p i =1 j=1 PE(x, ) = f(x) + [ h i ( x ) + max(0, g j ( x )) ] Chứng minh (chỉ cho trờng hợp ràng buộc đẳng thức) Xét hàm giá trị tối u p(u) = {f(x) : hi(x) = ui, i = 1, 2, , m} (với u |Rm) Ta biết hàm p(u) xác định lân cận điểm hàm khả vi liên tục (thuộc lớp C1) với p(0) = - Với > 0, ta xây dựng hàm m p(u) = p(u) + u i i =1 u = cực tiểu địa phơng p, > maxi |ui|: Dùng định lý giá trị trung bình ta viết 53 p(u) = p(0) + p(u)Tu với [0, 1] Vì m p(u) = p(0) + p(u) u + u i T i =1 (3.9) Cho > Do građiên p liên tục p(0) = - nên tồn lân cận N0 cho u N0 |p(u)i + ài| < , i = 1, 2, , m, nghĩa u N0 |p(u)i| < + |ài|, i = 1, 2, , m (3.10) Mặt khác, ta có m m i =1 i =1 p(u)Tu = p(u ) i u i - p(u ) i u i Do sử dụng bất đẳng thức - |p(u)j| - maxi |p(u)j| (3.10) ta nhận đợc với u N0: m p(u)Tu - {maxi |p(u)i|}ì u i i =1 m - {maxi (|ài| + )}ì u i i =1 Dùng bất đẳng thức (3.9) ta nhận đợc với u N0: 54 m p(u) p(0) + (p - - max |ài|)ì u i i i =1 Vì thế, với > + maxi |ài| nên ta có p(u) p(0) = p(0) với u N0 Do > chọn tuỳ ý nên cuối ta đợc |ài|, điểm cực tiểu địa phơng p > max i x* cực tiểu địa phơng f(x) + im=1 h i ( x ) : Từ phần đầu chứng minh ta thấy m u N0 p(0) p(u) + u i i =1 Do h(x*) = h liên tục x* nên tồn lân cận N(x*) x* cho h(x) N0 với x N(x*) Do vậy, với x N(x*) m p(0) p(h(x)) + h i ( x ) i =1 Do p(0) = f(x*), h(x*) = p(h(x)) = inf h(z) = h(x) f(z) f(x) nên ta có với x N(x*) m m i =1 i =1 f(x*) + h i ( x*) f(x) + h i ( x ) 55 m nghĩa x* điểm cực tiểu f(x) + h i ( x ) i =1 Nh nói đầu mục này, nhợc điểm hàm phạt xác hàm không khả vi Để nhận đợc hàm phạt xác khả vi, ta đa thêm từ phạt vào hàm Lagrange 3.3 Hàm Lagrange Gia tăng Xét toán với ràng buộc đẳng thức (P) {f(x) : h(x) = 0}, f : |Rn |R, h : |Rn |Rm hàm hai lần khả vi liên tục Bài toán với ràng buộc bất đẳng thức đợc đề cập cuối mục Nh thấy mục 3.1 dùng hàm phạt bậc hai Q(x, ) = f(x) + (/2)h(x)Th(x) x(), điểm cực tiểu Q(x, ), hội tụ tới x* + Đó nguyên nhân gây điều kiện xấu phơng pháp hàm phạt Do h(x( )) > nên chiến thuật khắc phục đổi gốc số hạng phạt cho x* cực tiểu Q(., ) > hữu hạn Muốn thế, ta sử dụng hàm (Powell, 1969) (x, , ) = f(x) + (h(x) - )T(h(x) - ), 56 |Rm Các tham số i tơng ứng với đổi gốc số hạng phạt, > điều khiển qui mô phạt Ví dụ sau minh hoạ cho cách làm Ví dụ 3.5 Xét toán tìm f(x) = x với điều kiện h(x) = x = Rõ ràng lời giải toán x* = Điểm cực tiểu hàm (x, , ) = x + (x - - )2 x(, ) = + - -1 Vì thế, với > chọn cho x(, ) = x* = Muốn thế, cần chọn = -1 Cách làm thuận tiện đa vào tham số ài = - i, i = 1, , m Khi (x, , ) = f(x) + h(x)Tà + (/2)h(x)Th(x) + (/2)T Do số hạng cuối không phụ thuộc x nên hàm cần làm cực tiểu trở thành (x, , ) = f(x) + h(x)Tà + h(x)Th(x) = L(x, à) + h(x)Th(x) 2 Từ có tên gọi hàm hàm Lagrange gia tăng Từ sau ta ký hiệu hàm LA(x, à, ) (Hestenes, 1970) Vì LA(x, à, ) = L(x, à) + h(x)Th(x) Với cố định hàm Lagrange gia tăng hàm phạt bậc hai toán 57 {f(x) + àTh(x) : h(x) = 0} Rõ ràng toán tơng đơng với toán (P) ban đầu Bây ta = à* không cần tăng vô hạn tham số LA(x, à*, ) để nhận đợc lời giải x* (P) Ta có định lý (xem [6]): Định lý 3.4 Giả sử điều kiện đủ cấp hai cho cực tiểu địa phơng đợc thoả mãn x*, à* Khi đó, tồn > cho với , hàm Lagrange gia tăng LA(x, à*, ) đạt cực tiểu địa phơng x* Ví dụ 3.6 Xét toán: f(x) = x3 với điều kiện h(x) = x + = Lời giải x* = - à* = - Hàm Lagrange gia tăng LA(x, à*, ) = x3 + à*(x + 1) + (x + 1)2 Khi đó, LA (x*, à*, ) = 3x*2 + (x* + 1) LA (x*, à*, ) = - + Vì thế, > x* cực tiểu địa phơng LA(., à*, ) Điều đợc minh hoạ Hình 3.3 (tr sau) với = Cũng hình ta thấy x* cực tiểu địa phơng L(.,à*) 58 Một hệ rút từ Định lý 3,4: à* biết trớc điểm cực tiểu không ràng buộc LA(x, à*, ) x* Tuy nhiên ta trớc đợc giá trị à* Vì thế, ta cần ớc lợng giá trị thông qua dãy {àk} à* Cho trớc àk Khi đó, xk đợc xác định nh điểm cực tiểu hàm LA(x, àk, ) = f(x) + h(x)Tàk + h(x)Th(x) Theo định nghĩa xk ta có LA(xk, àk, ) = 0, tức f(xk) + [àk + h(xk)]Th(xk) = Do f(x*) + h(x*)Tà* = 0, nên chiến thuật lấy àk+1 = àk + h(xk) làm xấp xỉ cho à* 59 1.0 0.5 0.0 Hàm Lagrange gia tăng -0.5 -1.0 -1.5 y = x3 -2.0 -2.5 -3.0 -3.0 -2.5 -2.0 -1.5 -1.0 -0.5 0.0 Hình 3.3 x* = - cực tiểu địa phơng hàm Lagrange gia tăng với = 9, nhng x* cực tiểu hàm Lagrange Thuật toán Lagrange gia tăng: Cho trớc > 0, > 0, véctơ à0 điểm xuất phát x s0 Với k = 0, 1, Xuất phát từ điểm x sk , tìm cực tiểu xấp xỉ xk LA(x, àk,k) Dừng tìm cực tiểu ||xLA(xk, àk, k)|| k Chỉnh sửa nhân tử Lagrange theo công thức àk+1 = àk + kh(xk) Chọn tham số phạt k+1 k, k+1 [0, k], đặt x sk +1 = xk Trở lại 60 Ví dụ 3.7 Xét toán sau đây: 2x2 + 2xy + y2 2y với điều kiện x = Điểm cực tiểu hàm Lagrange gia tăng LA(x, à, ) = 2x2 + 2xy + y2 2y + àx + (/2)x2 x=- 2+à 4++à y = 2+ 2+ Do h(x, y) = x nên ta có k+1 2 ( + k ) = + h(x , y ) = = àk 2+ 2+ 2+ k k k k Dãy àk hội tụ tới à* = - với > Hơn nữa, hệ số 2/(2 + ) ảnh hởng tới tốc độ hội tụ Để ý tốc độ hội tụ đợc cải thiện tăng Để kết thúc mục ta xét trờng hợp ràng buộc bất đẳng thức Khi đó, toán có dạng (P) {f(x) : gj(x) 0, j = 1, 2, , p}, f, gj, j = 1, 2, , p, hàm từ |Rn vào |R Cách xử lý thêm vào biến bù không âm z 1, z2, , zp để đa (P) dạng toán với ràng buộc đẳng thức (PZ) {f(x) : gj(x) + zj = 0, j = 1, 2, , p, z C}, 61 z = (z1, z2, , zp)T |Rp, C = |R p+ góc không âm |Rp Bây ta vận dụng lý thuyết trình bày cho trờng hợp ràng buộc đẳng thức Hàm Lagrange gia tăng LA(x, z, , ) = f(x) + T(g(x) + z) + (/2)||g(x) + z||2, > g(x) = (g1(x), g2(x), , gp(x))T vòng lặp k thuật toán, ta giải toán phụ sau với cố định: {LA(x, z, , ) : x |Rn, z 0} Để giải toán này, trớc hết ta giữ cố định x tìm cực tiểu hàm Lagrange gia tăng z 0, tức {f(x) + T(g(x) + z) + (/2)||g(x) + z||2 : z 0} Do x cố định nên toán đợc viết lại thành {[ + g(x)]Tz + (/2)||z||2 : z 0} Bài toán đợc tách thành p toán nh sau: {[j + gj(x)]zj + (/2)z 2j : zj 0}, j = 1, , m Ký hiệu lời giải p toán z j , j = 1, 2, , p Do điểm cực tiểu không ràng buộc hàm mục tiêu toán nghiệm j + gj(x) + zj = 62 nên ta có (1 / )[ j + g j ( x )] j + g j ( x ) 0, z j = j + g j ( x ) > Vì j / j + g j ( x ) 0, gj(x) + z j = g j ( x ) j + g j ( x ) > Khi đó, khử z khỏi biểu thức hàm Lagrange gia tăng Ta lần lợt thu đợc j(gj(x) + zj) + (/2)(gj(x) + zj)2 = (1 / )2j + ( / 2) 2j j + g j ( x ) 0, = jg j ( x ) + ( / 2)g j ( x ) j + g j ( x ) > (1 / )2j /2 j + g j ( x ) 0, = jg j ( x ) + ( / 2)g j ( x ) j + g j ( x ) > = ì[max(0, j + gj(x))2 - j ] Vì thế, cuối hàm Lagrange gia tăng sau khử bỏ z có dạng: [ p 2 LA(x, , ) = f(x) + ì max (0, j + g j ( x )) j j=1 ] phép lặp theo trở thành (trớc hết với biến z sau biến z): k +1 j = kj + [gj(xk+1) + zj], j = 1, 2, , p 63 k +1 j = max [0, kj + gj(xk+1)], j = 1, 2, , p Tóm lại Chơng trình bày phơng pháp hàm phạt điểm để xử lý ràng buộc (đẳng thức bất đẳng thức) toán tối u ý tởng chung đa ràng buộc lên hàm mục tiêu giải toán không ràng buộc tơng ứng Thuật toán phạt bậc hai bảo đảm lời giải toán không ràng buộc hội tụ tới lời giải toán ban đầu, nhiên khó thực toán không ràng buộc ngày khó giải Với hàm phạt xác ta cần giải toán không ràng buộc với tham số phạt hữu hạn, nhiên hàm mục tiêu phạt lại không khả vi Để nhận đợc hàm phạt xác khả vi ta sử dụng hàm phạt Lagrange gia tăng Kết luận Các toán tối u hoá đa dạng phơng pháp giải chúng phong phú Nói chung, việc giải lớp toán không đơn giản, trừ hàm mục tiêu hàm ràng buộc toán tuyến tính afin Luận văn đề cập tới hai loại phơng pháp hàm phạt tiêu biểu giải toán tối u phi tuyến: phơng pháp hàm chắn (phạt điểm trong) phơng pháp hàm phạt điểm Phơng pháp hàm chắn, trình bày chơng 2, cho phép đa toán tối u có ràng buộc (dạng bất đẳng thức) dãy toán tối u không ràng buộc, cách đa thêm vào hàm mục tiêu ban đầu hàm gọi hàm chắn (phụ thuộc tham số) Hàm chắn có tác dụng ngăn cản điểm cực tiểu không ràng buộc vợt 64 miền ràng buộc toán Hàm chắn hay đợc sử dụng hàm chắn lôga hàm chắn nghịch đảo Điển hình cho lớp phơng pháp hàm chắn thuật toán liên tiếp tìm cực tiểu không ràng buộc ( SUMT) A V Fiacco G P McCormick Phơng pháp hàm phạt điểm ngoài, trình bày chơng 3, có ý tởng đa toán có ràng buộc (đẳng thức bất đẳng thức) dãy toán không ràng buộc, nhng cách thêm vào mục tiêu ban đầu hàm gọi hàm phạt (phụ thuộc tham số) Hàm phạt nhận giá trị điểm đợc xét thoả mãn ràng buộc, nhận giá trị dơng không thoả mãn Phơng pháp cho phép điểm cực tiểu (không ràng buộc) miền ràng buộc cho, nhng chịu phạt lợng tăng theo tham số phạt Một số hàm phạt (bậc hai, xác, Lagrange gia tăng) đợc nêu để bảo đảm cho trình giải hội tụ Tác giả luận văn hy vọng sau có dịp đợc tìm hiểu nghiên cứu sâu lớp phơng pháp giải lý thú quy hoạch phi tuyến, đặc biệt lập trình giải máy tính toán thực tiễn cụ thể Tài liệu tham khảo [1] T V Thiệu Giáo trình tối u tuyến tính Nhà xuất Đại học Quốc gia Hà Nội, 2004 [2] H Tụy Lý thuyết tối u Bài giảng lớp cao học Viện Toán học Hà Nội, 2003 65 [3] B D Bunday Basic Optimization Methods Edward Arnold Publishers London, 1984 [4] J Nocedal, S J Wright Numerical Optimization Springer, 1999 [5] B N Pshenichny, Yu M Danilin Numerical Methods in Extremal Problems Mir Publishers Moscow, 1978 (Revised from the 1975 Russian edition) [6] J J Strodiot Numerical Methods in Optimization Department of Mathematics, University of Namur Belgium 2002 66 [...]... luận Các bài toán tối u hoá rất đa dạng và các phơng pháp giải chúng cũng rất phong phú Nói chung, việc giải lớp bài toán này không đơn giản, trừ khi hàm mục tiêu và các hàm ràng buộc trong bài toán là tuyến tính afin Luận văn đề cập tới hai loại phơng pháp hàm phạt tiêu biểu giải các bài toán tối u phi tuyến: phơng pháp hàm chắn (phạt điểm trong) và phơng pháp hàm phạt điểm ngoài Phơng pháp hàm chắn, ... phép đa bài toán tối u có ràng buộc (dạng bất đẳng thức) về dãy bài toán tối u không ràng buộc, bằng cách đa thêm vào hàm mục tiêu ban đầu một hàm gọi là hàm chắn (phụ thuộc tham số) Hàm chắn có tác dụng ngăn cản điểm cực tiểu không ràng buộc vợt ra ngoài 64 miền ràng buộc của bài toán Hàm chắn hay đợc sử dụng là hàm chắn lôga và hàm chắn nghịch đảo Điển hình cho lớp phơng pháp hàm chắn là thuật toán. .. toán phạt bậc hai bảo đảm lời giải của bài toán không ràng buộc hội tụ tới lời giải của bài toán ban đầu, tuy nhiên khó thực hiện do bài toán không ràng buộc ngày càng khó giải Với hàm phạt chính xác ta chỉ cần giải một bài toán không ràng buộc với tham số phạt hữu hạn, tuy nhiên hàm mục tiêu phạt này lại không khả vi Để nhận đợc hàm phạt chính xác khả vi ta sử dụng hàm phạt Lagrange gia tăng Kết luận. .. A V Fiacco và G P McCormick Phơng pháp hàm phạt điểm ngoài, trình bày ở chơng 3, có cùng ý tởng đa bài toán có ràng buộc (đẳng thức và bất đẳng thức) về dãy bài toán không ràng buộc, nhng bằng cách thêm vào mục tiêu ban đầu một hàm gọi là hàm phạt (phụ thuộc tham số) Hàm phạt nhận giá trị 0 khi điểm đợc xét thoả mãn ràng buộc, nhận giá trị dơng khi không thoả mãn Phơng pháp này cho phép các điểm cực... phạt chính xác, theo nghĩa lời giải của bài toán phạt cho lời giải đúng của bài toán ban đầu đối với giá trị hữu hạn của tham số phạt Khó khăn là ở chỗ các hàm phạt này không khả vi Xét bài toán f(x) min, (P) với các điều kiện ràng buộc hi(x) = 0, i = 1, 2, , m, gj(x) 0, j = 1, 2, , p, và hàm phạt m p i =1 j=1 P(x) = h i ( x ) + max(0, g j ( x )) Bài toán phạt là min PE(x, ) = f(x) + P(x) ( >... j 2 j=1 ] và phép lặp theo trở thành (trớc hết với biến z rồi sau không có biến z): k +1 j = kj + [gj(xk+1) + zj], j = 1, 2, , p 63 k +1 j = max [0, kj + gj(xk+1)], j = 1, 2, , p Tóm lại Chơng này đã trình bày phơng pháp hàm phạt điểm ngoài để xử lý các ràng buộc (đẳng thức và bất đẳng thức) trong bài toán tối u ý tởng chung là đa các ràng buộc lên hàm mục tiêu và giải các bài toán không ràng... = 0 và p(h(x)) = inf h(z) = h(x) f(z) f(x) nên ta có với mọi x N(x*) m m i =1 i =1 f(x*) + h i ( x*) f(x) + h i ( x ) 55 m nghĩa là x* là điểm cực tiểu của f(x) + h i ( x ) i =1 Nh đã nói ở đầu mục này, nhợc điểm chính của hàm phạt chính xác là các hàm này không khả vi Để nhận đợc các hàm phạt chính xác khả vi, ta sẽ đa thêm từ phạt vào hàm Lagrange 3. 3 Hàm Lagrange Gia tăng Xét bài toán. .. , p}, trong đó f, gj, j = 1, 2, , p, là các hàm từ |Rn vào |R Cách xử lý là thêm vào các biến bù không âm z 1, z2, , zp để đa (P) về dạng bài toán với các ràng buộc đẳng thức (PZ) min {f(x) : gj(x) + zj = 0, j = 1, 2, , p, z C}, 61 trong đó z = (z1, z2, , zp)T |Rp, C = |R p+ là góc không âm trong |Rp Bây giờ ta có thể vận dụng lý thuyết đã trình bày cho trờng hợp các ràng buộc đẳng thức Hàm Lagrange... (3. 8) ta có uT2L(x*, à*)u = 0 Nhng khi đó u = 0 Thật vậy, nếu u 0 thì từ (3. 8) và điều kiện đủ cấp hai suy ra u T2L(x*, à*)u > 0 Vậy u = 0 50 Khi đó (3. 7) trở thành h(x*)Tv = 0 Phơng trình này kéo theo v = 0, bởi vì h(x*) có hạng bằng m 3. 2 hàm phạt chính xác Để tránh điều kiện xấu, ta sẽ cải tiến phơng pháp hàm phạt bậc hai sao cho tham số không cần tiến ra vô hạn Trong mục này ta sẽ xét các hàm phạt. .. Từ đó có tên gọi hàm này là hàm Lagrange gia tăng Từ đây về sau ta ký hiệu hàm này là LA(x, à, ) (Hestenes, 1970) Vì thế LA(x, à, ) = L(x, à) + h(x)Th(x) 2 Với à cố định hàm Lagrange gia tăng là hàm phạt bậc hai của bài toán 57 min {f(x) + àTh(x) : h(x) = 0} Rõ ràng bài toán này tơng đơng với bài toán (P) ban đầu Bây giờ ta sẽ chỉ ra rằng nếu à = à* thì không cần tăng vô hạn tham số trong LA(x, à*, ... toán tối u phi tuyến: phơng pháp hàm chắn (phạt điểm trong) phơng pháp hàm phạt điểm Phơng pháp hàm chắn, trình bày chơng 2, cho phép đa toán tối u có ràng buộc (dạng bất đẳng thức) dãy toán tối. .. cần giải toán không ràng buộc với tham số phạt hữu hạn, nhiên hàm mục tiêu phạt lại không khả vi Để nhận đợc hàm phạt xác khả vi ta sử dụng hàm phạt Lagrange gia tăng Kết luận Các toán tối u hoá... =1 Nh nói đầu mục này, nhợc điểm hàm phạt xác hàm không khả vi Để nhận đợc hàm phạt xác khả vi, ta đa thêm từ phạt vào hàm Lagrange 3. 3 Hàm Lagrange Gia tăng Xét toán với ràng buộc đẳng thức (P)