TRƢỜNG ĐẠI HỌC SƢ PHẠM THÀNH PHỐ HỒ CHÍ MINH KHOA TOÁN – TIN BÀI TIỂU LUẬN MÔN: LÍ THUYẾT TỐI ƢU PHI TUYẾN ĐỀ TÀI: TIÊU CHUẨN TỐI ƢU CỦA QUY HOẠCH PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI (PHẦN II) NHÓM THỰC HIỆN 1. TRẦN VIỆT HÙNG 2. NGÔ THỊ THƢƠNG 3. PHẠM NGỌC THU TRANG Thành phố HCM, tháng 2 năm 2015 MỤC LỤC 1. ĐỊNH NGHĨA TẬP LỒI 2. ĐỊNH NGHĨA HÀM LỒI, HÀM LÕM a. Định nghĩa hàm lồi b. Định nghĩa hàm lõm 3. NHẮC LẠI MỘT SỐ BÀI TOÁN a. Bài toán cực tiểu MP b. Bài toán cực tiểu địa phƣơng LMP c. Bài toán điểm yên ngựa Fritz John (FJP) d. Bài toán điểm yên ngựa Kuhn – Tucker (KTP) 4. BỔ ĐỀ TUYẾN TÍNH HÓA 5. MỘT SỐ RÀNG BUỘC ĐỊNH TÍNH a. Ràng buộc định tính Slater b. Ràng buộc định tính Karlin c. Ràng buộc định tính nghiêm ngặt d. Ràng buộc định tính Kuhn – Tucker e. Ràng buộc định tính Arrow – Hurwicz –Uzawa f. Ràng buộc định tính lồi đảo ngƣợc 6. MỘT SỐ ĐỊNH LÍ VÀ BỔ ĐỀ a. Định lí Motzkin b. Định lí tối ƣu cần cho bài toán điểm dừng Fritz John c. Định lí Gordan d. Bổ đề 1 e. Bổ đề 2 7. MỐI QUAN HỆ GIỮA CÁC RÀNG BUỘC ĐỊNH TÍNH 8. ĐỊNH LÍ TỐI ƢU CẦN CỦA BÀI TOÁN ĐIỂM DỪNG KUHN – TUCKER 9. THIẾT LẬP ĐIỀU KIỆN TỐI ƢU KUHN – TUCKER CHO BÀI TOÁN QUY HOẠCH PHI TUYẾN a. Hàm Lagrange b. Định lí 1 c. Định lí 2 d. Thiết lập điều kiện Kuhn-Tucker e. Ví dụ minh họa Tối ưu phi tuyến Nhóm 11 Trang 3 1. Định nghĩa tập lồi n S  là tập lồi   12 , , 0;1x x S       ,   12 . 1 .x x x S      Nói cách khác tập n S  là tập lồi nếu mọi đoạn thẳng nối 12 ,x x S đều nằm trong S. 2. Hàm lồi, hàm lõm. a. Định nghĩa hàm lồi Hàm  xác định trên tập n  được gọi là hàm lồi tại * x  nếu: ** * 0 1 (1 ) ( ) ( ) (1 ) (1 ) x x x x x xx                       Hàm  được gọi là hàm lồi trên n  nếu nó lồi với mọi x b. Định nghĩa hàm lõm Hàm  xác định trên tập n  được gọi là hàm lõm tại * x  nếu: ** * 0 1 (1 ) ( ) ( ) (1 ) (1 ) x x x x x xx                       Hàm  được gọi là hàm lõm trên  nếu nó lõm với mọi x 3. Nhắc lại một số bài toán a. Bài toán cực tiểu MP Cho hàm số 0 : n X   . Tìm * u sao cho:       *0 12 *0 , , , , n n n u u u u X x u x X               Miền 0 n X  được gọi là tập các phương án chấp nhận được (hay miền ràng buộc)  Điểm   0 12 , , , n n x x x x X   gọi là phương án chấp nhận được (hay phương án khả thi hay phương án)  Điểm   *0 12 , , , n n u u u u X   được gọi là phương án tối ưu toàn cục. Khi 0 n X  là một tập lồi và  là hàm lồi trên 0 X thì Bài toán cực tiểu MP được gọi là Bài toán quy hoạch lồi (BTQHL) Tối ưu phi tuyến Nhóm 11 Trang 4 b. Bài toán cực tiểu địa phƣơng LMP Cho hàm số 0 : n X   . Tìm u sao cho: tồn tại quả cầu mở   Bu  tâm u , bán kính 0   đủ nhỏ và         0 12 0 , , , , n n u u u u X x u x B u X               Điểm   0 12 , , , n n u u u u X   được gọi là phương án tối ưu địa phương. c. Bài toán điểm yên ngựa Fritz John (FJP) Tìm x  X 0 , 0 r  R, r  R m , ( 0 r , r )  0 (nếu có) sao cho:             000 0 00 , , , , , , 0, , ,, m x r r x r r x r r r r R x X x r r r x rg x          d. Bài toán điểm yên ngựa Kuhn -Tucker (KTP) Tìm x  X 0 , u  R m , u  0 (nếu có) sao cho:             0 ,,, 0, , , m x u x u x u u u R x X x u x ug x          *Tìm điểm yên ngựa, gtln – gtnn địa phƣơng Dạng để: cho   fx Cách làm: - Đạo hàm theo '' , : , xy x y f f - Giải hệ phương trình để tìm ra điểm   , MM M x y Tối ưu phi tuyến Nhóm 11 Trang 5 ' ' 0 0 x y f f   - Đạo hàm riêng hai lần theo '' '' '' , : , , xx yy xy x y f f f - Tính   2 '' '' '' * xx yy xy D f f f - Tính   , MM A D x y + Nếu 0A  thì f đạt điểm yên ngựa tại M + Nếu 0A  thì không xác định + Nếu 0A  và   '' ,0 xx M M f x y  thì f đạt GTNN tại M + Nếu 0A  và   '' ,0 xx M M f x y  thì f đạt GTLN tại M *Bài tập điểm yên ngựa Ví dụ: Chứng minh rẳng phương trình   22 ,f x y ax bxy cy   với 2 40D ac b   có điểm yên ngựa tại   0,0 Giải: Với 0D  Cho y là hằng số, chúng ta coi   ,f x y như là một hàm   22 z f x ax bxy cy    với     2 2 2 40y b ac y D      Chúng ta biết   fx đạt GTNN hoặc GTLN tại 2 b xy a   Với 0a  : tại   2 , f 0 24 GTNN b x y x y aa      Cho     2 4 GTNN g y f x y a   Do đó   0 GTLN gy  khi 0y  Vậy tại   0,0 chúng ta nhận được   0 GTLN gy  và   0 GTNN fx  Tối ưu phi tuyến Nhóm 11 Trang 6 Với 0a  : tại   2 , f 0 24 GTLN b x y x y aa     Cho     2 4 GTLN g y f x y a   Do đó   0 GTNN gy  khi 0y  Vậy tại   0,0 chúng ta nhận được   0 GTNN gy  và   0 GTLN fx  Vậy   0,0 là điểm yên ngựa của   ,f x y , với 0a  Với 0a  : chúng ta nhận:   2 ,f x y bxy cy Chúng ta có thể biểu diễn   ,f x y , trong hình cầu bằng nhau:         2 , sin cos sin sin sin sin( )f x y b c                22 sin cos sin sin sin( )bc                   2 2 sin cos sin sin( )bc                 Cho   2 sinMb     , chúng ta nhận được:         2 , sin sinf x y M cos c           Chúng ta xoay mặt phẳng oxy theo chiều ngược chiều kim đồng hồ một góc 4  Tối ưu phi tuyến Nhóm 11 Trang 7 Đặt các góc độ mới là  , chúng ta nhận được: 4    . Vì thế   2 , sin sin 4 4 4 f x y M cos c                                           2 2 2 1 sin sin sin 2 2 2 M cos cos c cos                      22 11 sin 1 2sin ( ) 22 M cos c cos                  2 22 11 sin sin sin ( ) 22 b cos c c cos                            2 2 2 2 2 2 1 1 1 sin sin sin sin sin sin 2 2 2 b cos b bc cos bc                                     2 2 2 2 2 1 1 1 sin sin 2 2 2 bX bY bcXY bc cos                22 11 22 b bc X bc b Y bcXY     (trong hình chữ nhật mới bằng nhau) 22 ( , )AX CY BXY F X Y   x y X Y Tối ưu phi tuyến Nhóm 11 Trang 8 Và bây giờ chúng ta có một hàm mới với 0A  hoặc 0C  , chúng ta có thể làm các bước với 0A  Như vậy   0,0 là điểm yên ngựa của   ,f x y 4. Bổ đề tuyến tính hóa Giả sử x là một nghiệm của LMP, 0 X là một tập mở,  và g khả vi tại x . Đặt: { | ( ) 0, ii V i g x g lõm tại x } Và W { | ( ) 0, ii i g x g không lõm tại x } Khi đó: W ( ) 0 ( ) 0 ( ) 0 V xz g x z g x z     không có nghiệm z trong n Chứng minh: Đặt: W { | ( ) 0} { | ( ) 0} i i I V i g x J i g x     Do đó: W {1,2, , }I J V m Giả sử x là một nghiệm của LMP với   . Ta có thể chỉ ra rằng: Nếu z thỏa ( ) 0xz   , ( ) 0g x z , ( ) 0 V g x z thì xảy ra mâu thuẩn. Giả sử z thỏa các bất phương trình trên Do 0 X là một tập mở nên 0   sao cho: 0 x ( )z X B x    với 0   Do  và g khả vi tại x nên: Tối ưu phi tuyến Nhóm 11 Trang 9 0 ( ) ( ) ( ) ( , )x z x x z x z z              ( ) ( ) ( ) ( , ) i i i i g x z g x g x z x z z           , I = 1, 2, ………, m Tại đó: 0 lim ( ) 0 i xz     ; I = 0, 1, 2,…, m (i) Nếu  đủ nhỏ ( 0   ) thì 0 ( ) ( , ) 0x z x z z       Do đó: ( ) ( ) 0x z x       ( 0   ) (ii) Tương tự, vì Wi và  đủ nhỏ ( 0   ) nên: ( ) ( , ) 0 ii g x z x z z   Do đó: ( ) ( ) 0 ii g x z g x     , 0 , W i i     (iii) Vì , i i V g lõm tại x và ( ) 0 V g x z nên: ( ) ( ) ( ) 0 i i i g x z g x g x z       , 0 , W i i     (iv) Vì iJ , ( ) 0 i gx nên với  đủ nhỏ (0 ) i   , ta có: ( ) ( ) ( , ) 0 i i i g x g x z x z z         Do đó: ( ) 0 i g x z   , 0, i iJ     Đặt 0 min{ , , , } i       , với 1,2, ,im Khi đó, Với mọi  nằm trong khoảng 0   , ta có: 0 x z X   () z x z B x   ( ) ( )x z x     ( ) ( ) 0, ii g x z g x i I      ( ) 0, i g x z i J     Do đó, với 0   , ta có () z x z B x X   và ( ) 0( )x z x   Theo giả thiết, x là một nghiệm của LMP (với   ). Do đó không tồn tại n z thỏa: W ( ) 0 ( ) 0 ( ) 0 V xz g x z g x z     (đpcm). Tối ưu phi tuyến Nhóm 11 Trang 10 5. Một số ràng buộc định tính a. Ràng buộc định tính Slater 0 X là một tập lồi trên n , g là một hàm vecto m-chiều xác định trên 0 X . Hàm g được gọi là thỏa mãn ràng buộc định tính Staler trên 0 X nếu tồn tại một *0 xX sao cho * ( ) 0gx  b. Ràng buộc định tính Karlin 0 X là một tập lồi trên n , g là một hàm vecto m-chiều xác định trên 0 X . Hàm g được gọi là thỏa mãn ràng buộc định tính Karlin trên 0 X nếu tồn tại một ,0 n pp sao cho 0 ( ) 0,pg x x X   c. Ràng buộc định tính nghiêm ngặt 0 X là một tập lồi trên n , g là một hàm vecto m-chiều xác định trên 0 X . Hàm g được gọi là thỏa mãn ràng buộc định tính nghiêm ngặt trên 0 X nếu tồn tại ít nhất hai điểm phân biệt 12 ,xx sao cho g lồi nghiêm ngặt tại 1 x . d. Ràng buộc định tính Kuhn – Tucker Cho 0 X là một tập mở trong n , g là một hàm vectơ m-chiều trong 0 X , đặt:     0 | , 0X x x X g x   g thỏa ràng buộc Kuhn – Tucker tại xX nếu g khả vi tại x và: nếu   0 n I y g x y          Khi đó tồn tại một hàm vectơ e n-chiều được định nghĩa trên   0,1 sao cho: a.   0ex b.   ,0 1eX     c. e khả vi tại 0   và   0de y d    với một 0   nào đó. Trong đó:     |0 i I i g x e. Ràng buộc định tính Arrow – Hurwicz –Uzawa Cho 0 X là một tập mở trong n , g là một hàm vectơ m-chiều xác định trên 0 X . Đặt :     0 | , 0X x x X g x   [...]... x  0 I I I I i Do g  x  x nên ta có g I  x  z  0 và do đó ràng buộc 5. e được thỏa mãn 7 Mối quan hệ giữa các ràng buộc định tính X0 lồi Karlin’s CQ 5. b g lồi Reverse Convex Slater CQ 5. a Strict CQ 5. c Arrow – Hurwicz – Uzawa CQ 5. e CQ 5. f Nhóm 11 Kuhn – Tucker CQ 5. d Trang 14 Tối ưu phi tuyến 8 Định lý tối ƣu cần của bài toán điểm dừng Kuhn – Tucker Cho X 0 là một tập con mở của LMP 3.b , ... 0 Do rJ  0 , ta có: Nhóm 11 Trang 17 Tối ưu phi tuyến   rw g w x  rvgv x  0 * rw  0 ; rv  0 Do g thỏa ràng buộc 5. e tại x , nên tồn tại z  n   g w x z  0  Sao cho:  g v x z  0     rw g w x z  rvgv x z  0 ( trái (*)) Vậy r0  0 9 Thiết lập điều kiện tối ƣu Kuhn – Tucker cho bài toán quy hoạch phi tuyến a Hàm Lagrange Xét bài toán quy hoạch phi tuyến tổng quát: Min/Max... hàm Lagrange và điều kiện ràng buộc của bài toán quy hoạch phi tuyến: Nhóm 11 Trang 18 Tối ưu phi tuyến m g ( x)  f   i i  0, j  1, n  x x j  j i 1  i gi ( x)  0, i  1, m   gi ( x)  0, i  1, m   0, i  1, m  i Hệ điều kiện trên đây được gọi là điều kiện Kuhn – Tucker của bài toán quy hoạch phi tuyến Điều kiện Karush-Kuhn-Tucker: Cho bài toán quy hoạch  P  , với mỗi điểm... điều kiện nên Nhóm 11 Trang 19 Tối ưu phi tuyến Như vậy, là điểm yên ngựa của hàm nghiệm tối ưu của bài toán quy hoạch trên tập Suy ra, là Chứng minh (2): “ “: Hiển nhiên theo (1) “ “: Giả sử là bài toán quy hoạch lồi thỏa mãn điều kiện Slater và là nghiệm tối ưu của Suy ra, tồn tại sao cho là điểm yên ngựa của hàm trên tập : Hàm này là hàm lồi trên Xét hàm Lagrange như vậy để đạt cực tiểu tại và...  0,i=1,m} (*) Lúc đó, hàm Lagrange tương ứng với bài toán trên có dạng: m F ( x,  )  f ( x)   i gi với i  0, i  1, m i 1 Khi đó, các điểm ( x,  ) được gọi là điểm dừng Lagrange b Định lí 1 Mọi phương án tối ưu của bài toán quy hoạch lồi cũng là phương án tối ưu toàn cục c Định lí 2 Cho x* là phương án tối ưu của bài toán quy hoạch phi tuyến tổng quát (*) với hàm mục tiêu f(x) và các ràng... nghiệm tối ƣu của bài toán quy hoạch lồi): Cho bài toán quy hoạch lồi 1 (Điều kiện đủ) Nếu thỏa mãn điều kiện KKT thì là nghiệm tối ưu của bài toán quy hoạch 2 (Điều kiện cần và đủ) Nếu là bài toán quy hoạch lồi thỏa mãn điều kiện Slater thì là nghiệm tối ưu của nếu và chỉ nếu thỏa mãn điều kiện KKT Chứng minh (1): Xét hàm Lagrange hơn nữa thỏa mãn điều kiện nên Hàm này là hàm lồi trên là cực tiểu. .. phải thỏa mãn điều kiện KKT e Ví dụ: Xét bài toán quy hoạch phi tuyến sau: Minf ( x)  ( x1  1)2  ( x2  1)2 Với điều kiện x  ( x1, x2 )  D là miền ràng buộc xác định bởi:  x1  2  0   x2  1  0 x , x  0  1 2 Nhóm 11  g1 ( x)  x1  2  0  g ( x)  x  1  0  2 2   g3 ( x)   x1  0  g 4 ( x)   x2  0  Trang 20 Tối ưu phi tuyến Đây là bài toán quy hoạch lồi (Theo phần lí thuyết... vectơ gi ( x* ), i  I là độc lập tuyến tính Khi đó, tồn tại vectơ có m tọa độ  sao cho ( x* ,  ) là điểm dừng Lagrange Trong số các vectơ x*  n , tồn tại vectơ có m tọa độ  sao cho ( x* ,  ) là điểm dừng của hàm Lagrange có thể tìm được phương án tối ưu địa phương của bài toán quy hoạch phi tuyến (*) Theo định lí 1 ở trên, ta có thể tìm được phương án tối ưu toàn cục trong số các điểm dừng trên... và g thỏa: i) ii) iii) iv) v) vi) n , và g xác định trên X 0 , x là nghiệm của bài toán Ràng buộc Kuhn – Tucker 5. d tại x , hoặc Ràng buộc Arrow – Hurwicz – Uzawa 5. e tại x , hoặc Ràng buộc tập lồi nghịch đảo 5. f tại x , hoặc Ràng buộc Slater 5. a trên X 0 , hoặc Ràng buộc Karlin 5. b trên X 0 , hoặc Ràng buộc nghiêm ngặt 5. c trên X 0 Thì tồn tại một u  m sao cho  x, u  là nghiệm của KTP 3.d Chứng... ràng buộc 5. f tại x thì g thỏa ràng buộc 5. e tại x ii) Nếu g thỏa ràng buộc 5. f tại x thì g thỏa ràng buộc 5. d tại x iii) Giả sử X 0 lồi, g lồi trên X , g khả vi tại x Nếu g thỏa ràng buộc Slater trên X 0 , thỏa ràng buộc Karlin trên X 0 hoặc thỏa ràng buộc định tính nghiêm ngặt trên X 0 thì g thỏa ràng buộc 5. e tại x Chứng minh: i) Giả sử g thỏa ràng buộc 5. f tại x thì tập W xác định trong 5. e là tập . án tối ưu toàn cục. Khi 0 n X  là một tập lồi và  là hàm lồi trên 0 X thì Bài toán cực tiểu MP được gọi là Bài toán quy hoạch lồi (BTQHL) Tối ưu phi tuyến Nhóm 11 Trang 4 b. Bài. MINH KHOA TOÁN – TIN BÀI TIỂU LUẬN MÔN: LÍ THUYẾT TỐI ƢU PHI TUYẾN ĐỀ TÀI: TIÊU CHUẨN TỐI ƢU CỦA QUY HOẠCH PHI TUYẾN VỚI GIẢ THIẾT KHẢ VI (PHẦN II) NHÓM THỰC HIỆN 1. TRẦN VIỆT. Hurwicz – Uzawa CQ 5. e Kuhn – Tucker CQ 5. d Hình: Mối quan hệ giữa các ràng buộc định tính khác nhau Tối ưu phi tuyến Nhóm 11 Trang 15 8. Định lý tối ƣu cần của bài toán điểm