1 TRƯỜNG ĐẠI HỌC SƯ PHẠM THÀNH PHỐ HỒ CHÍ MINH                     Bài thu hoạch môn: TỐI ƯU PHI TUYẾN Chủ đề: HÀM KHẢ VI VÀ TIÊU CHUẨN TỐI ƯU CỦA QUY HOẠCH KHÔNG KHẢ VI Giáo viên hướng dẫn: PGS.TS Trịnh Công Diệu Sinh viên thực hiện: 1.Trần Bảo Hiếu 2.Võ Duy Phương 3.Lê Văn Sang TPHCM, 01/2015 2 LỜI CẢM ƠN Tôi xin chân thành bày tỏ lòng cảm ơn sâu sắc của mình tới PGS.TS. Trịnh Công Diệu – Người đã tận tình hướng dẫn, động viên và giúp đỡ tôi trong suốt quá trình học tập ghiên cứu và thực hiện đền tài báo cáo môn học. Tôi xin trân trọng cảm ơn các thầy cô và các bạn khoa Toán đã đóng góp những ý kiến quý báu của mình cho việc nghiên cứu và hoàn thành báo cáo môn học. Tôi xin cảm ơn gia đình, bạn bè cùng với các đồng nghiệp và tất cả những người đã nhiệt tình giúp đỡ, động viên và tạo mọi điều kiện thuận lợi nhất để tôi hoàn thành tốt báo cáo môn học. Tuy nhiên, trong báo cáo môn học sẽ không tránh được những khuyết điểm và thiếu sót nên tôi rất mong quý thầy cô và các bạn góp ý để hoàn thiện hơn báo cáo môn học và tích lũy kinh nghiệm cho công tác nghiên cứu sau này. Xin chân thành cảm ơn đặc biệt đến thầy Trịnh Công Diệu. 3 MỤC LỤC Lời cảm ơn 2 PHỤ LỤC D: HÀM KHẢ VI VÀ ĐỊNH LÝ HÀM ẨN. 5 1. Hàm khả vi – khả vi cấp hai. 5 1.1. Hàm số khả vi. 5 1.2. Đạo hàm riêng và gradient của một hàm số. 5 1.3. Định lý. 5 1.4. Hàm vector khả vi. 6 1.5. Đạo hàm riêng phần và định thức Jacôbi của hàm vector. 6 1.6. Định lý quy tắc dây chuyền. 7 1.7. Hàm số khả vi cấp hai và Hessian. 7 1.8. Định lý. 7 1.9.Chú ý. 8 1.10.Chú ý . 8 CHƯƠNG 5: TIÊU CHUẨN TỐI ƯU QUY HOẠCH KHÔNG KHẢVI. 9 5.1. Bài toán về điểm yên ngựa và sự cực tiểu hóa. 10 5.1.1. Bài toán về cực tiểu hóa (MP). 10 5.1.2. Bài toán về cực tiểu địa phương (LMP). 10 5.1.3. Bài toán về điểm yên ngựa Fritz John (FJSP). 10 5.1.4. Bài toán về điểm yên ngựa Kuhn-Tucker (KTSP). 11 5.1.5. Chú ý. 11 5.1.6. Chú ý. 11 5.1.7. Chú ý. 11 5.2. Một vài cơ sở nghiên cứu cho bài toán cực tiểu hóa và cực tiểu địa phương. 12 5.2.1. Địnhlý. 12 5.2.3. Định lý đơn trị. 12 5.2.4. Định lý. 13 5.3. Điều kiện đủ của tiêu chuẩn tối ưu. 13 5.3.1. Định lý điều kiện đủ của tính tối ưu. 14 5.3.2. Bài toán. 15 5.3.3.Hệ quả. 15 4 5.4. Tính cần thiết của tiêu chuẩn tối ưu. 16 5.4.1. Định lý điều kiện cần tiêu chuẩn tối ưu điểm yên ngựa FritzJohn. 16 5.4.2. Bài toán. 17 5.4.3. Tiêu chuẩn ràng buộc của Slater. 17 5.4.4. Tiêu chuẩn ràng buộc của Karlin. 17 5.4.5. Tiêu chuẩn ràng buộc tuyệt đối. 17 5.4.6. Bổ đề. 18 5.4.7. Định lý điều kiện tối ưu của Kuhn-Tucker. 18 5.4.8 Định lý tối ưu cần thiết cho điểm yên ngựa Kuhn-Tucker trong sự hiện diện của các điều kiện ràng buộc tuyến tính ngang nhau. 19 Tài liệu tham khảo 22 5 PHỤ LỤC D: HÀM KHẢ VI VÀ ĐỊNH LÝ HÀM ẨN. 1.Hàm khả vi – khả vi cấp hai. 1.1.Hàm số khả vi. Cho  là một hàm số học xác định với mọi x trên một tập mở  trong n R . Cho x thuộc  ,  được gọi là khả vi tại x nếu tất cả n xR sao cho xx  Chúng ta có ( ) ( ) ( ) ( , )x x x t x x x x x        . Khi ()tx vecter n-chiều bị chặn, và  là hàm số học của x sao cho 0 lim ( , ) 0 x xx    . Ta nói  gọi là khả vi trên  nếu nó khả vi tại mọi x trong  . [Rõ ràng nếu  khả vi trên tập mở  , nó cũng khả vi trên bất kỳ tập hợp con  (mở hoặc đóng) của  . Do đó khi chúng ta nói  khả vi trên tập  (mở hoặc đóng), chúng ta sẽ có  khả vi trên tập mở chứa  ]. 1.2.Đạo hàm riêng và gradient của một hàm số. Cho  là một hàm số học xác định trên một tập mở  trong n R và x trong  .  được cho là đạo hàm riêng tại x với , 1, , i x i n , nếu 1 1 1 1 ( , , , , , , ) ( , , ) i i i n n x x x x x x x       tiến tới giới hạn hữu hạn khi  tiến tới zero. Tại giới hạn đó gọi đạo hàm riêng của  đối với i x tại x và ký hiệu là ( ) / i xx   . Vector n-chiều của đạo hàm riêng của  đối với 1 ,, n xx tại x gọi là gradient của  tại x và được ký hiệu là ()x   đó là 1 ( ) ( ) ( ) , , n xx x xx         . 1.3.Định lý. Cho  là một hàm số học xác định trên một tập mở  trong n R và x trong  . i) Nếu  khả vi tại x , thì  liên tục tại x và ()x   tồn tại (không có chiều ngược lại) và 0 ( ) ( ) ( ) ( , ) lim ( , ) 0 x x x x x x x x x xx                với xx  . 6 ii) Nu liờn tc o hm riờng ti x i vi 1 ,, n xx ú l, ()x tn ti v r liờn tc ti x , thỡ kh vi ti x Túm tt cỏc kt qu trờn nh sao: lieõn tuùc taùi x khaỷvi taùi x (x) ton taùi (x) ton taùi khaỷvi taùi x lieõn tuùc taùi x . 1.4.Hm vector kh vi. Cho f l hm vector m-chiu xỏc nh trờn tp m trong R n , v cho x , f kh vi ti x (tng ng trờn ) nu mi thnh phn ca nú 1 ,, m ff kh vi ti x (tng ng trờn ). 1.5.o hm riờng phn v nh thc Jacụbi ca hm vector. Cho f l hm vector m-chiu xỏc nh trờn tp m trong R n , v cho x , f cú o hm riờng ti x i vi 1 ,, n xx nu mi thnh phn ca nú 1 ,, m ff cú o hm riờng phn x i vi 1 ,, n xx . Chỳng ta c nh thc nh sau: 11 1 1 ( ) ( ) () ( ) ( ) n mm n f x f x xx fx f x f x xx Ma trn x ( )m n f x gi l nh thc Jacụbi ca f ti x . 7 1.6.Định lý quy tắc dây chuyền. Cho f là hàm vector m-chiều xác định trên tập mở trong R n  , và cho x  , và  là hàm số xác định trên m R .Thì hàm số  xác định trên  bởi   ( ) ( )x f x   khả vi tại x  nếu f khả vi tại x và nếu  khả vi tại ()y f x và ( ) ( ) ( )x y f x      . 1.7.Hàm số khả vi cấp hai và Hessian. Cho  là hàm số xác định trên tập mở trong R n  , và cho x nằm trong  .  được gọi là khả vi hai lần tại x nếu với tất cả n xR sao cho xx  chúng ta có: 2 2 () ( ) ( ) ( ) ( , )( ) 2 x x x x x x x x x x x            Tại 2 ()x   là ma trận x nn của phần tử giới hạn, và  gọi là hàm số của x sao cho 0 lim ( , ) 0 x xx    . Ma trận x nn 2 ()x   gọi là ma trận Hessian của  tại x và nó được viết dưới dạng 2 2 ij () ( ) , 1, , ij x x i j n xx          . Hiển nhiên nếu  có khả vi hai lần tạitại x , nó cũng phải có khả vi tại x . 1.8.Định lý. Cho  là hàm số xác định trên tập mở trong R n  , và cho x nằm trong  . Thì i)   khả vi tại tại x   khả vi lần hai tại x . ii)   đạo hàm riêng phần liên tục tại x   khả vi lần hai tại x . iii)                                     2 i j i i 2 2 22 ij ji (x) (x) x x x x liên tục tại x và (x) đối xứng nghóa là (x) = (x) 8 1.9.Chú ý. () , 1, , i x in x     được gọi là đạo hàm riêng phần của  tại x . 2 () , , 1, , ij x i j n xx     được gọi là đạo hàm riêng phần thứ 2 của  tại x . Một cách tương tự ta có thể xác định đạo hàm riêng phần của  tại x . 1.10.Chú ý . Cho  là hàm số xác định trên tập mở của nk RR   nó khả vi tai ( , )xy . Chúng được xác định như sau: 1 1 ( , ) ( , ) ( , ) , , ( , ) ( , ) ( , ) , , x n y k x y x y xy xx x y x y xy yy                 Và ( , ) ( , ), ( , ) xy x y x y x y          . Cho f hàm m-chiều xác định trên tập mở nk RR   thì nó khả vi tại ( , )xy .Chúng được xác định như sau: 11 1 1 11 1 1 ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) ( , ) n x mm n k x mm k f x y f x y xx f x y f x y f x y xx f x y f x y yy f x y f x y f x y yy                             và ( , ) ( , ) ( , ) xy f x y f x y f x y       . 9 CHƯƠNG 5: TIÊU CHUẨN TỐI ƯU QUY HOẠCH KHÔNG KHẢ VI. Mục đích của chương này trình bài bài toán về nội dung tiêu chuẩn tối ưu quy hoạch phi tuyến của điểm yên ngựa điểm vừa thỏa bé nhất vừa thỏa lớn nhất trên một hệ quy chiếu (ví dụ: là điểm lớn nhất đối với hàng bé nhất đối với cột trong một ma trận hai hàng hai cột). Tiêu chuẩn tối ưu phi tuyến này được minh họa bởi một ví dụ. Xét bài toán cực tiểu trên hàm  trong tập   / , 2 0X x x R x     tại nơi   2 xx   . Hiển nhiên nghiệm là 2x  , và cực tiểu   min 4x   . Điểm yên ngựa trong tiêu chuẩn tối ưu cho bài toán này là một điều kiện cần và điều kiện đủ vừa x là nghiệm cực tiểu của bài toán vừa tồn tại một số thực 4u  u sao cho , , 0u x R u ,             2 2 2x u x x u x x u x             . Điều đó dể hiểu, để kiểm tra điều bấc đẳng thức trên thỏa mãn 2x  4u  . Xét một hàm  trong 2 R xác định bởi:       ,2x u x u x      ,có một điểm yên ngựa tại 2, 4xu , bởi vì đạt cực tiểu tại   ,xu đối với x cho tất cả giá trị thực x và đạt cực đại tại   ,xu đối với u cho tất cả giá trị thực u với giá trị 0u  . Cho một bài toán cơ bản bên trên, tiêu chuẩn điểm yên ngựa để xảy ra cả hai điều kiện cần và điều kiện đủ của tiêu chuẩn tối ưu cho x là nghiệm bài toán phải đạt cực tiểu. Chúng ta sẽ chỉ ra trong chương này mà điều kiện điểm yên ngựa là điều kiện đủ tối ưu với yêu cầu tính lồi. Tuy nhiên để chứng minh điều kiện cần của điểm yên ngựa, chúng ta cần không những phải có tính lồi nhưng cũng cần phải có một vài điều kiện quy tắt, hạn chế bắt buộc. Điều này đề chứng minh xác thực được dể dàng hơn đề hài long mà điều kiện cần của sự tối ưu là phức tạp và khó khăn để thành lập. Chúng ta chỉ nghiên cứu tiêu chuẩn tối ưu của chương này với giả thuyết tính không khả vi trên hàm phức tạp. Tiếp theo chương này chương 7 và 11 sẽ thiết lập tiêu chuẩn tối ưu của hàm khả vi. 10 5.1. Bài toán về điểm yên ngựa và sự cực tiểu hóa. Tiêu chuẩn tối ưu của chương này là trình bày lại lời giải bài toán cực tiểu hóa, một bài toán về cực tiểu địa phương, hai bài toán về cực tiểu khác là hai điểm yên ngựa. Chúng ta định nghĩa những dạng bài toán ở bên dưới. Giả xử 0 X là một tập con của R , giả xử cho , g  lần lược là một hàm số và một không gian vector m chiều xác định trên 0 X . 5.1.1. Bài toán về cực tiểu hóa (MP). Tìm x , nếu nó tồn tại thì x thỏa :         0 min / , 0x x x X x x X g x       Tập X được gọi là miền xác định hay là tập xác định hay điều kiện ràng buộc không khả vi, x nghiệm cực tiểu,   x  cực tiểu. Tất cả những điểm x trong miền xác định của X gọi là những điểm xác định. Nếu X là tập lồi, và nếu  là lồi trên X , bài toán về cực tiểu hóa được gọi là bài toán về quy hoạch lồi. 5.1.2. Bài toán về cực tiểu địa phương (LMP). Tìm x , nó tồn, nếu x thỏa : cho một vài quả cầu mở   Bx  xung quanh x , với bán kính 0   ,       x B x X x x      . 5.1.3. Bài toán về điểm yên ngựa Fritz John (FJSP). Tìm   0 00 , , , , 0 m x X r R r R r r    nếu nó tồn tại thì thỏa:             000 0 00 , , , , , , : 0, , ,, m x r r x r r x r r dk r r R x X x r r r x rg x              . [...]... ta sẽ giả định các hang B1 , , Bk của B là độc lập tuyến tính, giả sử rằng một số hàng, Bk , là độc lập tuyến tính trên B1 , s1 , , Bk 1 sao cho Bk  k 1 s B i 1 i i khi , sk 1 là số thực cố định Khi đó k 1 k 1 i 1 i 1 Bk x  dk   si Bi x  dk   si di  dk Cho bất kỳ x thỏa Bi x  di , i  1, Bi x  di , i  1, , k , ta suy ra rằng Bi x  di , i  1, , k 1 k 1 sd Nhưng kể từ x  X... cực tiểu hóa bài toán MP5 .1. 1 Tiêu chuẩn này là hoàn toàn mục tiêu để hướng đến và không cần thiết phức tạp một cách máy móc theo quy tắt Trước hết xem kết của kiểu bài toán này thu được trong [Uzawa58] 13 5.3 .1 Định lý điều kiện đủ của tính tối ưu Nếu  x, u  là nghiệm KTSP5 .1. 4 , khi đó x là một nghiệm của MP5 .1. 1 nếu  x, r , r  là ngiệm của FJSP5 .1. 3 và r 0 0  0 , x là một nghiệm của MP5 .1. 1 Chứng... giải bài toán về cực tiểu và lặp lại lời giải về cực tiểu và cực tiểu địa phương 5.2 .1 Địnhlý Cho X là tập lồi, và  là một hàm lồi trên X Tập hợp của những lời giải MP 5 .1. 1 là hàm lồi Chú ý: Cần phải có một điều kiện đủ nhưng không cần thiết phải có điều kiện cần để cho hàm lồi của X là X 0 là tập lồi và g lồi trên X 0 Từ 3 .1. 10, 4 .1. 9 ta có điều đó Chứng minh: Cho x1 , x 2 là nghiệm của MP5 .1. 1.Nghĩa... nghiệm của MP5 .1. 1.Nghĩa là   x1     x2   min   x  Nó kèm theo tính lồi của X , , giả xử 0    1 thì 1   x1   x2  X và   1    x1   x2   1     x1     x2     x1   min   x  Kể từ đây 1    x1   x2 cũng là nghiệm của MP, và tập các nghiệm là tập lồi 5.2.3 Định lý đơn trị Cho X là một tập lồi và x là nghiệm lồi của MP5 .1. 1 Nếu  là lồi hoàn toàn tại... lagrange 5 .1. 7 Chú ý Bất đẳng thức đúng trong hai bài toán về điểm yên ngựa, FJSP , KTSP     x X   x, u     x , u  x  X  x, r 0 , r   x, r 0 , r 0 0 có thể giải thích là định luật cực tiểu hóa, giống định luật cực đại của Pontryagin Trong định lý nguyên thủy Pontryagin cần có điều kiện tối ưu để có tính tối ưu 11 5.2 Một vài cơ sở nghiên cứu cho bài toán cực tiểu và cực tiểu địa phương... nghiệm đơn trị của MP5 .1. 1 Chứng minh: Nếu MP5 .1. 1 không có nghiệm như trong định lý có hiển nhiên đúng Cho x là một nghiệm của MP5 .1. 1 Khi đó  không chứa trên X , có tồn tại x  X mà   x     x  Nếu z là một điểm nằm phía trong X ,có tồn tại y  X , cho 0    1, z  1    x   y Nhìn 5.2 .1 khi đó:       z     1    x   y   1     x     y   1    x   y... đề tối thiểu hóa  ( x )  min  ( x) , xX x  X  {x / x  R , g ( x)  0, Bx  d } và cho g và h đáp ứng các điều kiện ràng buộc n sau: (Suy rộng Slater 3) g ( x)  0, Bx  d có giải pháp x  Rn i) Hình 5.4 .1: Mối liên hệ giữa các giải pháp tối ưu hóa trong vấn đề (LMP) 5 .1. 2, và vấn đề tối ưu hóa (MP) 5 .1. 1, vấn đề điểm yên ngựa Fritz John (FJSP) 5 .1. 3, và vấn đề điểm yên ngựa Kuhn-Tucker 5 .1. 4... cần tiêu chuẩn tối ưu với điều kiện tùy ý Điều kiện cần của tiêu chuẩn tối ưu là tính đồng dạng dựa trên nền tảng điều kiện cần tiêu chuẩn tối ưu FritzJohn chương 7 Cái mà nhận được từ trường hợp hàm  , g là khả vi nhưng không lồi 5.4 .1. Định lý điều kiện cần tiêu chuẩn tối ưu điểm yên ngựa FritzJohn Cho X 0 là một tập lồi trong R n và cho  , g là mở trên X 0 Nếu x là ngiệm của MP5 .1. 1, khi đó x, r... x   rg  x   sh  x          Trong phần bên trên điều kiện cần tiêu chuẩn tối ưu là không đảm bảo r  0 Trong trường hợp r  0 nó là bằng chứng trực giác rõ ràng mà điều kiện cần tiêu chuẩn tối ưu FJSP5 .1. 3 không nói nhiều về cực tiểu trong bài toán MP5 .1. 1, bởi vì hàm  cũng không xuất hiện từ 5 .1. 3 và bấc cứ hàm nào cũng có thể giữ vai trò 5.4.3.Tiêu chuẩn ràng buộc của Slater Cho... xuất tính tối ưu cần thiết cho điểm yên ngựa Kuhn-Tucer trong sự ràng buộc tuyến tính ngang nhau 18 Để làm điều này, chúng ta phải cho tập hợp X 0 của MP 5 .1. 1 trên toàn bộ R n 5.4.8 Định lý tối ưu cần thiết cho điểm yên ngựa Kuhn-Tucker trong sự hiện diện của các điều kiện ràng buộc tuyến tính ngang nhau Cho  , g lần lượt là hàm số học và hàm vector m-chiều, lồi trên Rm Cho h là hàm vector tuyến tính . (KTSP). 11 5 .1. 5. Chú ý. 11 5 .1. 6. Chú ý. 11 5 .1. 7. Chú ý. 11 5.2. Một vài cơ sở nghiên cứu cho bài toán cực tiểu hóa và cực tiểu địa phương. 12 5.2 .1. Địnhlý. 12 5.2.3. Định lý đơn trị. 12 . ngựa và sự cực tiểu hóa. 10 5 .1. 1. Bài toán về cực tiểu hóa (MP). 10 5 .1. 2. Bài toán về cực tiểu địa phương (LMP). 10 5 .1. 3. Bài toán về điểm yên ngựa Fritz John (FJSP). 10 5 .1. 4. Bài toán về. lý. 13 5.3. Điều kiện đủ của tiêu chuẩn tối ưu. 13 5.3 .1. Định lý điều kiện đủ của tính tối ưu. 14 5.3.2. Bài toán. 15 5.3.3.Hệ quả. 15 4 5.4. Tính cần thiết của tiêu chuẩn tối ưu. 16