ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC DƯƠNG THỊ YẾN TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ QUY TẮC NHÂN TỬ LAGRANGE CHUYÊN NGÀNH: TOÁN ỨNG DỤNG MÃ SỐ: 60.46.36 LUẬN VĂN THẠC SĨ TOÁN HỌC Người hướng dẫn khoa học: PGS. TS. ĐỖ VĂN LƯU THÁI NGUYÊN - 2011 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn i Mục lục Mục lục . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . ii Mở đầu 1 1 ĐIỀU KIỆN CẦN FRITZ JOHN 4 1.1 KẾT QUẢ BỔ TRỢ . . . . . . . . . . . . . . . . . . . . . 4 1.2 ĐIỀU KIỆN CẦN FRITZ JOHN . . . . . . . . . . . . . . 10 1.3 NHÂN TỬ LAGRANGE CÓ THÔNG TIN VÀ NHÂN TỬ LAGRANGE MẠNH . . . . . . . . . . . . . . . . . . . . . 17 2 TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ CÁC ĐIỀU KIỆN CHÍNH QUY 29 2.1 TÍNH TỰA CHUẨN TẮC VÀ TÍNH GIẢ CHUẨN TẮC . 29 2.2 ĐIỀU KIỆN ĐỦ CHO TÍNH GIẢ CHUẨN TẮC . . . . . 35 2.3 ĐIỀU KIỆN CẦN VÀ ĐỦ CHO TÍNH TỰA CHUẨN TẮC 38 3 HÀM PHẠT CHÍNH XÁC 43 3.1 TÍNH GIẢ CHUẨN TẮC VÀ HÀM PHẠT CHÍNH XÁC 43 3.2 BIỂU DIỄN MỞ RỘNG CỦA TẬP RÀNG BUỘC . . . 49 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn ii 3.3 CÁC VÍ DỤ . . . . . . . . . . . . . . . . . . . . . . . . . 50 Kết luận . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 56 Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . 57 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 1 Mở đầu Lí thuyết các điều kiện tối ưu là một bộ phận quan trọng của lí thuyết các bài toán cực trị. Các quy tắc nhân tử Lagrange đã và đang thu hút được sự quan tâm nghiên cứu của nhiều tác giả. Thông thường người ta thiết lập các điều kiện cần tối ưu kiểu Fritz John và từ đó dẫn các điều kiện cần tối ưu kiểu Kuhn-Tucker với các điều kiện chính quy khác nhau. Các điều kiện cần tối ưu có thể dẫn bằng cách thiết lập các định lí luân phiên làm công cụ trên cơ sở sử dụng các định lí tách các tập lồi hoặc bằng phương pháp hàm phạt chính xác. Các nhân tử Lagrange với một vài tính chất phụ sẽ hữu ích trong nghiên cứu tính chất của nghiệm tối ưu. Năm 2002, D. P. Bertsekas và A. E. Ozdaglar [3] đã thiết lập quy tắc nhân tử Lagrange kiểu Fritz John, trong đó các nhân tử Lagrange có thêm một tính chất phụ (tính chất (CV)). Ba loại nhân tử Lagrange được nghiên cứu bao gồm các vectơ nhân tử Lagrange có thông tin, mạnh và tối thiểu. Các điều kiện chính quy tổng quát về tính tựa chuẩn tắc và tính giả chuẩn tắc của điểm chấp nhận được được đưa vào để đảm bảo sự khác 0 của nhân tử Lagrange ứng với hàm mục tiêu. Việc tiếp cận bằng phương pháp hàm phạt chính xác tỏ ra hiệu quả dưới các điều kiện về tính tựa chuẩn tắc và Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 2 tính giả chuẩn tắc. Luận văn trình bày các kết quả của Bertsekas và Ozdaglar [3] về lí thuyết các nhân tử Lagrange của bài toán tối ưu có các ràng buộc đẳng thức, bất đẳng thức và ràng buộc tập với các điều kiện chính quy tổng quát về tính tựa chuẩn tắc và tính giả chuẩn tắc của nghiệm tối ưu. Luận văn bao gồm phần mở đầu, ba chương, kết luận và danh mục các tài liệu tham khảo. Chương 1 trình bày điều kiện cần kiểu Fritz John với các nhân tử La- grange có thêm tính chất (CV). Ba loại vectơ nhân tử Lagrange được nghiên cứu bao gồm các vectơ nhân tử Lagrange có thông tin, mạnh và tối thiểu. Mối quan hệ giữa các loại vectơ nhân tử Lagrange này được trình bày cho trường hợp nón tiếp tuyến lồi. Chương 2 trình bày các điều kiện chính quy tổng quát đảm bảo nhân tử Lagrange ứng với hàm mục tiêu khác 0. Đó là các điều kiện chính quy về tính tựa chuẩn tắc và tính giả chuẩn tắc của nghiệm. Chú ý rằng điều kiện giả chuẩn tắc mạnh hơn điều kiện tựa chuẩn tắc. Một trong các điều kiện chính quy (CQ1) -(CQ6) đúng thì điều kiện giả chuẩn tắc đúng. Chương 3 trình bày cách tiếp cận bằng phương pháp hàm phạt chính xác. Kết quả chỉ ra rằng điều kiện giả chuẩn tắc kéo theo sự thừa nhận một hàm phạt chính xác. Trong trường hợp nón pháp tuyến lồi thì điều kiện tựa chuẩn tắc cũng kéo theo sự thừa nhận một hàm phạt chính xác. Nếu tập ràng buộc là chính quy thì việc thừa nhận một hàm phạt chính xác kéo theo sự thừa nhận các nhân tử Lagrange. Nhân dịp này tôi xin bày tỏ lòng biết ơn sâu sắc tới thầy giáo PGS.TS Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 3 Đỗ Văn Lưu, người đã tận tình hướng dẫn, giúp đỡ tôi hoàn thành bản luận văn này. Tôi xin chân thành cảm ơn Ban chủ nhiệm khoa toán, Phòng đào tạo sau đại học trường Đại học Khoa học - Đại học Thái Nguyên cùng các thầy cô giáo đã tham gia giảng dạy khoá học. Xin chân thành cảm ơn gia đình, bạn bè đồng nghiệp và các thành viên trong lớp cao học toán K3 đã luôn quan tâm, động viên, giúp đỡ tôi trong suốt thời gian học tập và quá trình làm luận văn. Thái Nguyên, tháng 5 năm 2011 Dương thị Yến Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 4 Chương 1 ĐIỀU KIỆN CẦN FRITZ JOHN Chương 1 trình bày điều kiện cần Fritz John với các nhân tử Lagrange có thêm tính chất (CV). Các vectơ nhân tử Lagrange có thông tin, mạnh và tối thiểu được trình bày cùng với mối quan hệ của chúng. Các kết quả trong chương này là của Bertsekas-Ozdaglar [3]. 1.1 KẾT QUẢ BỔ TRỢ Xét bài toán tối ưu có dạng Min x∈C f(x), (1.1) trong đó, tập ràng buộc C bao gồm các ràng buộc đẳng thức, ràng buộc bất đẳng thức và ràng buộc tập trừu tượng. C = X ∩ {x|h 1 (x) = 0, . . . , h m (x) = 0} ∩ {x|g 1 (x) ≤ 0, . . . , g r (x) ≤ 0} (1.2) Giả sử f, h i , g j là các hàm trơn (khả vi liên tục) từ R n vào R; X là tập đóng, khác rỗng trong R n . Tất cả các vectơ được xem như các vectơ cột, dấu " ’ " kí hiệu phép chuyển vị, x  y là kí hiệu tích vô hướng của hai vectơ Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 5 x và y. Ta dùng chuẩn Euclide ||x|| = (x  x) 1 2 . Nhắc lại: Vectơ y là tiếp tuyến của tập S ⊂ R n tại x ∈ S nếu y = 0 hoặc tồn tại một dãy con {x k } ⊂ S sao cho x k = x với mọi k và x k → x, (x k − x) ||x k − x|| → y ||y|| . Một cách tương đương là: Tồn tại dãy con {x k } ⊂ S, với x k → x và dãy số dương {α k } sao cho α k → 0 và x k − x α k → y. Tập hợp tất cả các tiếp tuyến của S tại x được kí hiệu là T S (x) và được gọi là nón tiếp tuyến của S tại x. Nón cực của nón T được xác định bởi T ∗ = {z|z  y ≤ 0, y ∈ T }. Với nón T = ∅, ta luôn có T ⊂ (T ∗ ) ∗ . Dấu "=" xảy ra nếu T là tập lồi đóng. Với tập X đóng và điểm x ∈ X, ta kí hiệu nón pháp tuyến của X tại x là N X (x), N X (x) nhận được từ T X (x) ∗ qua một phép lấy bao đóng: z ∈ N X (x) nếu tồn tại dãy con {x k } ⊂ X và {z k } sao cho x k → x, z k → z và z k ∈ T X (x k ) ∗ với mọi k. Một cách tương đương, đồ thị của N X (.), mà ta xem như một ánh xạ đa trị {(x, z)|z ∈ N X (x)}, là bao đóng của đồ thị của T X (.) ∗ . Nói chung, ta có T X (x) ∗ ⊂ N X (x), với bất kỳ x ∈ X. Tuy nhiên, N X (x) có thể không bằng T X (x) ∗ , và có thể không lồi. Khi T X (x) ∗ = N X (x), ta nói X là chính quy tại x. Hai tính chất quan trọng của tính chính quy là (xem [10]): (i) Nếu X là lồi thì chính quy tại mỗi x ∈ X; Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 6 (ii) Nếu X là chính quy tại x nào đó ∈ X thì T X (x) là lồi. Một điều kiện cần cổ điển để vectơ x ∗ ∈ C là cực tiểu địa phương của f trên C là: f(x ∗ )  y ≥ 0, ∀y ∈ T C (x ∗ ), (1.3) trong đó T C (x ∗ ) là nón tiếp tuyến của C tại x ∗ . Trong trường hợp C được biểu diễn bởi các ràng buộc đẳng thức và bất đẳng thức ta nhận được các nhân tử Lagrange. Ta nói rằng tập ràng buộc C (1.2) nhận các nhân tử Lagrange tại điểm x ∗ ∈ C nếu với mọi hàm mục tiêu trơn f mà x ∗ là cực tiểu địa phương của bài toán (1.1), tồn tại các vectơ λ ∗ = (λ ∗ 1 , . . . , λ ∗ m ) và µ ∗ = (µ ∗ 1 , . . . , µ ∗ r ) thỏa mãn các điều kiện sau: [∇f(x ∗ ) + m  i=1 λ ∗ i ∇h i (x ∗ ) + r  j=1 µ ∗ j ∇g j (x ∗ )]  y ≥ 0, ∀y ∈ T X (x ∗ ), (1.4) µ ∗ j ≥ 0, ∀j = 1, . . . , r. (1.5) µ ∗ j = 0, ∀j /∈ A(x ∗ ), (1.6) trong đó A(x ∗ ) = {j|g j (x ∗ ) = 0} là tập các chỉ số ràng buộc bất đẳng thức tích cực tại x ∗ . Điều kiện (1.6) gọi là điều kiện bù (gọi tắt là (CS)). Cặp (λ ∗ , µ ∗ ) thoả mãn (1.4) - (1.6) gọi là vectơ nhân tử Lagrange tương ứng với f và x ∗ . Tập hợp các vectơ nhân tử Lagrange tương ứng với f và x ∗ là tập đóng và lồi (có thể là tập rỗng). Điều kiện (1.4) tương thích với tính chất đặc trưng cổ điển của nhân tử Lagrange: biểu hiện ở tính dừng của hàm Lagrange Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 7 tại x ∗ . Khi X là tập lồi, (1.4) tương đương với [∇f(x ∗ ) + m  i=1 λ ∗ i ∇h i (x ∗ ) + r  j=1 µ ∗ j ∇g j (x ∗ )]  (x − x ∗ ) ≥ 0, ∀x ∈ X. (1.7) Bởi vì khi X là lồi, T X (x ∗ ) là bao đóng của tập các phương chấp nhận được F X (x ∗ ), các vectơ đó có dạng α(x − x ∗ ) với α > 0 và x ∈ X. Nếu X = R n thì (1.7) có dạng [f(x ∗ ) + m  i=1 λ ∗ i  h i (x ∗ ) + r  j=1 µ ∗ j  g j (x ∗ )] = 0, với điều kiện (1.5) và (1.6). Khi X = R n , với hàm trơn f mà x ∗ là cực tiểu địa phương của nó, tồn tại nhân tử Lagrange khi và chỉ khi f(x ∗ )  y ≥ 0, ∀y ∈ V (x ∗ ), trong đó V (x ∗ ) là nón các biến phân chấp nhận được cấp một tại x ∗ , được cho bởi V (x ∗ ) = {y|  h i (x ∗ )  y = 0, i = 1, . . . , m, g j (x ∗ )  y ≤ 0, j ∈ A(x ∗ )}. Từ đó suy ra tập ràng buộc thừa nhận nhân tử Lagrange tại x ∗ nếu T C (x ∗ ) = V (x ∗ ). Trong trường hợp này ta nói rằng x ∗ là tựa chính quy hay tính tựa chính quy đúng tại x ∗ . Bởi vì tính tựa chính quy là trừu tượng, cho nên ta cho các điều kiện thừa nhận các nhân tử Lagrange dễ kiểm chứng hơn. Các điều kiện như vậy được gọi là các điều kiện chính quy. Một số điều kiện chính quy thường dùng: (CQ1) X = R n và x ∗ là điểm chính quy theo nghĩa là gradients của ràng buộc bất đẳng thức h i (x ∗ ), i = 1, . . . , m và gradients của ràng buộc bất đẳng thức tích cực g j (x ∗ ), j ∈ A(x ∗ ), là độc lập tuyến tính. Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn [...]... (1.41) 29 Chương 2 TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ CÁC ĐIỀU KIỆN CHÍNH QUY Chương 2 trình bày các điều kiện chính quy tổng quát về tính tựa chuẩn tắc và tính giả chuẩn tắc của điểm chấp nhận được Chú ý rằng điều kiện giả chuẩn tắc mạnh hơn điều kiện tựa chuẩn tắc Nếu một trong các điều kiện chính quy (CQ1)-(CQ6) đúng thì điều kiện giả chuẩn tắc đúng, và do đó điều kiện tựa chuẩn tắc đúng Các kết... các dạng khác nhau của nhân tử Lagrange khi giả thiết TX (x∗ ) lồi (chẳng hạn khi X chính quy tại x∗ ) 1.3 NHÂN TỬ LAGRANGE CÓ THÔNG TIN VÀ NHÂN TỬ LAGRANGE MẠNH Định lí sau chỉ ra mối quan hệ giữa các dạng khác nhau của nhân tử Lagrange (xem hình 1.2) Định lí 1.2 Giả sử x∗ là cực tiểu địa phương của bài toán (1.1)-(1.2) Giả sử nón tiếp tuyến TX (x∗ ) là lồi và tập các nhân tử Lagrange là khác rỗng... buộc cho nên tính tựa chuẩn tắc thỏa mãn Tuy nhiên ta có 3 gj (x∗ ) = 0, j=1 và ∀x = x∗ g1 (x) + g2 (x) + g3 (x) = 3(x2 + x2 ) > 0, 1 2 Với µ = (1; 1; 1) điều kiện giả chuẩn tắc của x∗ bị vi phạm Như vậy, khi X = Rn , tính tựa chuẩn tắc không kéo theo tính giả chuẩn tắc Bây giờ ta đưa thêm các điều kiện chính quy để cùng với (CQ1)-(CQ3) đã đưa ra ở phần trên sẽ suy ra tính giả chuẩn tắc của vectơ... Ta quan tâm đến việc loại bỏ các ràng buộc mà nhân tử Lagrange bằng 0, và các vectơ nhân tử Lagrange mà có số thành phần khác 0 tối thiểu (giá tối thiểu).Các vectơ nhân tử Lagrange đó được gọi là tối thiểu Nó có giá I ∪ J không bao hàm thực sự trong giá của bất kì vectơ nhân tử Lagrange nào khác Các nhân tử Lagrange tối thiểu không nhất thiết là nhân tử Lagrange thông tin Số hóa bởi Trung tâm Học liệu... phương, và X là chính quy tại x∗ thì tập ràng buộc C thừa Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 16 nhận các nhân tử Lagrange thoả mãn điều kiện (CV) mạnh hơn thay thế cho điều kiện (CS).Vectơ nhân tử Lagrange( λ∗ , µ∗ ) thỏa mãn (1.4) - (1.6) và điều kiện (CV) (Điều kiện (iv) của Định lí 1.1) được gọi là vectơ nhân tử Lagrange có thông tin Vectơ nhân tử Lagrange. .. Bertsekas-Ozdaglar[3] 2.1 TÍNH TỰA CHUẨN TẮC VÀ TÍNH GIẢ CHUẨN TẮC Định lí 1.1 dẫn tới việc đưa vào một điều kiện chính qui tổng quát đảm bảo đại lượng µ∗ của Định lí 1.1 khác 0 0 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 30 Định nghĩa 2.1 Ta nói rằng vectơ chấp nhận được x∗ của bài toán (1.1)-(1.2) là tựa chuẩn tắc nếu không tồn tại các số λ1 , , λm , µ1 , , µr và dãy {xk... vectơ nhân tử Lagrange có thông tin là khác rỗng và vectơ nhân tử Lagrange có chuẩn nhỏ nhất là có thông tin (b) Mọi vectơ nhân tử Lagrange tối thiểu là mạnh Chứng minh (a) Ta tóm tắt bản chất của việc chứng minh trong bổ đề sau Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn 18 Bổ đề 1.1 Giả sử N là nón lồi, đóng trong Rn , và a0 , a1 , , ar là các vectơ trong Rn Giả. .. Chứng minh Định lí 1.2 (a): Để đơn giản ta giả thiết tất cả các ràng buộc là bất đẳng thức tích cực tại x∗ (ràng buộc đẳng thức được viết thành 2 bất đẳng thức) Ta sử dụng Bổ đề 1.1 với N = TX (x∗ )∗ , a0 = f (x∗ ), aj = gj (x∗ ), j = 1, , r, M là tập các nhân tử Lagrange, µ∗ là nhân tử Lagrange có chuẩn nhỏ nhất Nếu µ∗ = 0, thì µ∗ là nhân tử Lagrange có thông tin và khẳng định được chứng minh Nếu... không liên quan trực tiếp với nhau, nhưng thực ra chúng liên quan với nhau qua khái niệm tính giả chuẩn tắc của ràng buộc và tính tựa chuẩn tắc của ràng buộc Khi X là tập con thực sự của Rn , Guignard [7] chỉ ra rằng tập ràng buộc thừa nhận nhân tử Lagrange tại x∗ nêú V (x∗ ) ∩ conv(TX (x∗ )) = conv(TC (x∗ )), (1.8) và nếu tổng vectơ V (x∗ )∗ + TX (x∗ )∗ là một tập đóng, trong đó conv(S) là bao đóng của... ), i = 1, , m là độc lập tuyến tính, và tồn tại y ∈ Rn sao cho hi (x∗ ) y = 0, gj (x∗ ) y ≤ 0, i = 1, , m, ∀j ∈ A(x∗ ) Đây là điều kiện chính quy Mangasarian-Fromovitz (CQ3) X = Rn , hàm hi là tuyến tính và gj là lõm Tất cả điều kiện chính quy ở trên đều kéo theo điều kiện tựa chính quy TC (x∗ ) = V (x∗ ) và do đó kéo theo: tập ràng buộc thừa nhận các nhân tử Lagrange (xem [4]) Đó là cách tiếp . NHÂN TỬ LAGRANGE CÓ THÔNG TIN VÀ NHÂN TỬ LAGRANGE MẠNH . . . . . . . . . . . . . . . . . . . . . 17 2 TÍNH TỰA CHUẨN TẮC, TÍNH GIẢ CHUẨN TẮC VÀ CÁC ĐIỀU KIỆN CHÍNH QUY 29 2.1 TÍNH TỰA CHUẨN TẮC. CHUẨN TẮC VÀ TÍNH GIẢ CHUẨN TẮC . 29 2.2 ĐIỀU KIỆN ĐỦ CHO TÍNH GIẢ CHUẨN TẮC . . . . . 35 2.3 ĐIỀU KIỆN CẦN VÀ ĐỦ CHO TÍNH TỰA CHUẨN TẮC 38 3 HÀM PHẠT CHÍNH XÁC 43 3.1 TÍNH GIẢ CHUẨN TẮC VÀ HÀM. chính quy tổng quát đảm bảo nhân tử Lagrange ứng với hàm mục tiêu khác 0. Đó là các điều kiện chính quy về tính tựa chuẩn tắc và tính giả chuẩn tắc của nghiệm. Chú ý rằng điều kiện giả chuẩn tắc