Đang tải... (xem toàn văn)
Thuật toán DCA và ứng dụng ( Luận văn thạc sĩ)Thuật toán DCA và ứng dụng ( Luận văn thạc sĩ)Thuật toán DCA và ứng dụng ( Luận văn thạc sĩ)Thuật toán DCA và ứng dụng ( Luận văn thạc sĩ)Thuật toán DCA và ứng dụng ( Luận văn thạc sĩ)
ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KHOA HỌC NGUYỄN VĂN HỒNG THUẬT TOÁN DCA VÀ ỨNG DỤNG Luận văn Thạc sỹ Chuyên ngành: TOÁN ỨNG DỤNG Mã số: 60 46 01 12 Người hướng dẫn khoa học PGS TS PHẠM NGỌC ANH THÁI NGUYÊN - NĂM 2014 MỤC LỤC Mục lục Lời cảm ơn Bảng ký hiệu Lời nói đầu Một số khái niệm 1.1 Tập lồi 1.1.1 Tập lồi 1.1.2 Phần tương đối bao lồi đóng 1.1.3 Phương lùi xa nón lùi xa 10 Hàm lồi 11 1.2.1 Hàm lồi hàm lõm 11 1.2.2 Hàm lồi liên tục 12 1.2.3 Hàm lồi khả vi 13 1.2.4 Dưới vi phân 15 Hàm D.C 16 1.3.1 Định nghĩa tính chất hàm D.C 16 1.3.2 Bài toán quy hoạch D.C 18 Bài toán đối ngẫu Lagrange 19 1.4.1 Điều kiện tối ưu toán lồi 23 1.4.2 Định lý Karush-Kuhn-Tucker 27 1.2 1.3 1.4 Thuật toán DCA 31 2.1 31 Bài toán D.C 2.2 Thuật toán DCA 36 2.3 Sự hội tụ thuật toán DCA 37 Ứng dụng thuật tốn DCA 47 3.1 Điều kiện tối ưu hóa tồn cho (P1 ) (P2 ) 47 3.2 Ứng dụng thuật toán DCA giải toán (P1 ) 48 3.3 51 Tính hội tụ DCA đến nghiệm cục toán (P1 ) 3.4 Ứng dụng thuật toán DCA giải toán (P2 ) 54 Kết luận 56 Tài liệu tham khảo 57 Lời cảm ơn Luận văn hoàn thành tài trường Đại học Khoa học - Đại học Thái Nguyên Tác giả xin bày tỏ lòng biết ơn sâu sắc đến PGS TS Phạm Ngọc Anh (Học viện Công nghệ Bưu Viễn thơng), thầy trực tiếp hướng dẫn tận tình động viên tác giả suốt thời gian viết luận văn vừa qua Xin chân thành cảm ơn thầy, cô giáo Ban chủ nhiệm khoa, bạn học viên lớp cao học Toán K6B trường Đại học Khoa học - Đại học Thái Nguyên bạn đồng nghiệp tạo điều kiện thuận lợi, động viên tác giả trình học tập nghiên cứu nhà trường Tác giả xin bày tỏ lòng biết ơn sâu sắc tới gia đình người thân ln khuyến khích, động viên tác giả suốt trình học tập làm luận văn Mặc dù có nhiều cố gắng, luận văn khó tránh khỏi thiếu sót hạn chế Tác giả mong nhận ý kiến đóng góp quý báu thầy cô bạn đọc để luận văn hoàn thiện Xin chân thành cảm ơn! Thái Nguyên, tháng năm 2014 Tác giả Nguyễn Văn Hồng Bảng ký hiệu R R+ : Tập hợp số thực : Tập hợp số nửa đoạn [0, +∞) Rn Rn+ : Không gian số thực n - chiều : Không gian số thực không âm n - chiều x∈C x∈C : x thuộc tập C : x không thuộc tập C ∀x ∃x : Với x : Tồn x ∅ : Tập hợp rỗng ∩ ∪ : Phép giao tập hợp : Phép hợp tập hợp x=y x, y : x định nghĩa y : Tích vơ hướng x y ∇x f (x) xk x : Véc tơ đạo hàm hàm f điểm x : Dãy xk hội tụ yếu tới x xk → x : Dãy xk hội tụ mạnh tới x I : Ánh xạ đồng arg {f (x) |x ∈ C} : Tập điểm cực tiểu hàm f C x : Chuẩn véc tơ x Lời nói đầu DCA viết tắt "difference of convex functions optimization algorithms" Thuật toán DCA đề xuất từ năm 1986 giáo sư Phạm Đình Tảo với ứng dụng phát triển mở rộng (xem [1, 2, 4, 5, 6]) DCA áp dụng nhiều lĩnh vực khoa học liên quan đến nhiều toán tối ưu Thuật toán DCA áp dụng để giải toán D.C (viết tắt difference of convex functions) dạng f = g − h Để giải toán này, tác giả sử dụng phương pháp D.C cách phân rã hàm mục tiêu thành hiệu hai hàm lồi sử dụng kỹ thuật đối ngẫu Lagrange để chuyển toán D.C thành toán lồi mạnh khơng ràng buộc cách tuyến tính hóa hàm lồi g Một cách đơn giản, thấy mơ hình tốn D.C có dạng: (P ) α = inf {f (x) = g (x) − h (x) : x ∈ Rn } f hàm mục tiêu, g, h hàm lồi nửa liên tục Rn , tốn đối ngẫu (D) α = inf {h∗ (y) − g ∗ (y) : y ∈ Rn } h∗ , g ∗ hàm liên hợp g, h Rn với g ∗ (y) = sup { x, y − g (x) : x ∈ Rn } Bằng cách áp dụng thuật toán DCA vào giải toán (P ) (D), tác giả chứng minh sau hữu hạn bước, ta xác định nghiệm tối ưu địa phương toán ban đầu Luận văn trình bày tốn D.C, thuật tốn DCA ứng dụng thuật toán DCA vào toán cực tiểu hàm khơng lồi hình cầu mặt cầu không gian Euclide Rn Luận văn gồm hai phần chính: Phần thứ trình bày toán D.C, thuật toán DCA hội tụ báo Pham Dinh Tao and Le Thi Hoai An (1997), Convex analysis approach to D.C programming: Theory, algorithms and applications, Acta mathematica Vietnamica, vol 22, pp 289 - 355 [8] Phần thứ hai đề cập đến ứng dụng DCA vào giải toán cực tiểu hàm khơng lồi hình cầu mặt cầu không gian Euclide Rn báo "Pham Dinh Tao and Le Thi Hoai An (1996), Difference of convex functions optimization algorithms (DCA) for globally minimizing nonconvex quadratic forms on Euclidean balls and spheres, Operations Research Letters, vol 19, pp 207-216" Ngoài phần mở đầu, kết luận tài liệu tham khảo, luận văn trình bày thành ba chương Chương 1: Trình bày số kiến thức giải tích lồi làm sở cho việc nghiên cứu tốn D.C Sau trình bày số vấn đề toán tối ưu lồi, toán đối ngẫu Lagrange, Định lý Karush-Kuhn-Tucker, hàm D.C số tính chất hàm D.C Chương 2: Trình bày tốn D.C, thuật tốn DCA thuật tốn DCA rút gọn Chương 3: Trình bày ứng dụng thuật tốn DCA vào tốn tìm nghiệm cực tiểu hàm khơng lồi hình cầu mặt cầu không gian Rn Chương Một số khái niệm 1.1 1.1.1 Tập lồi Tập lồi Cho a, b hai điểm Rn Đường thẳng qua a b tập tất điểm x ∈ Rn có dạng x = (1 − λ) a + λb = a + λ (b − a) với λ ∈ R Định nghĩa 1.1.1 Tập M ⊆ Rn gọi tập afin (hay đa tạp tuyến tính) (1 − λ) a + λb ∈ M với a ∈ M, b ∈ M λ ∈ R, tức M chứa trọn đường thẳng qua hai điểm Rõ ràng M tập afin a ∈ Rn a + M = {a + x : x ∈ M } tập afin M tập afin chứa gốc M không gian con, nghĩa a, b thuộc M điểm λa + µb thuộc M với λ, µ ∈ R Định lý 1.1.1 Tập M không rỗng tập afin M = a + L a ∈ M L khơng gian Khơng gian L nói gọi không gian song song với tập afin M : L//M Nó xác định cách Thứ nguyên (hay số chiều) tập afin M , ký hiệu dim M , số chiều khơng gian song song với Ta qui ước: dim ∅ = −1 Định lý 1.1.2 Một tập afin k−chiều có dạng M = {x : Ax = b} với A ∈ Rm×n , b ∈ Rm rankA = n − k (M tập nghiệm hệ phương trình tuyến tính) Một tập khác rỗng có dạng tập afin k− chiều Định nghĩa 1.1.2 Một tập afin (n − 1) chiều Rn gọi siêu phẳng Định nghĩa 1.1.3 Điểm x ∈ Rn có dạng x = λ1 a1 + λ2 a2 + + λk ak với ∈ Rn λ1 + λ2 + + λk = gọi tổ hợp afin điểm a1 , a2 , , ak M tập afin M chứa tổ hợp afin phần tử Giao họ tập afin tập afin Cho E tập Rn , có tập afin chứa E, cụ thể Rn Định nghĩa 1.1.4 Giao tất tập afin chứa E gọi bao afin E ký hiệu af f E Đó tập afin nhỏ chứa E Dễ thấy x ∈ af f E x tổ hợp afin phần tử thuộc E Định nghĩa 1.1.5 Ta nói k điểm a1 , a2 , , ak ∈ Rn độc lập afin véctơ a2 − a1 , a2 − a1 , , ak − a1 độc lập tuyến tính Định nghĩa 1.1.6 Cho hai điểm a, b ∈ Rn Với λ tập tất điểm x = (1 − λ) a + λb gọi đoạn thẳng (đóng) nối a b, ký hiệu [a, b] Định nghĩa 1.1.7 Tập C ⊂ Rn gọi tập lồi chứa trọn đoạn thẳng nối hai điểm thuộc Nói cách khác, với a, b ∈ C λ (1 − λ)a + λb ∈ C Định nghĩa 1.1.8 Điểm x ∈ Rn có dạng x = λ1 a1 + λ2 a2 + + λk ak với ∈ Rn , λi 0, λ1 + λ2 + + λk = gọi tổ hợp lồi điểm a1 , a2 , , ak Tập C lồi chứa tổ hợp lồi phần tử Thứ nguyên (hay số chiều) tập lồi C, ký hiệu dimC, số chiều bao afin Một tập lồi C Rn gọi có thứ nguyên đầy dimC = n Định nghĩa 1.1.9 Cho E ⊂ Rn tập Giao tất tập lồi chứa E gọi bao lồi E, ký hiệu convE Đó tập lồi nhỏ chứa E Định lý 1.1.3 (Carathéodory) Cho E tập chứa tập afin k−chiều Khi x ∈ convE biểu diễn dạng tổ hợp lồi không k + phần tử thuộc E 1.1.2 Phần tương đối bao lồi đóng Như biết giải tích hàm, bao đóng tập C, ký hiệu C, giao tất tập đóng chứa C Một điểm a thuộc bao đóng C ⊂ Rn a ∈ C hình cầu tâm a có chứa điểm thuộc C, hay a giới hạn dãy điểm thuộc C Một điểm a tập C gọi điểm C có hình cầu tâm a nằm trọn C Tập điểm C gọi phần C ký hiệu intC Định nghĩa 1.1.10 Một điểm a ∈ C ⊂ Rn gọi điểm tương đối C với x ∈ C có số λ > cho a+λ(x−a) ∈ C Tập điểm tương đối C gọi phần tương đối C ký hiệu riC Hiệu tập hợp C/ (riC) gọi biên tương đối C ký hiệu ∂C Một tập C ⊂ Rn gọi tập mở tương đối riC = C Nhận xét 1.1.1 Với B = {x ∈ Rn : ||x| 1|} hình cầu đơn vị đóng (i) int C = {x ∈ C : ∃ε > 0, x + εB ⊂ C} (ii) riC = {x ∈ C : ∃ε > 0, (x + εB) ∩ af f C ⊂ C}: Phần tương đối C phần C af f C Nếu intC = ∅ intC = riC C ⊂ D không suy riC ⊂ riD Chẳng hạn, lấy D ∈ R3 khối lập phương, C mặt D Khi đó, C ⊂ D, riC = ∅, riD = ∅ (riC) ∩ (riD) = ∅ Định lý 1.1.4 Một tập lồi C = ∅ có phần tương đối khác rỗng Định lý 1.1.5 Bao đóng phần tương đối tập lồi lồi Nhận xét 1.1.2 Với tập C lồi a ∈ int C, b ∈ C với λ ∈ [0, 1) x = (1 − λ) a + λb = a + λ (b − a) ∈ int C Và tập lồi C có phần ... áp dụng thuật toán DCA vào giải toán (P ) (D), tác giả chứng minh sau hữu hạn bước, ta xác định nghiệm tối ưu địa phương toán ban đầu Luận văn trình bày tốn D.C, thuật tốn DCA ứng dụng thuật toán. .. 37 Ứng dụng thuật toán DCA 47 3.1 Điều kiện tối ưu hóa tồn cho (P1 ) (P2 ) 47 3.2 Ứng dụng thuật toán DCA giải toán (P1 ) 48 3.3 51 Tính hội tụ DCA đến nghiệm cục toán (P1 )... Tính hội tụ DCA đến nghiệm cục toán (P1 ) 3.4 Ứng dụng thuật toán DCA giải toán (P2 ) 54 Kết luận 56 Tài liệu tham khảo 57 Lời cảm ơn Luận văn hoàn thành tài trường Đại học Khoa học -