TOÁN TỐI ƯU HAY NHẤT

42 15 0
  • Loading ...
1/42 trang

Thông tin tài liệu

Ngày đăng: 17/04/2018, 22:23

ĐẠI HỌC ĐÀ NẴNG TRƯỜNG ĐẠI HỌC SƯ PHẠM KHOA TOÁN ***** BÀI GIẢNG TOÁN TỐI ƯU Biên soạn : TS Hoàng Quang Tuyến Đà Nẵng - 2012 Giới thiệu Tập tài liệu biên soạn Thầy giáo TS Hồng Quang Tuyến, sử dụng cho giảng dạy mơn Tốn Tối Ưu chương trình đào tạo thạc sỹ ngành Phương Pháp Toán Sơ Cấp Đại Học Đà Nẵng Đã có số đánh máy tài liệu này, trước có nhiều lỗi chẳng hạn thiếu số dòng, sai ký hiệu, sai cơng thức, Mình mượn thầy Tuyến viết tay giáo trình mơn Tốn Tối Ưu thầy soạn lại Latex Hy vọng giúp ích cho bạn học viên khóa sau đỡ vất vả học môn Đây nên vài chỗ nhầm lẫn, mong người góp ý để giáo trình hồn thiện cách xác Mọi ý kiến đóng góp, xin gửi vào địa email hablack18@gmail.com i Chương CƠ BẢN VỀ GIẢI TÍCH LỒI 1.1 Tập lồi Các ký hiệu: • Một vector a hiểu vector cột • Chuyển vị vector a vector hàng aT • Tích vơ hướng hai vector a, b ⟨a, b⟩ hay aT b • Tập số thực R Định nghĩa 1.1 Đường thẳng qua hai điểm a, b không gian Euclid n-chiều Rn tập hợp điểm x ∈ Rn có dạng x = λa + (1 − λ)b, λ ∈ R Định nghĩa 1.2 Đoạn thẳng nối hai điểm a, b Rn tập hợp điểm x ∈ Rn có dạng x = λa + (1 − λ)b, ≤ λ ≤ Định nghĩa 1.3 Tập M ⊂ Rn gọi đa tạp affine với hai điểm x, y ∈ M đường thẳng qua x, y thuộc M Tức λx + (1 − λ)y, ∀x, y ∈ M, λ ∈ R Mỗi đa tạp affine có khơng gian L song song với Tức L = M + a, a ∈ Rn Thứ nguyên M thứ nguyên L Định nghĩa 1.4 Siêu phẳng Rn tập {x = (x1 , x2 , xn )|x1 a1 + x2 a2 + + xn an = α, ∈ R, ∀i = n, α ∈ R} Ví dụ 1.1.1 Siêu phẳng không gian chiều đường thẳng, không gian chiều mặt phẳng Bài tập 1.1 Siêu phẳng có phải đa tạp? Định nghĩa 1.5 (Về nửa khơng gian) • Nửa khơng gian đóng Rn tập { } x = (x1 , x2 , xn ) x1 a1 + x2 a2 + + xn an ≤ α, ∈ R, ∀i = n, α ∈ R • Nửa không gian mở Rn tập {x = (x1 , x2 , xn )|x1 a1 +x2 a2 + .+xn an < α, ∈ R, ∀i = n, α ∈ R} • Đây nửa không gian xác định siêu phẳng x1 a1 + x2 a2 + + xn an = α • Hai nửa khơng gian đóng, mở nằm bên siêu phẳng so với hai nửa siêu phẳng {x = (x1 , x2 , xn )|x1 a1 + x2 a2 + + xn an ≥ α, ∈ R, ∀i = n, α ∈ R}, {x = (x1 , x2 , xn )|x1 a1 + x2 a2 + + xn an > α, ∈ R, ∀i = n, α ∈ R} Định nghĩa 1.6 (Tập lồi) Tập D ⊂ Rn gọi tập lồi ∀a, b ∈ D λ ∈ [0, 1] ta có λa + (1 − λ)b ∈ D Định nghĩa 1.7 (Nón lồi) Tập D ⊂ Rn gọi nón lồi ∀x, y ∈ D x + y ∈ D tx ∈ D, ∀t ≥ Ví dụ 1.1.2 Rn+ nón lồi Bài tập 1.2 Nón lồi có phải tập lồi? Định nghĩa 1.8 (Bao lồi) Bao lồi tập A tập lồi nhỏ chứa A, ký hiệu CovA Ví dụ 1.1.3 A = {x; y} ⇒ CovA = {λx + (1 − λ)y|0 ≤ λ ≤ 1} Định nghĩa 1.9 (Tổ hợp lồi hai tập) Cho A ⊂ Rn , B ⊂ Rn , tổ hợp lồi A B tập hợp điểm thuộc Rn có dạng x = λa + (1 − λ)b, a ∈ A, b ∈ B, ≤ λ ≤ Bài tập 1.3 Tổ hợp lồi tập lồi? Định lý 1.1 Tập lồi đóng với phép giao, phép cộng, phép nhân với số phép lấy tổ hợp tuyến tính Tức là, A, B hai tập lồi Rn tập sau lồi : i) A ∩ B := {x|x ∈ A, x ∈ B}, ii) λA + βB := {x = λa + βb|a ∈ A, b ∈ B, λ, β ∈ R} Định nghĩa 1.10 Thứ nguyên tập lồi A thứ nguyên đa tạp affine nhỏ chứa A, gọi bao affine A ký hiệu af f A Thứ nguyên tập lồi A ký hiệu dimA Nhận xét Nếu A ⊂ Rn dimA ≤ n Định nghĩa 1.11 Tập hợp điểm tương đối tập A ⊂ Rn tập hợp riA := {x ∈ A|∃U (x), U (x) ∩ af f A ⊂ A}, : U (x) lân cận mở x Bài tập 1.4 Nếu A ̸= ∅ lồi riA ̸= ∅ Định nghĩa 1.12 Một tập hợp gọi tập lồi đa diện (hay khúc lồi) giao hữu hạn nửa khơng gian đóng Như vậy, khúc lồi tập hợp thỏa mãn bất phương trình dạng :  a11 x1 + a12 x2 + + a1n xn ≤ b1    a x + a x + + a2n xn ≤ b2 21 22     am1 x + am2 x + + amn xn ≤ bm Hệ bất phương trình viết dạng Ax ≤ b,       b1 x1 a11 a12 a1n      a21 a22 a1n  x2   b2  ;x =  ; b = A=      .     am1 am2 amn bm xn Nhận xét Khúc lồi tập đóng, khơng bị chặn Định nghĩa 1.13 Một khúc lồi bị chặn gọi đa diện lồi Một tập A′ khúc lồi A gọi diện A nếu: ∀a, b ∈ A, x = λa + (1 − λ)b; < λ < 1, x ∈ A′ ⇒ a, b ∈ A′ Nhận xét • Mọi diện tập lồi đa diện tập lồi đa diện (Chứng minh nhận xét xem tập) • Một diện có thứ ngun gọi đỉnh (điểm cực biên) • Cạnh diện có thứ nguyên Định nghĩa 1.14 Điểm x ∈ C gọi điểm cực biên tập C (C khơng thiết lồi) C khơng có đoạn thẳng nhận x làm điểm Định nghĩa 1.15 Một vector h ̸= gọi phương vô hạn tập C : x + λh ⊂ C, ∀x ∈ C, ∀λ > Định lý 1.2 i) Mọi khúc lồi không chứa trọn đường thẳng có đỉnh ii) Mọi khúc lồi A có đỉnh tập { } ∑ ∑ ∑ A := x = λi v i + βj dj λi = 1, λi , βj ≥ i∈I j∈J i∈I Trong đó: v i ∈ {Tập I đỉnh}, dj ∈ {Tập J phương vô hạn} Chú ý 1.1.1 i) Nếu khúc lồi A bị chặn A tổ hợp lồi đỉnh (tập I đỉnh): } { ∑ ∑ λi = 1, λi ≥ 0, A := x = λi v i i∈I i∈I ii) Nếu D tập lồi đa diện (khúc lồi) D biểu diễn: D = E + D0 , đó: E khơng gian con, D0 khúc lồi có đỉnh Định nghĩa 1.16 Ta nói siêu phẳng H = {x |⟨v, x⟩ = α } tách hai tập A B nếu: ⟨v, a⟩ ≤ α, ⟨v, a⟩ ≥ α, ∀a ∈ A, ∀b ∈ B, (1.1) ta nói H tách hẳn A B (1.1) có đẳng thức thực Định lý 1.3 Cho A tập lồi đóng x0 ∈ / A Lúc tồn siêu phẳng tách A x Hệ 1.3.1 (Bổ đề Farkas) Cho a ∈ Rn A ma trận cấp mxn Khi đó: ⟨a, x⟩ ≥ 0, ∀x thỏa mãn Ax ≥ ⇔ ∃y ≥ ∈ Rm cho a = AT y Nhận xét Ý nghĩa hình học bổ đề siêu phẳng qua gốc tọa độ ⟨a, x⟩ = tách nón {x|Ax ≥ 0} phía vector pháp tuyến a siêu phẳng thuộc nón sinh hàng ma trận A 1.2 Hàm lồi Giáo trình xét hàm số thực nhận giá trị hữu hạn Định nghĩa 1.17 ∀x, y ∈ A, ≤ λ ≤ • , Hàm số f xác định tập lồi A gọi hàm lồi A : f (λx + (1 − λ)y) ≤ λf (x) + (1 − λ)f (y) • Hàm f gọi lồi chặt : f (λx + (1 − λ)y) < λf (x) + (1 − λ)f (y), ∀x, y ∈ A, < λ < • Hàm f gọi tựa lồi (quasi convex) A ∀λ ∈ R, tập mức {x ∈ A|f (x) ≤ λ} tập lồi • Hàm f gọi tựa lõm (quasi convcave) A −f tựa lồi Ví dụ 1.2.1 f (x) = ⟨a, x⟩ + α ⟨b, x⟩ + β Định nghĩa 1.18 Các hàm λf, f + g max(f, g) định nghĩa sau: (λf )(x) := λf (x), (f + g)(x) := f (x) + g(x), max(f, g)(x) := max{f (x), g(x)} Định lý 1.4 Cho f hàm lồi tập lồi A g hàm lồi tập lồi B Lúc A ∩ B hàm sau lồi: i) λf + βg, ∀λ, β ≥ 0, ii) max(f, g) Chứng minh định lý tập Định lý 1.5 Một hàm lồi xác định tập lồi A liên tục điểm A • Chú ý: Hàm lồi xác định tập lồi liên tục điểm trong, chưa liên tục điểm biên • Kí hiệu: f ′ (a) ∇f (a) đạo hàm f a Định lý 1.6 Cho f : A → R hàm khả vi tập lồi mở A Điều kiện cần đủ để f lồi A : f (x) + ⟨∇f (x), y − x⟩ ≤ f (y), ∀x, y ∈ A Nếu f khả vi hai lần f lồi A ∀x ∈ A ma trận Hessian H(x) f x xác định không âm,tức : y T H(x)y ≥ 0, ∀x ∈ A, y ∈ Rn Chú ý 1.2.1 Tính khả vi hàm lồi giữ vai trò quan trọng bậc tối ưu hóa Định nghĩa 1.19 Ta gọi đạo hàm theo hướng d hàm số f (không thiết lồi) x đại lượng số : f ′ (x, d) := lim+ λ→0 f (x + λd) − f (x) λ giới hạn tồn Định lý 1.7 Nếu f hàm lồi tập A ∀x ∈ A ∀d ∈ Rn cho x + d ∈ A đạo hàm theo hướng d f x tồn nghiệm f ′ (x, d) ≤ f (x + d) − f (x) Ngoài ra, với x cố định, f ′ (x, ) hàm lồi tập lồi {d : x + d ∈ A} Nhận xét • Nếu f khả vi thì: f ′ (x, d) = ⟨∇f (x), d⟩ , ∀d • Hàm lồi chưa khả vi điểm Định nghĩa 1.20 Cho f hàm tập lồi A Một vector y ∗ ∈ Rn gọi vi phân x∗ ∈ A f (x) ≥ f (x∗ ) + ⟨y ∗ , x − x∗ ⟩ , ∀x ∈ A Tập điểm y ∗ thỏa mãn bất đẳng thức ký hiệu ∂f (x∗ ) Trường hợp ∂f (x∗ ) có điểm ta nói f khả vi x∗ Nhận xét i) Tương tự trường hợp hàm biến, bất đẳng thức f (x) ≥ f (x∗ ) + ⟨y ∗ , x − x∗ ⟩ , ∀x ∈ A có nghĩa siêu phẳng qua điểm (x∗ , f (x∗ )) nằm đồ thị hàm số ii) Tập ∂f (x∗ ) rỗng, nhiên với hàm lồi khác ∅ Định lý 1.8 Cho f hàm lồi (hữu hạn) tập lồi A Khi f có vi phân điểm tương đối riA Nhận xét Nếu A ≡ Rn f có vi phân điểm riRn ≡ Rn 1.3 Tính chất cực trị Cho D ⊂ Rn , D ̸= ∅ hàm số f : D → R (không thiết lồi) Định nghĩa 1.21 Một điểm x∗ ∈ D gọi cực tiểu địa phương f D tồn lân cận mở U x∗ cho f (x∗ ) ≤ f (x) với x ∈ D ∩ U Điểm x∗ gọi cực tiểu tuyệt đối (toàn cục) f D : f (x∗ ) ≤ f (x), ∀x ∈ D Dưới hai tính chất cực trị hàm lồi : Định lý 1.9 i) Mọi điểm cực tiểu địa phương hàm lồi tập lồi điểm cực tiểu tuyệt đối ii) Nếu x∗ điểm cực tiểu hàm lồi f tập lồi D x∗ ∈ intD ∈ ∂f (x∗ ) Định lý 1.10 Cực đại hàm lồi (nếu có) tập lồi có điểm cực biên đạt điểm biên 26 Bước chuẩn bị: Xây dựng đa diện lồi D0 ⊃ D Cho k = Bước k(k = 0, 1, ): Giải quy hoạch tuyến tính (Lk ) min{cT x|x ∈ Dk } Tìm nghiệm xk a Nếu xk ∈ D ⇒ xk ∈ argmin(3.5) ⇒ dừng b Nếu xk ∈ / D, xây dựng siêu phẳng (hàm affine) ⟨ ⟩ lk (x) := ak+1 , x − bk+1 Đặt Dk+1 := Dk ∩ cho thỏa mãn : ⟨ k+1 k ⟩ a , x − bk+1 ≤ 0, ∀x ∈ D ⟨ k+1 k ⟩ a , x − bk+1 = g(xk ) ≥ (3.6) {x|lk (x) ≤ 0}, gán k := k + quay bước k Chú ý 3.3.2 Để xây dựng siêu phẳng lk (x) thỏa mãn (3.6) thông thường lấy ak+1 ∈ ∂g(xk ) đặt ⟨ ⟩ lk (x) = ak+1 , x − xk + g(xk ) ⟨ ⟩ Định nghĩa 3.2 Một dãy phiếm hàm affine {lk (x) := ak+1 , x − bk+1 } gọi bị chặn tồn số c cho : ak ≤ c, ∀k Định lý 3.2 i) Nếu thuật tốn Kelley dừng lại bước thứ k xk nghiệm tối ưu toán (3.5) ii) Nếu thuật tốn vơ hạn, siêu phẳng cắt bị chặn điểm tụ dãy {xk } nghiệm tối ưu toán (3.5) dãy {f (xk )} đơn điệu tăng đến trị tối ưu f∗ toán (3.5) Chứng minh i) Theo cách xây dựng siêu phẳng ta có D ⊂ Dk , Dk+1 ⊂ Dk , ∀k Giả sử thuật toán dừng bước thứ k ta suy 27 xk ∈ D, D ⊂ Dk xk nghiệm tốn (Lk ) Do xk ∈ argmin(3.5) ii) Giả sử thuật tốn vơ hạn Do xk ∈ D0 , ∀k, D0 compact ⇒ {xk } có dãy {xkj } hội tụ đến x∗ Để dễ ký hiệu, ta gọi dãy hội tụ {xk } Với k > j, theo (3.6) ta có: ⟨ j+1 k ⟩ a , x − bj+1 ≤ ⟨ j+1 k ⟩ ⇒ a , x − xj + g(xj ) ≤ ⟨ ⟩ ⇒ g(xj ) ≤ aj+1 , xk − xj ≤ aj+1 xk − xj ≤ c xk − xj Do g(xj ) > 0, ∀j xk − xj → k, j → +∞ ⇒ g(xj ) → Tức g(x∗ ) = ⇒ x∗ ∈ D (*) Mặt khác : f (xk ) ≤ f∗ , ∀k, f liên tục suy f (x∗ ) ≤ f∗ Kết hợp điều với (*) ta đến kết x∗ ∈ argmin(3.5) Hơn f (xk+1 ) ≥ f (xk ), ∀k ⇒ f (xk ) ↗ f∗ 3.4 Bài tập chương Bài tập 3.1 Cho D := {x : g(x) ≤ 0} với g lồi Rn Giả sử g(u0 ) < g(xk ) > Cho uk điểm đoạn (uO , xk ) cho g(uk ) = Lấy ak+1 vi phân g uk xây dựng siêu phẳng: ⟩ ⟨ lk (x) := ak+1 , x − uk Chứng tỏ siêu phẳng lk (x) thỏa mãn tính chất thuật toán Kelley: lk (x) ≤ 0, ∀x ∈ D, lk (xk ) > 0, lk (xk ) ≤ g(xk ), Dãy {lk } bị chặn D bị chặn 28 Biết rằng: Ảnh tập compact qua ánh xạ vi phân hàm lồi Rn tập compact Bài tập 3.2 Cho x0 = (0, 0, 4)T Tính bước thuật tốn FrankWolfe cho toán min{0, 5x21 + 2x1 x2 + 2, 5x22 + x2 x3 + x23 − 2x1 − 4x2 − 6x3 }, với ràng buộc  x + x2 + x ≤    2x1 + x3 ≤    x1 , x , x ≥ Chương PHƯƠNG PHÁP HÀM PHẠT ĐIỂM TRONG, ĐIỂM NGOÀI 4.1 Phương pháp hàm phạt điểm Xét toán f (x), (4.1) s.t D := {x|gj (x) ≤ 0, j = 1, m, gj liên tục Rn } Giả sử D compact Định nghĩa 4.1 Hàm p : Rn → R gọi hàm phạt điểm miền D thỏa mãn: a) p liên tục tập hợp D0 := {x ∈ Rn |gj (x) < 0, ∀j = 1, m} k→+∞ / D0 ta có b) ∀{xk } ⊂ D0 , xk −−−−→ x ∈ lim p(xk ) = +∞ k→+∞ Hai hàm phạt điểm tiếng (Fiacco, McCormick): p(x) = − m ∑ log(−gj (x) p(x) = − j=1 m ∑ j=1 gj (x) Xây dựng toán phụ (Bt ) Xây dựng hàm tham số biến s(t) : R+ \ {0} → R+ \ {0} cho : 29 30 i) s(t) liên tục ∀t > s(t) → t → +∞ ii) s(t) đơn điệu giảm (s(t) > s(t′ ), ∀t′ > t > 0) Ví dụ: s(t) = 1/t, s(t) = 1/t2 Xây dựng toán phụ Đặt hàm F (x, t) := f (x) + s(t)p(x), (4.2) với miền t > xây dựng tốn phụ khơng ràng buộc (Bt ) min{F (x, t) | x ∈ Rn } x Mệnh đề 4.1 Giả sử điều kiện a, b, i, ii thỏa mãn tốn (Bt ) có nghiệm ∀t > Khi đó, < t1 < t2 xi nghiệm Bti (i = 1, 2) Ta có : p(x1 ) ≤ p(x2 ), f (x1 ) ≥ f (x2 ) Chứng minh Để đơn giản ký hiệu, đặt s(ti ) = si , p(xi ) = pi , f (xi ) = fi , i = 1, Khi : f1 + s1 p1 ≤ f2 + s1 p2 x1 argmin(Bt1 ), (4.3) f2 + s2 p2 ≤ f1 + s2 p1 x2 argmin(Bt2 ) (4.4) Cộng vế ước lược: s1 p1 + s2 p2 ≤ s1 p2 + s2 p1 ⇒ (s1 − s2 )(p1 − p2 ) ≤ Do t1 < t2 ⇒ s1 > s2 (đđ giảm) ⇒ p(x1 ) ≤ p(x2 ) ⇒ (theo (4.4)) f (x1 ) ≥ f (x2 ) Định lý 4.1 Nếu dãy {tk } đơn điệu tăng đến +∞ xk nghiệm (Btk ) dãy {f (xk )} hội tụ giảm đến trị tối ưu f∗ tốn (4.1) Ngồi điểm tụ dãy xk nghiệm toán (4.1) Chứng minh Theo mệnh đề (4.1) dãy {f (xk )} đơn điệu giảm, dãy {f (xk )} hội tụ (vì ?) 31 1) Xét trường hợp nghiệm (4.1) x∗ ∈ D0 : Do xk nghiệm (Btk ) (để ý xk ∈ D0 , xk ∈ / D0 F = +∞) nên: f (xk ) + s(tk )p(xk ) ≤ f (x∗ ) + s(tk )p(x∗ ) (4.5) Do D compact nên {xk } hội tụ đến u∗ 1.a) Nếu u∗ ∈ D0 qua giới hạn (s(tk ) → 0, p(x∗ ), p(u∗ ) hữu hạn) suy ra: f (u∗ ) ≤ f (x∗ ) ⇒ u∗ ∈ argmin(4.1) k→+∞ 1.b) Nếu u∗ ∈ / D0 p(xk ) −−−−→ +∞ nên ∃K1 cho s(tk )p(xk ) ≥ 0, ∀k ≥ K1 Khi đó, từ 4.5 ta có: f (xk ) ≤ f (x∗ ) + s(tk )p(x∗ ), ∀k ≥ K1 Qua giới hạn ta lim f (xk ) ≤ f (x∗ ) k→+∞ Mặt khác xk ∈ D ⇒ f (xk ) ≥ f (x∗ ), ∀k ≥ K1 nên ta có lim f (xk ) ≥ f (x∗ ) k→+∞ Từ suy lim f (xk ) = f (x∗ ) k→+∞ 2) Trường hợp nghiệm tối ưu toán (4.1)x∗ ∈ / D0 Đặt β = limk→+∞ f (xk ) Ta suy f ∗ ≤ β (do f (xk ) ≥ f (x∗ ), ∀k) Nếu thật f ∗ < β f liên tục D, nên suy ∃u ∈ D0 : f ∗ < f (u) < β Từ bất đẳng thức: f (xk ) + s(tk )p(xk ) ≤ f (u)s(tk )p(u), tương tự 1.b) ta suy ra: f (xk ) ≤ f (u), ∀k ≥ K1 Điều mâu thuẫn với f (xk ) ≥ β > f (u), ∀k Vậy β = f (x∗ ) 32 4.2 Phương pháp hàm phạt điểm Định nghĩa 4.2 Hàm số p : Rn → R gọi hàm phạt điểm miền D toán (4.1) thỏa mãn: a) p liên tục Rn b) p(x) = 0, ∀x ∈ D, p(x) > 0, ∀x ∈ / D Ví dụ 4.2.1 Với gj tốn (4.1), ta có hàm phạt điểm p(x) = p(x) = m ∑ j=1 m ∑ max(0, gj (x)), (4.6) [max(0, gj (x))]2 (4.7) j=1 * Xây dựng toán phụ (Pt ) 1) Xây dựng hàm r : R+ \ {0} → R+ \ {0} i) r(t) liên tục ∀t > 0, r(t) → t → +∞ ii) r(t) đơn điệu tăng: t > t′ > → r(t) > r(t′ ) > 2) Với t cố định xây dựng toán phụ (Pt ): (Pt ) min{F (x, t) := f (x) + r(t)p(x) | x ∈ Rn } Ta có mệnh đề cách chứng minh tương tự mệnh đề (4.1) Mệnh đề 4.2 Giả sử (Pt ) có nghiệm ∀t > Khi x nghiệm (Pti ), (i = 1, 2) < t1 < t2 1) p(x1 ) ≥ p(x2 ) 2) f (x1 ) ≤ f (x2 ) Định lý 4.2 Nếu dãy {tk } đơn điệu tăng đến +∞ xk nghiệm (Ptk ), dãy số {f (xk )} hội tụ tăng đến giá trị tối ưu f∗ (4.1) Ngoài điểm tụ dãy {xk } nghiệm (4.1) Chứng minh Gọi x∗ ∈ argmin(4.1), xk ∈ argmin(Ptk ) suy p(x∗ ) = f (xk ) + r(tk )p(xk ) ≤ f (x∗ ) + r(tk )p(x∗ ) = f∗ (4.8) 33 Ta chứng minh điểm tụ u∗ dãy {xk } phải thuộc D Thật vậy, giả sử u∗ ∈ / D ⇒ p(u∗ ) > Cho r(tk ) → +∞ đó, ∃k đủ lớn để: f (u∗ ) + r(tk )p(u∗ ) > f∗ ⇒ mâu thuẫn với (4.8) Do đó, u∗ ∈ D Bây ta chứng minh u∗ ∈ argmin(4.1): Từ (4.8) ta suy f (xk ) ≤ f∗ , ∀k Vì f liên tục, qua giới hạn ta được: f (u∗ ) ≤ f∗ Vì u∗ ∈ D ⇒ f (u∗ ) = f∗ ⇒ u∗ ∈ argmin(4.1) Cuối cùng, ta chứng minh f (xk ) ↗ f∗ Ta có: f (xk ) ≤ f∗ , ∀k theo mệnh đề (4.2) ⇒ f (xk ) ↗ f∗ tk → +∞ Chú ý 4.2.1 Nếu tập {x | f (x) + r(t0 )p(x) ≤ c} compact với số C tốn khơng ràng buộc (Pt ) có nghiệm Nếu gj , j = 1, m lồi (4.6), (4.7) lồi 4.3 Bài tập chương Bài tập 4.1 Cho toán (P ) min{f (x) | x ∈ S, g(x) ≤ 0}, đó, f, g hàm lõm S, S đa diện lồi bị chặn g(x) ≥ 0, ∀x ∈ / S ∗ Chứng minh ∃t ∈ (0, +∞) cho nghiệm toán (Pt ) min{f (x) + tg(x) | x ∈ S}, nghiệm (P ), ∀t ≥ t∗ (Gợi ý: Cực tiểu hàm lõm đạt đỉnh S.) Chương TỐI ƯU ĐA MỤC TIÊU 5.1 5.1.1 Điểm hữu hiệu toán tối ưu đa mục tiêu Điểm hữu hiệu Định nghĩa 5.1 Cho nón lồi Rp := {x ∈ Rp | x ≤ 0}, x, y ∈ Rp , ta nói : p x nhỏ y (x ≤ y) x − y ∈ R− (Tức : xi ≤ yi ∀i = 1, p) Định nghĩa 5.2 Cho Y ⊆ Rp , ta nói : y ∗ ∈ Y điểm hữu hiệu hay điểm Pareto Y : ̸ ∃ y ∈ Y để y ≤ y ∗ y ̸= y ∗ Nhận xét 10 Về mặt hình học y ∗ điểm Pareto Y nón có đỉnh p y ∗ có phương cạnh trùng với phương cạnh nón R− không chứa điểm y ∈ Y, y ̸= y ∗ 5.1.2 Bài toán tối ưu đa mục tiêu Cho Rn ⊃ D ̸= ∅, f : Rn → Rn , Y := f (D) ảnh D qua f Bài toán tối ưu đa mục tiêu viết sau: Min{f (x) | x ∈ D} (5.1) Bài tốn hiểu : tìm tập (có thể điểm) điểm x∗ ∈ D cho y ∗ := f (x∗ ) điểm Pareto Y Khi x∗ gọi nghiệm tối ưu toán (5.1) hay điểm hữu hiệu f D 34 35 Chú ý 5.1.1 Khi p = x∗ điểm làm cực tiểu tuyệt đối f D Nếu D khúc lồi, f affine D (mỗi fi affine) (5.1) gọi tốn tuyến tính đa mục tiêu 5.2 Sự tồn tính chất nghiệm tối ưu tốn tối ưu đa mục tiêu Mệnh đề 5.1 Cho λ ∈ Rp vector dương λ > Khi nghiệm tối ưu toán mục tiêu min{λT f (x) | x ∈ D} (5.2) điểm hữu hiệu f D Chứng minh Gọi x∗ ∈ argmin(5.2) Giả sử x∗ ∈ / argmin(5.1) (tức x∗ điểm hữu hiệu f D) Suy : ∃x′ ∈ D : f (x′ ) ≤ f (x∗ ) f (x′ ) ̸= f (x) Kết hợp với λ > (tức λi > 0, ∀i = 1, p), ta có: λT f (x′ ) < λT f (x∗ ) Điều mâu thuẫn với x∗ ∈ argmin(5.2) Vậy, x∗ ∈ argmin(5.1) Hệ 5.1.1 Nếu D compact f (x) nửa liên tục tốn tối ưu đa mục tiêu (5.1) có nghiệm tối ưu Định lý 5.1 Giả sử (5.1) tốn quy hoạch lồi Khi u ∈ argmin (5.1) tồn λ = (λ1 , λ2 , , λp ) ≥ cho u ∈ argmin toán min{λT f (x) | x ∈ D} Chứng minh Đặt C := cov (K := {y ∈ Rp | y = f (x) − f (u), x ∈ D}) 1) Ta chứng minh C ∩ Rp = {0}: Trước hết, C ̸= ∅ {0} ∈ K (lấy x ≡ u) Lấy y ∈ C, C bao lồi K nên suy : ∃y , y ∈ K : y = ty + (1 − t)y , ≤ t ≤ 36 Và ∃x1 , x2 ∈ D: y i = f (xi ) − f (u), i = 1, (5.3) Lấy x = tx1 + (1 − t)x2 ⇒ x ∈ D (D lồi) Do f lồi kết hợp với (5.3) có: f (x) − f (u) ≤ tf (x1 ) + (1 − t)f (x2 ) − f (u) = t(f (x1 ) − f (u)) + (1 − t)(f (x2 ) − f (u)) = ty + (1 − t)y = y Tức f (x) − f (u) ≤ y p Giả sử y ∈ C ∩ R− y < 0, ta suy f (x) − f (u) ≤ f (x) ̸= f (u) Do u điểm hữu hiệu f D Điều mâu thuẫn với giả thiết u điểm hữu hiệu f D p = {0} Vậy: C ∩ R− 2) Bây ta chứng minh u ∈ argmin{λT f (x) | x ∈ D}: p p = {0} nên theo định lý tách ∃λ ̸= (λ = lồi C ∩ R− Do C lồi, R− λ1 , λ2 , , λp ): p λT y ≤ ∀y ∈ R− (5.4) λT y ≥ ∀y ∈ K (5.5) ∑ ∑ Bằng cách chia cho pi=1 λi ta coi pi=1 λi = Từ (5.4) ⇒ λT ≥ Từ (5.5) định nghĩa K suy λT y = λT (f (x) − f (u)) ≥ 0, ∀x ∈ D Do đó, u nghiệm tối ưu toán (5.2): min{λT f (x) | x ∈ D} Bây giờ, ta xét toán sau: Bài Toán 5.2.1 Cho quy hoạch lồi Minf (x) x ∈ D = {x ∈ Rn | g(x) ≤ 0} f : Rn → Rp , g : Rn → Rm lồi (5.6) 37 Định lý 5.2 Giả sử quy hoạch lồi (5.6) thỏa mãn điều kiện Slater Khi x0 điểm hữu hiệu (5.6) tồn (x0 , v ) cho (x0 , v ) điểm yên ngựa hàm ⟨ ⟩ F (u0 , x, v) := u0 , f (x) + ⟨v, g(x)⟩ Rn × Rm + Chứng minh ⇒) Giả sử x0 điểm hữu hiệu quy hoạch lồi (5.6) Theo định lý (5.1), ∃u0 ≥ : x0 ∈ argmin{minx ⟨u0 , f (x)⟩ | g(x) ≤ 0} Áp dụng định lý điểm yên ngựa cho hàm Lagrange toán này, ta suy tồn v ≥ cho (x0 , v ) điểm yên ngựa hàm ⟨ ⟩ F (u0 , x, v) = u0 , f (x) + ⟨v, g(x)⟩ Rn × Rm + Tức là: F (u0 , x0 , v) ≤ F (u0 , x0 , v ) ≤ F (u0 , x, v ) ∀(x, v) ∈ Rn × Rm + (5.7) ⇐) (x0 , u0 ) điểm yên ngựa F (u0 , x, v) Rn × Rm + Từ điều kiện Slater, lặp lại chứng minh định lý điểm yên ngựa (ở chương 2), ta có u0 > Áp dụng (5.7) với v = ta có ⟨ ⟩ ⟨ ⟩ ⟨ ⟩ u , f (x0 ) ≤ u0 , f (x) + ⟨v, g(x)⟩ = x0 , f (x) ∀x ∈ D ⟨ ⟩ ⇒ x0 ∈ argmin{ u0 , f (x) | x ∈ D} Theo mệnh đề (5.1), x0 điểm hữu hiệu f D 5.3 Bài tập chương Bài tập 5.1 Điểm x∗ ∈ D gọi hữu hiệu yếu hàm vector f (x) D ̸ ∃x ∈ D : f (x) < f (x∗ ) Chứng minh λ > nghiệm tốn λT f (x)|x ∈ D điểm hữu hiệu yếu f D 38 Bài tập 5.2 Cho toán tối ưu đa mục tiêu Minx∈D f (x), f : Rn → Rp Chứng minh x0 điểm hữu hiệu (điểm Pareto) x0 nghiệm tối ưu toán mục tiêu h(x) := eT f (x)|x ∈ D, f (x) ≤ f (x0 ), : e = (1, 1, , 1) ∈ Rp Bài tập 5.3 Tìm điểm hữu hiệu tốn đa mục tiêu Min{f (x) = (f1 (x), f2 (x)) |x ∈ D}, đó: f1 (x) = x1 + x2 ; f2 (x) = x1 − 2x2 ; D := {x |x1 ≥ x2 , ≤ x1 ≤ 2, x2 ≥ 0} Mục lục CƠ BẢN VỀ GIẢI TÍCH LỒI 1.1 Tập lồi 1.2 Hàm lồi 1.3 Tính chất cực trị ĐIỀU KIỆN TỐI ƯU 2.1 Bài toán tối ưu 2.2 Điều kiện tối ưu đối ngẫu Lagrange 12 2.3 2.2.1 Điều kiện tối ưu 12 2.2.2 Đối ngẫu Lagrange 16 2.2.3 Điểm yên ngựa 18 Bài tập chương 20 PHƯƠNG PHÁP CÓ THỂ VÀ PHƯƠNG PHÁP TUYẾN TÍNH HĨA 22 3.1 Hướng chấp nhận tụt 22 3.2 Phương pháp FRANK-WOLFE (phương pháp hướng có thể) 23 3.3 Phương pháp cắt KELLEY (phương pháp tuyến tính hóa) 25 3.4 Bài tập chương 27 PHƯƠNG PHÁP HÀM PHẠT ĐIỂM TRONG, ĐIỂM NGOÀI 29 4.1 Phương pháp hàm phạt điểm 29 4.2 Phương pháp hàm phạt điểm 32 4.3 Bài tập chương 33 39 40 TỐI ƯU ĐA MỤC TIÊU 5.1 34 Điểm hữu hiệu toán tối ưu đa mục tiêu 34 5.1.1 Điểm hữu hiệu 34 5.1.2 Bài toán tối ưu đa mục tiêu 34 5.2 Sự tồn tính chất nghiệm tối ưu toán tối ưu đa mục tiêu 35 5.3 Bài tập chương 37
- Xem thêm -

Xem thêm: TOÁN TỐI ƯU HAY NHẤT, TOÁN TỐI ƯU HAY NHẤT

Gợi ý tài liệu liên quan cho bạn

Nhận lời giải ngay chưa đến 10 phút Đăng bài tập ngay