ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC SƯ PHẠM HOÀNG KHẮC LỢI TÍNH ĐƠN ĐIỆU CỦA DƯỚI VI PHÂN HÀM LỒI LUẠN VĂN THẠC SĨ TOÁN HỌC CHUYÊN NGÀNH: GIẢI TÍCH MÃ SỐ: 60.46.01.02 NGƯỜI HƯỚNG DẪN KHOA HỌC: GS.TSKH. LÊ DŨNG MƯU Thái Nguyên - Năm 2012 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn1 Mục lục Lời cảm ơn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . iii Mở đầu . . . . . . . . . . . . . . . . . . . . . . . . . . . vi 0.1.Lý do chọn đề tài . . . . . . . . . . . . . . . . . . . . . . . . . vi 0.2.Mục đích và nhiệm vụ. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi 0.2.1. Mục đích nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi 0.2.2. Nhiệm vụ nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vi 0.2.3. Phương pháp nghiên cứu . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vii 0.2.4. Bố cục luận văn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . vii Chương 1. Tập lồi và hàm lồi trong không gian Hilbert thực . . . 1 1.1.Không gian Hilbert thực . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1.1.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1.1.2. Các đẳng thức và bất đẳng thức . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3 1.2.Tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.2.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.2.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.2.3. Phép chiếu theo chuẩn . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 1.2.4. Định lí tách tập lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.3.Hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.3.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1.3.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 Chương 2. Dưới vi phân của hàm lồi và tính đơn điệu của nó . . . 16 2.1.Dưới vi phân . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 16 i Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn2 ii 2.2.Đạo hàm theo hướng. . . . . . . . . . . . . . . . . . . . . . . 21 2.3.Tính đơn điệu của dưới vi phân . . . . . . . . . . . . . . 25 2.3.1. Toán tử đơn điệu. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 25 2.3.2. Toán tử đơn điệu cực đại . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 2.3.3. Tính đơn điệu của dưới vi phân hàm lồi . . . . . . . . . . . . . . . . . . . . . . . . . 27 Chương 3. Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của dưới vi phân . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 3.1.Hàm tựa lồi và hàm giả lồi . . . . . . . . . . . . . . . . . . . 30 3.1.1. Định nghĩa và ví dụ . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 3.1.2. Một số tính chất quan trọng . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 31 3.2.Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 3.2.1. Toán tử tựa đơn điệu và giả đơn điệu. . . . . . . . . . . . . . . . . . . . . . . . . . . . 34 3.2.2. Tính tựa đơn điệu và giả đơn điệu của đạo hàm của hàm tựa lồi và hàm giả lồi . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 Tài liệu tham khảo . . . . . . . . . . . . . . . . . . . . . . . . . 40 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn3 Lời cảm ơn Bản luận văn được hoàn thành tại trường Đại học sư phạm Đại học Thái Nguyên dưới sự hướng dẫn tận tình của GS.TSKH. Lê Dũng Mưu. Nhân dịp này tôi xin bày tỏ lòng biết ơn Thầy về sự hướng dẫn hiệu quả cùng những kinh nghiệm trong quá trình học tập, nghiên cứu và hoàn thành luận văn. Xin chân thành cảm ơn Khoa Sau Đại Học, Ban chủ nhiệm Khoa Toán, các thầy cô giáo trường Đại học Sư Phạm - Đại học Thái Nguyên, Viện Toán Học và trường Đại học Sư Phạm Hà Nội đã giảng dạy và tạo điều kiện thuận lợi cho tôi trong quá trình học tập và nghiên cứu khoa học. Xin chân thành cảm ơn tập thể bạn bè, đồng nghiệp lớp Cao Học Toán K18B và BGH, đồng nghiệp Giáo Viên ở trường THPT Bạch Đằng - Quảng Ninh đã gúp đỡ tôi trong suốt thời gian học tập và nghiên cứu. Bản luận văn chắc chắn sẽ không tránh khỏi những khiếm khuyết vì vậy rất mong được sự góp ý kiến của các thầy cô giáo và các bạn học viên để luận văn này được hoàn chỉnh hơn. Cuối cùng xin cảm ơn gia đình và bạn bè đã động viên, khích lệ tôi trong thời gian học tập, nghiên cứu và hoàn thành luận văn. Thái Nguyên, Tháng 8 năm 2012 Tác Giả Hoàng Khắc Lợi iii Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn4 iv Danh mục các kí hiệu viết tắt H, H i , K: Không gian Hilbert t hực; 2 H : Tập tất cả các tập con của H ; R : Tập số thực; N : Tập hợp số tự nhiên; . | .: Tích vô hướng; ||.|| : Chuẩn trên không gian Hilbert; [−∞, +∞]: Tập số thực mở rộng; R + : = [0, +∞); R ++ : = (0, +∞); in f : Cận dưới đúng; min : Cực tiểu; sup : Cận trên đúng; max : Cực đại; α ↓ µ: α ∈ (µ, +∞) và α dần đến µ; C − D : Hiệu Minkowski của tập C và D ; span C : Không gian affine căng bởi C; spanC : Không gian đóng affine căng bởi tập C; C : Bao đóng của C; C ⊥ : Phần bù trực giao của C; convC : Bao lồi của tập C; convC : Bao lồi đóng của tập C; coreC: Lõi của tập C; int C : Phần trong của C; bdryC : Biên của C; coneC: Bao nón của tập C; N C : Nón chuẩn tắc của C; P C : Phép chiếu lên tập C; Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn5 v σC : Hàm tựa của tập C; d C : Hàm khoảng cách của tập C; B(x, ) : Hình cầu đóng tâm x, bán kính ; ΓH : Tập các hàm lồi nửa liên tục dưới từ H vào [−∞, +∞]; Γ 0 H : Tập các hàm lồi chính thường nửa liên tục dưới từ H vào (−∞, +∞];  i∈I f i : Tổng trực tiếp của một hàm; dom f : Miền xác định của f ; f ∗ : Hàm liên hợp của f ; ∂ f (x) : Dưới vi phân của f tại x ;  f (x) hoặc f  (x) : Đạo hàm của f tại x ; f  (x, y) : Đạo hàm theo hướng y của f tại x; Argmin f : Tập các cực tiểu toàn cục của hàm f ; zerA: Tập các không điểm của toán tử A epi f : Trên đồ thị của hàm f ; gra f : Đồ thị của hàm f I d : Toán tử đồng nhất; cont f : Miền liên tục của hàm f ; l 2 (I) : Không gian Hilbert của tổng các hàm từ I vào R; B(H, K): Không gian các toán tử tuyến tính bị chặn từ H vào K;  i∈I H i : Tổng trực tiếp các không gian Hilbert; × i∈I H i : Tích các không gian Hilbert; (x, y) : Khoảng trong R ; [x, y] : Đoạn trong R; (x i ) i∈I : Họ các vectơ trong H. Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn6 Mở đầu 0.1. Lý do chọn đề tài Giải tích lồi là bộ môn quan trọng trong giải tích phi tuyến tính hiện đại. Giải tích lồi nghiên cứu khía cạnh giải tích các khái niệm, tính chất cơ bản của tập lồi và hàm lồi. Tính đơn điệu của dưới vi phân hàm lồi là một trong những tính chất quan trọng của hàm lồi, nó đã được nhiều nhà toán học trong và ngoài nước quan tâm nghiên cứu và đã đạt được nhiều kết quả sâu sắc cùng với các ứng dụng quan trọng trong các lĩnh vực khác nhau. Việc nghiên cứu về tính đơn điệu của dưới vi phân hàm lồi và hoàn chỉnh hàm lồi vẫn là đề tài cần được quan tâm và nghiên cứu trong bộ môn giải tích lồi. 0.2. Mục đích và nhiệm vụ 0.2.1. Mục đích nghiên cứu Mục đích chính của luận văn là nghiên cứu và trình bày một cách có hệ thống các kiến thức cơ bản và quan trọng nhất về dưới vi phân của hàm lồi và tính đơn điệu của nó. 0.2.2. Nhiệm vụ nghiên cứu Luận văn tập trung vào nhiệm vụ chính sau đây: 1) Nghiên cứu tập lồi và hàm lồi trong không gian Hilbert thực. 2) Đạo hàm theo hướng và dưới vi phân hàm lồi. vi Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn7 vii 3) Tính đơn điệu của dưới vi phân hàm lồi. 4) Hàm tựa lồi và hàm giả lồi. 5) Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả lồi. 0.2.3. Phương pháp nghiên cứu - Sử dụng phương pháp của giải tích hàm kết hợp với phương pháp của giải tích hiện đại. - Sử dụng các phương pháp của lí thuyết tối ưu. - Kế thừa phương pháp và kết quả của lý thuyết tôi ưu không trơn. 0.2.4. Bố cục luận văn Nội dung luận văn gồm 47 trang, trong đó có phần mở đầu, ba chương nội dung, phần kết luận và danh mục tài liệu tham khảo. Chương 1 : Trình bày một số kiến thức cơ bản như : Không gian Hilbert thực, tập lồi, hàm lồi. Chương 2 : Dưới vi phân hàm lồi và tính đơn điệu của nó. Nội dung của chương này là trình bày việc xây dụng đạo hàm theo hướng và dưới vi phân của hàm lồi, các toán tử đơn điệu và chỉ ra tính đơn điệu của dưới vi phân hàm lồi. Chương 3 : Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của dưới vi phân. Cuối cùng là phần kết luận trình bày tóm tắt các kết quả đạt được. Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn8 Chương 1 Tập lồi và hàm lồi trong không gian Hilbert thực Nội dung kiến thức trong luận văn này được nghiên cứu trên không gian Hilbert thực, ta kí hiệu không gian này là H với tích vô hướng . | . và || . || là chuẩn trên H tương ứng với tích vô hướng này, với khoảng cách d, tức là: Với mọi x, y ∈ H ta có ||x|| =  x | x và d(x, y) = ||x − y||. Chương này nhằm giới thiệu những khái niệm cơ bản nhất, tính chất đặc trưng của tập lồi và hàm lồi trong không gian Hilbert thực. Các kiến thức ở trong chương này được trích từ cuốn sách ”Convex Analysis and Monotone Operator Theory in Hilbert Spaces” của tác giả HenizH. Bauschke và PatrickL. Combettes [2]. Hầu hết các hàm trong luận văn này là hàm f : H → R ∪ {+∞}. 1.1. Không gian Hilbert thực 1.1.1. Định nghĩa và ví dụ Định nghĩa 1.1. Phần bù trực giao của tập C ⊆ H được kí hiệu là C ⊥ , tức là C ⊥ = { u ∈ H | ∀x ∈ C, x | u = 0 } . 1 Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn9 2 Một cơ sở của tập C ⊆ H được gọi là một cơ sở trực giao của H nếu spanC = H. Không gian H được gọi là tách được nếu nó có một cơ sở trực giao đếm được. Bây giờ giả sử (x i ) i∈I là họ các vectơ trong H và giả sử I là lớp các tập con hữu hạn khác rỗng I định hướng bởi ⊂. Khi đó (x i ) i∈I là khả tổng nếu tồn tại x ∈ H mà ( ∑ i∈J x i ) J∈I hội tụ đến x, tức là, ∀ε ∈ R ++ , ∃K ∈ I, ∀J ∈ I, J ⊃ K ⇒ ||x − ∑ j∈J x i || ≤ ε. Trong trường hợp này ta viết x = ∑ i∈I x i . Đối với (α i ) i∈I trong [0, +∞], ta có ∑ i∈I α i = sup J∈I ∑ j∈J α i . Đây là trường hợp riêng trong không gian Hilbert thực và nó sẽ được sử dụng trong cuốn luận văn này. Ví dụ 1.1. Tổng trực tiếp của một họ các không gian Hilbert thực (H i , || . || i ) i∈I là không gian Hilbert thực.  i∈I H i = {x = (x i ) i∈I ∈ × i∈I H i | ∑ i∈I ||x i || 2 i < +∞}. Được trang bị với phép cộng (x, y) → (x i + y i ) i∈I . Nhân (α, x) → (αx i ) i∈I . Tích vô hướng (x, y) → ∑ i∈I x i | y i . Khi I là tập hữu hạn, ta chỉ dùng chung một kí hiệu × i∈I H i để thay thế cho  i∈I H i . Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn10 [...]... Chương 2 Dưới vi phân của hàm lồi và tính đơn điệu của nó Dưới vi phân là một công cụ cơ bản trong giải tích, hàm không khả vi và đặc biệt là hàm lồi Đạo hàm theo hướng, tính liên tục và tính đơn điệu của nó là các khái niệm liên quan chặt chẽ đến nhau Trong chương này ta nghiên cứu một số kết quả của dưới vi phân, đạo hàm theo hướng và tính đơn điệu của dưới vi phân hàm lồi Nội dung kiến thức của chương... A= (y,v)∈gra A (giao của các tập lồi đóng) Suy ra Ax là lồi đóng 2.3.3 Tính đơn điệu của dưới vi phân hàm lồi Định lý 2.2 Cho f ∈ Γ0 (H × H) và A được định nghĩa thông qua gra A = {( x, u) ∈ H × H | f ( x | u) = x | u } Khi đó A là đơn điệu cực đại Một hệ quả cơ bản của định lí 2.2 là kết quả sau đây về tính cực đại của dưới vi phân Định lý 2.3 Cho f ∈ Γ0 (H) , khi đó ∂ f là đơn điệu cực đại Chứng minh... sách "Convex Analysis and Monotone Operator Theory in Hilbert Spaces" của tác giả HenizH Bauschke và PatrickL Combettes [2] 2.1 Dưới vi phân Định nghĩa 2.1 Cho f : H → (−∞, +∞] là hàm chính thường Dưới vi phân của hàm f là tập giá trị của toán tử ∂ f : H → 2H : x → {u ∈ H | ∀y ∈ H, y − x | u + f ( x ) ≤ f (y)} Cho x ∈ H, thì f có dưới vi phân tại x nếu ∂ f ( x ) = ∅, các phần tử của ∂ f ( x ) là các dưới. .. x; ) ≥ | u , do đó −∞ ∈ f ( x; H) / Như vậy f ( x; ) là hàm chính thường, dưới tuyến tính 2.3 Tính đơn điệu của dưới vi phân 2.3.1 Toán tử đơn điệu Định nghĩa 2.3 Cho A : H → 2H , A được gọi là toán tử đơn điệu nếu ∀( x, u) ∈ gra A, ∀(y, v) ∈ gra A, x − y | u − v ≥ 0 Mệnh đề 2.10 Cho A : H → 2H , các mệnh đề sau là tương đương: (i) A là đơn điệu (i) ∀( x, u) ∈ gra A, ∀(y, v) ∈ gra A, ∀α ∈ [0, 1],... Ví dụ 1.7 Hàm || || là lồi Nếu H = {0} thì || || không lồi ngặt Chứng minh Theo tính chất lồi, bây giờ lấy x ∈ H \ {0} và α ∈ (0, 1) Ta có ||αx + (1 − α)0|| = α|| x || + (1 − α)||0|| Do đó || || là không lồi ngặt Ví dụ 1.8 Hàm || ||2 là hàm lồi ngặt Định nghĩa 1.8 (i) Tập các hàm lồi nửa liên tục dưới từ H vào [−∞, +∞] được kí hiệu là ΓH (ii) Tập các hàm lồi chính thường nửa liên tục dưới từ H... 1.3 Hàm lồi 1.3.1 Định nghĩa và ví dụ Định nghĩa 1.6 Cho f : H → [−∞, +∞], khi đó f được gọi là hàm lồi nếu epi f = {( x, ξ ) ∈ H × R | f ( x ) ≤ ξ } , Số hóa bởi Trung tâm Học liệu – Đại học Thái Nguyên http://www.lrc-tnu.edu.vn19 12 là tập con lồi của H × R Hàm f được gọi là hàm lõm nếu − f là hàm lồi Ví dụ 1.6 Cho C là tập con của H, ta có epiiC = C × R+ và iC là hàm lồi nếu và chỉ nếu C là tập lồi. .. tập lồi trong H (i) C là hình cầu (ii) C là một không gian con affine (iii) C là một nửa không gian (iv) C = i∈ I Ci với (Ci )i∈ I là họ các tập con lồi của H Tính chất giao ở (iv) được khẳng định bằng định nghĩa sau Định nghĩa 1.3 Cho C ⊆ H, bao lồi của C là giao của tất cả các tập con lồi của H có chứa C, tức là nó là tập con lồi nhỏ nhất của H có chứa C Nó được kí hiệu là convC Bao lồi đóng của. .. A là toán tử đơn điệu cực đại là là đơn điệu tuần hoàn Như vậy A là đơn điệu tuần hoàn cực đại Ngược lại giả sử A là đơn điệu tuần hoàn cực đại, khi đó gra A = 0 Lấy ( x0 , u0 ) ∈ gra A và đặt f : H → [−∞, +∞] n −1 x→ sup sup n≥1,n∈N ( xi ,ui )∈gra A x − xn | un + ∑ x i +1 − x i | u i , i =0 ∀i = 1, n Từ gra A = 0, ta kết luận rằng −∞ ∈ f (H) Và do đó f ∈ ΓH Theo tính đơn điệu tuần hoàn của A ta có... A là đơn điệu Mệnh đề 2.11 Cho A : H → 2H và đặt f = | , các mệnh đề sau là tương đương: (i) A là đơn điệu (ii) Cho tất cả các tổ hơp hữu hạn (αi )i∈ I trong (0, 1) mà ∑i∈ I αi = 1 và ( xi , ui )i∈ I ∈ gra A, ta có f ( ∑ αi ( xi , ui )) ≤ i∈ I ∑ α i f ( x i , u i ) i∈ I (iii) f là hàm lồi trên 2.3.2 Toán tử đơn điệu cực đại Định nghĩa 2.4 Cho A : H → 2H là đơn điệu, khi đó A được gọi là đơn điệu. .. ra ∂ f ( x ) ⊂ ∂ f (B( x, δ)) ⊂ B(0, β) Vậy ∂ f ( x ) là bị chặn, lồi đóng và compact yếu (iv) Là hệ quả của (ii) Mệnh đề 2.6 Cho f ∈ Γ0 H là hàm thuần nhất dương Khi đó f = σC, với σC là hàm tựa của tập C = ∂ f (0) 2.2 Đạo hàm theo hướng Định nghĩa 2.2 Cho f : H → (−∞, +∞] là hàm chính thường và x ∈ dom f , y ∈ H Đạo hàm theo hướng của hàm f tại x trên hướng y là f ( x; y) = lim 0 α f ( x + αy) − f . đơn điệu của dưới vi phân hàm lồi. 4) Hàm tựa lồi và hàm giả lồi. 5) Tính đơn điệu suy rộng của dưới vi phân hàm tựa lồi và hàm giả lồi. 0.2.3. Phương pháp nghiên cứu - Sử dụng phương pháp của. tập lồi, hàm lồi. Chương 2 : Dưới vi phân hàm lồi và tính đơn điệu của nó. Nội dung của chương này là trình bày vi c xây dụng đạo hàm theo hướng và dưới vi phân của hàm lồi, các toán tử đơn điệu. toán tử đơn điệu và chỉ ra tính đơn điệu của dưới vi phân hàm lồi. Chương 3 : Hàm tựa lồi, hàm giả lồi và tính đơn điệu suy rộng của dưới vi phân. Cuối cùng là phần kết luận trình bày tóm tắt các