TẠP CHÍ KHOA HỌC, Đại học Huế, Số 59, 2010 ĐẶC TRƯNG CẤP HAI CỦA HÀM VÉC TƠ LỒI Phan Nhật Tĩnh, Trường Đại học Khoa học, Đại học Huế Tóm tắt. Trong bài báo này, chúng tôi giới thiệu một khái niệm mới về các ánh xạ C-xác định và chứng minh rằng một hàm véctơ hai lần khả vi liên tục là lồi theo nón C nếu và chỉ nếu vi phân cấp hai của nó là C-xác định. Kết quả này mở rộng kết quả đã biết về đặc trưng cấp hai của các hàm lồi trong giải tích cổ điển. 1. Giới thiệu và một số kiến thức chuẩn bị Gần đây, lớp hàm véc tơ lồi đã thu hút được sự quan tâm của nhiều nhà toán học vì cấu trúc đặc biệt cũng như những ứng dụng của chúng trong tối ưu véc tơ (xem [1-7]). Một trong những vấn đề người ta quan tâm khi khảo sát lớp hàm này là các đặc trưng của chúng. Trong các công trình [6,7], các đặc trưng của tính lồi của hàm véc tơ được biểu hiện qua các tính chất đơn điệu của đạo hàm theo hướng và vi phân của chúng đã được nghiên cứu khá kỹ lưỡng. Tuy nhiên các kết quả liên quan đến mối quan hệ của hàm véc tơ lồi với các tính chất đặc thù của vi phân cấp hai của chúng còn hết sức sơ sài. Mục đích của bài báo này nhằm thiết lập mối quan hệ đó mà khi đưa về trường hợp vô hướng, thu lại được các kết quả cổ điển về chủ đề này trong giải tích lồi. Ta nhắc lại rằng một tập không rỗng C ⊂ R m được gọi là nón nếu tc ∈ C, ∀c ∈ C, t ≥ 0. Một nón C ⊂ R m xác định trên R m một thứ tự định nghĩa bởi x  y ⇔ y − x ∈ C. Một hàm véc tơ f từ một tập con lồi không rỗng D ⊂ R n vào R m được gọi là lồi (tương ứng với C) nếu với mọi x, y ∈ D, x = y, λ ∈ (0, 1), ta có f(λx + (1 − λ)y)  λf(x) + (1 − λ)f(y). Cho X, Y là hai không gian định chuẩn, ta kí hiệu bởi L(X, Y ) là không gian các ánh xạ tuyến tính liên tục từ X vào Y . Chuẩn trên không gian L(X, Y ) xác định bởi A ∈ L(X, Y ), A := sup{A(x) |x ∈ X, x ≤ 1}. 127 Định nghĩa 1.1. Một toán tử F : D ⊂ R n → L(R n , R m ) được gọi là đơn điệu (tương ứng với C) nếu (F (x) − F (y))(x − y) ∈ C, ∀x, y ∈ D. Cho D ⊆ R n là một tập mở không rỗng, x ∈ D và f : D → R m là một hàm véc tơ khả vi tại x. Ta kí hiệu vi phân của f tại x là Df(x). Giả sử f khả vi tại mọi x ∈ D, khi đó ta có thể khảo sát tính khả vi của ánh xạ Df : D → L(R n , R m ). Nếu Df khả vi tại x ∈ D thì ta nói f khả vi cấp hai tại x và kí hiệu vi phân của Df tại x là D 2 f(x). Khi Df khả vi tại mọi x ∈ D thì ta được ánh xạ vi phân cấp hai D 2 f : D → L(R n , L(R n , R m )). Ta nói f hai lần khả vi liên tục nếu f khả vi cấp hai tại mọi x ∈ D và ánh xạ D 2 f là liên tục. Trong định lý sau, nón thứ tự C được giả thiết là lồi, đóng. Định lý 1.2.([6, Theorem 3.5]) Giả sử D ⊂ R n là một tập lồi mở không rỗng và f : D → R m là một hàm khả vi trên D. Lúc đó, f là lồi khi và chỉ khi Df là một toán tử đơn điệu trên D. 2. Đặc trưng cấp hai của hàm véc tơ lồi Trong mục này, không gian R m được giả sử là được sắp thứ tự bởi một nón C lồi, đóng. Cho A ∈ L(R n , L(R n , R m )). Với mọi x, y ∈ R n , kí hiệu A(x, y) := [A(x)](y). Định nghĩa 2.1.Ta nói ánh xạ A ∈ L(R n , L(R n , R m )) là C−xác định nếu A(x, x) ∈ C, ∀x ∈ R n . Cho D ⊆ R n là một tập không rỗng. Một ánh xạ F : D → L(R n , L(R n , R m )) gọi là C− xác định nếu F(x) là C−xác định với mọi x ∈ D. Ta thấy ngay rằng khi m=1 và C = R + thì A là C−xác định khi và chỉ khi ma trận biểu diễn A là nửa xác định dương. Định lý 2.2. Cho D ⊆ R n là một tập lồi mở không rỗng và F : D → L(R n , R m ) là một ánh xạ khả vi liên tục trên D. Khi đó, F đơn điệu nếu và chỉ nếu DF là C−xác định. Chứng minh. ⇒ : Giả sử ngược lại DF không C−xác định trên D. Khi đó có x 0 ∈ D, y 0 ∈ R n sao cho DF (x 0 )(y 0 , y 0 ) /∈ C. (1) Đặt φ(t) = DF (x 0 + ty 0 )(y 0 , y 0 ). Do DF liên tục trong một lân cận của x 0 nên φ cũng liên tục trong một lân cận của 0, thêm vào đó C đóng và (1), suy ra tồn tại  > 0 sao cho φ(t) /∈ C, ∀t ∈ [0, ]. (2) 128 Đặt Φ(t) = F(x 0 + ty 0 )(y 0 ). Khi đó Φ(t) khả vi trong một lân cận của [0, ] nên áp dụng định lý giá trị trung bình, ta tìm được τ ∈ (0, ) sao cho Φ() − Φ(0) = DΦ(τ)(). (3) Xét các ánh xạ sau ψ : t → x 0 + ty 0 , ϕ : A ∈ L(R n , R m ) → A(y 0 ). Khi đó Φ = ϕ ◦ F ◦ ψ. Dùng công thức dây chuyền, ta xác định được DΦ(τ)() = DF (x 0 + τy 0 )(y 0 , y 0 ) = φ(τ). (4) Từ (2), (3) và (4) suy ra (F (x 0 + y 0 ) − F (x 0 ))(x 0 + y 0 − x 0 ) = (F (x 0 + y 0 ) − F (x 0 ))(y 0 ) = (Φ() − Φ(0)) = DΦ(τ)() =  2 φ(τ) /∈ C. Suy ra F không đơn điệu trên D, mâu thuẫn với giả thiết. ⇐ : Lấy tùy ý x, y ∈ D. Xét hàm véc tơ một biến Φ(t) = F (x + t(y − x))(y − x). Hàm này khả vi trên một khỏang mở chứa [0, 1] nên tương tự như chứng minh ở phần trên, áp dụng định lí giá trị trung bình ta tìm được τ ∈ (0, 1) sao cho (F (y) − F (x))(y − x) = Φ(1) − Φ(0) = DΦ(τ)(1) = DF (x + τ(y − x))(y − x, y − x) ∈ C. Vậy, F đơn điệu trên D. Định lý được chứng minh  Định lý 2.3. Cho D ⊆ R n là một tập lồi mở không rỗng và f : D → R m là một hàm véc tơ hai lần khả vi liên tục trên D. Lúc đó, f là lồi khi và chỉ khi D 2 f là C− xác định . Chứng minh. Ta có f là lồi trên D ⇔ Df đơn điệu trên D (Định lí 1.2) ⇔ D 2 f C−xác định trên D (Định lí 2.2). Định lý được chứng minh  Hệ quả 2.4. Cho D ⊆ R n là một tập lồi mở không rỗng và f : D → R là một hàm hai lần khả vi liên tục. Lúc đó f là lồi khi và chỉ khi Hessian H f (x) tại mọi x ∈ D là nửa xác định dương. Chứng minh. Suy từ Định lí 2.3 và nhận xét ngay sau Định nghĩa 2.1.  129 TÀI LIỆU THAM KHẢO [ 1] Đ.T. Luc, Generalized convexity and some applications to vector opti- mization, Viet. J. Math., 26, (2), (1998), 95-110. [ 2] Đ.T. Luc, N.X. Tan & P.N. Tinh, Convex vector functions and their subdifferential, Acta Math. Viet., 28 (1), (1998), 107-127. [ 3] P.N. Tinh, On a representation of convex vector functions and the maximal cyclical monotonicity of their subdifferential, Acta Math. Viet., 24, (2), (1999), 183-191. [ 4] P.N. Tinh, N.X. Tan & Đ.T. Luc, Subdifferential characterization of quasiconvex and convex vector functions, Viet. J. Math., 26, (1), (1998), 53-69. [ 5] P.N. Tinh & N.X. Tan, On conjugate maps and directional derivatives of convex vector functions, Acta Math. Viet., (2000), 214-244. [ 6] P.N. Tinh , On characterization of convex vector functions and opti- mization, Proceedings of the sixth Vietnam-Korea joint workshop, Mathemat- ical Optimization Theory and Applications, Publishing House for Science and Technology, (2008), 311-326. [ 7] C. Cusano, M. Fini, D. Torre, Characterizations of convex vector func- tions and optimization, Journal of Inequalities in Pure and Applied mathemat- ics, Vol. 5, Iss. 4, Article 101, (2004), 154-163. SECOND ORDER CHARACTERIZATION OF CONVEX VECTOR FUNCTIONS Phan Nhat Tinh, College of Sciences, Hue University Sumarry: In this paper, we introduce a new concept of C-definite maps and prove that a twice continuously differentiable vector function is convex with respect to a cone C if and only if its second differential is C-definite. This result generalized the well known result on second order characterization of convex functions in classic analysis. 130 . minh rằng một hàm véctơ hai lần khả vi liên tục là lồi theo nón C nếu và chỉ nếu vi phân cấp hai của nó là C-xác định. Kết quả này mở rộng kết quả đã biết về đặc trưng cấp hai của các hàm lồi trong giải. lớp hàm này là các đặc trưng của chúng. Trong các công trình [6,7], các đặc trưng của tính lồi của hàm véc tơ được biểu hiện qua các tính chất đơn điệu của đạo hàm theo hướng và vi phân của chúng. được nghiên cứu khá kỹ lưỡng. Tuy nhiên các kết quả liên quan đến mối quan hệ của hàm véc tơ lồi với các tính chất đặc thù của vi phân cấp hai của chúng còn hết sức sơ sài. Mục đích của bài báo