Đang tải... (xem toàn văn)
Bài giảng toán chuyên ngành thầy Nguyễn Danh Ngọc, Trường Đại học bách khoa Đà Nẵng. Bài giảng toán chuyên ngành thầy Nguyễn Danh Ngọc, Trường Đại học bách khoa Đà Nẵng. Bài giảng toán chuyên ngành thầy Nguyễn Danh Ngọc, Trường Đại học bách khoa Đà Nẵng. Bài giảng toán chuyên ngành thầy Nguyễn Danh Ngọc, Trường Đại học bách khoa Đà Nẵng.Bài giảng toán chuyên ngành thầy Nguyễn Danh Ngọc, Trường Đại học bách khoa Đà Nẵng.
ĐẠI HỌC ĐÀ NẴNG Trường Đại học Bách Khoa Bài giảng mơn học TỐI ƯU HĨA VÀ QUY HOẠCH THỰC NGHIỆM Người soạn: TS Nguyễn Danh Ngọc Người hướng dẫn: PGS.TS Trần Xuân Tùy Đà Nẵng, 13/11/2016 Bộ môn Cơ Điện tử - Khoa Cơ Khí Trường Đại học Bách Khoa – Đại học Đà Nẵng Lời cảm ơn Tác giả xin chân thành cảm ơn Thầy giáo hướng dẫn - PGS.TS Trần Xuân Tùy định hướng, hỗ trợ nhằm hồn thiện giáo trình Tác giả xin cảm ơn Thầy Nguyễn Đắc Lực, trưởng Bộ môn Cơ Điện tử, thầy cô Khoa Cơ Khí đặc biệt Thầy Trưởng Khoa - TS Lưu Đức Bình Thầy Phó trưởng Khoa - TS Lê Hoài Nam giúp đỡ, tạo điều kiện làm việc thuận lợi cho Tác giả trình tập mơn Cơ Điện tử, khoa Cơ khí, trường Đại học Bách khoa - Đại học Đà Nẵng Đà Nẵng, ngày 13 tháng 11 năm 2016 Nguyễn Danh Ngọc Lời nói đầu Tối ưu hố ngành Toán học, ứng dụng rộng rãi hiệu thiết kế chế tạo máy, điều khiển tự động, công nghệ thông tin hỗ trợ cho việc định phát triển quản lý hệ thống Các lĩnh vực Tối ưu hoá đa dạng tập trung giải vấn đề khác kỹ thuật kinh tế - quản lý Quy hoạch toán học, Vận trù học (Operation Research), Điều khiển tối ưu, Lý thuyết trị chơi Giáo trình "Tối ưu hố Quy hoạch thực nghiệm" biên soạn với mục đích cung cấp cho sinh viên năm thứ ngành Công nghệ Chế tạo máy ngành Kỹ thuật Cơ Điện tử Khoa Cơ khí, trường Đại học Bách khoa, Đại Học Đà Nẵng số kiến thức lĩnh vực quan trọng Tối ưu hố, cung cấp tảng cơng cụ mơ hình hố, phương pháp thuật tốn phân tích giải tốn định nhằm đưa định hợp lý Thật vậy, để kỹ sư áp dụng "Tối ưu hóa" vào thực tế cơng việc mình, địi hỏi người kỹ sư cần trang bị tảng kiến thức vững vàng lý thuyết, thuật toán phương pháp Sau trình bày khái niệm Tối ưu hoá (chương 2), chương cịn lại giáo trình trình bày tảng lý thuyết công cụ số mơ hình tối ưu cụ thể như: • Quy hoạch tuyến tính (chương 3) • Bài tốn vận tải (chương 4) • Quy hoạch tuyến tính ngun phi tuyến (chương 5) • Tối ưu hố đa mục tiêu (chương 6) • Quy hoạch thực nghiệm (chương 7) • Ứng dụng cơng cụ tin học tối ưu hóa (chương 8) Trong trình biên soạn, tác giả cố gắng có lẽ khơng tránh khỏi sai sót Tác giả mong nhận ý kiến đóng góp nhà khoa học, giảng viên sinh viên để giáo trình hồn chỉnh Mục lục Chương Một số khái niệm toán học 1.1 1.2 Nhắc lại đại số tuyến tính 1.1.1 Vector 1.1.2 Ma trận 11 1.1.3 Hệ phương trình tuyến tính 16 Nhắc lại hàm nhiều biến 18 1.2.1 Định nghĩa 18 1.2.2 Tính liên tục 18 1.2.3 Đạo hàm riêng 18 1.2.4 Gradient ma trận Hesse 19 1.2.5 Tính khả vi 19 Chương Khái niệm mơ hình hóa tốn học tối ưu hóa 2.1 2.2 2.3 21 Mơ hình hóa tốn học 21 2.1.1 Mô hình tốn học 21 2.1.2 Xây dựng mơ hình tốn học cho vấn đề thực tế 21 Tối ưu hóa 22 2.2.1 Khái niệm 22 2.2.2 Bài toán tối ưu tổng quát 22 2.2.3 Phân loại toán tối ưu 24 Ứng dụng toán tối ưu thực tế 25 2.3.1 Tối ưu hóa lập kế hoạch sản xuất 25 2.3.2 Tối ưu hóa vận tải 26 2.3.3 Tối ưu hóa nơng nghiệp 27 2.3.4 Tối ưu hóa thiết kế 28 2.3.5 Bài toán cắt gọt kim loại 29 2.3.6 Bài toán túi 30 2.3.7 Bài toán đường ngắn 31 Chương Quy hoạch tuyến tính 3.1 33 Phát biểu tốn quy hoạch tuyến tính 33 3.1.1 Bài toán tổng quát 33 3.1.2 Dạng tắc dạng chuẩn tắc 34 MỤC LỤC 3.1.3 3.2 Đưa toán quy hoạch tuyến tính dạng chuẩn tắc tắc 34 Tính chất tập phương án tập phương án tối ưu tốn quy hoạch tuyến tính 37 3.2.1 Tập lồi 37 3.2.2 Tính chất tập phương án tập phương án tối ưu toán quy hoạch tuyến tính 40 Tính chất quy hoạch tuyến tính dạng tắc 40 Phương pháp hình học giải tốn quy hoạch tuyến tính hai biến 42 3.3.1 Tổng quát phương pháp 42 3.3.2 Ví dụ minh họa 43 Phương pháp đơn hình giải tốn quy hoạch tuyến tính dạng tắc 44 3.4.1 Ý tưởng chung phương pháp 45 3.4.2 Cơ sở lý thuyết phương pháp 45 3.4.3 Thuật toán đơn hình 49 3.4.4 Bảng đơn hình 50 3.4.5 Hiện tượng xoay vòng 54 3.4.6 Tìm phương án cực biên xuất phát sở xuất phát 54 Lý thuyết đối ngẫu 61 3.5.1 Định nghĩa toán đối ngẫu 61 3.5.2 Các định lý đối ngẫu 63 3.5.3 Độ lệch bù 65 3.5.4 Ý nghĩa thực tiễn cặp toán đối ngẫu 68 3.2.3 3.3 3.4 3.5 Chương Bài toán vận tải 70 4.1 Phát biểu toán vận tải 70 4.2 Sự tồn phương án tối ưu 71 4.3 Bảng vận tải, chu trình 72 4.3.1 Bảng vận tải 72 4.3.2 Chu trình 73 Tìm phương án cực biên xuất phát 74 4.4.1 Phương pháp góc tây bắc 74 4.4.2 Phương pháp cước phí tối thiểu 75 Phương pháp vị 75 4.5.1 Cơ sở lý thuyết 76 4.5.2 Thuật toán vị 77 Một số toán vận tải mở rộng 82 4.6.1 Bài toán vận tải không cân thu phát 82 4.6.2 Bài tốn vận tải có cấm 83 4.6.3 Bài toán vận tải có hàm mục tiêu đạt cực đại 84 4.4 4.5 4.6 Chương Quy hoạch tuyến tính nguyên phi tuyến 5.1 85 Quy hoạch tuyến tính nguyên 85 5.1.1 85 Bài toán quy hoạch nguyên tổng quát MỤC LỤC 5.2 5.1.2 Phân loại toán quy hoạch nguyên 85 5.1.3 Phương pháp cắt Gomory 86 5.1.4 Phương pháp nhánh cận Land-Doig 88 Quy hoạch phi tuyến 98 5.2.1 Phát biểu toán quy hoạch phi tuyến 98 5.2.2 Một số khái niệm hàm lồi 100 5.2.3 Bài tốn quy hoạch phi tuyến khơng ràng buộc 101 5.2.4 Phương pháp hướng giảm 102 Chương Tối ưu hóa đa mục tiêu 6.1 6.2 6.3 Một số khái niệm 109 6.1.1 Phát biểu tốn tối ưu hóa đa mục tiêu 109 6.1.2 Tối ưu Pareto 110 Thuật toán truyền thống 111 6.2.1 Phương pháp không ưu tiên 112 6.2.2 Phương pháp hậu nghiệm 112 6.2.3 Phương pháp tiền nghiệm 114 6.2.4 Phương pháp tương tác 114 Thuật toán tiến hóa 115 6.3.1 Giải thuật di truyền 115 6.3.2 Thuật tốn tối ưu hóa đàn kiến 123 6.3.3 Thuật tốn tối ưu hóa bầy đàn 125 Chương Quy hoạch thực nghiệm 7.1 7.2 8.2 128 Một số khái niệm 128 7.1.1 Định nghĩa quy hoạch thực nghiệm 128 7.1.2 Đối tượng quy hoạch thực nghiệm 128 7.1.3 Các nguyên tắc quy hoạch thực nghiệm 129 Phân tích hồi quy 130 7.2.1 Phương pháp bình phương bé 130 7.2.2 Hồi quy biến 130 7.2.3 Hồi quy nhiều biến 133 Chương Ứng dụng công cụ tin học tối ưu hóa 8.1 109 135 Giải toán tối ưu Excel 135 8.1.1 Giới thiệu công cụ Solver Excel 135 8.1.2 Giải toán quy hoạch toán học Excel 136 8.1.3 Giải toán hồi quy Excel 142 Giải toán tối ưu MATLAB 148 8.2.1 Giới thiệu MATLAB toolbox Tối ưu hóa 148 8.2.2 Giải toán tối ưu hóa MATLAB 149 Phụ lục A Phương pháp Newton cổ điển giải hệ phương trình phi tuyến 159 MỤC LỤC Phụ lục B Code Matlab giải thuật di truyền giải toán người du lịch 161 Phụ lục C Code Matlab thuật tốn tối ưu hóa đàn kiến giải tốn người du lịch 164 Phụ lục D Code Matlab thuật toán tối ưu hóa bầy đàn giải tốn quy hoạch phi tuyến có ràng buộc 168 Danh mục từ viết tắt ký hiệu Từ viết tắt v.đ.k Với điều kiện Ký hiệu R Rn x∈D x∈ /D ∅ |A| A\B A∪B A∩B x ∇f (x) ∇2 f (x) fxi MT M−1 rank(M) Tập số thực Không gian Euclid n chiều x thuộc tập D x không thuộc tập D Tập rỗng Số phần tử tập A Hiệu tập A B Hợp tập A B Giao tập A B Chuẩn Euclid x Vector gradient hàm f điểm x Ma trận Hesse hàm f điểm x Đạo hàm riêng f theo biến xi Ma trận chuyển vị ma trận M Ma trận nghịch đảo ma trận M Hạng ma trận M Chương Một số khái niệm toán học 1.1 1.1.1 Nhắc lại đại số tuyến tính Vector Vector cột Ta định nghĩa vector cột n chiều mảng n số, kí hiệu: a1 a2 a= (1.1) an thành phần thứ i vector a Ký hiệu R tập hợp số thực Rn tập hợp vector cột n chiều với thành phần thực Rn gọi không gian vector thực n chiều Vector hàng Một vector hàng định nghĩa sau: b = (b1 , b2 , , bm ) (1.2) Vector đơn vị Vector đơn vị n chiều vector n chiều có thành phần thành phần cịn lại Vector đơn vị có thành phần thứ i gọi vector đơn vị thứ i (i = 1, , n) Chuyển vị vector Chuyển vị vector cột a vector hàng với thành phần tương ứng, kí hiệu aT Ví dụ, a1 a2 a= an CHƯƠNG MỘT SỐ KHÁI NIỆM TỐN HỌC CƠ BẢN 10 aT = (a1 , a2 , , an ) Một cách tương đương, ta viết a = (a1 , a2 , , an )T Lưu ý Trong suốt tài liệu này, quy ước thuật ngữ vector (khơng nói rõ hàng hay cột) để vector cột Các phép toán vector • Hai vector a = (a1 , a2 , , an )T b = (b1 , b2 , , bn )T = bi , i = 1, 2, , n • Tổng hai vector a b, kí hiệu a + b vector a + b = (a1 + b1 , a2 + b2 , , an + bn )T (1.3) Tốn tử cộng vector có tính chất sau: – Tính giao hốn: a + b = b + a – Tính kết hợp: (a + b) + c = a + (b + c) – Vector « khơng » = (0, 0, , 0)T vector thỏa mãn a + = + a = a • Vector (a1 − b1 , a2 − b2 , , an − bn ) hiệu a b, ký hiệu a − b Vector − b ký hiệu −b • Phép nhân vector a ∈ Rn với số thực α định nghĩa αa = (αa1 , αa2 , , αan )T (1.4) Toán tử nhân có tính chất sau: – Tính chất phân phối: đại lượng vô hướng thực α β, α(a + b) = αa + αb; (α + β)a = αa + βa; – Tính chất kết hợp: α(βa) = (αβ)a – Đại lượng vô hướng thỏa mãn 1a = a – Bất kỳ đại lượng vô hướng α thỏa mãn α0 = – Đại lượng vô hướng thỏa mãn 0a = – Đại lượng vô hướng −1 thỏa mãn −1a = −a Các vector độc lập tuyến tính Một vector x gọi tổ hợp tuyến tính vector x1 , x2 , , xk tồn số thực ci , i = 1, 2, , k cho x = c1 x1 + c2 x2 + + ck xk (1.5) Vector tổ hợp tuyến tính nhóm vector Các vector x1 , x2 , , xk ∈ Rn gọi độc lập tuyến tính tồn k số thực c1 , c2 , , ck cho c1 x1 + c2 x2 + + ck xk = ⇔ ci = 0, ∀i = 1, , k (1.6) Phụ lục A Phương pháp Newton cổ điển giải hệ phương trình phi tuyến A.1 Trường hợp n = Xét phương trình biến số f (x) = Giả sử nghiệm phương trình x∗ ∈ R Thuật tốn Newton tìm nghiệm x∗ xuất phát từ điểm x0 đủ gần x∗ sinh dãy nghiệm xấp xỉ x0 , x1 , x2 , hội tụ đến x∗ Xét xk điểm thuộc dãy Với p ∈ R |p| đủ bé, xấp xỉ Taylor bậc hàm f (x) xk là: f (xk + p) ≈ f (xk ) + pf (xk ) Dễ thấy y = f (xk ) + pf (xk ) phương trình tiếp tuyến điểm (xk , f (xk )) với đồ thị hàm y = f (x) Giả sử f (xk ) = Khi đó, giải phương trình f (xk ) + pf (xk ) = ta p=− f (xk ) f (xk ) Đặt xk+1 := xk − f (xk ) f (xk ) (A.1) Rõ ràng xk+1 giao điểm tiếp tuyến với trục hoành Ox Gán k := k + lặp lại q trình tính tốn điểm xk Lưu ý Theo công thức (A.1), f (xk ) = điểm xk+1 khơng xác định Về mặt hình học, việc f (xk ) = có nghĩa tiếp tuyến điểm (xk , f (xk )) với đồ thị hàm y = f (x) song song với trục hoành Ox 159 PHỤ LỤC A PHƯƠNG PHÁP NEWTON CỔ ĐIỂN GIẢI HỆ PHƯƠNG TRÌNH PHI TUYẾN160 A.2 Trường hợp tổng quát (n > 1) Xét hàm vector F: F : Rn → Rm f1 (x) f2 (x) x → F (x) = fm (x) fi : Rn → R, i = 1, , m hàm thực n biến Giả thiết hàm tọa độ fi có đạo hàm riêng ∂fi ∂xj , j ∂f1 ∂x1 ··· ∂f1 ∂xn ∂fm ∂x1 ··· ∂fm ∂xn DF (x) = = 1, , n Khi đó, ma trận gọi ma trận Jacobi F x Dịng thứ i ma trận Jacobi [∇fi (x)]T Xét hệ phương trình n ẩn, n phương trình F (x) = (A.2) F (x) = (f1 (x), f2 (x), , fn (x)) hàm vector (tức m = n) Giả sử x∗ ∈ Rn nghiệm hệ phương trình (A.2) Tương tự trường hợp n = 1, thuật toán Newton giải hệ (A.2) xuất phát từ điểm x0 ∈ Rn đủ gần nghiệm x∗ xây dựng dãy điểm x1 , x2 , hội tụ đến nghiệm x∗ Tại điểm xk ∈ Rn thuộc dãy này, xấp xỉ Taylor bậc hàm F xk F (xk + p) ≈ F (xk ) + DF (xk )p vector p ∈ Rn p đủ nhỏ, DF (xk ) ma trận Jacobi F điểm xk ∈ Rn Giả sử ma trận Jacobi DF (xk ) khơng suy biến Giải hệ phương trình F (xk ) + DF (xk )p = ta vector p = −[DF (xk )]−1 F (xk ) điểm lặp xk+1 := xk + p = xk − [DF (xk )]−1 F (xk ) Đặt xk := xk+1 lặp lại q trình tính tốn điểm xk Lưu ý Để giải hệ phương trình (A.2) theo thuật tốn Newton phải xuất phát từ điểm x0 đủ gần nghiệm hệ ma trận Jacobi DF (xk ) không suy biến bước lặp k Phụ lục B Code Matlab giải thuật di truyền giải toán người du lịch Code cung cấp [7] bao gồm hai m-file: hàm tính độ thích nghi (tspfun) chương trình B.1 Định nghĩa hàm thích nghi function dist=tspfun(pop) % Cost function for the traveling salesman problem % Uses global variables "x" and "y" % % Haupt and Haupt, 2003 % Edited and modified by Hundley and Carr, 2014 global x y [Npop,Ncity]=size(pop); tour=[pop pop(:,1)]; %distance between cities for ic=1:Ncity for id=1:Ncity dcity(ic,id)=sqrt((x(ic)−x(id))^2+(y(ic)−y(id))^2); end % id end % ic % cost of each chromosome for ic=1:Npop dist(ic,1)=0; for id=1:Ncity dist(ic,1)=dist(ic)+dcity(tour(ic,id),tour(ic,id+1)); end % id end % ic B.2 Chương trình %% Genetic Algorithm for permutation problems % minimizes the objective function designated in ff % % Haupt and Haupt, 2003 % Edited and modified by Hundley and Carr, 2014 clear global iga x y 161 PHỤ LỤC B CODE MATLAB GIẢI THUẬT DI TRUYỀN GIẢI BÀI TOÁN NGƯỜI DU LỊCH162 %% Setup the GA ff='tspfun'; % filename objective function npar=20; % # of optimization variables Nt=npar; % # of columns in population matrix x=rand(1,npar); y=rand(1,npar); % cities are at (xcity,ycity) % Uncomment next line to use the same set of cities in multiple runs % load cities0 % Stopping criteria maxit=10000; % max number of iterations % GA parameters popsize=20; % set population size mutrate=.05; % set mutation rate selection=0.5; % fraction of population kept keep=floor(selection*popsize); % #population members that survive M=ceil((popsize−keep)/2); % number of matings odds=1; for ii=2:keep odds=[odds ii*ones(1,ii)]; end Nodds=length(odds); odds=keep−odds+1; % odds determines probabilities for being parents % Create the initial population iga=0; % generation counter initialized for iz=1:popsize pop(iz,:)=randperm(npar); % random population end cost=feval(ff,pop); % calculates population cost using ff [cost,ind]=sort(cost); % cost in element pop=pop(ind,:); % sort population with lowest cost first minc(1)=min(cost); % minc contains of population meanc(1)=mean(cost); % meanc contains mean of population %% Iterate through generations (MAIN LOOP) while iga