ĐẠI HỌC THÁI NGUYÊN TRƯỜNG ĐẠI HỌC KỸ THUẬT CÔNG NGHIỆP - PHẠM VĂN HƯNG NGHIÊN CỨU ỨNG DỤNG MẠNG NƠRON TRONG NHẬN DẠNG VÀ ĐIỀU KHIỂN ĐỐI TƯỢNG ĐỘNG HỌC PHI TUYẾN Chuyên ngành Mã số : Tự Động Hóa : TÓM TẮT LUẬN VĂN THẠC SỸ KỸ THUẬT THÁI NGUYÊN - 2010 Luận văn hoàn thành Trường Đại học Kỹ thuật Công nghiệp Thái Nguyên Cán HDKH : PGS.TS Nguyễn Hữu Công Phản biện : PGS.TS Nguyễn Doãn Phước Phản biện : TS Nguyễn Duy Cương Luận văn bảo vệ trước hội đồng chấm luận văn, họp tại: Phòng cao học số 3, trường Đại học Kỹ thuật Công nghiệp Thái Nguyên Vào 10 00 phút ngày 07 tháng 10 năm 2010 Có thể tìm hiểu luận văn Trung tâm Học liệu Đại học Thái Nguyên Thư viện Trường Đại học Kỹ thuật Công nghiệp Thái Nguyên MỞ ĐẦU Trong năm gần mạng nơron nhân tạo ANN (Artificial Neural Network) ngày ứng dụng rộng rãi nhận dạng, điều khiển tính tốn mềm ưu điểm khả xử lý song song, tốc độ cao … nên ứng dụng nhiều lĩnh vực như: công nhiệp, lượng, y học, tài nguyên nước khoa học môi trường Đặc biệt lĩnh vực kỹ thuật môi trường, ANN ngày chứng tỏ vai trò nhận dạng điều khiển trình xử lý phức tạp mà phương pháp khác khơng có Tuy nhiên tác giả nghiên cứu luyện mạng nơron sử dụng Toolbox Matlab, thường ta không loại bỏ mẫu học bị nhiễu Đề tài đưa thuật toán loại bỏ mẫu học bị nhiễu làm giảm sai số trình huấn luyện mạng Ta nghiên cứu cho số đối tượng động học phi tuyến Căn vào nhận xét, đánh giá trên, chọn đề tài: “Nghiên cứu ứng dụng mạng nơron nhận dạng điều khiển đối tượng động học phi tuyến” Kết cấu luận văn gồm: Mở đầu Chương 1: Tổng quan việc ứng dụng mạng nơron nhận dạng điều khiển đối tượng động học phi tuyến Chương 2: Nhận dạng đối tượng động học phi tuyến sử dụng mạng nơron Chương 3: Ứng dụng mạng nơron để điều khiển bể xử lý nước thải theo mô hình mẫu Chương 4: Nghiên cứu cải tiến thuật toán học mạng nơron toán nhận dạng bể xử lý nước thải Kết luận kiến nghị Tơi xin trân trọng bày tỏ lịng biết ơn sâu sắc đến thầy HDKH PGS.TS Nguyễn Hữu Công - Người hướng dẫn tận tình giúp đỡ tơi hồn thành luận văn thạc sĩ Tôi xin chân thành cám ơn Ban Giám Hiệu Trường Đại Học Kỹ thuật Công nghiệp, Khoa đào tạo sau Đại học thầy cô Khoa Điện, Khoa Điện tử – Trường Đại học Kỹ thuật Cơng nghiệp đóng góp nhiều ý kiến tạo điều kiện thuận lợi cho tơi hồn thành luận văn Tôi xin chân thành cám ơn! Thái Nguyên, ngày 14 tháng 10 năm 2010 Người thực Phạm Văn Hưng CHƯƠNG TỔNG QUAN VIỆC ỨNG DỤNG MẠNG NƠRON TRONG NHẬN DẠNG VÀ ĐIỀU KHIỂN ĐỐI TƯỢNG ĐỘNG HỌC PHI TUYẾN 1.1 Giới thiệu tóm tắt mạng nơron 1.1.1 Mạng nơron sinh học Mạng nơron tái tạo kỹ thuật chức hệ thần kinh người Trong trình tái tạo tất chức não người có tái tạo mà có chức cần thiết Bên cạnh có chức tạo nhằm giải toán điều khiển định trước 1.1.2 Mạng nơron nhân tạo (Artificial Neural network - ANN) Từ nghiên cứu tính chất mạng nơron sinh học Người ta thay tính chất mơ hình tốn học tương đương gọi mạng nơron nhân tạo Mạng nơron nhân tạo chế tạo nhiều cách khác thực tế tồn nhiều kiểu mạng nơron nhân tạo p p w1 w2 n + f a p b wn Hình 1.2 Mơ hình nơron nhiều đầu 1.1.3 Cấu trúc mạng nơron Trong điều khiển tự động, để xây dựng hệ thống điều khiển tự động, trước tiên phải xác định mơ hình thích hợp cho đối tượng xác định tham số mơ hình Ở mơ hình sử dụng để thay cho đối tượng mạng nơron Vậy ta phải xác định cấu trúc hợp lý cho mạng nơron huấn luyện tham số mạng Tuỳ theo đặc tính mạng nơron động học tuyến tính, phi tuyến tĩnh, hay động học phi tuyến mà ta phân thành loại sau: Mạng nơron động học tuyến tính: Quan hệ vào mạng nơron có tính chất động học tuyến tính Mạng nơron phi tuyến tĩnh: Quan hệ vào mạng có tính chất phi tuyến tĩnh Mạng nơron động học phi tuyến: Quan hệ vào mạng có tính chất động học phi tuyến 1.1.4 Huấn luyện mạng nơron Trong hai toán nhận dạng thiết kế điều khiển nơron ta phải xác định cấu trúc tham số mạng nơron Đầu tiên phải xác định cấu trúc mạng, sau xác định tham số mạng Việc xác định tham số mạng thực phương pháp huấn luyện mạng Phương pháp huấn luyện mạng nơron động học phi tuyến Ứng dụng mạng nơron điều khiển tự động Nhờ phát triển mạnh mẽ khả tính tốn xử lý ngày mạnh máy tính, nhờ mà lĩnh vực điều khiển tự động mạng nơron ứng dụng để giải hai toán sau: Nhận dạng đối tượng Các đối tượng với đặc tính động học tuyến tính, phi tuyến tĩnh động học phi tuyến Thiết kế điều khiển nơron Theo lý thuyết chứng minh mạng nơron xấp xỉ đa dùng làm mơ hình tốn học để thay cho đối tượng với sai số cho trước Đồng thời khả xấp xỉ đa mạng nhiều lớp tạo lựa chọn ưa thích cho việc mơ hình hố đối tượng phi tuyến thực điều khiển phi tuyến đa Mạng nơron ứng dụng điều khiển tự động với toán: Điều khiển dự báo mơ hình: Model Predictive Control (MPC) Điều khiển tuyến tính hố phản hồi: NARMA-L2 (Feedback Linearization Cotrol) Điều khiển theo mơ hình mẫu: Model Reference Control 1.2 Tình hình nghiên cứu nước liên quan đến đề tài 1.2.1 Tình hình nghiên cứu nước Nguyễn Đắc Nam (2008),“Nghiên cứu ứng dụng mạng nơron truyền thẳng nhiều lớp nhận dạng vị trí robot hai khâu”, Luận văn Thạc sỹ, Trường Đại học Kỹ thuật Công nghiệp Vũ Thanh Du,“Nghiên cứu ứng dụng mạng nơron để nhận dạng điều khiển hệ thống phi tuyến”, Luận văn Thạc sỹ, Trường Đại học Kỹ thuật Công nghiệp Nguyễn Sĩ Dũng, Lê Hồi Quốc,“Một số thuật tốn huấn luyện mạng neural network sở phương pháp conjugate Gradient”, Đại học Công nghiệp TPHCM Đại học Bách khoa TPHCM Nguyễn Kỳ Phùng, Nguyễn Khoa Việt Trường,“Mơ hình hố q trình xử lý nước thải mạng nơron nhân tạo”,Trường Đại học Khoa học Tự nhiên Đại học Quốc gia Thành phố Hồ Chí Minh Đỗ Trung Hải (2008) “Ứng dụng lý thuyết mờ mạng nơron để điều khiển hệ chuyển động”, Luận án tiến sỹ, Trường Đại học Bách khoa Hà Nội 1.2.2 Tình hình nghiên cứu nước R.K Al Seyab, Y Cao (2007)“Nonlinear system identification for predictive control using continuous time recurrent neural networks and automatic differentiation”, School of Engineering Cranfield University, College Road, Cranfield, Bedford MK43 0AL, UK, Science Direct Maciej Lawrynczuk (2010), “Training or neural models for predictive control”, Insitute of control and computation Engineering, Faculty of Electronics and Information Technology, Warsaw University of Technology, ul Nowowiejska 15/19, 00-665 Warsaw, Poland, Neurocomputing 73 Jaroslava Žilková, Jaroslav Timko, Peter Girovský, “Nonlinear System Control Using Neural Networks”, Department of Electrical Drives and Mechatronic, Technical University of Kosice, Hungary Ghania Debbache - Abdelhak bennia (2006), “Neural network base MRAC control of dynamic nonlinear systems” Electrical Engineering Institute, Oum El-Bouaghi University 04000 Oum El-Bouaghi Algeria -Electronic Department, Constantine University 25000 Constantine Algeria 1.2.3 Nhận xét lựa chọn hướng nghiên cứu Các nghiên cứu nước dừng lại mức độ sử dụng thuật toán huấn luyện mạng áp dụng cho đối tượng có mơ hình chưa có độ phức tạp cao Tuy nhiên năm gần tác giả nước chuyển hướng nghiên cứu sang lĩnh vực tìm thuật toán luyện mạng nhằm cải tiến thuật toán học tăng độ hội tụ giảm thời gian huấn luyện mạng Các cơng trình nghiên cứu nước hầu hết theo hướng áp dụng thuật toán nhằm giải toán nhận dạng mơ hình động học phi tuyến Tuy nhiên với đối tượng động học phi tuyến việc nhận dạng điều khiển gặp nhiều khó khăn địi hỏi phải giải tốn tối ưu để tăng độ hội tụ q trình tính tốn giảm thời gian luyện mạng 1.3 Kết luận chương Đã giới thiệu tóm tắt kiến thức mạng nơron Đồng thời giới thiệu dạng mô hình mạng nơron, thuật tốn huấn luyện mạng toán với mạng nơron Căn việc phân tích tình hình nghiên cứu ngồi nước để làm tiền đề định hướng nghiên cứu cho đề tài Hi vọng kết áp dụng tốt cho dạng toán nhận dạng điều khiển đối tượng động học phi tuyến sở mạng nơron bể xử lý nước thải để giải vấn đề tồn nhiều quốc gia CHƯƠNG NHẬN DẠNG ĐỐI TƯỢNG ĐỘNG HỌC PHI TUYẾN SỬ DỤNG MẠNG NƠRON 2.1 Giới thiệu hệ động học phi tuyến 2.1.1 Giới thiệu chung Hệ động học phi tuyến bao gồm hai đặc tính tính động học tính phi tuyến Tính phi tuyến thể hệ thống khơng thỏa mãn ngun tắc xếp chồng Tính động học thể quan hệ vào ra, đầu phụ thuộc vào đầu vào mà phụ thuộc vào biến thiên đầu vào Thông thường hệ biểu diễn quan hệ vi phân tích phân 2.1.2 Mơ hình mơ tả hệ động học phi tuyến dạng rời rạc Bốn mơ hình hệ thời gian rời rạc giới thiệu biểu diễn phương trình vi phân phi tuyến khối trễ 2.2 Nhận dạng hệ động học phi tuyến 2.2.1 Khái quát chung Tại phải nhận dạng Xét toán điều khiển theo nguyên tắc phản hồi hình 2.5: w(t) e(t) - Bộ điều khiển u(t) Đối tượng điều khiển y(t) Hình 2.5: Điều khiển theo nguyên tắc phản hồi đầu Muốn tổng hợp điều khiển cho đối tượng hệ kín có chất lượng mong muốn trước tiên phải hiểu biết đối tượng, tức cần phải có mơ hình tốn học mơ tả đối tượng Khơng thể điều khiển đối tượng không hiểu biết hiểu sai lệch Kết tổng hợp điều khiển phụ thuộc nhiều vào mơ hình mơ tả đối tượng Mơ hình xác, hiệu suất cơng việc cao Định nghĩa Nhận dạng hệ thống xây dựng mơ hình tốn học hệ (cấu trúc – tham số) dựa liệu thực nghiệm đo Quá trình nhận dạng trình hiệu chỉnh tham số mơ hình cho tín hiệu mơ hình tiến tới tín hiệu đo hệ thống Khái niệm toán nhận dạng Zadeh định nghĩa vào năm 1962 với hai điểm sau: - Nhận dạng phương pháp thực nghiệm nhằm xác định mơ hình cụ thể lớp mơ hình thích hợp sở quan sát tìn hiệu vào - Mơ hình tìm phải có sai số với đối tượng nhỏ Theo định nhĩa tốn nhận dạng phải phân biệt với ba điểm chính, là: - Lớp mơ hình thích hợp Chẳng hạn lớp mơ hình tuyến tính khơng có cấu trúc (khơng biết bậc mơ hình) có cấu trúc, lớp loại mơ hình lưỡng tuyến tính - Loại tín hiệu quan sát (tiền định/ngẫu nhiên) - Phương thức mơ tả sai lệch mơ hình thực đối tượng Các bước để nhận dạng hệ thống Nhận dạng hệ thống ước lượng mơ hình hệ thống dựa liệu vào quan sát Để xác định mô hình hệ thống từ liệu quan sát ta phải có: - Số liệu vào – - Tập đầu vào tham gia vào mơ hình - Tiêu chí lựa chọn mơ hình Quy trình nhận dạng gồm bước 1) Thu thập số liệu vào – từ hệ thống 2) Khảo sát số liệu Lựa chọn phần có ích số liệu thu được, sử dụng lọc cần 3) Lựa chọn xác định cấu trúc mơ hình 4) Tính tốn mơ hình tốt dạng cấu trúc tìm theo số liệu vào tiêu chí lựa chọn 5) Khảo sát tính mơ hình tìm Nếu mơ hình đủ tốt dùng Ngược lại quay bước để tìm mơ hình khác Có thể phải tìm phương pháp ước lượng khác (bước 4) thu thập thêm số liệu vào – (bước 2) Quy trình nhận dạng hệ thống biểu diễn theo sơ đồ Thơng tin ban đầu Tiến hành thiết kế Dữ liệu Lựa chọn tập mơ hình Chọn tiêu chuẩn phù hợp Tính tốn mơ hình Mơ hình tốt Sai Đúng: chấp nhận mơ hình Hình 2.6: Quy trình nhận dạng hệ thống 2.2.2 Các phương pháp nhận dạng Nhận dạng thông số hệ thống ngoại tuyến (off-line) Trong trình điều khiển đối tượng động lực cần phải giải tốn nhận dạng thơng số mơ hình hệ động lực Hiện có hai hướng mơ tả tốn học đối tượng động lực: - Mơ hình hàm truyền - Mơ hình khơng gian trạng thái Loại mơ hình hàm truyền phù hợp với giai đoạn đầu phát triển lý thuyết điều khiển hướng đến hệ tuyến tính dừng Loại mơ hình khơng gian trạng thái tổng quát hướng đến lớp đối tượng rộng hệ phi tuyến, dừng không dừng Quan điểm không gian trạng thái tỏ hiệu nghiên cứu khoa học thiết kế hệ động lực phức tạp • Bài tốn nhận dạng thơng số off-line Quan sát véc tơ z(t) bao gồm véc tơ trạng thái với nhiễu tác động v(t) đầu vào u(t) sau: Z(t)=h[x(t), u(t), v(t), P2(t), t] (2.6) Ở P2(t) thông số chưa biết hệ thống Véc tơ trạng thái hệ mơ tả phương trình: x (t ) = f [x (t ), u (t ), w (t ), P1 (t ), t ] (2.7) Trong w(t) véc tơ nhiễu tác động từ bên ngồi Cần xác định thơng số mơ hình đảm bảo cực trị tiêu chuẩn nhận dạng Sơ đồ tổng qt có dạng biểu diễn Hình 2.7: Véc tơ thơng số P(t)=[P1(t),P2(t)] chứa hệ số phương trình vi phân, phương trình quan sát đồng thời có đặc trưng thống kê u(t) nhiễu v(t), w(t) v(t) x(t) u(t) w(t) P(t x(t ) = f (⋅) x (t ) ∫ Z = h(⋅) Z(t) x(t) Hình 2.7: Sơ đồ tổng quát nhận dạng thơng số mơ hình 10 N ∑ e (k ) bé (trong trình luyện mạng thơng số w, N k =1 b NN plant giữ cố định, chỉnh định thông số w, b NN controller) Sau huấn luyện xong NN controller ta lắp vào sơ đồ hình 3.2 để điều khiển hệ thống xử lý nước thải mục tiêu J = Sơ đồ huấn luyện điều khiển nơron NN Controller T Mơ hình mẫu P e NN Controller NN Plant Y System Hình 3.1: Sơ đồ huấn luyện điều khiển nơron NN Controller Sau huấn luyện mạng nơron ta tham số điều khiển mạng nơron Bộ tham số tìm theo phương pháp sử dụng mơ hình mẫu Sau ta sử dụng để điều khiển hệ thống xử lý nước thải P e T Mơ hình mẫu NN Controller HT Xử lý nước thải Y Hình 3.2: Sơ đồ hệ thống điều khiển 3.2 Ứng dụng mạng nơron thiết kế điều khiển theo mơ hình mẫu 3.2.1 Mơ hình mạng nơron điều khiển 3.2.2 Mơ hình mẫu hệ thống xử lý nước thải Hàm truyền đạt mơ hình mẫu chọn sau G(s) = 0.001 55S + 18 Mô hình mẫu simulink Phát tín hiệu ngẫu nhiên vào mơ hình mẫu ta thu chuỗi giá trị p, đầu thu chuỗi giá trị t Bộ thông số (p,t) gồm 1000 mẫu dùng để huấn luyện điều khiển nơron Hình 3.5: Mơ hình mẫu Simulink 3.2.3 Chương trình huấn luyện điều khiển nơron - Sau huấn luyện ta có thơng số điều khiển nơ ron: net.iw{1,1} = 1.0e+003 *[-0.4220 1.9542 -1.8371 -0.8361]'; net.lw{1,3} =[-2.1672 0.9400 0.5578 1.9932]'; net.lw{1,5} =[0.2532 -0.4862 -1.1192 0.5167]'; net.b{1} = [2.2229 -0.7450 -0.7357 -2.2132]'; net.b{2} = [-1.8333 0.0276 -1.8474]'; net.lw{2,1} = [0.8660 -0.3013 1.5635 0.4370; -0.4278 0.8825 1.3020 0.8247; -1.3695 0.8132 -0.3626 -0.8475]; net.b{3} = -0.1232; net.lw{3,2} = [0.0442 -0.2783 -0.0546]; Đồ thị sai lệch tín hiệu đầu mơ hình đối tượng với đầu mơ hình mẫu Kết sai lệch nhỏ 19 Hình 3.6: Đồ thị sai lệch tín hiệu đối tượng với mơ hình mẫu 3.3 Kết luận chương Chương nhận dạng mơ hình đối tượng dạng sử dụng mạng nơron áp dụng làm đối tượng để thiết kế điều khiển sử dụng mạng nơron Ứng dụng mạng nơron để thiết kế điều khiển theo mô hình mẫu cho đối tượng động học phi tuyến, thu kết tốt Sai lệch đầu đối tượng thực với đầu mô hình mẫu nhỏ, khơng đáng kể Như vậy, ứng dụng mạng nơron để thiết kế điều khiển theo mơ hình mẫu cho đối tượng động học phi tuyến Từ cấu trúc mạng nơron ta thấy, mạng nơron hệ thống động học phi tuyến Vấn đề lại là: Chọn cấu trúc mạng, phương pháp huấn luyện mạng Trong hệ thống điều khiển ta nên chọn cấu trúc đơn giản tốt, phải đáp ứng yêu cầu công nghệ đặt Trong chương mơ hình mạng nơron đối tượng chọn có cấu trúc hai lớp, với lớp vào có nơ ron, lớp có nơron, có tín hiệu phản hồi thể thông qua khâu trễ Bộ điều khiển chọn có cấu trúc lớp, lớp vào có nơron, lớp ẩn có nơron, lớp có nơron Để tăng độ xác ta tăng số lớp số nơron lớp loại bỏ mẫu học quan sát thấy gây sai số lớn cho mạng 20 CHƯƠNG NGHIÊN CỨU CẢI TIẾN THUẬT TOÁN HỌC CỦA MẠNG NƠRON TRONG BÀI TOÁN NHẬN DẠNG BỂ XỬ LÝ NƯỚC THẢI 4.1 Đặt vấn đề Như ta biết mô hình bể xử lý nước thải mơ hình động học phi tuyến với cấu trúc hồi tiếp từ đầu trở đầu vào đồng thời chịu ảnh hưởng nhiễu thiết bị đo Nếu sử dụng mạng nơron hồi tiếp liên tục phù hợp việc nhận dạng đối tượng Để nâng cao chất lượng ta sử dụng thêm chương trình thuật tốn lọc mẫu bị nhiễu Vì chương tác giả xin trình bày phương pháp huấn luyện mạng nơron hồi tiếp liên tục sử dụng thuật toán lan truyền ngược kỹ thuật loại bỏ mẫu học quan sát thấy gây sai số lớn cho mạng 4.2 Mơ hình mạng nơron nhận dạng bể xử lý nước thải 4.1.1 Mơ hình mạng nơron hồi tiếp liên tục Mơ hình CTRNN xấp xỉ giá trị mong muốn để tạo hệ động học phi tuyến theo hàm sau: ⎧ x = f ( x, u ) ⎨ ⎩ y = g ( x) (4.1) Ta sử dụng mạng nơron có nơron lớp vào, nơron lớp ẩn, nơron lớp Mạng nơron hồi tiếp thời gian liên tục mô tả qua dạng tổng quát sau: ˆ ˆ ⎧ x(t ) = f ( x(t ), u (t ), θ ) ⎪ˆ ⎨ ˆ ⎪ y = Cx(t ) ⎩ˆ Trong đó: u (t ) ∈ nu ˆ tín hiệu vào, y ∈ khơng gian vector, θ ∈ hình sau: nθ nu (4.2) ˆ tín hiệu mạng, x ∈ nx ˆ mạng thông số vector mạng Mạng nơron (4.2) Ta sử dụng mạng nhiều lớp truyền thẳng chọn làm sở để xây dựng mạng nơron hồi tiếp liên tục để mô tả đối tượng động học phi tuyến Để giải hệ phương trình vi phân (4.1) (4.2) ta lấy tích phân xác định Thơng thường để kết xác bước lấy tích phân phải ngắn thời gian lấy mẫu Tuy nhiên ta sử dụng mạng nơron để xấp xỉ mơ hình đối tượng, nên ta xây dựng mạng nơron có khâu tích phân với bước lấy tích phân thời gian lấy mẫu 21 Sau kết hồi tiếp trở đầu vào cách liên tục Tín hiệu kết hợp với đầu vào mẫu để trở thành đầu vào mạng bước 4.1.2 Nhận dạng bể xử lý nước thải Ta thấy mơ hình bể xử lý nước thải có đặc tính hệ động học phi tuyến, để nhận dạng đối tượng ta sử dụng mạng nơron hồi tiếp liên tục Phương pháp luyện mạng phát triển thuật tốn Gradient khơng Bể xử lý nước thải xấp xỉ cách sử dụng mạng nơron nhiều lớp hồi tiếp liên tục (CTRNN) với lớp ẩn hình 4.1: Hình 4.1 Sơ đồ cấu trúc mạng noron Trong Wx ∈ b1 ∈ nh b2 ∈ nx ˆ nh ×nx ˆ , Wu ∈ nh ×nu W2 ∈ nx ×nh ˆ trọng số kết nối, vector bias Hàm kích hoạt sigmoid lưỡng cực σ s (•) ∈ (sigmoid-Tanh, Tansig) sau: σ s ( n) = 4.3 −1 + e −2 n Thuật toán mạng nơron hồi tiếp liên tục 4.3.1 Thuật toán lan truyền ngược 22 (4.3) nh Thuật toán lan truyền ngược cập nhật trọng số mạng mà cần dùng mẫu bất kỳ, Sau cập nhật trọng số xong ta có mạng nơron tính sai số cho tất mẫu học, sai số đạt yêu cầu dừng lại, chưa đạt yêu cầu cập nhật tiếp thêm hữu hạn lần 4.3.2 Thuật toán loại mẫu học bị nhiễu Tác giả xin trình bày phương pháp loại bỏ nhiễu dựa vào cách tính tốn sai số mạng q trình mẫu chọn để thực thuật tốn lan truyền ngược Chương trình loại mẫu bị nhiễu dùng sai số mạng lớn yêu cầu thực hết tất mẫu thực cập nhật trọng số mạng Giả sử số mẫu ban đầu km, với mẫu học thực thuật tốn lan truyền ngược để cập nhật trọng số t lần Như với mẫu ta sai số trung bình cộng t lần lặp Sau dựa vào k giá trị loại mẫu có sai số trung bình cộng lớn sai số mẫu nhỏ p % 4.4 Lập trình huấn luyện mạng nơron hồi tiếp liên tục 4.4.1 Lưu đồ thuật toán huấn luyện mạng 23 Begin Load km mẫu Gán Emin, s,p, tt Gán IW, LW,b2 ban đầu Gán k;E,yy,test Từ (u(k) ; ym(k)) tính y(k) Cập nhật IW LW Test = test +1 ` km Tính E = ∑ Ek km Loại mẫu bị nhiễu Cập nhật lại mẫu Lưu E(k,t) E≤Emin tt ≤ t k = k+1 Tính Ek Tìm Ekmin km≤ k Huấn luyện thành công Testm ≤ test Lưu thông số mạng nơron Load mẫu thử nghiệm Tính sai số Vẽ đồ thị ym, y, et End Hình 4.3: Lưu đồ thuật tốn chương trình huấn luyện mạng nơron 24 4.4.1 Chương trình huấn luyện mạng Chương trình lập trình cửa sổ M-file Bộ mẫu số liệu tạo Simulink 4.5 Kết mô nhận xét 4.5.1 Kết luyện mạng với thuật toán Kết hệ chưa có nhiễu tác động tín hiệu mẫu số ngẫu nhiên Sai số trình luyện mạng: E_end = 5.9367e-009 Hình 4.5: Màu đỏ : Tín hiệu sai lệch e(t)=ym-y Màu xanh: Tín hiệu ym ; Màu đen tín hiệu y Nhận xét: - Ta thấy tín hiệu mạng bám theo tín hiệu mẫu với sai số e khoảng ±2.10-4 Vậy hệ thống có khả nhận dạng với độ xác cao - Ta thấy dạng đồ thị simulink chương trình giống Điều khẳng định tính đắn chương trình vẽ đồ thị từ phép tính mạng nơron Kết kết mạng hệ tín hiệu vào hàm hình sin 25 Hình 4.10: Màu đỏ : Tín hiệu sai lệch e(t)=ym-y Màu xanh: Tín hiệu ym ; Màu đen tín hiệu y 4.5.2 Kiểm chứng khả loại mẫu học bị nhiễu Nếu thực chương trình loại nhiễu sử dụng 1000 mẫu học thời gian tính tốn lớn ta thực chương trình với 500 mẫu học Khơng tính tổng quát ta giả sử tín hiệu nhiễu tác động vào mơ hình simulink đầu sau Hình 4.11: Mơ hình mẫu có nhiễu tác động hàm step 26 Hình 4.12: Tín hiệu đầu mẫu ym có nhiễu tác động từ 10 -30 s Khi chưa có chương trình loại mẫu bị nhiễu Hình 4.13: Tín hiệu đầu mẫu ym có nhiễu tác động từ 10 -30 s Nhận xét: - Ta thấy dạng đồ thị với tín hiệu ym bị bột biến thi bắt đầu có nhiễu tác động vào kết thúc nhiễu Nhưng tín hiệu đầu mạng nơron CTRNN không bị biến động theo mẫu, Nói hệ có khả chống nhiễu, tức mạng học tri thức mơ hình mẫu 27 - Tại thời điểm mẫu bị ảnh hưởng nhiễu sai số lớn, đánh giá kết sai số mạng cho toàn mẫu học lớn Ta loại bỏ mẫu Khi có chương trình loại mẫu bị nhiễu Hình 4.14: Số lượng mẫu học cịn lại 193/500 mẫu Hình 4.15: Khi tăng số số lần lặp số mẫu học cịn 188/500 mẫu Kết chạy chương trình huấn luyện mạng sau: Sai số nhỏ tồn q trình học: Emin = 1.2013e-008 28 Nhận xét: Chương trình loại bỏ mẫu học gây sai số lớn, giảm trình sai số mạng tác động nhiễu đo lường Điều khẳng định chương trình luyện mạng cho dù có tác động nhiễu Bộ trọng số mạng chưa có nhiễu tác động có nhiễu tác động khơng có thay đổi đáng kể 4.6 Kết luận chương - Xây dựng cấu trúc mạng nơron hồi tiếp liên tục để nhận dạng bể xử lý nước thải Mạng CTRNN hồn tồn phù hợp với cấu trúc mơ hình đối tượng động học phi tuyến - Lập chương trình huấn luyện mạng theo thuật tốn lan truyền ngược kỹ thuật loại bỏ mẫu học bị nhiễu Kết kiểm chứng qua tín hiệu ngẫu nhiên, tín hiệu sin - Khi có ảnh hưởng nhiễu mạng giữ đặc tính Khi có chương trình loại nhiễu làm giảm sai số mạng KẾT LUẬN Luận văn đạt nội dung sau: Đã nghiên cứu tổng quan mạng nơron ứng dụng để có nhìn tổng qt cấu trúc, luật học việc ứng dụng mạng nơron nhận dạng điều khiển Bằng phương pháp phân tích, so sánh cấu trúc, luật học khả ứng dụng thực tiễn loại mạng nơron, luận văn chọn mạng hồi tiếp với hàm phi tuyến để nhận dạng điều khiển đối tượng có tính động học phi tuyến Kết viết chương trình dùng hàm Matlab để nhận dạng điều khiển đối tượng bể xử lý nước thải Để việc huấn luyện mạng hiệu ta chủ động quy trình huấn luyện mạng Tác giả viết chương trình huấn luyện mạng hồi tiếp thời gian liên tục để nhận dạng đối tượng động học phi tuyến kết kiểm chứng tín hiệu vào khác mạng đạt dc sai số nhỏ khoảng ±2.10-4 29 Mạng có khả lọc mẫu học quan sát nhiễu để giảm sai số trình huấn luyện mạng Ý nghĩa thực tiễn phương pháp lớn loại mẫu học bị sai số trình đo lường truyền dẫn tín hiệu TÀI LIỆU THAM KHẢO Tiếng Việt: [1] Nguyễn Hữu Cơng Giáo trình nhận dạng hệ thống điều khiển [2] Bùi Cơng Cường, Nguyến Dỗn Phước Hệ mờ, mạng nơron ứng dụng Nhà xuất Khoa học kỹ thuật Hà Nội 2001 [3] Nguyễn Quang Hoan Ổn định mạng nơron Hopfield bậc cao khả ứng dụng điều khiển Robot Luận án phó tiến sĩ khoa học kỹ thuật, viện Công nghệ thông tin Hà Nội, 1996 [4] Nguyễn Quang Hoan Một số mơ hình luật điều khiển mạng nơron dùng điều khiển Hội nghị toàn quốc lần thứ Tự động hóa Hà Nội, 20-22/4/1994 [5] Nguyến Dỗn Phước, Phan Xuân Minh Nhận dạng hệ thống điều khiển Nhà xuất Khoa học kỹ thuật Hà Nội 2001 [6] Nguyễn Doãn Phước, Phan Xuân Minh Hệ phi tuyến Nhà xuất Khoa học kỹ thuật Hà Nội 2000 [7] Lê Minh Trung Giáo trình mạng nơron nhân tạo Nhà xuất thống kê 1999 [8] Nguyễn Mạnh Tùng Nghiên cứu ứng dụng mạng nơron nhân tạo cho toán đo lường Luận án tiến sĩ kỹ thuật, trường đại học Bách Khoa Hà Nội, 2003 [9] Đỗ Trung Hải (2008), “Ứng dụng lý thuyết mờ mạng nơron để điều khiển hệ chuyển động”, luận án tiến sỹ kỹ thuật, Đại học Bách Khoa Hà Nội [10] Vũ Thanh Du , “Nghiên cứu ứng dụng mạng nơron nhận dạng điều khiển đối tượng phi tuyến” 30 Tiếng Anh: [11] M.Norgaard, O.Ravn, N.K Poulsen and L.K Hansen Neural Network for Modelling and Control of Dynamic System Springer 2000 [12] Kumpati S Narendra fellow, IEEE, and Kannan parthasarathy Identification and control of Dynamical Systems Using Neural Networks [13] Jaroslava Žilková, Jaroslav Timko, Peter Girovský, “Nonlinear System Control Using Neural Networks”, Department of Electrical Drives and Mechatronic, Technical University of Kosice, Hungary [14] Maciej Lawrynczuk (2010), “Training or neural models for predictive control”, Insitute of control and computation Engineering, Faculty of Electronics and Information Technology, Warsaw University of Technology, ul Nowowiejska 15/19, 00-665 Warsaw, Poland, Neurocomputing 73 [15] R.K Al Seyab, Y Cao (2007) * “Nonlinear system identification for predictive control using continuous time recurrent neural networks and automatic differentiation”, School of Engineering, Cranfield University, College Road, Cranfield, Bedford MK43 0AL, UK Received 11 , sciencedirect Journal of Process Control 18 31 32 ... quan việc ứng dụng mạng nơron nhận dạng điều khiển đối tượng động học phi tuyến Chương 2: Nhận dạng đối tượng động học phi tuyến sử dụng mạng nơron Chương 3: Ứng dụng mạng nơron để điều khiển bể... cứu cho số đối tượng động học phi tuyến Căn vào nhận xét, đánh giá trên, chọn đề tài: ? ?Nghiên cứu ứng dụng mạng nơron nhận dạng điều khiển đối tượng động học phi tuyến? ?? Kết cấu luận văn gồm: Mở... vào mạng nơron có tính chất động học tuyến tính Mạng nơron phi tuyến tĩnh: Quan hệ vào mạng có tính chất phi tuyến tĩnh Mạng nơron động học phi tuyến: Quan hệ vào mạng có tính chất động học phi