ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Chương 1 LÝ THUYẾT LIÊN QUAN I . GIỚI THIỆU MẠNG NEURON: I.1. MẠNG NEURON NHÂN TẠO: Mạng neuron nhân tạo(ANN: artificial neuron networks)là mạng được xây dựng bằng cách sao chép lại các nguyên lý tổ chức của hệ neuron của con người.Bộ óc của con người là một hệ neuron gồm có 10 10 đến 10 12 neuron được tổ chức có cấu trúc vào khoảng 200 mô hình khác nhau dưới dạng nhiều lớp. Hình 1.cấu trúc cơ bản của một neuron Cấu trúc cơ bản của một neuron của hệ neuron con người gồm:các đầu vào(dendrite),thân neuron(soma)và đầu ra(axon).Mỗi neuron có nhiều đầu vào và chỉ một đầu ra.thân neuron là phần tử xử lý có chức năng thu nhận tất cả các thông tin đến từ các đầu vào,tính toán và đưa ra quyết định ở ngõ ra để gởi thông tin đến các neuron khác.SYNAP là khớp nối giữa đầu vào của neuron này với đầu ra của neuron khác. Tín hiệu điện áp được truyền từ neuron này sang neuron khác.tín hiệu điện áp dương được coi như là tín hiệu kích động(excitory)để kích động neuron gởi tín hiệu đến các neuron khác và điện áp âm được xem như là tín hiệu ức chế(inhibitory)để ức chế neuron gởi tín hiệu đến nhiều neuron khác.điện áp không thì không có tín hiệu kết nối giữa hai neuron. SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 1 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Đối với hệ neuron con người có cấu trúc cơ bản gồm :lớp neuron đầu vào(lớp này được kết nối với các phần tử cảm biến như miệng ,mắt, mũi ,tai và da),các lớp neuron ẩn và lớp neuron đầu ra(lớp này được kết nối với các phần tử cơ như tay ,chân). Cường độ kết nối SYNAP xác định lượng tín hiệu truyền đến đầu vào và giá trị cường độ synap được gọi là trọng số. Người ta dùng mạng neuron nhân tạo để giải quyết các bài toán trong kỹ thuật(mục tiêu là mô phỏng hoạt động của não người) Để xây dựng một mạng neuron nhân tạo giống như hệ neuron con người,vào năm 1943 Mc.culloch và Pitts đề ra cấu trúc cơ bản của một neuron thứ I trong mô hình của mạng neuron nhân tạo. Trong đó:x j (k):tín hiệu vào thứ j ở thời điểm k Y i (k):tín hiệu ra thứ I ở thời điểm k W ij :trọng số trên tín hiệu vào thứ j Ф i : ngưỡng tác động của neuron i F: hàm tích hợp A(.) :hàm tác động W ij biểu diễn cường độ kết nối giữa neuron thứ j và neuron thứ i.w ij >0 tương ứng với tín hiệu tác động,w ij <0 tương ứng với tín hiệu ức chế và w ij =0 thí không có sự kết hợp giữa hai neuron. SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 2 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON I.2.CÁC THÀNH PHẦN CƠ BẢN CỦA MẠNG NEURON NHÂN TẠO Mạng neuron nhân tạo được đặc trưng bởi 3 yếu tố:phần tử xử lý,cấu trúc và ghép nối của các phần tử xử lý,phương pháp huấn luyện để cập nhập các trọng số w ij. I.2.1.Phần tử xử lý Mỗi phần tử xử lý có nhiều đầu vào và một đầu ra.hàm tổng hợp f i có chức năng tổng hợp tất cả các thông tin từ ngõ vào.hàm tác động a(f) tạo tín hiệu ra X j :tín hiệu đầu vào phần tử xử lý thứ i W ij : trọng số để kết nối giữa x j và phần tử xử lý thứ i Ф i : giá trị ngưỡng của phần tử xử lý thứ i F i : hàm tích hợp Một số dạng thông dụng của hàm tích hợp: Hàm tích hợp tuyến tính Hàm tích hợp phi tuyến toàn phương Một số dạng thông dụng của hàm tác động: Hàm bước nhảy đơn vị: Hàm dấu : Hàm dốc : Hàm tuyến tính : Hàm sigmoid đơn cực : SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 3 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Hàm sigmoid lưỡng cực : Hình 2.đồ thị một số hàm tác động A)hàm bước nhảy B)hàm dấu C)hàm dốc D)hàm tuyến tính E)hàm sigmoid đơn cực F)hàm sigmoid lưỡng cực I.2.2.Cấu trúc và ghép nối của các phần tử xử lý Mô hình ghép nối của các mạng neuron nhân tạo có thể chia ra làm 2 loại:Mạng truyền thẳng(feedforward network) và mạng hồi tiếp(feedback network) Mạng truyền thẳng là mạng được xây dựng bằng cách đầu ra của neuron của lớp đứng trước chính là đầu vào của các neuron đứng sau nó.Mạng truyền thẳng có mạng truyền một lớp và mạng truyền thẳng nhiều lớp. Mạng hồi tiếp là mạng được xây dựng khi các đầu ra được định hướng lùi về làm các đầu vào cho các neuron ở cùng lớp hoặc các lớp đứng trước nó.mạng hồi tiếp trở thành mạng hồi qui(recurrent network) khi các đầu ra của lớp neuron ra là các đầu vào của lớp neuron vào(hay còn gọi là mạng hồi qui vòng kín) SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 4 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Hình 3.các cấu trúc của mạng neuron A.mạng truyền thẳng một lớp B.mạng truyền thẳng nhiều lớp C.nút đơn hồi tiếp D.mạng hồi quy nhiều lớp I.2.3.Huấn luyện mạng neuron Yếu tố quan trọng thứ ba của các mạng neuron là huấn luyện mạng(trainning)hay còn gọi việc học(learning)cho các mạng sử dụng các luật học khác nhau.có hai cách học trong các mạng neuron:học thông số(parameter learning) và học cấu trúc(structure learning).học thông số là phương pháp học bằng cách cập nhật các trọng số,còn học cấu trúc là phương pháp học bằng cách thay bên trong cấu trúc mạng bao gồm các phần tử xử lý và các kiểu kết nối mạng. Giả sử có một mạng neuron có n phần tử xử lý và mỗi phần tử xử lý có m trọng số thích nghi Ma trận trong số w được xác định: Trong đó: w i =(w i1, w i2 ,….,w im ) T ,i = 1,2,….n. W ij là trọng số ngõ vào thứ j của neuron thứi Ma trận W chứa các phần tử thích nghi,học thông số là cập nhật ma trận trọng số W sao cho xấp xỉ với ma trận trọng số mong muốn của mạng.một cách tổng quát,học thông số có thể chia ra làm ba chế độ học:Học có giám sát ,Học tăng cường và Học không có giám sát. • Học có giám sát(supervised learning) SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 5 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Hình 4.học có giám sát Trong cách học có giám sát,mạng neuron được cung cấp với một dãy các cặp đầu vào ra mong muốn(x(1),d(1);x(2),d(2);… ;x(k),d(k)). Khi mỗi đầu vào x(k) đặt vào mạng tại thời điểm k thì đầu ra mong muốn tương ứng d(k) cũng được cung cấp đến mạng.sai lệch giữa đầu ra thật sự y(k) và đầu ra mong muốn d(k) được giám sát trong bộ tín hiệu lỗi(error signal generator).Mạng dựa vào tín hiệu lỗi (error signal) để điều chỉnh các trọng số sao cho tín hiệu đầu ra thật sự y(k) tiến gần đến tín hiệu đầu ra mong d(k). Hình 5.học tăng cường Trong một vài tình huống nào đó,mạng được cung cấp các mẫu đầu vào nhưng không được cung cấp rõ rang các mẫu đầu r among muốn(chẳng hạn như mạng chỉ được cho biết đầu ra thật sự hiện có của nó là quá trình cao hoặc chỉ đúng 50%).trong trường này SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 6 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON thì chỉ có một thông tin hồi tiếp chỉ định đầu ra của mạng là đúng hay sai.Học tăng cường là một dạng học có giám sát. Trong cách học này,không có bất kỳ một thông tin hồi tiếp nào.mạng chỉ được cung cấp các mẫu đầu vào không có thông tin hồi tiếp,mạng tự điều chỉnh các trọng số bằng cách sử dụng các mẫu đầu ra thật sự của mạng. Hình 6.học không có giám sát Bây giờ chúng ta khảo sát một cấu trúc huấn luyện mạng tổng quát cho một phần tử xử lý thứ I trong một mạng neuron được mô tả trong hình 2.8 Hình 7.luật học các trọng số Luật học các trọng số SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 7 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Nếu học có giám sát : r = d i – y i là tín hiệu sai lệch Nếu học tăng cừong : r = d i là tín hiệu tăng cường Nếu học không có giám sát : r = y i là tín hiệu ra thực sự Với các hàm f r (w i (k),x(k),d i (k))khác nhau thì có luật học khác nhau Luật học của Hebbian không có tín hiệu ra mong muốn d i (k)nên phương pháp học của Hebbian là phương pháp học không giám sát. I.3.phân loại mạng neuron Phân loại theo cấu trúc liên kết gồm có mạng truyền thẳng và mạng hồi tiếp. Phân loại theo số lớp gồm có mạng đơn và mạng đa lớp. Phân loại theo phương pháp học gồm có học có giám sát ,học tăng cường và học không có giám sát. I.4.một số mạng neuron thường gặp Mạng perceptron một lớp (trình bày 2.2),mạng truyền thẳng nhiều lớp(trình bày 2.3),mạng RBF(Radial Basis Function Network),mạng Hopfield và mạng Kohonen.mạng RBF được Broomhed và Lpwe đưa ra vào năm 1988 và ngày càng chứng tỏ hiệu quả trong việc giải các bài toán thực tế. SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 8 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Hình 8.mạng radial basic Mạng hopfield là mạng hồi tiếp một lớp với các đặc tính: Mỗi nút có một tín hiệu vào từ bên ngoài(external input) x i và một ngưỡng Ф i .không có tự hồi tiếp w ij =0, . đối xứng w ij =w ji Luật cập nhật của mỗi nút: Cập nhật không đồng bộ nghĩa là mỗi thời điểm chỉ cập nhật một nút.mạng Hopfield hiệu quả trong các bài toán tối ưu hóa tổ hợp. Hình 9.mạng hopfied ba nút Mạng Kohonen là mạng truyền thẳng không có giám sát dung các neuron thích nghi để nhận các tín hiệu từ không gian sự kiện.Ý tưởng chính trong mạng Kohonen là tạo ra một hệ thống tự sửa đổi sao cho các neuron gần nhau đáp ứng tương tự như nhau.khi SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 9 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON một neuron đáp ứng tốt với một tín hiệu vào,neuron này và các neuron kế cận với nó sẽ có các trọng số thay đổi sao cho tất cả đều đáp ứng giống như neuron có đáp ứng tốt nhất. I.5.MẠNG PERCEPTRON MỘT LỚP Hình 10. mạng perceptron một lớp với m-1 tín hiệu vào và n tín hiệu ra Trong đó: x j (k) là tín hiệu vào,j=1,2… ,m(x m = -1) W ij là trọng số trên nhánh vào thứ j của neuron thứ i W im ,i=1,2,….n là các ngưỡng tác động của các neuron Y i (k) là tín hiệu ra thực của neuron thứ i a(.) là hàm tác động d i (k) là tín hiệu ra mong muốn của neuron thứ i {x(k),d(k),k=1,2,….p}là p mẫu huấn luyện mạng neuron sao cho y i (k) =d i (k),k=1,2,….p. I.5.1 MẠNG TRUYỀN THẲNG NHIỀU LỚP Định nghĩa hàm Squashing:Hàm a(f):R→[0,1] (hoặc R→[-1,1])được gọi là hàm squashing nếu a(f) không giảm khi f tăng, a(-∞)=0 (hoặc a(-∞)= -1) và a(+∞)=1. SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 10 [...]... Điện tử viễn thông, hệ thống điện, công nghệ thông tin, y học, quân sự, tài chính, trí tuệ nhân tạo… ) Ví dụ như trong kỹ thuật điều khiển, mạng neuron được ứng dụng để nhận dạng, dự báo và điều khiển hệ thống tự động.Trong điện tử viễn thông mạng neuron được ứng dụng để xử SV: HUỲNH LƯƠNG HIỆP TRANG 18 GVHD: ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON ảnh, nhận dạng ảnh, nhận... layer) Lớp neuron đầu vào của mạng có m đầu vào trong đó x 1… ,xi ,xm.lớp neuron ẩn có r phần tử xử lý với các đầu ra,đó là z 1….,zq… ,zr.và lớp neuron đầu ra của mạng có n phần tử xử lý với n đầu ra,đó là y1….,yi….,yn.trọng số kết nối giữa đầu vào thứ j của lớp neuron đầu SV: HUỲNH LƯƠNG HIỆP TRANG 11 GVHD: ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON vào với phần tử xử lý thứ... chất lượng của điều khiển theo phương pháp phản hồi tuyến tính trong kỹ thuật điều khiển nói chung hay trong điều khiển robot nói riêng đã có nhiều nghiên cứu được đề xuất chủ yếu tập trung vào việc tính toán một cách chính xác và SV: HUỲNH LƯƠNG HIỆP TRANG 26 GVHD: ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON nhanh chóng các giá trị ước lượng và các hệ số của bộ điều khiển Thuật... 1970 tại trường Mary Queen, London-Anh, E.Mandani đã dùng logic mờ để điều khiển máy hơi nước mà ông không thể điều khiển được bằng lý thuyết SV: HUỲNH LƯƠNG HIỆP TRANG 30 GVHD: ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON kinh điển Tại Nhật, logic mờ được ứng dụng vào nhà máy xử lí nước của Fuji Electronic năm 1983, hệ thống xe điện ngầm của Hitachi vào năm 1987 Lý thuyết mờ ra... ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Mục đích của bài toán điều khiển là tìm momen tác động lên các khớp của robot để robot chuyển động đến vị trí mong muốn thỏa mãn các yêu cầu của quá trình điều khiển sai số của mô hình robot ,sự thay đổi các tham số của robot ,vị trí và đạo hàm của tín hiệu phản hồi được dùng để tính toán chính xác tín hiệu điều khiển tác động lên robot.do... với 150 phần tử của vecto ma trận pixel ,lớp ẩn có 250 neuron và lớp ra có 16 neuron tương ứng với 16 bit nhị phân của giá trị Unicode của các ký tự SV: HUỲNH LƯƠNG HIỆP TRANG 20 GVHD: ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON ` Hình 13 .Mạng MLP trong nhận dạng ký tự quang Quá trình huấn luyện mạng: Quá trình huấn luyện mạng là quá trình sinh học với các tập mẫu để điều chỉnh... ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON *Với liên kết giữa neuron vào và neuron ẩn: Sau khi hiệu chỉnh trọng số ,mẫu X s tiếp tục được đưa vào mạng lần (l+1) và tiếp tục thuật toán hiệu chỉnh trọng số cho đến khi E < ε cho trước hoặc số vòng lặp đạt đến mức định trước Mẫu tiếp theo được đưa vào mạng và quá trình huấn luyện lặp lại như trên cho đến khi mạng học thuộc tất cả các mẫu.lưu cấu hình mạng. .. ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Tiền xử lý dữ liệu : Thông thường tập dữ liệu thu thập được cần phải xử lý để đảm bảo các yêu cầu :Dữ liệu mẫu phân bố đồng đều ,đủ đại diện cho tất cả các dạng trong một phân hoạch không gian nào đó,Dữ liệu được thu gọn trong mô hình mạng neuron phù hợp Lựa chọn mô hình mạng neuron : Tùy theo bản chất xử lý dữ liệu của bài toán mà ta lựa chọn mạng neuron. .. ,tại lớp ẩn là hàm sigmoid lưỡng cực và của nơron tại lớp ra là hàm dấu bão hòa Hệ thống điều khiển robot trong trường này có sơ đồ cấu trúc như sau: SV: HUỲNH LƯƠNG HIỆP TRANG 29 GVHD: ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Bộ điều khiển tính momen sử dụng ANN và thuật học Gas Cấu trúc mạng noron được biểu diễn như sau: Hình 14.Cấu trúc ANN và thuật học Gas III.GIỚI THIỆU... bằng mạng neuron bao gồm các bước được mô tả như hình sau: SV: HUỲNH LƯƠNG HIỆP TRANG 19 GVHD: ThS.VŨ THỊ HỒNG NGA ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Hình 12.Các bước trong nhận dạng ký tự dùng mạng neuron +thu nhận ảnh ảnh văn bản , tài liệu có thể được thu nhận bằng máy quét scanner,webcam,hoặc các thiết bị thu nhận ảnh thông dụng khác +phân tích ảnh để tìm ký tự quá trình phân tích ảnh . ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Chương 1 LÝ THUYẾT LIÊN QUAN I . GIỚI THIỆU MẠNG NEURON: I.1. MẠNG NEURON NHÂN TẠO: Mạng neuron nhân tạo(ANN: artificial neuron networks)là mạng. hợp giữa hai neuron. SV: HUỲNH LƯƠNG HIỆP TRANG GVHD: ThS.VŨ THỊ HỒNG NGA 2 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON I.2.CÁC THÀNH PHẦN CƠ BẢN CỦA MẠNG NEURON NHÂN TẠO Mạng neuron nhân. HỒNG NGA 4 ĐỒ ÁN ĐIỀU KHIỂN CÁNH TAY MÁY DÙNG MẠNG NEURON Hình 3.các cấu trúc của mạng neuron A .mạng truyền thẳng một lớp B .mạng truyền thẳng nhiều lớp C.nút đơn hồi tiếp D .mạng hồi quy nhiều