Đại học Quốc Gia Thành Phố Hồ Chí Minh Đại học Công Nghệ Thông Tin Khoa Khoa học máy nh Môn:HỆ HỖ TRỢ QUYẾT ĐỊNH Đề tài thu hoạch: Ứng dụng Neuron &thuật giải di truyền trong hệ thống ra quyết định điều khiển xe tự hành    !"# Mục lục $%&'()*  %+!,2 Lời nói đầu Ứng dụng Công nghệ thông tin trong điều khiển ra quyết định một cách tự động ngày càng được nghiên cứu và áp dụng ngày càng mạnh mẽ; các thuật toán, hệ thống trí tuệ nhân tạo ngày được ứng dụng nhiều hơn trong việc hỗ trợ quyết định. Xu hướng xây dựng áp dụng các hệ thống trí tuệ nhân tạo nói chung mạng neuron cũng như thuật toán di truyền nói riêng đang phát triển ngày một lớn mạnh trên toàn thế giới. Các hệ thống nhân tạo này giúp con người xử lí được các vấn đề thường gặp cũng như gia tang được năng suất lao động của con người, hỗ trợ con người đưa ra các quyết định trong quá trình thực hiện công việc cũng như duy trì sự sống. Mục tiêu của bài thu hoạch đó là việc tìm hiểu cách thức hoạt động cũng như mô hình vận hành của hệ thống mạng neuron nhân tạo và thuật giải di truyền, để từ đó có thể áp dụng thuật giải di truyền huấn luyện mạng neuron trong môi trường không có trước các dữ liệu mẫu. Mục tiêu chính đó chính là xây dựng hệ thống điều khiển đưa quyết định để giúp xe có thể tự hành hoàn thành lộ trình đường đi. $%&'()*  %+!,3 Mục đích nghiên cứu - Tìm hiểu về mạng neuron và ứng dụng. - Tìm hiểu về thuật giải di truyền và ứng dụng. - Kết hợp Mạng neuron và thuật giải di truyền trong quá trình xây dựng hệ thống hỗ trợ quyết định Nội dung nghiên cứu: - Mạng Neural. - Thuật giải di truyền - Ứng dụng thuật giải di truyền để huấn luyện mạng Neuron Bố cục báo cáo: - Chương I: Tổng quan mạng Neuron - Chương II: Tổng quan thuật giải di truyền - Chương III: Xây dựng , áp dụng mạng Neuron sử dụng thuật giải di truyền để giải quyết bài toán ra quyết định điều khiển phương tiện giao thông - Chương IV: Một số tài liệu tham khảo $%&'()*  %+!,4 I. Mạng Neuron nhân tạo A. Mạng Neuron sinh học Trước khi đề cập sâu hơn về mạng Neuron nhân tạo, mạng Neuron sinh học sẽ được nêu ra ở đây để làm cơ sở so sánh với mạng Neuron nhân tạo. Mạng Neuron sinh học được cấu thành bởi các neuron - là các tế bào não hay các tế bào thần kinh. Mỗi neuron như vậy có ba thành phân chính : dendrite, soma và axon. Ba thành phần này là ba yếu tố được mô phỏng lại trong mạng Neuron nhân tạo. Các dendrite là các đầu tiếp nhận các xung điện đầu vào từ những neuron khác. Các xung điện này sau đó được chuyển đến soma - phần thân của tế bào - để xử lý. Axon là đầu ra của các neuron, nó truyền đi xung điện đã được xử lý tại soma đến các neuron khác thông qua các điểm nối (synaptic gap). Một mạng Neuron sinh học bao gồm nhiều neuron như vậy nối với nhau thông qua các điểm nối, đầu ra (axon) của neuron này sẽ được nối với đầu vào (dendrite) của neuron khác. Một neuron có nhiều đầu vào và nhiều đầu ra. Hình 1. Một neuron sinh học $%&'()*  %+!,5 B. Mạng Neuron nhân tạo Mạng Neuron nhân tạo là một hệ thống xử lý thông tin có những đặc điểm gần giống với mạng Neuron sinh học. Mạng Neuron nhân tạo được xây dựng dựa trên các mô hình toán học mô phỏng hoạt động của những yếu tố chính trong mạng Neuron sinh học (dendrite, soma, axon). Hoạt động của mạng Neuron nhân tạo có những tính chất sau: − Quá trình xử lý thông tin xảy ra tại mỗi đơn vị của mạng, gọi là neuron. − Các neuron được liên kết với nhau. − Mỗi liên kết của các neuron đều có một trọng số. Trọng số này đặc trưng cho bài toán được biểu diễn bởi mạng. Khi nhận được thông tin đầu vào, các đầu vào sẽ được nhân với các trọng số tương ứng, sau đó được cộng lại để cho một giá trị gọi là net. − Mỗi neuron đều có một hàm kích hoạt (activation function), hàm này có chức năng tính toán đầu ra cho neuron dựa vào giá trị net đã nêu ở trên. Đặc trưng của một mạng Neuron nhân tạo bao gồm: − Mô hình kết nối giữa các neuron trong mạng với nhau hay còn gọi là kiến trúc của mạng. − Cách thức xác định trọng số của các liên kết trong mạng. − Hàm kích hoạt của các neuron. Mạng Neuron nhân tạo được ứng dụng để giải quyết nhiều lớp bài toán : lưu trữ và phục hồi trạng thái của mẫu, phân lớp mẫu, tìm ánh xạ giữa đầu vào và đầu ra, gom nhóm các mẫu giống nhau hoặc dùng để giải quyết các bài toán về tối ưu có ràng buộc. Mỗi neuron trong mạng có một đặc trưng là hàm kích hoạt. Hàm này tính toán đầu ra từ các thông tin đầu vào một cách gián tiếp thông qua giá trị net. Tại mỗi thời điểm nhất định, mỗi neuron chỉ có thể có một đầu ra, tuy nhiên, đầu ra này có thể được gửi đến nhiều neuron khác. Cách thức hoạt động của một neuron như sau: $%&'()*  %+!,6 − Tính toán giá trị net là tổng các tích giữa các đầu vào và trọng số tương ứng. − Áp dụng hàm kích hoạt để tìm giá trị đầu ra. Để cho thuận tiện, ta sẽ sử dụng mạng Neuron thay cho mạng Neuron nhân tạo, neuron thay cho neuron nhân tạo trong suốt bài báo cáo này. Hình 2. Một neuron nhân tạo C. Những lĩnh vực ứng dụng của mạng Neuron nhân tạo Trong hơn 70 năm qua, việc nghiên cứu mạng Neuron đã được tiến hành song song giữa lý thuyết và cả ứng dụng. Ngày nay, mạng Neuron là một trong những mô hình tính toán được sử dụng phổ biến trong nhiều lĩnh vực khác nhau : thương mại, xử lý tín hiệu số, điều khiển, y học, … Phối hợp với nhiều ngành nghiên cứu khác, mạng Neuron đã mang lại nhiều kết quả đáng kể. 1. Xử lý tín hiệu Có rất nhiều ứng dụng xử lý tín hiệu có áp dụng mạng neuron mà một trong những ứng dụng đầu tiên chính là giảm thiểu nhiễu tín hiệu trên đường dây điện thoại. Khi triển khai các đường dây điện thoại đường dài, hiện tượng nhiễu tín hiệu xảy ra với độ nhiễu lớn, khiến cho chất lượng cuộc gọi giảm đi. Người ta muốn độ nhiễu tại điểm đầu cuối thấp nhất nên phải tiến hành khử nhiễu tại trạm tín hiệu cuối. Để khử nhiễu này, người ta $%&'()*  %+!,7 dùng mô hình mạng ADALINE và huấn luyện nó để có thể loại bỏ các nhiễu từ tín hiệu nhận được. 2. Điều khiển Một trong những ứng dụng của mạng Neuron trong điều khiển đó là điểu khiển việc nối đầu kéo của xe tải với khung tải hàng. Đối với những tài xế có nhiều kinh nghiệm thì việc này không có gì khó khăn, nhưng đây là một vấn đề tương đối khó giải quyết đối với những người lái xe thông thường. Mạng Neuron được huấn luyện để học cách điều khiển đầu kéo sao cho vào đúng vị trí với khớp nối giữa đầu kéo và khung tải. Bên cạnh đó, mạng neuron còn được sử dụng trong những hệ thống lái xe tự động. ALVINN là một trong những dự án loại này, xe được trang bị một camera để thu tín hiệu đầu vào là khung cảnh trước mắt của xe. Đầu tiên là việc huấn luyện, có một người lái xe sẽ lái trên những đoạn đường khác nhau để giúp cho mạng học được các tình huống xử lý khác nhau. Sau khi huấn luyện xong, xe có khả năng chạy trên các đoạn đường khác nhau và xử lý rất tốt trong các tình huống qua ngã rẽ hoặc đường có nhiều làn xe khác nhau. 3. Nhận dạng mẫu Nhận dạng mẫu là một trong những lĩnh vực thu hút được nhiều sự quan tâm của giới khoa học nhất bởi có nhiều bài toán khó chưa được giải quyết trọn vẹn. Một nhánh độc lập của lĩnh vực này có liên quan mật thiết đến mạng Neuron chính là nhận dạng chữ viết tay (kí tự chữ hoặc số). Đây là một bài toán khó bởi vì các mẫu chữ viết khác nhau ở kích cỡ, vị trí cũng như cách viết của từng người và những phương pháp truyền thống không có khả năng giải quyết được. Để có thể tìm ra được giải pháp cho bài toán trên, người ta sử dụng mạng lan truyền ngược và sau này là mạng neocognitron. 4. Y học Mạng Neuron đã được sử dụng trong việc xác định toa thuốc cho bệnh nhân. Trong giải pháp này, mạng được dùng như một phương pháp lưu trữ các mẫu toa thuốc có sẵn với triệu chứng, chẩn đoán, các loại thuốc, các chỉ định, … Với một triệu chứng và chẩn đoán được đưa vào, mạng sẽ trả về toa thuốc tương ứng và thông dụng nhất đối với $%&'()*  %+!,8 các triệu chứng và chẩn đoán đó. Dù cấu trúc mạng rất đơn giản nhưng đã tỏ ra rất hiệu quả khi giải quyết bài toán kê toa thuốc. 5. Mô phỏng và nhận dạng giọng nói Để làm cho máy tính nói được tiếng Anh là một việc rất khó, bởi vì cách nhấn âm, lên - xuống giọng phụ thuộc rất nhiều vào ngữ cảnh của câu. Phương thức truyền thống để giải quyết vấn đề trên là sử dụng cấu trúc lưu trữ lại tất cả từ vựng và các quy tắc trong việc nói tiếng Anh kèm theo các bảng tra những trường hợp bất quy tắc. Phương pháp này có hiệu suất không cao và thường rất chậm. Mô hình phát âm tiếng Anh đầu tiên sử dụng mạng Neuron được công bố là NETtalk của Sejnowski và Rosenberg. Thay vì sử dụng cấu trúc lưu trữ từ vựng, những quy tắc và bảng tra bất quy tắc thì NETtalk chỉ yêu cầu một tập dữ liệu mẫu bao gồm các trường hợp phát âm. Sau khi được huấn luyện trêntập các trường hợp mẫu này, máy có khả năng phát âm những từ mới với tỉ lệ sai rất thấp. 6. Thương mại Mạng Neuron đã được ứng dụng trong thương mại để trợ giúp các quyết định. Một trong những hệ thống loại này là hệ thống quản lý thế chấp tài sản của tập đoàn Nestor. Hệ thống này lấy những trường hợp đã lưu lại trong hồ sơ thế chấp để làm tập mẫu dữ liệu. Mạng Neuron của hệ thống sẽ được học để cuối cùng có khả năng quyết định việc thế chấp tài sản có được chấp thuận hay không. Hệ thống này đã giúp công ty giảm đi 12% rủi ro trong việc cho thế chấp tài sản. D. Cách thức ứng dụng mạng Neuron Trong phần này ta sẽ đề cập đến cách thức ứng dụng của mạng Neuron trong các giải pháp một cách khái quát nhất, bao gồm kiến trúc tổng quát của một mạng Neuron và các phương pháp điều chỉnh trọng số (hay việc học) của mạng Neuron. Những đặc trưng của từng loại mạng Neuron sẽ được trình bày sâu hơn ở những phần sau. $%&'()*  %+!,9 1. Kiến trúc tổng quát của một mạng Neuron Thông thường, mạng Neuron được chia thành các lớp Neuron (layer). Những neuron thuộc cùng một lớp sẽ có những tính chất và hoạt động tương tự nhau. Các neuron này giống nhau ở chỗ chúng dùng cùng một loại hàm kích hoạt để tính toán giá trị đầu ra. Bên cạnh đó, chúng còn có cơ chế liên kết với các neuron khác cũng giống nhau. Nếu một neuron A có các kết nối với neuron B thì tất cả các neuron cùng lớp với A cũng sẽ có liên kết với neuron B đó. Các lớp có thể có của một mạng Neuron bao gồm: lớp đầu vào (input layer), các lớp ẩn (hidden layers) và lớp đầu ra (output layer). Mạng neuron thường được chia thành hai loại chính dựa vào kiến trúc mạng: mạng một lớp và mạng nhiều lớp. Số lớp của mạng được xác định là số lớp chứa các neuron có khả năng tính toán và có liên kết trọng số với các neuron khác. Vì lý do này nên lớp input không được tính vào số lớp mạng, vì ở đây không xảy ra bất kì quá trình tính toàn nào. Trọng số của mạng Neuron là một yếu tố vô cùng quan trọng, là kết quả quá trình học của mạng Neuron và là thông số để tính toán kết quả khi ứng dụng mạng Neuron vào thực tiễn. Mạng Neuron còn được phân biệt theo cách thức lưu chuyển dòng dữ liệu. Mạng feedforward là mạng có luồng dữ liệu đi vào từ lớp input, được xử lý ở các lớp ẩn (nếu có) và cuối cùng sẽ được xuất ra tại lớp output. Mạng recurrent là mạng có luồng dữ liệu vào tại các neuron và đầu ra của một neuron sẽ lại trở thành đầu vào của chính neuron đó. $%&'()*  %+!,10 [...]... bánh xe điều hướng Quá trình này cần thiết một hệ thống thông minh tiếp nhận các dữ liệu của môi trường, nhằm đưa ra quyết định điều khiển hướng đi của phương tiện Trong số các hệ thống hỗ trợ quyết định; thì hệ thống xử lý dựa trên mạnh neuron là một trong các hệ thống có khả năng đáp ứng tốt, nhanh, độ lỗi thấp phù hợp với nhu cầu yêu cầu hỗ trợ quyết định ngay tức thời Hệ thống sử dụng mạng Neuron. .. Hồ Duy Nhật Linh Trang | 22 III Xây dựng hệ thống điều khiển xe tự hành: A - Mô tả bài toán: Điều khiển xe hơi trên môi trường giả lập tự động Động cơ điều khiển xe bao gồm hệ thống xoay trái phải, xe có gia tốc đều và không thay đổi tốc độ khi điều khiển Áp dụng mạng neuron để tiếp nhận dữ liệu và đưa ra quyết định cho xe hơi Mục tiêu là điều khiển xe hoàn thành 1 vòng đua có hình dáng đường không... mạng Neuron Một số phương pháp có thể kể đến như Propagation, Back Propagation, thuật giải di truyền, … Trong bài thu hoạch này sẽ sử dụng thuật giải di truyền để huấn luyện mạng Neuron Một trong những ưu điểm theo tiếp cận hướng thuật giải di truyền đó là: - Tự hệ thống có thể sinh ra lời giải và tối ưu hóa các lời giải để có thể tiếp cận được mục tiêu Hệ hỗ trợ quyết định Hồ Duy Nhật Linh Trang |... hình: 1 Hệ hỗ trợ quyết định Tiếp nhận dữ liệu: Hồ Duy Nhật Linh Trang | 23 Hệ thống bao gồm các sensor để thu nhận tín hiệu đo khoảng cách từ thân xe đến vật cản nằm trong phạm vi của sensor thu nhận được Hệ thống bao gồm 5 sensor theo các hướng: 0o, 45o, 90o, 135o, 180o Dữ liệu thu nhận được là khoảng cách đến vật thể nếu có 2 Điều khiển: Quá trình điều khiển học cần được ra quyết định để điều khiển. .. tích các dữ liệu tiếp nhận được từ các cảm biến của xe Từ đó, thông qua việc lan truyền tín hiệu và xử lý sẽ giúp đưa ra quyết định điều khiển 2 bánh xe trái phải Mô hình mạng Neuron gồm có: o o o 1 lớp Input gồm 5 đầu vào là tín hiệu được truyền từ các sensor 1 lớp ẩn gồm 8 neuron 1 lớp Output gồm 2 đầu ra Hệ hỗ trợ quyết định Hồ Duy Nhật Linh Trang | 24 H H 1 S H3 Left Wheel 1 S H + 1 S Rotation... đến khi hoàn thành được vòng đua, hoàn thành tất cả các điểm checkpoint C - - Kết quả: Môi trường thử nghiệm: o Windows 8.1 o Core i7 , Ram 6Gb o Visual Studio 2010 Kết quả đạt được: o Sau 155 quần thể (thế hệ tiến hóa), mỗi quần thể bao gồm 15 cá thể thì xe đã tự vận hành được o Xe chạy ổn định với mạng neuron và không gây ra lỗi va chạm với lề đường Hệ hỗ trợ quyết định Hồ Duy Nhật Linh Trang | 28 IV... đặc tính không có trong mã di truyền của cha-mẹ • Chọn ngẫu nhiên một nhiễm sắc thể trong quần thể; • Tạo một số ngẫu nhiên k trong khoảng từ 1 tới m,1 ≤ k ≤ m ; • Thay đổi bit thứ k Đưa nhiễm sắc thể này vào quần thể để tham gia quá trình tiến hoá ở thế hệ tiếp theo Hệ hỗ trợ quyết định Hồ Duy Nhật Linh Trang | 18 C Các bước cơ bản của giải thuật di truyền Một giải thuật di truyền đơn giản bao gồm các... Hệ hỗ trợ quyết định 2 −1 1 + e −σ x σ [1 + g ( x)][1 − g ( x)] 2 Hồ Duy Nhật Linh Trang | 15 Hình 8 Đồ thị của hàm sigmoid lưỡng cực Hàm tanh cũng nhận giá trị từ -1 đến 1 tuy nhiên sự biến thiên xảy ra nhanh hơn so với hàm sigmoid lưỡng cực eσ x − e −σ x h ( x ) = σ x −σ x e +e h '( x) = [1 + h( x)][1 − h( x)] Hình 9 Đồ thị hàm tanh Hệ hỗ trợ quyết định Hồ Duy Nhật Linh Trang | 16 II Thuật giải di. .. hằng số trong khoảng [0,1] F Điều kiện dừng của giải thuật Điều kiện dừng lí đơn giản nhất là thế hệ đã vượt qua một ngường nhất định cho trước Trong những trường hợp như qua những lần tiến hóa mà không có biến đổi nào nhất điịnh, ta cần đếm số lần lượng hàm Nếu số lần lượng hàm vượt quá một hằng xác định trước thì dừng việc tìm kiếm Hệ hỗ trợ quyết định Hồ Duy Nhật Linh Trang | 21 Có hai loại điều kiện... định Hồ Duy Nhật Linh Trang | 16 II Thuật giải di truyền A Tổng quan về thuật giải di truyền Thuật giải di truyền là một kỹ thuật của khoa học máy tính được dùng để tìm kiếm lời giải cho các bài toán tối ưu tổ hợp hay các bài toán chưa có thuật toán để tìm chính xác lời giải Thuật giải di truyền sử dụng ngôn ngữ máy tính để mô phỏng lại quá trình tiến hóa tự nhiên của một tập các đối tượng trừu tượng (gọi . Gia Thành Phố Hồ Chí Minh Đại học Công Nghệ Thông Tin Khoa Khoa học máy nh Môn: HỆ HỖ TRỢ QUYẾT ĐỊNH Đề tài thu hoạch: Ứng dụng Neuron &thuật giải di truyền trong hệ thống ra quyết định điều. và ứng dụng. - Tìm hiểu về thuật giải di truyền và ứng dụng. - Kết hợp Mạng neuron và thuật giải di truyền trong quá trình xây dựng hệ thống hỗ trợ quyết định Nội dung nghiên cứu: - Mạng Neural tin trong điều khiển ra quyết định một cách tự động ngày càng được nghiên cứu và áp dụng ngày càng mạnh mẽ; các thuật toán, hệ thống trí tuệ nhân tạo ngày được ứng dụng nhiều hơn trong việc hỗ