MỤC LỤC Mở Đầu .2 Chương 1 Tổng quan về mạng nơ-ron và logic mờ .4 1.1 Tổng quan về mạng nơ-ron .4 1.1.1 Giới thiệu về mạng nơ-ron nhân tạo 4 1.1.2 Mạng nơ-ron sinh học 4 1.1.3 Mạng nơ-ron nhân tạo 5 1.1.4 Định nghĩa và phân loại mạng nơ-ron nhân tạo 9 1.1.5 Một số ứng dụng của mạng nơ-ron 15 1.1.6 Mạng thích nghi .16 1.2 Tổng quan về logic mờ 20 1.2.1 Quá trình phát triển của logic mờ 20 1.2.1 Các khái niệm cơ bản của logic mờ .20 1.2.3 Cơ sở toán học của logic mờ 24 2.2 Tổng quan về hệ suy diễn mờ .34 2.2.1 Hệ suy diễn mờ Mamdani 37 2.2.2 Hệ suy diễn mờ Tsukamoto 38 2.2.3 Hệ suy diễn mờ Takagi-Sugeno .39 2.3 Ứng dụng hệ suy diễn mờ trên cơ sở mạng thích nghi trong bài toán phân lớp 49 2.3.1 Phát triển bài toán 49 2.3.2 Ứng dụng hệ ANFIS trong bài toán phân lớp dữ liệu 51 Chương 3 Giới thiệu phần mềm MATLAB 51 3.1 Giới thiệu chương trình mô phỏng hệ ANFIS 52 3.4 Đánh giá hệ thống 62 3.5 Kết luận 63 Mở Đầu Ngày nay, Công nghệ thông tin đang ngày càng phát triển một cách mạnh mẽ Nó xâm nhập vào mọi lĩnh vực trong cuộc sống Chính vì vậy, để có thể đem lại kết quả cao nhất trong mọi lĩnh vực thì con người đã không ngừng tìm hiểu và nghiên cứu nhằm phát minh ra những sản phẩm thông minh, mang tính trí tuệ cao Một trong những nghiên cứu lớn nhất của ngành Công nghệ thông tin đó là cố gắng mô phỏng những hoạt động của sản phẩm giống như bộ não con người Đây là một vấn đề cực khó Hiện nay, con người đang tiếp cận bộ não của mình theo nhiều phương pháp khác nhau Để diễn tả khả năng tư duy của bộ não, người ta sử dụng các hệ mờ trên cơ sở logic mờ để suy diễn Nhằm mô phỏng khả năng học, người ta đưa ra mô hình mạng noron nhân tạo Từ những thập kỷ 20 trở lại đây, lý thuyết mờ và mạng noron nhân tạo đã phát triển rất nhanh và đa dạng Công nghệ mờ và công nghệ mạng noron đã cung cấp những công nghệ mới cho các ngành công nghiệp làm ra nhiều sản phẩm thông minh, đáp ứng được đầy đủ nhu cầu của thị trường cần có những bộ điều khiển linh hoạt hơn, những thiết bị “biết suy nghĩ”, làm việc với những bài toán khó, phải xử lý nhiều thông tin mờ, chưa đầy đủ và thiếu chính xác Lý thuyết mờ và mạng noron nhân tạo đều có những ưu điểm và nhược điểm riêng Chính vì vậy, một cách tiếp cận chắc chắn sẽ đem lại nhiều thành công và là hướng mở cho nhiều nhà nghiên cứu, đó là tích hợp giữa hệ mờ và mạng noron lại với nhau Việc tích hợp này sẽ làm tăng thêm những ưu điểm của cả hai hệ và khắc phục được đáng kể những nhược điểm của lý thuyết mờ và mạng noron nhân tạo Trên thực tế, có rất nhiều cách tiếp cận để tích hợp mạng noron với lý thuyết tập mờ, việc tích hợp này chủ yếu dựa vào từng ứng dụng cụ thể và từng quan điểm của mỗi chuyên gia Việc tích hợp giữa mạng noron và lý thuyết tập mờ vẫn đã và đang là một hướng mở và thời sự cho các nhà nghiên cứu trên thế giới Vì vậy, trong khuôn khổ của đồ án, chủ yếu là đi vào tìm hiểu và nghiên cứu các hướng kết hợp chính của hai công nghệ này Dựa trên các cách tiếp cận đó, đồ án tập trung đi sâu nghiên cứu, tìm hiểu và phân tích những ưu nhược điểm của hệ suy diễn mờ trên cơ sở mạng thích nghi Để thực hiện mục đích đó, đồ án được trình bày trong 3 chương như sau: • Chương 1: Tổng quan về mạng noron và logic mờ • Chương 2: Hệ suy diễn mờ • Chương 3: Giới thiệu phần mềm MATLAB 2 Qua đồ án này, em xin chân thành cảm ơn: Ths Nguyễn Thị Tuyển bộ môn khoa học máy tính đã tận tình giúp đỡ, động viên, định hướng, hướng dẫn và tạo mọi điều kiện để em có thể hoàn thành đồ án này Em xin chân thành cám ơn các thầy cô trong bộ môn khoa học máy tính trường Đại học công nghệ thông tin và truyền thông đã quan tâm dạy dỗ và giúp đỡ em trong suốt năm năm học vừa qua và trong quá trình làm đồ án tốt nghiệp Em xin cám ơn sự giúp đỡ nhiệt tình của các bạn sinh viên trong lớp KHMT đã động viên và đóng góp nhiều ý kiến quý báu cho em trong quá trình học tập cũng như khi làm đồ án tốt nghiệp Thái nguyên, tháng 6 năm 2011 3 Chương 1 Tổng quan về mạng nơ-ron và logic mờ 1.1 Tổng quan về mạng nơ-ron 1.1.1 Giới thiệu về mạng nơ-ron nhân tạo Mạng nơron hay mạng nơron nhân tạo là sự tái tạo bằng kỹ thuật những chức năng của hệ thần kinh con người Trong quá trình tái tạo không phải tất cả các chức năng của bộ não con người có đều được tái tạo, mà chỉ có những chức năng cần thiết Bên cạnh đó còn có những chức năng mới được tạo ra nhằm giải quyết một bài toán điều khiển đã định hướng trước Trước khi tìm hiểu về mạng nơron chúng ta giới thiệu sơ lược về mạng nơron sinh học 1.1.2 Mạng nơ-ron sinh học Não người là tổ chức vật chất cấp cao, có cấu tạo vô cùng phức tạp, dày đặc các mối liên kết giữa các nơron nhưng xử lý thông tin rất linh hoạt trong môi trường bất định Hình 1.1 Mô hình mạng nơron sinh học 4 Trong bộ não người có khoảng 1011 - 1012 tế bào thần kinh được gọi là các nơron và mỗi nơron có thể liên kết với 1014 nơron khác thông qua các khớp nối thần kinh (synapse) Dưới con mắt của những người làm tin học cấu tạo của mỗi nơron gồm các thành phần cơ bản sau: Thân nơron được giới hạn trong một màng membran và trong cùng là nhân Từ thân nơron còn có rất nhiều đường rẽ nhánh tạm gọi là rễ “Bus” liên kết nơron này với các nơron khác được gọi là axon, trên axon có các đường rẽ nhánh Nơron còn có thể liên kết với các nơron khác qua các rễ Chính vì cách liên kết đa dạng như vậy nên mạng nơron có độ liên kết rất cao Các rễ của noron được chia làm hai loại: loại nhận thông tin từ các nơron khác qua axon, mà ta sẽ gọi là rễ đầu vào và loại đưa thông tin qua axon tới các nơron khác, gọi là rễ đầu ra Một nơron có thể có nhiều rễ đầu vào, nhưng chỉ có một rễ đầu ra Bởi vậy nếu coi nơron như một khâu điều khiển thì nó chính là khâu có nhiều đầu vào, một đầu ra Một nơron sẽ ở trạng thái kích thích khi tại đầu vào xuất hiện một tín hiệu tác động vượt quá ngưỡng cân bằng của nơron Một tính chất rất cơ bản của mạng nơ-ron sinh học là các đáp ứng theo kích thích có khả năng thay đổi theo thời gian Các đáp ứng có thể tăng lên, giảm đi hoặc hoàn toàn biến mất Qua các nhánh axon liên kết tế bào nơ-ron này với các nơron khác, sự thay đổi trạng thái của một nơron cũng dẫn theo sự thay đổi trạng thái của những nơron khác và do đó là sự thay đổi của toàn bộ mạng nơ-ron Việc thay đổi trạng thái của mạng nơron có thể thực hiện qua một quá trình “dạy” hoặc do khả năng “học” tự nhiên Cấu trúc của mạng nơron luôn luôn phát triển và thay đổi để thích nghi dần với môi trường, làm cho cấu trúc bộ não ngày càng trở nên phức tạp sau mỗi lần học Một số cấu trúc của nơron được xác định trước, một số sau này mới được hình thành và một số thì bị huỷ bỏ qua quá trình chọn lọc tự nhiên, học và thích nghi Các nhà khoa học đã và đang xây dựng và phát triển các mô hình xử lý thông tin mô phỏng hoạt dộng của bộ não người Đó chính là mô hình mạng nơ-ron nhân tạo 1.1.3 Mạng nơ-ron nhân tạo Một nơron nhân tạo phản ánh các tính chất cơ bản của nơron sinh học Mỗi nơron nhân tạo là một đơn vị xử lí thông tin làm cơ sở cho hoạt động của một mạng nơron Nó có chức năng nhận tín hiệu vào, tổng hợp và xử lý các tín hiệu vào để tính tín hiệu ra Dưới đây là một mô hình của một nơron nhân tạo 5 x1 w1 j x2 w2 j Mw x n nj qj å j net f (net) yj Hình 1.2 Mô hình một nơron nhân tạo Trong đó: - xi với i = 1,2, , n : các tín hiệu đầu vào - wij với i = 1,2, , n : các trọng số tương ứng với đầu vào qj : ngưỡng kích hoạt của nơron j net : tín hiệu tổng hợp đầu vào f (net ) : Hàm kích hoạt y j : tín hiệu ra của nơron j Đầu vào của nơron nhân tạo gồm n tín hiệu xi với i = 1,2, , n Mỗi tín hiệu đầu vào tương ứng với một trọng số wij với i = 1,2, , n , nó thể hiện mức độ ảnh hưởng của tín hiệu xi đến nơron j - Một nơron có thể có nhiều đầu vào nhưng chỉ có một tín hiệu đầu ra Tín hiệu đầu vào của một nơron có thể là dữ liệu từ bên ngoài mạng, hoặc đầu ra của một nơron khác, hoặc là đầu ra của chính nó Nhằm tăng khả năng thích nghi của mạng nơron trong quá trình học, người ta sử dụng gán thêm một tham số (Bias) cho mỗi nơron nhân tạo Tham số đó còn gọi là trọng số của nơron, ta kí hiệu trọng số của nơron thứ j là qj Mỗi một nơron trong một mạng kết hợp các giá trị đưa vào nó thông qua các liên kết với nơron khác, sinh ra một giá trị gọi là net Hàm thực hiện nhiệm vụ này gọi là hàm kết hợp (combination function), được định nghĩa bởi một luật lan truyền cụ thể Trong phần lớn các mạng nơron, chúng ta giả sử rằng mỗi một 6 nơron cung cấp một bộ cộng như là đầu vào cho đơn vị mà nó liên kết Để tính tổng hợp tín hiệu đầu vào net , ta giả định net là hàm của các tín hiệu xi và các trọng số wij n net = x1w1 j + x2 w2 j + + x n wnj = å xi wij i=1 (1.1) Có nhiều cách để tính tổng tín hiệu vào của nơron, trên dây là cách khá đơn giản và hữu ích khi chúng ta xây dựng một mạng có nhiều nơron Trường hợp wij > 0 , nơron được coi là đang ở trạng thái kích thích Tương tự, nếu như wij < 0 , nơron ở trạng thái kiềm chế Sau khi tổng hợp được tín hiệu đầu vào net , sử dụng hàm kích hoạt f biến đổi net để thu được tín hiệu đầu ra out y j = out j = f ( net ) (1.2) Tóm lại có thể xem nơron là một hàm phi tuyến nhiều đầu vào, một đầu ra Hàm kích hoạt phải thoả mãn các điều kiện sau: - Tín hiệu đầu ra phải không âm với mọi giá trị của net - Hàm f phải liên tục và bị chặn trong khoảng [ 0,1] Hàm kích hoạt hay còn được gọi là hàm nén vì chúng nén tín hiệu đầu ra vào một khoảng nhỏ Hàm kích hoạt hay được sử dụng là: Hàm đồng nhất (Linear function, Identity function) f ( x) = x Nếu coi các đầu vào là một đơn vị thì chúng ta sẽ sử dụng hàm này Đôi khi một hằng số được nhân với net để tạo ra một hàm đồng nhất f(x) 1 1 -1 0 1 x 1 Hình 1.3 Hàm đồng nhất 7 Hàm bước nhị phân (Binary step function, Hard limit function) Hàm này còn được gọi là hàm ngưỡng (Threshold function hay Heaviside function) Đầu ra của hàm này chỉ giới hạn trong hai giá trị: ìï 1, nÕu x ³ q f ( x ) = ïí ïïî 0, nÕu x