r ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ TRẦN VĂN BÌNH MẠNG NƠ-RON NHÂN TẠO TRONG KIỂM SOÁT NỘI DUNG HÌNH ẢNH Ngành : Công nghệ thông tin Chuyênngành : Hệ thống thông tin Mãsố : 0802480526 LUẬN VĂN THẠC SĨ NGƯỜI HƯỚNG DẪN KHOA HỌC: PGS.TS Đỗ Năng Toàn Hà Nội – 2011 LỜI CAM ĐOAN Tôi xin cam đoan đây là công trình nghiên cứu của bản thân, được xuất phát từ yêu cầu phát sinh trong công việc để hình thành hướng nghiên cứu. Các số liệu có nguồn gốc rõ ràng, tuân thủ đúng nguyên tắc và kết quả trình bày trong luận văn được thu thập được trong quá trình nghiên cứu là trung thực chưa từng được ai công bố trước đây. Hà nội, ngày 28 tháng 10 năm 2011 Tác giả luận văn Trần Văn Bình LỜI CẢM ƠN Lời đầu tiên, em xin được bày tỏ lòng biết ơn sâu sắc tới thầy giáo PGS.TS. Đỗ Năng Toàn, thầy đã tận tình dạy dỗ và hướng dẫn em trong suốt thời gian qua. Em xin được bày tỏ lòng biết ơn tới các thầy, cô giáo trong Khoa Công nghệ thông tin, Trường Đại học Công nghệ - ĐH Quốc gia Hà Nội. Các thầy cô đã dạy bảo, chỉ dẫn chúng em và luôn tạo điều kiện học tập tốt nhất cho em trong những năm học sau đại học đặc biệt là trong thời gian thực hiện khóa luận tốt nghiệp. Cảm ơn các bạn học viên lớp K15HTTT, K15T2 - Trường Đại học Công nghệ, những người bạn luôn bên cạnh ủng hộ tôi trong suốt những năm học cao học. Cuối cùng, xin gửi tới bố mẹ và toàn thể gia đình lòng biết ơn và tình cảm chân thành nhất. Hà nội, ngày 28 tháng 10 năm 2011 Học viên Trần Văn Bình MỤC LỤC LỜI CAM ĐOAN 2 LỜI CẢM ƠN 3 MỤC LỤC 4 DANH MỤC HÌNH VẼ 7 CHÚ THÍCH TỪ VÀ THUẬT NGỮ VIẾT TẮT 9 PHẦN MỞ ĐẦU 1 CHƯƠNG 1 1 KHÁI QUÁT VỀ XỬ LÝ ẢNH VÀ KIỂM SOÁT HÌNH ẢNH 2 1.1. KHÁI QUÁT VỀ XỬ LÝ ẢNH 2 1.1.1.Các khái niệm cơ bản 2 1.1.1.1. Xử lý ảnh 2 1.1.1.2. Điểm ảnh 2 1.1.1.3. Ảnh 2 1.1.1.4. Mức xám của ảnh 3 1.1.1.5. Độ phân giải của ảnh 3 1.1.2. Các bước xử lý ảnh số 3 1.1.2.1. Thu nhận ảnh 4 1.1.2.2. Tiền xử lý 4 1.1.2.3. Phân vùng ảnh 10 1.1.2.4. Trích chọn đặc trưng 11 1.1.2.5. Nhận dạng và nội suy ảnh 11 1.1.2.6. Hậu xử lý 12 1.2. KIỂM SOÁT THÔNG TIN HÌNH ẢNH 14 1.2.1. Nhận dạng ảnh 14 1.2.1.1. Giới thiệu 14 1.2.1.2. Nhận dạng ảnh theo miền không gian 17 1.2.1.3. Nhận dạng dựa theo cấu trúc 21 1.2.1.4. Nhận dạng dựa vào kỹ thuật mạng nơ-ron 23 1.2.2. Kiểm soát thông tin dựa trên hình ảnh 25 CHƯƠNG 2: NHẬN DẠNG ẢNH DỰA VÀO MẠNG NƠ-RON 26 2.1. MẠNG NƠ-RON NHÂN TẠO 26 2.1.1.Giới thiệu về nơ-ron sinh học 26 2.1.2. Mạng nơ-ron nhân tạo 28 2.1.2.1. Phân loại mạng nơron nhân tạo 28 2.1.2.2. Mô hình mạng nơ-ron nhân tạo 30 2.1.3. Huyến luyện mạng nơ-ron 31 2.1.3.1. Các phương pháp học 31 2.1.3.2. Học có thầy trong các mạng nơ-ron 32 2.1.4. Các vấn đề trong xây dựng mạng nơ-ron đa lớp 33 2.1.4.1. Chuẩn bị dữ liệu 33 2.1.4.2. Xác định các tham số cho mạng 36 2.1.4.3. Hiện tượng lãng quên 38 2.1.4.4. Vấn đề quá khớp 39 2.2. MỘT SỐ THUẬT TOÁN NHẬN DẠNG ẢNH DỰA VÀO MẠNG NƠ-RON 40 2.2.1. Thuật toán lan truyền ngược 40 2.2.1.1. Mô tả thuật toán 40 2.2.1.2. Sử dụng thuật toán lan truyền ngược 44 2.2.2. Một số biến thể của thuật toán lan truyền ngược 47 2.2.2.1. Sử dụng tham số bước đà 47 2.2.2.2. Sử dụng hệ số học biến đổi 48 2.2.2.3. Sử dụng phương pháp Gradient kết hợp 49 2.2.3. Thuật toán giả định luyện kim 54 2.2.4. Thuật toán di truyền 54 CHƯƠNG 3: CHƯƠNG TRÌNH THỬ NGHIỆM 56 3.1. BÀI TOÁN PHÁT HIỆN ẢNH “ĐEN” 56 3.2.1. Một số đặc điểm ảnh “đen” 56 3.2.2. Các vấn đề gây nhầm lẫn 56 3.2. KIỂM SOÁT ẢNH “ĐEN” SỬ DỤNG MẠNG NƠ-RON 56 3.2.1. Thu thập, phân tích và xử lý dữ liệu 56 3.2.2. Cài đặt chương trình 57 3.2.2.1. Module tiền xử lý 57 3.2.2.2. Module trích chọn đặc trưng 58 60 3.2.2.3. Module huấn luyện mạng nơ-ron 60 3.2.2.4. Module nhận dạng và ra quyết định 65 3.2.3. Chương trình kiểm soát ảnh “đen” BlockPornImage 66 3.2.3.1. Một số hình ảnh về chương trình 66 3.2.3.2. Môi trường thử nghiệm 69 3.2.3.3. Kết quả thực nghiệm 69 PHẦN KẾT LUẬN 71 TÀI LIỆU THAM KHẢO 73 DANH MỤC HÌNH VẼ HÌNH 1.1: QUÁ TRÌNH XỬ LÝ ẢNH 2 HÌNH 1.2: CÁC BƯỚC CƠ BẢN TRONG MỘT HỆ THỐNG XỬ LÝ ẢNH 4 HÌNH 1.3: SƠ ĐỒ PHÂN TÍCH, XỬ LÝ ẢNH VÀ LƯU ĐỒ THÔNG TIN GIỮA CÁC KHỐI 4 HÌNH 1.4: ẢNH THU NHẬN VÀ ẢNH MONG MUỐN 5 HÌNH 1.5: DÃN ĐỘ TƯƠNG PHẢN 9 HÌNH 1.6: QUÁ TRÌNH HIỂN THỊ VÀ CHỈNH SỬA, LƯU TRỮ ẢNH THÔNG QUA DIB 14 HÌNH 1.7: SỰ CHUYỂN ĐỔI GIỮA CÁC MÔ HÌNH BIỂU DIỄN ẢNH 14 HÌNH 1.8: MÔ HÌNH CẤU TRÚC CỦA ĐỐI TƯỢNG NHÀ 16 HÌNH 1.9: SƠ ĐỒ TỔNG QUÁT HỆ THỐNG NHẬN DẠNG ẢNH 17 HÌNH 1.10:CÁC PHÉP TOÁN TRONG NGÔN NGỮ LCD 23 HÌNH 2.1: HÌNH MINH HỌA NƠ-RON SINH HỌC 26 HÌNH 2.2: PHÂN LOẠI MẠNG DỰA TRÊN ĐƯỜNG TRUYỀN TÍN HIỆU TRONG MẠNG 29 HÌNH 2.3: MÔ HÌNH NƠ-RONNHÂN TẠO 30 HÌNH 2.4: MỐI LIÊN HỆ GIỮA SAI SỐ VÀ KÍCH THƯỚC MẪU 34 HÌNH 2.5: HUẤN LUYỆN LUÂN PHIÊN TRÊN HAI TẬP MẪU 38 HÌNH 2.6: XẤP XỈ HÀM F(X)=1+SIN(X)VỚI -2 ≤ X ≤ 2 45 HÌNH 2.7: XẤP XỈ HÀM F(X)=1+SIN(X)VỚI -2 ≤ X ≤ 2 46 HÌNH 2.8: XẤP XỈ HÀM F(X)=1+SIN(X)VỚI -2 ≤ X ≤ 2 KHI TĂNG SỐ NƠ- RON 46 HÌNH 2.9: XÁC ĐỊNH TẦN SỐ 50 HÌNH 2.10: GIẢM KÍCH THƯỚC CỦA TẦN SỐ KHÔNG CHẮC CHẮN 51 HÌNH 3.1: XỬ LÝ DỮ LIỆU 57 HÌNH 3.2: HÌNH TRÁI LÀ ẢNHĐẦU VÀO, HÌNH PHẢI LÀ ẢNH SAU QUÁ TRÌNH PHÁT HIỆN DA 60 HÌNH3.3: ẢNH ĐƯỢC TRÍCH CHỌN ĐẶC TRƯNG 60 HÌNH 3.4: TAB QUẢN LÝ MẠNG VÀ PHÁT HIỆN ẢNH 67 HÌNH 3.5: TAB CẤU HÌNH CÁC THAM SỐ CHO MẠNG NƠ-RON NHÂN TẠO 67 HÌNH 3.6: MẠNG ĐANG ĐƯỢC HUẤN LUYỆN 68 HÌNH 3.7: ẢNH ĐẦU VÀO 69 HÌNH 3.8: PHÁT HIỆN ẢNH CHÍNH XÁC (HIỂN THỊ CỬA SỔ CHE) 69 HÌNH 3.9:MỘT SỐ PHÂN LOẠI SAI 70 CHÚ THÍCH TỪ VÀ THUẬT NGỮ VIẾT TẮT Viết tắt Tên đầy đủ ANN Artificial neural networks BMP Bitmap Image File CGA Color Graphic Adaptor DIB Device Independent Bitmap GIF Graphics Interchange Format LMS Least Means Square LZW Lempel Ziv-Wench MLP Multi Layer Perceptron PCX PC Paintbrush Exchange PLD Picture Language Description RLC Run Length Coding TIF Tagged Image File PHẦN MỞ ĐẦU Bộ não của con người là sản phẩm hoàn hảo nhất của tạo hoá, có khả năng nhớ, tư duy và sáng tạo. Việc nghiên cứu những mô hình mà nguyên lý tổ chức và hoạt động mô phỏng theo hoạt động của bộ não người đang là hướng nghiên cứu mang tính thời sự của khoa học và công nghệ. Cũng từ đây, đã xuất hiện thuật ngữ “mạng Nơ-ron nhân tạo”(Artificial neural networks - ANN). Mạng ANN này rất phù hợp với việc giải các bài toán xấp xỉ hàm, xử lý thông tin, xử lý ảnh… đặc biệt là nhận dạng ảnh. Ở các nước phát triển người ta đã ứng dụng ANN vào thực tế đời sống, đã cho ra đời hàng loạt các thiết bị sử dụng cấu trúc mạng Nơ-ron để xử lý ảnh và xây dựng ảnh ba chiều từ các ảnh mặt chiếu phục vụ trong chẩn đoán hình ảnh y khoa, các thiết bị nhận dạng để đọc biểu đồ điện tim, điện não, nhận dạng vân tay, chữ viết, giọng nói… Lý do khách quan là do ANN có tốc độ xử lý cao nhờ cấu trúc xử lý song song và các liên kết mềm dẻo. Mạng có thể đưa ra các quyết định cần thiết thông qua các quá trình huấn luyện hoặc tự học, khả năng giải quyết vấn đề của mạng rất đa dạng và đạt độ chính xác cao. Ở Việt Nam, những nghiên cứu mang tính thực nghiệm cũng đang được định hướng và thu được một số kết quả ban đầu tuy còn hạn chế. Vì vậy, việc cập nhật kiến thức và tiếp cận một lĩnh vực mũi nhọn của khoa học công nghệ trong việc giải quyết một bài toán cụ thể là rất cần thiết. Trước sự bùng nổ của các website với đủ loại nội dung sex, bạo lực, phản động các nhà quản lý bối rối vì khó kiểm soát, chuyên gia an ninh mạng cho rằng không thể tận diệt, còn phụ huynh thì lo lắng. Để giải quyết bài toán đó tác giả sẽ nghiên cứu giải pháp lọc chặn ảnh đồi trụy từ đó tích hợp vào phần mềm lọc chặn đểđem lại công cụ giúp các phụ huynh muốn quản lý, bảo vệ con em mình khỏi những thông tin độc hại trên Internet, đồng thời cũng giúp ngăn chặn trang web xấu cho các cơ sở kinh doanh dịch vụ Internet công cộng, các mạng máy tính của các công sở, trường học, các tổ chức, doanh nghiệp có kết nối Internet. Từ mục tiêu đó, luận văn tập trung nghiên cứu mạng nơ-ron nhân tạo và áp dụng kỹ thuật này cho bài toán phát hiện ảnh có nội dung đồi trụy (gọi tắt là ảnh “đen”). Luận văn được chia thành ba chương: • Chương 1: Khái quát về xử lý ảnh và kiểm soát hình ảnh. • Chương 2: Nhận dạng ảnh dựa vào mạng nơ-ron. • Chương 3: Xây dựng chương trình thử nghiệm phát hiện ảnh “đen” sử dụng mạng nơ-ron nhân tạo. Chương 1 1 [...]... để trích chọn Kết luận: Trong chương 1 đã trình bày những khái quát về xử lý ảnh và một số vấn đề cơ bản của xử lý ảnh cũng như việc kiểm soát thông tin hình ảnh Trong chương 2 sẽ trình bày quá trình nhận dạng ảnh dựa trên phương pháp nơ-ron 26 Chương 2: NHẬN DẠNG ẢNH DỰA VÀO MẠNG NƠ-RON 2.1 MẠNG NƠ-RON NHÂN TẠO 2.1.1.Giới thiệu về nơ-ron sinh học Cấu trúc nơ-ron sinh học Nơ-ron sinh học có nhiều... 1.2.2 Kiểm soát thông tin dựa trên hình ảnh Với những phương pháp nhận dạng ảnh ở trên ta hoàn toàn có thể kiểm soát được hình ảnh bất kỳ dưới hình thức nào (video, ảnh, internet…) Điều quan trọng là lựa chọn phương pháp nhận dảng ảnh nào đem lại hiệu quả và độ chính xác cao nhất, giúp cho việc kiểm soát hình ảnh được triệt để, toàn diện ; đặc biệt là với hình ảnh ‘‘đen’’ – với sự biến hóa rất nhiều... giản (nơ-ron) hoạt động song song Tính năng của hệ thống này tuỳ thuộc vào cấu trúc của hệ, các trọng số liên kết nơ-ron và quá trình tính toán tại các nơ-ron đơn lẻ Mạng nơ-ron có thể học từ dữ liệu mẫu và tổng quát hóa dựa trên các dữ liệu mẫu học .Trong mạng nơ-ron, các nơ-ron đón nhận tín hiệu vào gọi là nơ-ron vào và các nơ-ron đưa thông tin ra gọi là nơ-ron ra 1.2.2 Kiểm soát thông tin dựa trên hình. .. dụng trong cuộc sống Xử lý ảnh và đồ hoạ đóng một vai trò quan trọng trong tương tác người - máy Mục đích của xử lý ảnh là nâng cao chất lượng ảnh phục vụ con người và xử lý ảnh dữ liệu dạng hình ảnh để máy tính có thể hiểu được từ đó đưa ra những quyết định cần thiết Hình 1.1: Quá trình xử lý ảnh Xử lý ảnh có nhiều ứng dụng trong đời sống như : nhận dạng ảnh, vệ tinh dự báo thời tiết, viễn thám, ảnh. .. khoa học hình sự, điện ảnh 1.1.1.2 Điểm ảnh Điểm ảnh (Pixel) là một phần tử của ảnh số tại toạ độ (x, y) với độ xám hoặc màu nhấtđịnh Kích thước và khoảng cách giữa các điểm ảnh đó được chọn thích hợp sao cho mắt ngườicảm nhận sự liên tục về không gian và mức xám (hoặc màu) của ảnh số gần như ảnh thật Mỗiphần tử trong ma trận được gọi là một phần tử ảnh 1.1.1.3 Ảnh Ảnh số là tập hợp các điểm ảnh với... vuông, sau đó sử dụng các giá trị chứa trong file ảnh để định ra mầu sắc, độ sáng tối của từng pixel trong mạng lưới đó, đó là cơ sở để ảnh số được hình thành Việc kiểm soát, định ra địa chỉ theo mạng lưới như trên được gọi là bit mapping và ảnh số còn được gọi là ảnh bitmap 1.1.1.4 Mức xám của ảnh • • • • • Định nghĩa: Mức xám (grey level) của điểm ảnh là cường độ sáng của nó được gán bằng giá trị... trình trên sẽ trở thành: với : y(m, n): ảnh đầu vào, v(m, n): ảnh đầu ra, a(k, l) : là cửa sổ lọc vớ i và Nw là sốđiểm ảnh trong cửa sổ lọc W Lọc trung bình có trọng số chính là thực hiện chập ảnh đầu vào với nhân chập H Nhân chậpH trong trường hợp này có dạng: Trong lọc trung bình, thường người ta ưu tiên cho các hướng để bảo vệ biên của ảnh khỏi bịmờ khi làm trơn ảnh Các kiểu mặt nạđược sử dụng tùy theo... tập trung từ chuyểnđổi t ảnh Raster Hình 1.7: Sự chuyển đổi giữa các mô hình biểu diễn ảnh 1.2 KIỂM SOÁT THÔNG TIN HÌNH ẢNH 1.2.1 Nhận dạng ảnh 1.2.1.1 Giới thiệu a Không gian biểu diễn đối tượng, không gian diễn dịch 15 • Không gian biểu diễn đối tượng Các đối tượng khi quan sát hay thu thập được thường được biểu diễn bởi tập các đặc trưnghay đặc tính Giả sửđối tượng ảnh X (ảnh, chữ viết, dấu vân tay,…)... mà trước đó nó chưa được học (phát sinh trong quá trình nhận dạng) Cách tiếp cận mạng nơ-ron nhân tạo có ý nghĩa thực tiễn rất lớn cho phép tạo ra các thiết bị có thể kết hợp khả năng song song cao của bộ não với tốc độ tính toán cao của máy tính Tuy vậy, cần phải có một khoảng thời gian dài nữa để các mạng nơ-ron nhân tạo có thể mô phỏng được các hành vi sáng tạo của bộ não con người Chẳng hạn, bộ... tả ảnh gần giống với ảnh thật Ảnh được tạo nên từ hàng trăm ngàn cho đến hàng triệu ô vuông rất nhỏ- được coi là những nhân tố của bức ảnh và thường được biết dưới tên gọi là điểm ảnh Máy tính hay máy in sử dụng những ô vuông nhỏ này để hiển thị hay in ra bức ảnh Để làm 3 được điều đó máy tính hay máy in chia màn hình, trang giấy thành một mạng lưới chứa các ô vuông, sau đó sử dụng các giá trị chứa trong . VÀO MẠNG NƠ-RON 26 2.1. MẠNG NƠ-RON NHÂN TẠO 26 2.1.1.Giới thiệu về nơ-ron sinh học 26 2.1.2. Mạng nơ-ron nhân tạo 28 2.1.2.1. Phân loại mạng nơron nhân tạo 28 2.1.2.2. Mô hình mạng nơ-ron nhân. MẠNG VÀ PHÁT HIỆN ẢNH 67 HÌNH 3.5: TAB CẤU HÌNH CÁC THAM SỐ CHO MẠNG NƠ-RON NHÂN TẠO 67 HÌNH 3.6: MẠNG ĐANG ĐƯỢC HUẤN LUYỆN 68 HÌNH 3.7: ẢNH ĐẦU VÀO 69 HÌNH 3.8: PHÁT HIỆN ẢNH CHÍNH XÁC (HIỂN. phát hiện ảnh “đen” sử dụng mạng nơ-ron nhân tạo. Chương 1 1 KHÁI QUÁT VỀ XỬ LÝ ẢNH VÀ KIỂM SOÁT HÌNH ẢNH 1.1. KHÁI QUÁT VỀ XỬ LÝ ẢNH 1.1.1.Các khái niệm cơ bản 1.1.1.1. Xử lý ảnh Xử lý ảnh là