BỘ GIÁO DỤC VÀ ĐÀO TẠO TRƯỜNG ĐẠI HỌC BÁCH KHOA HÀ NỘI - LUẬN VĂN THẠC SĨ KHOA HỌC NGHIÊN CỨU CÔNG NGHỆ MẠNG NƠ RON TẾ BÀO CNN VÀ ỨNG DỤNG TRONG XỬ LÝ ẢNH NGÀNH : KỸ THUẬT ĐIỆN TỬ MÃ SỐ:23.04.3898 TẠ THỊ KIM HUỆ Người hướng dẫn khoa học : TS HOÀNG MẠNH THẮNG HÀ NỘI 2009 LỜI CAM ĐOAN Tôi xin cam đoan: Luận văn “Nghiên cứu công nghệ mạng nơ ron tế bào CNN ứng dụng xử lý ảnh” công trình nghiên cứu riêng tôi, không chép từ tài liệu Tôi muốn gửi lời cảm ơn chân thành tới TS Hoàng Mạnh Thắng, người thầy tận tình hướng dẫn giúp đỡ suốt trình làm luận văn Tôi xin gửi lời cảm ơn tới Bộ môn Kỹ thuật Máy tính - khoa Công nghệ thông tin - trường Đại học Sư phạm Hà Nội, Bộ môn Điện tử Tin học Đại học Bách Khoa Hà Nội, tạo điều kiện tốt cho trình học tập làm luận văn Xin cảm ơn đồng nghiệp môn Kỹ thuật Máy tính khuyến khích, động viên, giúp đỡ thời gian học tập công tác vừa qua Tôi xin gửi lời cảm ơn sâu sắc tới gia đình: cha mẹ, chồng, chị gái người thân gia đình động viên, cổ vũ hỗ trợ suốt trình học tập nghiên cứu để có kết hôm Hà Nội, ngày 15 tháng 10 năm 2009 Học viên Tạ Thị Kim Huệ MỤC LỤC MỤC LỤC Danh mục ký hiệu chữ viết tắt Danh mục bảng biểu Danh mục hình vẽ MỞ ĐẦU Chương 1: Tìm hiểu cấu trúc mạng Nơron tế bào CNN 1.1 Tổng quan 1.2 Cơ sở toán học CNN 1.2.1 Các thích định nghĩa 1.2.2 Biểu diễn theo ma trận vector điều kiện biên 1.2.3 Sự tồn đơn trị nghiệm 13 1.2.4 Giới hạn nghiệm 17 1.2.5 Tính bất biến không gian CNN 18 1.2.6 Ba phân lớp mạng nơ ron tế bào đơn giản 21 1.2.7 Lược đồ lưu lượng mô tả luồng tín hiệu dẫn nạp 25 1.3 Kết luận 26 Chương 2: Phân tích đặc tính mạng CNN 27 2.1 Các đặc tính mạng CNN chiều 27 2.1.1 Cấu trúc mạng CNN hai chiều 27 2.1.2 Dải động CNN 30 2.1.3 Tính chất ổn định CNN 33 2.1.4 Động lực học mạng nơ ron tế bào phi tuyến có trễ 42 2.2 Hỗn độn mạng nơ ron tế bào 44 2.2.1 Ví dụ CNN tế bào dao động 45 2.2.2 Ví dụ CNN hỗn độn với tế bào đầu vào dạng sin 47 2.2.3 Rẽ nhánh hỗn độn CNN 49 2.3 Mạng nơ ron tế bào nhiều lớp 50 2.4 Mối quan hệ CNN với phương trình vi phân đạo hàm riêng ô tô mát tế bào 52 Kết luận 54 Chương 3: Mô hệ động lực CNN 55 3.1 Phân tích định lượng mặt toán học 55 3.2 Hai đối tượng mẫu nghiên cứu: mẫu EDGE EDGEGRAY 63 3.2.1 CNN EDGE: Các mẫu CNN nhị phân dò đường biên 63 3.2.2 EDGEGRAY CNN 69 3.2.3 Ba bước xác định đồ thị dịch chuyển điểm điều khiển 76 3.3 Hệ thống phần mềm mô 77 3.3.1 Sự kết hợp phương trình vi phân CNN tiêu chuẩn 77 3.3.2 Ảnh đầu vào 78 3.3.3 Phần mềm mô 78 3.4 Phần cứng gia tốc số 83 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 3.5 Thực thi CNN tương tự 84 3.6 Thang chia tỷ lệ tín hiệu 86 3.7 Discrete-time CNN (DTCNN) 87 3.8 Kết luận 88 Chương 4: Ứng dụng hệ động lực CNN xử lý ảnh 89 Tổng quan 89 4.1 Nhu cầu xử lý ảnh công nghiệp an ninh quốc phòng 89 4.2 Xử lý ảnh máy tính hệ lệnh 92 4.3 Công nghệ CNN hệ thống thu ảnh - xử lý song song 93 4.4 Mô hình hệ sinh học chế tạo thị giác nhân tạo 94 4.4.1 Thị giác sinh học 94 4.4.2 Mô hình võng mạc nhân tạo với công nghệ mạng CNN nhiều lớp 96 4.4.3 Chip tế bào thị giác 101 4.4.4 Máy tính thị giác (Visual computers) 103 4.5 Phương pháp xử lý ảnh vân tay sử dụng mạng CNN 104 4.5.1 Một số thuật toán nhận dạng vân tay 105 4.5.2 Nâng cấp ảnh vân tay đa mức xám sử dụng CNN 106 4.5.3 Phân tích đặc trưng vân tay dùng CNN 110 4.6 Kết luận 111 KẾT LUẬN 112 TÀI LIỆU THAM KHẢO 114 PHỤ LỤC 118 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Danh mục ký hiệu chữ viết tắt CNN CNN-UM DP DSP EDGE IC ODE VLSI Cellular Neural Network CNN-Universal Machine Driving Point Digital Signal Processing Edge Dection template Integrated Circuit Ordinary Differential Equation Very Large Scale Integration Mạng nơ ron tế bào Máy tính vạn CNN Điểm điều khiển Xử lý tín hiệu số Mẫu dò đường biên Mạch tích hợp Phương trình vi phân thường Độ tích hợp cao Danh mục bảng biểu Bảng 3.1: Ngôn ngữ diễn tả mô cho mẫu EDGE CSD (script) 81 Bảng 3.2: So sánh công nghệ xử lý ảnh số chuẩn xử lý ảnh tương tự, thời gian tính toán μs (bao gồm thời gian truyền liệu) 85 Bảng 3.3: So sánh cấu trúc khác analogic CNN 86 Danh mục hình vẽ Hình 1.1: Cấu trúc mạng nơ ron tế bào tiêu chuẩn Hình 1.2: a) r=1 (lân cận 3x3), r=2 (lân cận 5x5) Hình 1.3: Các cell biên Hình 1.4: Mạch CNN với điều kiện biên cố định 10 Hình 1.5: Mạch CNN với điều kiện biên Neumann 11 Hình 1.6: Mạch CNN theo điều kiện biên tuần hoàn (Toroidal) 11 Hình 1.7: sơ đồ đóng gói thường dùng 12 Hình 1.8: Cấu trúc băng ma trận Aˆ Bˆ 12 Hình 1.9: Ví dụ mạch vô nghiệm sau thời gian giới hạn T 13 Hình 1.10: Mạch có vô số nghiệm riêng, với trạng thái ban đầu x(0)=0 14 Hình 1.11: Mạch có finite escape time 14 Hình 1.12: CNN có nghiệm đơn trị t≥0 15 Hình 1.13: Mạch điện tương đương 17 Hình 1.14: Cấu trúc phân lớp CNN 21 Hình 1.15: Phân lớp Zero-feedback (feedforward) ζ(0,B,z) 22 Hình 1.16: Phân lớp Zero-input (Autonomous) ζ(A, 0, z) 23 Hình 1.17: Phân lớp Uncoupled (scalar) ζ (Aº,B, z) 23 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Hình 1.18: Cấu trúc Cell CNN tiêu chuẩn C(i,j) 24 Hình 1.19: Hình ảnh minh họa tế bào C(i,j) điển hình nhận đầu vào từ nơ ron cảm biến phía bên trái nơ ron lân cận phía qua tế bào tương ứng 25 Hình 1.20: Lược đồ luồng tín hiệu hồi tiếp A kết hợp với mẫu A 26 Hình 1.21: Lược đồ dòng tín hiệu dẫn nạp đầu B kết hợp với mẫu B 26 Hình 2.1: Lân cận cell C(i,j) với r=1, r=2, r=3 27 Hình 2.2: Mô hình cell 28 Hình 2.3: Đường đặc tính nguồn điều khiển phi tuyến 29 Hình 2.4: Đặc tính điện trở phi tuyến phương trình mạch tế bào 39 Hình 2.5: Mạch tương đương trạng thái cân cell CNN 39 Hình 2.6: a), b), c) Các định tuyến động điểm cân mạch tương đương với giá trị khác g(t) 40 Hình 2.6: d), e), f), g) Các định tuyến động điểm cân mạch tương đương với giá trị khác g(t) 41 Hình 2.7: Các mẫu vô hướng toán tử tế bào tương tác Đơn vị sử dụng 41 Hình 2.8: a) 1x2 CNN tế bào biên với điều kiện biên 0, y00 = y01 = y02 = y03 = y10 = y13 = y20 = y21 = y22 = y23 = 45 b) Đồ thị luồng liệu tương ứng 45 Hình 2.9: Dạng sóng nghiệm tuần hoàn x1(t ), x2 (t ) quỹ đạo tương ưng trường hợp α=2, β=2, x1 (0) = 0.1, x2 (0) = 0.1 46 Hình 2.10 : Dạng nghiệm hỗn độn x1 (t ), x2 (t ) quỹ đạo tương ứng với trường hợp α=2, β=-1.2, x1 (0) = 0.1, x2 (0) = 0.1 48 Hình 2.11: Phổ lượng tần số tính toán số học từ nghiệm hỗn loạn x1(t) x2(t) 49 Hình 2.12: Bản đồ Poincare trích xuất từ quỹ đạo hấp dẫn lạ thường hình 13c gọi “ hấp dẫn giầy nữ” 49 Hình 2.13 : Quỹ đạo hấp dẫn lạ thường CNN 3x3 với p1=1,25; p2=1,1; p3=1; s=3,2; r=4,4 giá trị ban đầu x(0)=(0,1;0,1;0,1) 50 Hình 3.1: Mô tính toán CNN kích thước 4x4 58 Hình 3.2: giá trị điều kiện khởi tạo, cell C(2,2) có giá trị khởi tạo 59 Hình 3.3: Trạng thái cuối tương ứng với trạng thái khởi tạo cho hình 3.2 60 Hình 3.4: Chế độ tạm thời cell C(2,2) tương ứng với điều kiện khởi tạo hình 3.2 60 Hình 3.5: Chọn trạng thái khởi tạo ban đầu 61 Hình 3.6: Trạng thái kết thúc tương ứng với trạng thái ban đầu cho hình 3.5 61 Hình 3.7: a/ đầu tương ứng với điều kiện khởi tạo hình 3.5, b/ Điểm cân ổn định hệ thống tương ứng với trọng thái khởi tạo hình 3.5 61 Hình 3.8: Điều kiện khởi tạo khác 62 Hình 3.9: Đầu CNN với quy luật thay đổi mẫu vô hướng hình 2.7(a), (b) với điều kiện ban đầu cho hình 3.8 62 Hình 3.10: Trạng thái kết thúc tương ứng với đầu hình 3.9 62 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Hình 3.11: Các cell tức thời vị trí khác trong ảnh : trạng thái biến xij , : Biến đầu yij , ***: đầu trạng thái 65 Hình 3.12: Định tuyến động tương ứng với mẫu dò đường biên 67 Hình 3.13: Tế bào trạng thái đầu tức thời 30 nấc vị trí khác ảnh ví dụ 3.5 biểu diễn đường đậm mỏng tương ứng 71 Hình 3.14: Định tuyến trạng thái động đầu động trường hợp đặc biệt mức bù 0, ωij = 74 Hình 3.15: Trạng thái định tuyến tĩnh với ωij ≠ 75 Hình 3.16: Đồ thị dịch chuyển điểm điều khiển DP Γ x (ωij ) 76 Hình 3.16: Các vi xử lý vật lý cho nhiều tế bào CNN ảo 84 Hình 3.17: Giá trị hạn chế không đổi f h (.) 87 Hình 4.1: Thực erosion dilation ảnh nhị phân 93 Hình 4.2: Cấu trúc mắt người thành phần võng mạc 94 Hình 4.3: Các kiểu liên kết nơron võng mạc mô hình CNN 97 Hình 4.4 Cấu trúc xử lý mô hình võng mạc 99 Hình 4.5: Cấu trúc mô võng mạc CNN .100 Hình 4.8: Mạng CNN 2D 101 Hình 4.9: Mô hình kết nối mạng nơron tế bào 102 Hình 4.10: Quá trình tính toán mạng nơron tế bào 102 Hình 4.11: Kiến trúc bên tế bào xử lý 103 Hình 4.12: Sơ đồ khối máy tính thị giác .104 Hình 4.13: Máy tính thị giác PC104-plus Máy tính thị giác PC để bàn 104 Hình 4.11: Mẫu vân tay .105 Hình 4.14: Mẫu vân tay .105 Hình 4.15: Một số kiểu vân tay 105 Hình 4.16: Hệ thống nhận dạng vân tay 106 Hình 4.17: Nâng cấp ảnh vân tay dùng cân Histogram 107 Hình 4.18: Các mẫu điểm đường viền có tham số CNN (A, B, z) 108 Hình 4.19: Sơ đồ khối làm mảnh đỉnh vân 108 Hình 4.20: Sơ đồ khối tìm kiếm điểm đường viền 108 Hình 4.21: Cửa sổ 3x3 để trích đặc trưng 109 Hình 4.22: Sơ đồ khối trình matching vân tay dùng CNN 110 Hình 4.23: Kết thử nghiệm số phương pháp xử lý ảnh vân tay CNN 110 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Tạ Thị Kim Huệ Luận văn thạc sỹ MỞ ĐẦU Mục đích, đối tượng phạm vi nghiên cứu Máy tính điện tử đời 60 năm đến gần giới hạn vật lý kích thước tốc độ xử lý Sự đời mạng nơron tế bào CNN mở thời đại cho phát triển khoa học tính toán tiếp cận đến phương thức xử lý phương thức cảm nhận hành động tổ chức thể sinh vật sống Các máy tính số loại máy logic với liệu rời rạc mã hóa theo hệ nhị phân Tính chất khả thực thuật toán theo chương trình lưu nhớ Đây loại máy tính vạn xử lý số nguyên (Universal Machine on Integers) hay gọi máy Turing (Turing Machine) Các phép tính phép số học logic Thuật toán chuỗi logic phép tính Sự đời bóng bán dẫn năm 1948 vi mạch tích hợp IC (Integrated Circuit) năm 1960 tạo máy tính số có tính thực tiễn cao với giá thành rẻ trở thành loại hàng hóa thông dụng Trước nhiều người tưởng hoạt động máy tính điện tử phản ánh chế hoạt động não người Tuy nhiên vấn đề trở nên rõ ràng nơron tế bào thần kinh có chế hoạt động hoàn toàn khác Hệ nơron tính toán thường xử lý mảng tín hiệu tương tự (analog) có tính liên tục thời gian biên độ Cấu trúc gồm nhiều lớp mảng 2chiều nơron có kết nối mạng cục (local) chủ yếu, kết nối toàn cục (global) không nhiều Có nơ ron tích hợp với tế bào cảm biến (sensing) tế bào tác động (actuating) Các nơron hoạt động với độ trễ thay đổi có chế hoạt động dạng sóng kích hoạt Các liệu kiện (event) mảng tín hiệu phụ thuộc không gian và/hoặc thời gian Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Tạ Thị Kim Huệ Luận văn thạc sỹ Rõ ràng với tính chất nêu máy tính số khả tiếp cận đến khả xử lý não người, đến khả xử lý sinh vật sống Để chế tạo hệ thống điện tử có khả tính toán tương tự hệ thần kinh này, đòi hỏi phải thay đổi kiến trúc, thuật toán công nghệ khả xử lý song song hàng vạn hàng triệu xử lý chip Hiện hầu hết toán xử lý ảnh giải CNN với công cụ phát triển hệ thống thư viện hoàn chỉnh Ý nghĩa khoa học thực tiễn đề tài Sự đời CNN mở hướng cho phát triển khoa học tính toán CNN công nghệ xử lý song song cực mạnh đa Mạng Nơron tế bào CNN giải pháp mở đầu cho loại máy tính vạn xử lý dòng mảng liệu Trong nhiều toán thực tế, việc xử lý ảnh thời gian thực yêu cầu bắt buộc Tuy nhiên phương pháp xử lý ảnh truyền thống lại đòi hỏi nhiều thời gian xử lý với ảnh có kích thước lớn Để đáp ứng yêu cầu người ta tìm kiếm nhiều phương pháp xử lý ảnh song song khác nhằm giảm thời gian xử lý Mạng nơ ron tế bào (Cellular Neural Network – CNN) công cụ xử lý ảnh thời gian thực hữu hiệu quan tâm nghiên cứu rộng rãi giới có nhiều ưu điểm có chất xử lý song song Nội dung luận văn Chương 1: Tìm hiểu cấu trúc mạng nơ ron tế bào CNN Phần trình bày tổng quan hình thành phát triển công nghệ mạng nơ-ron tế bào CNN, sở toán học xây dựng kiến trúc mạng CNN Chương 2: Các đặc tính mạng CNN Đưa số tính chất liên quan đến dải đặc tính động trạng thái ổn định mạng nơ ron tế bào đề cập, hệ động lực học mạng nơ ron tế bào phi tuyến có trễ, tính hỗn độn mạng nơ ron tế bào mối quan hệ CNN với phương trình vi phân đạo hàm riêng ô tô mát tế bào Chương 3: Mô mạng CNN Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh Tạ Thị Kim Huệ Luận văn thạc sỹ Phân tích mô hệ động lực CNN định lượng mặt toán học phương thức số học để tính toán kết Sử dụng hệ thống mô phần mềm sử dụng phương pháp số học để giải việc thiết lập ODE hệ động lực CNN Giới thiệu phần mềm CNN SimulatorCANDY Chương 4: Ứng dụng xử lý ảnh Mạng nơ ron tế bào công nghệ xử lý ảnh tốc độ cao sở mạng nơ ron tế bào lĩnh vực khoa học công nghệ Việt nam giới; có nhiều triển vọng cho nhiều ứng dụng đột phá Mục tiêu chương giới thiệu số ứng dụng xử lý ảnh nhanh, xử lý song song mạng nơ ron tế bào Giới thiệu hai ứng dụng cụ thể Xây dựng mô hình thị giác nhân tạo nhận dạng vân tay sử dụng công nghệ CNN Kết luận Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 107 Tạ Thị Kim Huệ Luận văn thạc sỹ Mẫu CNN tương ứng là: Hình 4.17: Nâng cấp ảnh vân tay dùng cân Histogram 4.5.2.1 Làm mảnh đỉnh vân Để tìm đường rẽ nhánh vân tay nên đỉnh vân phải làm mảnh trước trích chọn điểm đặc trưng Làm mảnh đỉnh vân đưa ảnh vân với đường có độ rộng điểm ảnh Ảnh làm mảnh đưa liên tiếp tìm điểm pixel điểm đường viền xóa chúng Phương pháp làm mảnh đỉnh song song mạng CNN gọi CNNThinning Điểm ảnh đường viền điểm ảnh cần xóa qua xử lý làm mảnh Có loại điểm đường viền đông, tây , nam, bắc tương ứng với điểm Ví dụ hình bên thể điểm P0 điểm ảnh trung tâm, - P4 điểm đường viền phía đông - P8 điểm đường viền phía tây - P6 điểm đường viền phía nam - P2 điểm đường viền phía bắc 4.5.2.2 Điểm đường viền Ảnh chia thành nhiều block kích thước block 3x3 Một hướng điểm đường viền có kiểu template (ví dụ điểm đường viền phía đông có template CNN_E1, CNN_E2, CNN_E3) Nếu block match với mẫu bất kỳ, điểm pixel bị xóa Ảnh làm mảnh đưa liên tiếp tìm điểm pixel điểm đường viền xóa chúng Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 108 Tạ Thị Kim Huệ Luận văn thạc sỹ Hình 4.18: Các mẫu điểm đường viền có tham số CNN (A, B, z) Hình 4.19: Sơ đồ khối làm mảnh đỉnh vân Hình 4.20: Sơ đồ khối tìm kiếm điểm đường viền Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 109 Tạ Thị Kim Huệ Luận văn thạc sỹ 4.5.2.3 Trích chọn đặc trưng vây tay Có hai đặc trưng trích từ ảnh vân tay đỉnh kết thúc đường vân nhánh rẽ vân tay Phương pháp xác định vùng đặc trưng ảnh vân tay A.Wahab, S.H.Chin, E.C.Tan công bố năm 1998 Trong đó, xác định cửa sổ 3x3 (xem hình 4.18) M điểm dò X , X , , X điểm lân cận theo chiều kim đồng hồ góc trên-bên trái Nếu Xn điểm ảnh màu đen giá trị R(n) Hình 4.21: Cửa sổ 3x3 để trích đặc trưng Cũng thế, R(n) điểm ảnh màu trắng Nếu M đỉnh kết thúc, cần phải có: Đối với M nhánh rẽ, : Phương pháp trích chọn đặc trưng mô tả hàm sau: ∑ P(k + 1) − P(k ) = 12 Và tham số CNN (A,B,z) để trích đặc trưng vân tay k =1 sau: Tất điểm đặc trưng dò tìm ảnh làm mảnh bao gồm tọa độ kiểu điểm đặc trưng ghi vào sở liệu đặc trưng Tại điểm kết thúc việc trích đặc trưng, ghi đặc trưng vân tay thiết lập Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 110 Tạ Thị Kim Huệ Luận văn thạc sỹ 4.5.3 Phân tích đặc trưng vân tay dùng CNN Mục đích việc phân tích đặc trưng vân tay (sử dụng thuật toán matching) định đặc trưng vân tay cần nhận dạng (ξr) giống với đặc trưng mẫu sở liệu ξd Quyết định ξr = ξd khoảng cách ξr ξd nhỏ giá trị ngưỡng cho trước ε Thuật toán Matching đặc trưng vân tay dùng CNN gồm trình xử lý : So sánh đồng dạng (Similarity Comparison) đưa định (decision making) Hình 4.22: Sơ đồ khối trình matching vân tay dùng CNN Trong đó: − ξ er : đặc trưng điểm kết thúc đường vân cần nhận dạng − ξ br : đặc trưng nhánh rẽ đường vân cần nhận dạng − ξ ed : đặc trưng điểm kết thúc đường vân mẫu sở liệu − ξbd : đặc trưng nhánh rẽ đường vân mẫu sở liệu Hình 4.23: Kết thử nghiệm số phương pháp xử lý ảnh vân tay CNN Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 111 Tạ Thị Kim Huệ Luận văn thạc sỹ 4.6 Kết luận Võng mạc nhân tạo, có vai trò thiết bị tính toán hệ phức tạp mềm dẻo cho trình tiền xử lý chuỗi ảnh video Chính vậy, dự báo sử dụng số thuật toán phức tạp ứng dụng tiếp cận đến sống, chẳng hạn phân loại nhận dạng, bám mục tiêu, cảnh báo… Trong nghiên cứu tiếp theo, tác giả tập trung vào việc ứng dụng mô hình võng mạc CNN số lĩnh vực sau: Xây dựng mô hình võng mạc CNN cấu trúc máy tính đa CNN-UM, xử lý ảnh màu RGB thời gian thực, phân tích ảnh động, phân loại nhận dạng đối tượng, phân tích thay đổi đột ngột điều kiện môi trường Vấn đề nhận dạng vân tay với sở liệu lớn đòi hỏi tốc độ nhanh mà đảm bảo độ xác cao cấp thiết việc quản lý người xã hội văn minh an ninh quốc phòng Ngày phương tiện ghi hình (kể đêm tối) gọn nhẹ giá không cao, phương tiện đặt nhiều nơi truyền theo tuyến thông tin băng rộng trung tâm xử lí Đặc điểm công việc phải xử lí nhanh lượng thông tin hình ảnh cực lớn Công nghệ xử lí ảnh nhanh trợ giúp đắc lực cho lực lượng an ninh công việc Khi cần trợ giúp trung tâm xử lý hình ảnh thời gian thực, công nghệ xử lí ảnh nhanh phân tích sơ đánh dấu đối tượng khả nghi theo số dấu hiệu phân biệt : đàn ông-đàn bà, cao-thấp , già-trẻ, béo-gầy để trợ giúp nhân viên an ninh tập trung ý vào đối tượng cần thiết Khi cần trợ giúp trung tâm xử lí hình ảnh hồi cứu, công nghệ xử lí ảnh nhanh phân tích sơ lọc trường hợp có đối tượng khả nghi để giảm bớt (có thể đến hàng chục hàng trăm lần) khối lượng thông tin khổng lồ mà nhân viên điều tra phải xem xét Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 112 Tạ Thị Kim Huệ Luận văn thạc sỹ KẾT LUẬN Những vấn đề giải luận văn Luận văn hệ thống hóa số vấn đề lý thuyết công nghệ mạng nơ ron tế bào, tìm hiểu kiến trúc, đặc tính, mô mạng CNN Đưa số ứng dụng công nghệ mạng nơ ron tế bào xử lý ảnh Xây dựng mô hình hệ thống thị giác nhân tạo hệ thông nhận dạng vân tay tảng áp dụng công nghệ CNN So sánh ưu điểm vượt trội áp dụng công nghệ CNN vào xử lý ảnh so với công nghệ xử lý ảnh truyền thống Sau số nét mà luận văn tập trung giải quyết: Chương đưa nhìn khái quát kiến trúc mạng CNN sở toán học phân tích mạng nơ ron tế bào Chương hai xem xét số tính chất mạng nơ ron tế bào, sâu vào phân tích tính chất mạng nơ ron tế bào hai chiều từ suy tính chất mạng nơ ron tế bào nhiều chiều, tính chất dải động, tính chất ổn định, hệ động lực học mạng nơ ron tế bào phi tuyến có trễ, tính hỗn độn mạng nơ ron tế bào mối quan hệ CNN với phương trình vi phân đạo hàm riêng ô tô mát tế bào Chương ba trình bày mô hình mô mạng nơ ron tế bào dựa phân tích định lượng mặt toán học phương thức số học để tính toán kết quả, nghiên cứu hai đối tượng mẫu EDGE EDGEGRAY áp dụng mô phỏng, giới thiệu hệ thống mô phần mềm sử dụng phương pháp số học để giải việc thiết lập ODE hệ động lực CNN, công cụ mô phần mềm CNN Visual Mouse Platform _CANDY Chương bốn đưa số ứng dụng cụ thể xử lý ảnh áp dụng công nghệ mạng nơ ron tế bào, ứng dụng xử lý ảnh công nghiệp, an ninh quốc phòng, xu hướng phát triển công nghệ mạng nơ ron tế bào xử lý ảnh Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 113 Tạ Thị Kim Huệ Luận văn thạc sỹ Hướng phát triển Mặc dù luận văn đưa nghiên cứu chi tiết công nghệ mạng nơ ron tế bào mặt lý thuyết, thời gian có hạn nên ứng dụng cụ thể mạng nơ ron tế bào xử lý ảnh lĩnh vực khác dừng lại tính chất tìm hiểu tham khảo, chưa có kết áp dụng cụ thể từ tác giả Trong thời gian tới tiếp tục nghiên cứu để ứng dụng thực tế sáng tạo xử lý ảnh mạng nơ ron tế bào Các hướng nghiên cứu thời gian tới công nghệ CNN bao gồm lý thuyết công nghệ, ứng dụng Các nghiên cứu ý khảo sát độ ổn định mạng CNN nhiều lớp, mạng CNN có trễ, phương pháp nhận dạng sở tính chất lan truyền sóng, nghiên cứu thiết kế mẫu trọng số tối ưu, phương pháp giải phương trình vi phân đạo hàm riêng dùng mạng CNN vv…Liên quan đến lĩnh vực công nghệ đáng ý việc tích hợp chip CNN với cảm biến địa hình (Topographic sensor) cảm biến thị giác, xúc giác, nhiệt độ âm cho ta máy tính cảm biến (Sensor Computer) Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 114 Tạ Thị Kim Huệ Luận văn thạc sỹ TÀI LIỆU THAM KHẢO [01] L O.Chua and L Yang, “Cellular neural networks: Theory”, IEEE Trans Circuits Syst., Vol 35,pp 1257-1272, 1998 [02] L O Chua and Roska Tamas Cellular Neural Networks and Visual Computing: Foundations and Applications Cambridge University Press 2002 [03] Angela Slavova Cellular Neural Networks: Dynamics and Modelling Kluwer Academic Publishers 2003 [04] L O.Chua and L Yang, “Cellular neural networks: Applications”, IEEE Trans Circuits Syst.,Vol.35 pp 1273-1290, 1998 [05] Ákos Zarándy, Rafael Domínguez-Castro & Servando Espejo, “Ultra High Frame Rate Focal Plane Image Sensor and Processor”, IEEE Sensors Journal, Volume 2, Issue 6, December 2002, Page(s): 559 – 565 [06] B Mirzai, D L´ým, and G S Moschytz, “Robust CNN templates: Theory and simulations”, in Proc IEEE Int Workshop Cellular Neural Networks Applications, Seville, Spain, June 1996 [07] Bi-i Programming Guide 1.1, AnaLogic Computers Ltd, 2004 [08] Chua L O and Roska T., The CNN paradigm, IEEE Trans on Circuits and Systems I40 (1993) pp 147-156 [09] CNN Software Library for ACE4K chip (Templates and algorithms) Ver 1.1, Analogical & Neural Computing labotarary Computer and Automation Institute Hungarian Academy of Sciences, 2000 [10] D Bálya, Cs Rekeczky, T Roska, "A Realistic Mammalian Retinal Model Implemented on Complex Tế bào CNN Universal Machine", 2002 [11] Dávid Bálya, “Mammalian retina modeling and on-line learning on CNN architecture from wetware to silicon”, Ph.D Dissertation [12] Dániel Hillier, V Binzberger, D L Vilarino, and Csaba Rekeczky, ”Topographic Active Contour Techniques: Theory, Implementations and Comparisons”, Int Journal on Circuit Theory and Applications Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 115 Tạ Thị Kim Huệ Luận văn thạc sỹ [13] E Saatci, and V Tavsanoglu, Fingerprint Image Enhancement using CNN Gabor- Type Filters, Proc Seventh IEEE International Workshop on Cellular Neural Networks and their Application, pp 22-24, July 2002 [14] G Tímár, and Cs Rekeczky, “A Real-time Multi-target Tracking System with Robust Multi-channel CNN Algorithms”, IEEE Trans on Circuits and Systems, Vol.52, pp 1358-1371, July, 2005 [15] I Szatmári, “Spatio-temporal Nonlinear Wave Metric for Binary and Grayscale Object Comparison on Analogic Cellular Wave Computers”, Int Journal of Functional Differential Equations, Vol.13, No.I, pp 89-97, 2006 [16] I Petrás, M Gilli “Complex dynamics in one-dimensional CNNs”, Int Journal of Circuit Theory and Applications, Vol.34, No.1 pp 3-20, 2006 [17] I Szatmári, Á Zarándy, “High-speed Label Inspection System for Textile Industry”, Proceedings of 10th IMEKO TC10 International Conference on Technical Diagnostics, Budapest, Hungary, pp 99-102, 2005 [18] K R Crounse and L O Chua, “Methods for Image Processing in Cellular Neural Networks: A Tutorial, IEEE Trans on Circuits and Systems”, Vol 42, No 10, pp 583- 601, October 1995 [19] Á Zarándy, P Földesy, P Szolgay, Sz Tõkés, Cs Rekeczky, T Roska, “Various implementations of topographic, sensory, cellular wave computers”, Proceedings of IEEE International Symposium on Circuits and Systems (ISCAS’05), Kobe, Japan, Vol 6, pp 5802-5805, 2005 [20] Leon O Chua, Tamás Roska and Péter L Venetianer, “The CNN is Universal as the Turing Machine IEEE Trans.on Circuits and Systems: Fundamental Theory and Applications”, Vol., 40, No.4, pp.289-291, 1993 [21] Analogic Computer Ltd http://www.analogic-computer.com Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 116 Tạ Thị Kim Huệ Luận văn thạc sỹ [22] Ngô Tứ Thành, “Ảnh vân tay đa cấp xám thuật toán tự động xác định điểm đặc trưng dựa vào dòng chảy đường vân”, Tuyển tập báo cáo khoa học hội nghị toàn quốc lần thứ tự động hóa, pp 528-534, 04/1998 [23] Phạm Đức Long, Phạm Thượng Cát, "Công nghệ mạng nơ ron tế bào CNN ứng dụng", Tạp chí Tin học điều khiển học tập 22, số1-2006 [24] Phạm Đức Long, Phạm Thượng Cát, “Ứng dụng công nghệ CNN (Cellular Neural Network) kiểm tra nhanh đường sắt” Báo cáo Hội nghị Cơ điện tử toàn quốc lần thứ 3, pp.363-371, Hà nội 10/2006 [25] Qun Gao, George S Moschytz, “Fingerprint feature matching using CNNS”, IEEE ISCAS 2004, pp 73 – 76 [26] Tamás Roska, “Cellular Wave Computers for Brain–like Spatial–Temporal Sensory Computing”, IEEE Circuits and Systems Magazine, pp 5-19, Second Quarter 2005 [27] Tamás Roska, “Computatiomal and Computer Complexity of Analogic Cellular Wave Computer” Journal of Circuits, Systems and Computers Vol., 12.pp.539-562,2003 [28] T Roska, L.O.Chua, D Wolf T Kozek, R.Tetzlaff and F.Duffer, “Simulating Nonlinear Waves and Partical Differential Equations via CNN”, PartI: Basic Techniques IEEE Trans.on Circuits and Systems: Fundamental Theory and Applications Vol., 42, No.10, pp.807-815, 1995 [29] T Roska, L.O.Chua, D Wolf T Kozek, R.Tetzlaff and F.Duffer, “Simulating Nonlinear Waves and Partical Differential Equations via CNN”-Part II: Typical Examples IEEE Trans.on Circuits and Systems: Fundamental Theory and Applications Vol., 42, No.10, pp.816-820, 1995 [30] Trần Việt Phong, Phạm Thượng Cát, “Một số nghiên cứu mô hình sinh học lĩnh vực thị giác nhân tạo” Báo cáo Hội nghị Cơ điện tử toàn quốc lần thứ 3, pp.168-172, Hà nội 10/2006 Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 117 Tạ Thị Kim Huệ Luận văn thạc sỹ [31] Tamas Roska and L.O Chua, “The CNN Universal Machine: An Analogic Array Computer IEEE Trans.on Circuits and Systems: Analog and Digital Signal Processing”, Vol., 40, No.3, pp.163-173, 1993 [32] Tamas Roska , L.O Chua, T Kozek and A Zarandy, “CNN Universal Chips Crank up the Computing Power” , IEEE Circuits and Devices: July 1996 pp.18-28 [33] T Kozek, T Roska, and L O Chua, “Genetic algorithm for CNN template learning,” IEEE Trans Circuits Syst I, vol 40, pp 392–402, June 1993 [34] T Roska, Á Rodríguez-Vázquez “Towards Visual Microprocessors.J Circuits, Systems, and Computers”, 13, in print 2003 [35] T Roska and L.O.Chua “The CNN Universal Machine: 10 years later” Journal of Circuites, Systems, and Computers, Vol.12, No.4, August 2003 [36] T Roska, “Cellular Wave Computers for Brain-Like Spatial-Temporal Sensory Computing”, Circuits and Systems Magazine, second quarter 2005, pp 5-19, 2005 [37] Z Nagy, P Szolgay, “Solving Partial Differential Equations on Emulated Digital CNN-UM Architectures”, Int Journal of Functional Differential Equations, Vol 12 [38] Ákos Zarándy and Csaba Rekeczky, “Bi-I: A Standalone Ultra High Speed Cellular Vision System” IEEE Circuits and Systems Magazine pp 36-45, Second Quarter 2005 [39] A.Wahab, S.H.Chin, E.C.Tan, “Novel approach to automated fingerprint recognition”, IEE Proc – Vis Image Signal Process, Vol 145, pp 160-166, June 1998 [40] Ákos Zarándy, "The Art of CNN Template Design", MTA SzTAKI Report , 1998 [41] Cellular Wave Computing Library (Templates, Algorithms, and Program) Ver.2.1 CSW-1-2007 MTA SzTAKI [42] Eutecus Inc Berkley http://www.eutecus.com Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 118 Tạ Thị Kim Huệ Luận văn thạc sỹ PHỤ LỤC Phụ lục A Sử dụng phần mềm mô CNN Simulator- CANDY Tải cài đặt phiên mô CNN “CANDY” trang web http://wwwinst.eecs.berkeley.edu/~ee129/ Click chuột vào cài “Candy_setup.exe” để cài đặt phần mềm mô I Hướng dẫn sử dụng (Các ví dụ mô mẫu CNN: Dò đường biên với mô CNN) Click vào biểu tượng Vismouse, hiển thị hình sau Ảnh xử lý tải lên hình, để làm việc Click vào công cụ “File/open image”, hình sau xuất (Tham khảo thêm Help/Menu Interface/File/Image Open, Close command) Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 119 Tạ Thị Kim Huệ Luận văn thạc sỹ Nếu lựa chọn file “A_letter.bmp” danh sách File Name, hình ảnh sau xuất Để xử lý ảnh hiển thị hình vào chế độ “Template Runner”(Tham khảo Help/Menu Interface/Template) danh mục “Template” Màn hình mở “Template” vị trí phía loại Mẫu mà bạn cần chạy Clicking vào biểu tượng thư mục phía bên tay phải hộp “Template”, danh sách mẫu bạn chọn đưa Phía hộp thoại “Template”, thông số mẫu lựa chọn mô tả phần đầu liệu mẫu Tham khảo Help/Contents/Dialog Boxes/CNN Specific Settings ảnh tham số liên quan Để chạy mô click vào biểu tượng Runner hộp “script” Sau chạy mẫu “edge detection” khoảng thời gian tau period (bước thời gian =0.01), đầu mô xuất phía bên phải hình Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 120 Tạ Thị Kim Huệ Luận văn thạc sỹ II Tạo sửa đổi ảnh thực cách chọn danh mục “image” hình Click vào biểu tượng “ok” không cần đưa tên file (bỏ qua file name), cho phép tạo ảnh Có thể sửa ảnh có việc chọn danh mục “image” -> chọn “editor” III Tạo sửa mẫu làm việc chọn danh mục “Template Edit” phía danh mục “Template” Click “ok” không cần đặt tên file cho mẫu, mẫu tạo ra, bạn sửa mẫu tồn việc chọn tên mẫu Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh 121 Tạ Thị Kim Huệ Luận văn thạc sỹ Phụ lục B Chương 1 Được đề cập chương tiếp theo, thường có tính chất phi tuyến P Hartman, ODE, Birkhauser, 1982, p Lược đồ luồng tín hiệu công cụ mô tả dạng tín hiệu kinh điển sử dụng trường hợp tương tự đối tượng Hình 1.20, đường biên trùng khớp xác với lược đồ luồng tín hiệu theo định nghĩa truyền thống Tuy nhiên, đường biên mờ hiểu phần lược đồ luồng tín hiệu truyền thống, giống nhớ hỗ trợ cho việc hiển thị cấp độ ảnh hưởng đầu tế bào trung tâm với lân cận Chương Đối với trạng thái khác, sử dụng điều kiện biên Các nguồn nhiễu thông thường bao gồm ảnh phản xạ tổng hợp nhiều tương tác cảm biến, giống dò ảnh, để làm số lượng photon, electrons tới nhỏ Chương Chạy mô hệ thống CANDY, giao diện gọi VisMouse SimCNN multilayer CNN simulator Thông thường, f(·) hàm tiên tục Trong tài liệu, thông thường DTCNNs sử dụng kiểu hàm f(.) (là giới hạn cứng hàm bão hòa tuyến tính phân đoạn đồng nhất) Nghiên cứu công nghệ CNN ứng dụng xử lý ảnh ... nguồn dòng điều khiển áp, giá trị dòng đưa tương ứng để điều khiển ukl ykl , akl or bkl , loại trừ hình thoi phía bên phải f ( xij ) lõi bên nguồn dòng điều khiển áp phi tuyến, kết cho điện đầu... trúc mạng Nơron tế bào CNN Phần trình bày tổng quan hình thành phát triển công nghệ mạng nơ-ron tế bào CNN, sở toán học kiến trúc mạng nơ ron tế bào CNN 1.1 Tổng quan Sự phát triển công nghiệp điện. .. hiểu cấu trúc mạng nơ ron tế bào CNN Phần trình bày tổng quan hình thành phát triển công nghệ mạng nơ-ron tế bào CNN, sở toán học xây dựng kiến trúc mạng CNN Chương 2: Các đặc tính mạng CNN Đưa