BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN KH&CN VIỆT NAM VIỆN CÔNG NGHỆ THÔNG TIN Phạm Đức Long PHÁT TRIỂN MỘT SỐ THUẬT TOÁN XỬ LÝ ẢNH SỬ DỤNG MẠNG NƠRON TẾ BÀO LUẬN ÁN TIẾN SĨ TOÁN HỌC HÀ NỘI 10 - 2011 BỘ GIÁO DỤC VÀ ĐÀO TẠO VIỆN KH&CN VIỆT NAM VIỆN CÔNG NGHỆ THÔNG TIN Phạm Đức Long PHÁT TRIỂN MỘT SỐ THUẬT TOÁN XỬ LÝ ẢNH SỬ DỤNG MẠNG NƠRON TẾ BÀO Chuyên ngành: Bảo đảm toán học cho máy tính hệ thống tính toán Mã số: 62 46 35 01 LUẬN ÁN TIẾN SĨ TOÁN HỌC NGƯỜI HƯỚNG DẪN KHOA HỌC PGS, TSKH Phạm Thượng Cát PGS TS Ngô Diên Tập HÀ NỘI 10 - 2011 LỜI CẢM ƠN Được bảo tận tình Thày, Cô giáo Viện Công nghệ thông tinViện Khoa học Công nghệ Việt Nam đặc biệt Thày giáo PGS TSKH Phạm Thượng Cát Thày giáo PGS TS Ngô Diên Tập, nỗ lực thân hoàn thành luận án Tôi xin chân thành cảm ơn bảo, giúp đỡ Thày, Cô Tôi gửi lời cảm ơn tới Ban giám hiệu Trường Đại học Công nghệ thông tin Truyền thông Thái Nguyên hỗ trợ, tạo điều kiện cho thời gian học tập Tôi xin cảm ơn bạn đồng nghiệp Trường động viên, khích lệ Cảm ơn người thân gia đình hỗ trợ động viên năm tháng dài cố gắng học tập Hà Nội ngày 10 tháng 10 năm 2011 Nghiên cứu sinh Phạm Đức Long LỜI CAM ĐOAN Tôi xin cam đoan công trình nghiên cứu hướng dẫn khoa học PGS TSKH Phạm Thượng Cát PGS TS Ngô Diên Tập Các số liệu kết nêu luận án trung thực chưa công bố sản phẩm khoa học khác MỤC LỤC Trang CHƯƠNG 1: MỞ ĐẦU 1.1 Tổng quan xử lý ảnh dùng mạng nơron tế bào CNN 1.1.1 Tình hình nghiên cứu giới 10 a) Lọc nhiễu xử lý ảnh máy tính hệ lệnh 10 b) Sự đời phát triển CNN CNN UM 12 c) Xử lý ảnh dùng CNN 20 1.1.2 Tình hình nghiên cứu xử lý ảnh dùng CNN nước 22 1.2 Mục đích đối tượng phạm vi nghiên cứu đề tài 23 1.3 Phương pháp nghiên cứu 24 1.4 Ý nghĩa khoa học thực tiễn đề tài 24 CHƯƠNG 2: MẠNG NƠ RON TẾ BÀO CNN VÀ LỌC NHIỄU TRONG XỬ LÝ ẢNH 2.1 Kiến trúc CNN 2.1.1 Kiến trúc CNN tuyến tính 25 2.1.2 Kiến trúc CNN phi tuyến CNN trễ 28 2.1.3 Kiến trúc CNN nhiều lớp 29 2.1.4 Ba lớp CNN tuyến tính đơn giản 29 2.2 Một số vấn đề CNN 2.2.1 Giới hạn động lực học CNN 32 2.2.2 Độ ổn định CNN 32 2.2.3 Ba kiểu điều kiện biên tiêu biểu cho CNN 35 2.2.4 Thiết kế mẫu cho mạng nơ ron tế bào 36 a) Bộ mẫu – chương trình máy tính mạng nơ ron tế bào 36 b) Các phương pháp thiết kế mẫu cho CNN 40 2.2.5 Thiết kế mẫu giải PDE khuếch tán 41 2.3 Sử dụng phương trình khuếch tán xử lý ảnh máy tính hệ lệnh 41 a) Khuếch tán đẳng hướng (isotropic) 42 b) Khuếch tán dị hướng (anisotropic) 42 c) Khuếch tán với thành phần phức 45 2.4 Một số mô hình CNN lớp hai lớp đề xuất 2.4.1 Mô hình CNN lớp lọc nhiễu 49 a) Mô hình CNN lớp số thực giải phương trình truyền nhiệt 49 b) CNN lớp thực lọc phức Gabor 50 2.4.2 Mô hình CNN hai lớp Zonghuang Yang, Yoshifumi Akio Ushida 51 CHƯƠNG 3: PHÁT TRIỂN MỘT SỐ THUẬT TOÁN XỬ LÝ ẢNH XỬ LÝ SONG SONG DÙNG CÔNG NGHỆ MẠNG NƠRON TẾ BÀO 3.1 Thuật toán lọc nhiễu dùng CNN với khuếch toán phức 53 3.1.1 Mô hình CNN thực PDE khuếch tán tuyến tính phức 53 3.1.2 Mô hình CNN khuếch tán phi tuyến phức 63 3.1.3 Độ xác phương pháp 69 3.2 Thuật toán lọc nhiễu SHOCK dùng CNN 69 3.2.1 Bộ lọc shock 69 3.2.2 Thuật toán lai dùng CNN tăng tốc độ cho lọc shock 74 3.2.3 Xem xét thực thuật toán 77 3.3 Thuật toán lọc nhiễu đốm SRAD dùng CNN 79 3.3.1 Lọc nhiễu đốm SRAD 79 3.3.2 Mô tả thuật toán dùng CNN 83 3.3.3 Đánh giá tính hội tụ hiệu thuật toán 87 3.4 Thuật toán phục hồi ảnh đối xứng thời gian thực 88 CHƯƠNG 4: MỘT SỐ KẾT QUẢ THỰC NGHIỆM VÀ MÔ PHỎNG KIỂM CHỨNG 4.1 Thực nghiệm thuật toán lọc nhiễu shock 4.1.1 Mô tả thực nghiệm 93 4.1.2 Kết đánh giá so sánh với phương pháp khác 94 4.2 Mô thuật toán lọc nhiễu đốm SRAD 4.2.1 Mô tả toán mô 99 4.2.2 Kết đánh giá so sánh với phương pháp khác 99 4.3 Thực nghiệm xử lý ảnh thời gian thực CNN UM 4.3.1 Thực nghiệm thuật toán phục hồi ảnh đối xứng thời gian thực 99 a) Mô tả thực nghiệm 99 b) Kết đánh giá so sánh với phương pháp khác 101 4.3.2 Thực nghiệm nhận dạng tốc độ cao 102 a) Mô tả thực nghiệm 102 b) Kết đánh giá so sánh với phương pháp khác 110 4.4 Hướng ứng dụng kết nghiên cứu công nghiệp 110 KẾT LUẬN Tóm tắt nội dung nghiên cứu 111 Các kết luận án 112 Kiến nghị nghiên cứu 112 Danh mục công trình công bố 114 TÀI LIỆU THAM KHẢO 116 Danh mục hình vẽ Hình 1.1 Các mức phần mềm công cụ sử dụng ngôn ngữ Hình 1.2 Cấu tạo thiết bị Bi-iV2 Hình 1.3 Thiết bị Eye-RIS Hình 2.1 CNN tiêu chuẩn kích thước MxN Hình 2.2 Mạch điện cell Hình 2.3 Hàm đầu Piecewise với phương trình 2.1b Hình 2.4 Sơ đồ hoạt động cell Hình 2.5 Một số kiểu lưới CNN Hình 2.6 Cấu trúc hệ thống cell zero-feedback Hình 2.7 Cấu trúc hệ thống CNN zero-input Hình 2.8 Cấu trúc hệ thống cell trung tâm không ghép cặp Hình 2.9 Sáu kiểu hệ số mẫu A 3x3 cho phép CNN ổn định Hình 2.10 Đồ thị DP Hình 2.11 Giải thích mạch điện điều kiện tế bào biên cố định (Dirichlet) Hình 2.12 Giải thích mạch điện tế bào biên kiểu Neumann Hình 2.13 Giải thích mạch điện tế bào biên kiểu Periodic Hình 2.14 Mẫu tìm biên hiệu mẫu Hình 2.15 Mẫu thiết lập ngưỡng (Threshold) Hình 2.16 Tách thu hồi ảnh nguyên Hình 2.17 Tác dụng mẫu Hollow Hình 2.18 Sơ đồ bước thiết kế mẫu theo phương pháp trực tiếp Hình 2.19 Khuếch tán phức tuyến tính ảnh màu 256x216 Hình 2.20 Biên dốc biên bước Hình 2.21 Quan hệ biên dốc biên bước đạo hàm Hình 2.22 Khuếch tán phức ảnh người chụp ảnh với θ nhỏ Hình 2.23 Khuếch tán phức ảnh cameraman với θ lớn Hình 2.24 Làm mờ ảnh CNN Hình 2.25 Thực lọc Gabor phức Hình 2.26 Tách đôi đối tượng thành hai nửa dùng CNN lớp Hình 2.27 Tìm xương đối tượng mạng CNN hai lớp Hình 3.1 CNN lớp 2D giải phương trình khuếch tán Hình 3.2 Tương tác hai lớp CNN thực ảo Hình 3.3 Quan hệ trạng thái hàm đầu Hình 3.4 Khuếch tán phức phi tuyến ảnh y học Hình 3.5 Khuếch tán phức phi tuyến ảnh phong cảnh Hình 3.6 Tác dụng lọc shock Hình 3.7 Ảnh hưởng nhiễu đến lọc shock Hình 3.8 Sơ đồ quy ước phần tử điểm ảnh Hình 3.9 Thuật toán thực lọc shock theo phương pháp lai Hình 3.10 Biểu đồ DP CNN tính Ipx Hình 3.11 SRAD tám hướng Hình 3.12 Thuật toán lai giảm nhiễu đốm Hình 3.13 Sơ đồ khối thuật toán khôi phục ảnh 2D đối xứng CNN Hình 3.14 Biểu đồ xử lý luồng ảnh Hình 3.15 Ảnh X0 Hình 3.16 Quay P1 1800 quanh trục Oz để nhận P2 Hình 4.1 Sơ đồ thực nghiệm shock Bi-I Hình 4.2 Kết thực nghiệm lọc shock Bi-I Hình 4.3 Thực lọc shock ảnh xám thu trực tiếp từ camera CNN UM Bi-I Hình 4.4 Thực lọc shock ảnh SAM3 Hình 4.5 Thực lọc shock ảnh tháp Rùa Hình 4.6 Hệ thống thử nghiệm khôi phục ảnh đối xứng thời gian thực Hình 4.7 Các ảnh bị phá huỷ đĩa quay dùng cho thử nghiệm Hình 4.8 Màn hình chương trình ảnh nguyên thuỷ sau khôi phục Hình 4.9 Đĩa gắn mũ ốc Hình 4.10 Mô hình thí nghiệm Hình 4.11 Thuật toán xử lý Hình 4.12 Quá trình xử lý ảnh: số tác vụ ACE16K, số tác vụ DSP Hình 4.13 Ảnh thu qua camera Hình 4.14 Chi tiết thực bước Hình 4.15 Ảnh sau bước 2.3 Hình 4.16 Ảnh sau bước 2.4 2.5 Hình 4.17 Ảnh thu qua bước tiền xử lý Hình 4.18 Mẫu tìm tâm đối tượng Hình 4.19 Các ảnh thu lớn dần Hình 4.20 Trục elip ảo đối tượng Hình 4.21 Giao diện chương trình Danh mục bảng Bảng 1.1 Kích thước mảng CPU chip CNN tăng theo thời gian Bảng 4.1 Hiệu xử lý số lọc shock Bảng 4.2 Tỷ lệ số phép toán thực song song sử dụng thuật toán lai Danh mục ký hiệu, viết tắt * Phép chập cuộn x Phép nhân ∆ Toán tử Laplace div(.) Toán tử Divergence ∇ Toán tử Gradient A Ma trận trọng số hồi tiếp B Ma trận trọng số dẫn nhập Z Dòng ngưỡng CNN 106 Mẫu sử dụng bước: Mẫu co ảnh (erosion): Mẫu PATCH MAK Mẫu đảo ảnh Mẫu loại đối tượng nhỏ (nhiễu) Kết bước: Hình 4.15 a) Ảnh nhị phân Hình 4.16 a) Sau bước 2.4 b) Sau bước 2.3 (Erode8) b) Sau bước 2.5 107 Hình 4.17 Ảnh thu qua bước tiền xử lý • Vào bước thuật toán xử lý chung hình 4.11 Sau bước biến đổi lại đối tượng đen trắng cần giám sát hình 4.17 Đặc điểm đối tượng có hai trục hình elip ảo tương đương Nhưng diện tích khác Các đối tượng không bị mũ ốc có diện tích lớn Đối tượng bị mũ ốc có diện tích nhỏ Dựa vào tính chất thực thuật toán hình 4.11 thực việc xác định đối tượng bị ốc Bước Tách ảnh P1 cần theo dõi Với mức thực phòng thí nghiệm nhằm kiểm tra khả dùng BiiV2 để phát đối tượng có mũ ốc hay không tàu chạy nên giả định ảnh mũ ốc thu giữ nguyên hình dạng nguyên thuỷ (không bị đất đá che khuất ) Vì sau thực tiền xử lý dùng phương pháp tính toán đặc điểm, số liệu thống kê đối tượng (feature extraction) để tới kết luận Kích thước ảnh thu camera Bi-iV2 128x128, ta gọi ảnh ảnh P Vùng ảnh chứa đối tượng cần theo dõi (mũ ốc) vùng nhỏ nằm P Thực tiếp thao tác tách vùng cần theo dõi với kích thước 40x40 để thu ảnh P1 mà ảnh có đối tượng tồn Nếu đối tượng tồn bình thường (không mũ ốc) sau khoảng cách định (khoảng cách tà vẹt-0.7m) phải thấy P1 Trong bước có sử dụng mẫu tìm tâm đối tượng 108 Hình 4.18 Mẫu tìm tâm đối tượng Bước Tính toán dặc điểm đối tượng Việc trích chọn đặc tính sử dụng sở tính toán trục x,y (Major axis and Minor axis) trục hình elip ảo đối tượng [18] Trên hình 4.20 ví dụ đối tượng hình đầu chó với trục elip ảo Trong thực tế liên tục bắt ảnh dù với tốc độ nhanh ta thu ảnh đầy đủ Khi tàu chuyển động (trong thí nghiệm đĩa quay) ảnh P1 lớn dần lên từ đến Hình 4.19 Các ảnh thu lớn dần Hình 4.20 Trục elip ảo đối tượng 109 Trong thí nghiệm tỷ lệ x/y < 1.1 coi thu đối tượng đầy đủ Khi việc kiểm tra so sánh tiếp thông số Area (Số điểm ảnh đối tượng) với giá trị A A giá trị Area ảnh có mũ ốc Nếu kết nhỏ A kết luận là "mất mũ ốc" vị trí Hình 4.21 Giao diện chương trình Trong hình 4.21 từ xuống dưới, từ trái sang phải hình: Ảnh xám, ảnh nhị phân ảnh sau bước tiền xử lý (hình 4.17) Các hình ảnh mũ ốc vị trí phải, trên, trái, so với tâm quay Các hình hiển thị thông số hình học đối tượng mũ ốc tương ứng Hình cuối thông báo vị trí đai ốc bị mũ Bước Tính thời gian xử lý Việc tính thời gian xử lý thực cách sử dụng Timer DSP Bi-i Khi gặp ảnh đầy đủ (x≈y) Ảnh ảnh mũ ốc (nhánh 'K') ảnh không mũ ốc (nhánh 'C') (hình 4.11) Thời gian bắt đầu thu ảnh bật Timer Khi kết thúc vòng kiểm tra có kết mũ ốc dừng Timer Đếm số đo Timer để từ suy thời gian xử lý 110 b ) Kết đánh giá so sánh với phương pháp khác + Để tận dụng tính xử lý song song, hướng giải để nhận đối tượng thực nghiệm không theo kiểu truyền thống tìm biên, trích chọn đặc tính, mà theo hướng sử dụng phương pháp nhận dạng trục ảo đối tượng sử dụng Bi-i + Thực nghiệm thực nhận dạng ảnh thực thu với tốc độ 6666 fps Các hệ thu xử lý ảnh thông thường thực với tốc độ bắt ảnh 30 fps chưa đạt đến mức thực nghiệm 4.4 Hướng ứng dụng kết nghiên cứu công nghiệp a) Đo không tiếp xúc tốc độ nhanh: Kiểm tra sản xuất tem nhãn, kiểm tra độ cách điện bugi quy trình sản xuất, kiểm tra hình dạng kích thước sản phẩm sản xuất thép, kiểm tra lỗi đường mạch in lắp ráp linh kiện, kiểm tra trình gia công kim loại trình hàn, trình tiện tự động (xuất lẹo dao, sai hình dáng dao cắt), b) Phân loại sản phẩm c) Dùng hệ Robot công nghiệp ứng dụng xử lý ảnh: Dùng xe nâng hàng tự động nhà kho, cảng lớn: Việc xác định vị trí hướng giá đỡ hàng camera CNN bước đầu áp dụng nghiên cứu chế tạo xe tự động bốc xếp hàng hoá (bài báo đóng góp số 11) d) Xây dựng thiết bị xử lý ảnh CNN chuyên dụng phần cứng 111 KẾT LUẬN Việc nghiên cứu phát triển mạng nơ ron tế bào CNN có ý nghĩa quan trọng xử lý luồng tín hiệu song song, liên tục nói chung xử lý ảnh nói riêng Các mô hình xử lý dùng CNN lai CNN+DSP có lực xử lý thời gian thực chúng có khả thực hoàn toàn phần cứng Chất lượng độ xác xử lý ảnh dùng CNN xử lý theo phương pháp chất hai kiểu xử lý xử lý ảnh rời rạc hoá, sơ đồ rời rạc hoá toán học Ưu điểm xử lý ảnh dùng CNN xử lý đồng thời mảng điểm ảnh so với xử lý điểm ảnh máy tính nên thời gian xử lý nhanh Hạn chế xử lý ảnh dùng CNN thiết bị xử lý CNN chế tạo mảng xử lý độ phân giải thấp (176x144), mảng CNN (255x255) nghiên cứu chế tạo Một khó khăn xử lý ảnh CNN thiết kế mẫu chuyên dụng Tuy nhiên sử dụng phương pháp lai CNN+DSP với thư viện mẫu sở hoàn toàn đáp ứng nhiệm vụ xử lý ảnh Sau ba năm nỗ lực học tập, nghiên cứu, công việc thực kết đạt nghiên cứu sinh thông qua luận án sau: Tóm tắt nội dung nghiên cứu • Nghiên cứu mạng nơron tế bào CNN lớp nhiều lớp bao gồm vấn đề sở toán học, giới hạn động lực học, độ ổn định, số hình thái đặc biệt CNN • Nghiên cứu phương pháp thiết kế mẫu cho mạng nơron tế bào Cài đặt thuật toán tìm mẫu theo phương pháp học giảm bớt sai số • Nghiên cứu xử lý ảnh dùng PDE nhiệm vụ khử nhiễu xây dựng mô hình CNN áp dụng cho xử lý ảnh dùng PDE khử nhiễu nhằm tăng tốc độ xử lý phương pháp xử lý ảnh tiên tiến • Nghiên cứu xây dựng thuật toán lai ứng dụng xử lý ảnh nhanh dùng CNN UM 112 Các kết luận án • Đề xuất mô hình CNN hai lớp giải PDE khuếch tán phức tuyến tính ứng dụng xử lý ảnh giảm nhiễu kết hợp tìm biên thời gian thực (Bài báo [6], [7] phần "Danh mục công trình công bố") Xây dựng mô hình CNN hai lớp giải PDE khuếch tán phức phi tuyến ứng dụng xử lý ảnh giảm nhiễu giữ gìn biên dốc thời gian thực • Đề xuất thuật toán lai CNN+DSP thực lọc shock xử lý ảnh (Bài báo [9] phần "Danh mục công trình công bố") • Đề xuất thuật toán lai CNN+DSP khắc phục nhiễu đốm xử lý ảnh (Bài báo [8] phần "Danh mục công trình công bố") • Đề xuất thuật toán phục hồi ảnh đối xứng có lực xử lý thời gian thực Thuật toán triển khai thành thuật toán mẫu thư viện chuẩn mẫu thuật toán CNN (Bài báo [5] phần "Danh mục công trình công bố") Các đề xuất chứng minh tính ổn định toán học Công nghệ mạng nơron tế bào CNN đặc điểm thuộc tính độc đáo nó, tiềm ứng dụng phong phú điều đặc biệt quan trọng thực nhiều mô hình tính toán xử lý thời gian thực phức tạp dùng CNN phần cứng hoàn toàn thu hút nhiều quan tâm nghiên cứu nước Đây mảnh đất hứa hẹn cho lĩnh vực nghiên cứu toán học, vật lý, kỹ thuật điện tử ứng dụng KIẾN NGHỊ VỀ NHỮNG NGHIÊN CỨU TIẾP THEO • Nghiên cứu + Đẩy mạnh nghiên cứu trình chaos, hysteresys, autowave, trình khuếch tán kích hoạt ngoài, mô hình CNN gắn với sinh học Đây vấn đề chưa nghiên cứu, gặp nhiều khó khăn chưa có mô hình nghiên cứu phù hợp, cần nhiều kiến thức tổng hợp; nhiên kết mà chúng hứa hẹn mang lại phong phú hữu ích 113 + Nghiên cứu mô hình CNN phức với đối tượng (có thuộc tính+phương thức điều khác với công việc nghiên cứu từ trước đến với thuộc tính) • Nghiên cứu phát triển + Triển khai xây dựng lõi chip CNN thực mô hình lớp, nhiều lớp đề xuất công nghệ FPGA Việc tạo sở, cầu dẫn cho nghiên cứu ứng dụng CNN Cụ thể với triển khai mô hình giải PDE khuếch tán phức tuyến tính FPGA + Triển khai đưa mô hình thuật toán xử lý ảnh dùng CNN vào mạch phần cứng Cụ thể xây dựng mô hình tím ảnh đối xứng hoàn toàn FPGA + Xây dựng hệ thống tính toán, xử lý tuý CNN lai CNN kiểu công cụ vạn có khả tái cấu hình Hướng giải cho phép việc thiết kế mẫu cho CNN đơn giản hơn, tận dụng thư viện mẫu tăng tốc độ xử lý chung tính ổn định hệ thống • Nghiên cứu ứng dụng + Xây dựng hệ xử lý song song ảnh (hoặc tín hiệu nói chung) ứng dụng công nghiệp quốc phòng phần cứng; có kết hợp với máy tính PC + Xây dựng hệ thống xử lý song song lai y học sinh học • Phát triển đào tạo: Ngoài việc đẩy mạnh hoạt động nghiên cứu theo đề xuất việc giảng dạy CNN bậc cao học sau với bậc đại học cần phải tiến hành lĩnh vực đào tạo Khoa học máy tính, Công nghệ thông tin Việt Nam Đây việc làm cần thiết để mở rộng, nâng cao kiến thức đào tạo tạo nguồn lực kế thừa vững nghiên cứu loại hình tính toán có nhiều tiềm quan tâm giới 114 DANH MỤC CÁC CÔNG TRÌNH ĐÃ CÔNG BỐ Phạm Đức Long, Phạm Thượng Cát (2006), "Công nghệ mạng nơron tế bào CNN ứng dụng", Tạp chí Tin học điều khiển học, tập 22, số 1, tr 37-44 Phạm Đức Long, Phạm Thượng Cát (2006), "Hệ thống kiểm tra đường sắt dùng công nghệ CNN (Cellular Neural Network)", Tuyển tập báo cáo Hội nghị toàn quốc lần thứ điện tử , Hà Nội 10-2006, tr 367-371 Phạm Đức Long, Phạm Thượng Cát (2008), “Xử lý ảnh công nghiệp, nhu cầu, thách thức giải pháp”, Tạp chí Khoa học Công nghệ Đại học Thái Nguyên Đại học Thái Nguyên, tập 2, số 45, tr 121-127 Phạm Đức Long, Phạm Thượng Cát (2008), "Khôi phục ảnh đối xứng thời gian thực mạng nơron tế bào CNN", Tuyển tập báo cáo Hội nghị Cơ điện tử toàn quốc VCM2008 Đà Nẵng 10-2008, tr 132-140 Pham Duc Long, Pham Thuong Cat (2008), "Real-time Reconstruction of Symmetrical Image using Cellular Neural Network", ICARCV 2008 HaNoi 3- 2008, IEEE, pp.1128-1132 Phạm Đức Long, Phạm Thượng Cát, Cáp Thanh Tùng (2009), "Xây dựng mô hình mạng nơron tế bào CNN giải phương trình khuếch tán phức tuyến tính ứng dụng xử lý ảnh", Tạp chí Khoa học Công nghệ Đại học Thái Nguyên, số 49, tr 51-56 Pham Duc Long, Pham Thuong Cat (2009), "Image Ramp Edge Enhancing and Denoising by Complex Nonlinear Diffusion Using Cellular Neural Network", Proceeding of ASCC2009 Hong Kong, IEEE, pp 1509-1514 Pham Duc Long, Pham Thuong Cat (2009), "Real-time speckle reducing by Cellular Neural Network", ICICS 2009 Macau, IEEE, December 2009, pp.15 Pham Duc Long, Pham Thuong Cat (2010), "A Hybrid Methode Realizing Shock Filter by Cellular Neural Network", ICCA 2010 Xiamen, China 9-11 June 2010 IEEE, pp 832-836 115 10 Phạm Đức Long, Phạm Thượng Cát, (2010), "Sử dụng phương pháp học thiết kế mẫu cho mạng nơron tế bào CNN ứng dụng xử lý ảnh", Tạp chí Khoa học Công nghệ Đại học Thái Nguyên, tập 69 số 07-2010 , tr 43-48 11 Phạm Đức Long (2010), "Xác định vị trí giá đỡ hàng sử dụng cho xe tự động bốc xếp kho cảng ", Tạp chí Tin học Điều khiển học tập 26, số 3, năm 2010, tr 267-277 116 TÀI LIỆU THAM KHẢO Tiếng Việt Lương Mạnh Bá, Nguyễn Thanh Thuỷ (1999), Nhập môn xử lý ảnh số, NXB Khoa học kỹ thuật, Hà Nội Phạm Thượng Cát (2006), Công nghệ mạng nơron tế bào CNN khả ứng dụng hệ điện tử, Tuyển tập báo cáo VCM2006, Hà Nội, tr.33-42 Nguyễn Kim Sách (1997), Xử lý ảnh video số, NXB Khoa học kỹ thuật, Hà Nội Ngô Diên Tập (1997), Xử lý ảnh máy tính, NXB Khoa học kỹ thuật, Hà Nội Tiếng Anh Angela Slavova (2003), "Cellular Neural Network: Dynamics and modeling", Klwer academic publishers, London Analogical and Neural Computing Labotary Computer and Automation Institute Hungarian Academy of Science (1999), "Algorithm design using high Level description and Visual input via The Alpha Language and Compiler," Ver 3.0, Budapest Ákos Zarándy (1998), "The Art of CNN Template Design," Computer and Automation Institute of the Hungarian Academy of Science (MTA-SzTAKI), 11 Lágymányosi út, Budapest, H-1111, Hungary, e-mail: zarandy@sztaki.hu, pp 1-24 Ákos Zarándy, Csaba Rekeczky (2005), "Bi-I: A Standalone Ultra High Speed Cellular Vision System", Analogical and Neural Computing Laboratory Computer and Automation Institute Hungarian Academy of Sciences, Budapest, Hungary Bahram Mirzai, Zhenlan Cheng and George Zhenlan Cheng and George (1998), "Learnning algorithms for Cellular Neural Network", IEEE, pp 159-162 10 B Chandler, C Rekeczky, Y Nishio, and A Ushida (1997), “Using adaptive simulated annealing in CNN template learning—A powerful alternative to 117 genetic algorithms,” in Proc European Conf Circuit Theory Design, Budapest, Hungary, pp 12-17 11 Chin-Teng Lin Chun-Lung Chang Wen-Chang Cheng (2004) ,"A recurrent fuzzy Cellular neural network system with automatic structure and template learning", IEEE Trans Circuits Syst., vol.51, pp 1024-1035 12 Cellular sensory wave computers Laboratory Computer and Automation Research Institute Hungarian Academy of Sciences (2007), "Cellular wave Computing Library (Template, Algorithms, and Programs) Version 2.1," Budapest 13 Chen Guan-nan, Yang Kun-tao, Chen Rong, Xie Zhi-ming (2008), "A New Study on Image Enhancement and Denoising Coupled With Shock Filters and Anisotropic Diffusion," Congress on Image and Signal Processing, IEEE, pp 231-235 14 Csaba Rekeczky, Ákos Zarándy (2005), "Bi-i: a Standalone Cellular Vision System part I, II", Analogical and Neural Computing Laboratory Computer and Automation Institute Hungarian Academy of Sciences, Budapest, Hungary 15 D Liu and Z Lu (1997), “A new synthesis approach for feedback neural networks based on the perceptron training algorithm,” IEEE Trans.Neural Networks, vol 8, pp 1468-1482 16 Fan Zou and f A Nossek (1991), "Design methode for cellular neural network with linear relaxation", IEEE, pp 1323-1326 17 Frédéric Guichard and Jean-Michel Morel (2001), "Image Analysis and P.D.E.'s," IPAM GBM Tutorials 18 AnaLogic Computers Ltd (2004), Bi-i Programming Guide, H-1111, Budapest Hungary 19 J.Koenderink (1984), "The Structure of Images," Biological Cybernetics, vol 50, pp 363-370 20 J S Lee (1986), “Speckle suppression and analysis for synthetic aperture radar,” Opt Eng., vol 25, no 5, pp 636–643 118 21 Jeny Rajan, K Kannan, M.R Kaimal (2009), "Smoothening and Sharpening Effects of Theta in Complex Diffusion for Image Processing", 2009 Seventh International Conference on Advances in Pattern Recognition, IEEE, pp 325328 22 Guy Gilboa, Nir Sochen, Yehoshua Y Zeevi (2001), "Complex Diffusion Processes for Image Filtering," Scale-Space 2001, LNCS 2106, Springer-Verlag, pp 299-307 23 Guy Gilboa, Nir Sochen, Yehoshua Y Zeevi (2002), "Regularized Shock Filters and Complex Diffusion," ECCV 2002, LNCS 2350, Springer-Verlag, pp 399313 24 Guy Gilboa, Nir Sochen, and Yehoshua Y Zeevi (2004), ”Image Enhancement and Denoising by Complex Diffusion Processes," IEEE Transactions on Pattern Analysis and Machine Inlelligence, Vol 26, No 8, pp 1020-1036 25 Harry M Salinas and Delia Cabrera Fernández (2007), "Comparison of PDEBased Nonlinear Diffusion Approaches for Image Enhancement and Denoising in Optical Coherence Tomography," IEEE Transactions on Medical Imaging, Vol 26, No 06, pp 761-771 26 Hahn, Jooyoung (2008), "Doctoral Thesis," Department of Mathematical Sciences Korea Advanced Institute of Science and Technology, Korea 27 J Weichkert (1996), "Anisotropic Diffusion in Image Processing," disertation university Kaiserleutern Germany 28 Kornprobst P, Deriche R, Aubert Gh (1997) “Image Coupling Restoration and Enhancement Via PDE’s” Proceedings of the international conference on image processing, Santa Barbara, pp 458-461 29 Leon O Chua and L Yang (1988), "Cellular neural networks: Theory", IEEE Trans Circuits Syst., vol.35, No 10, pp 1257-1272 30 Leon O Chua and L Yang (1988), "Cellular neural networks: Applications," IEEE Trans Circuits Syst., vol.35, No 10, pp 1273-1290 31 Leon O Chua and Tamas Roska (2003), “Cellular Neural Network and visual Computing Fundations and Applications”, Cambridge University Press 119 32 L Alvarez, L Mazorra (1994), “Signal and image restoration using shock filters and anisotropic diffusion” SLAM J Numer Anal Vol 31, No 2, pp 590-605 33 M Hänggi and G S Moschytz (1998), “Genetic optimization of Cellular neural networks,” in Proc IEEE Int Conf Evolutionary Computation, pp 381-386 34 M D Doan, S Halgamuge, M Glesner, S Braunsforth (1996), "Application of Fuzzy, GA and Hybrid Methods to CNN Template Learning ", pp 327-333 35 O.Coulon, S.R.Arridge (2000), “Dual echo MR image processing using multispectral probabilistic diffusion coupled with shock filters” MIUA’2000, British Conference on Medical Image Understanding and Analysis, United-Kingdom, London 36 Pelin Gorgel & Ahmet Sertbas & Osman N Ucan (2009),"A wavelet-Based Mammographic Image Denoising and Enhancement with Homorphic Filtering," Jurnal of Medical Systems, Springer Netherlands, ISSN 0148-5598 37 Pietro Perona and Jitendra Malik (1990), "Scale-Space and Edge Detection Using Anisotropic Diffusion," IEEE Transactions on Pattern Analysis and Machine Intelligence, Vol 12 No 7, pp 629-639 38 Sigurd Angenent, Eric Pichon, and Allen Tanenbaum (2006), "Mathematical Methods in Medical Image Processing," BULLETIN (New Series) of the American Mathematical Society, Volume 43, Number 3, pp 365–396 39 S.J.Osher and L.I.Rudin (1990), "Feature-oriented image enhancement using shock filters," SIAM J.Numer Anl 27, pp 919-940 40 Schulte, S De Witte, V Kerre, EE (2007), "A Fuzzy Noise Reduction Methode for Color Images," IEEE Trans May 2007, pp 1425-1436 41 T Roska and L O Chua (1993), "The CNN Universal Machine: an Analogic Array Computer," IEEE Trans on Circuits and Systems, Vol 40, pp 163-173 42 Tamas Roska, Leon O Chua, Dietrich Wolf, Tibor Kozek, Ronald Tetzlaff, and Frank Puffer (1995) ," Simulating Nonlinear Waves and Partial Differential Equations via CNN-Part I: Basic Techniques," IEEE Transactions on Circuits and Systems-I: Fundamental Theory and Applications, Vol 42, N0 10, pp 807815 120 43 T.Roska and L.O.Chua (2003), "The CNN Universal Machine 10 Years Later", Journal of Circuits, Systems, and Computers, Vol 12, No.4, pp 377-388 44 Tamás Roska, Ángel Rodríguez-Vázquez (2002), "Toward Visual Microprocessors", Proceeding of the IEEE, Vol 90, No 7, pp 1244-1257 45 T Kozek, T Roska, and L O Chua (1993), “Genetic algorithm for CNN template learning,” IEEE Trans Circuits Syst I, vol 40, pp 392–402 46 V.S Frost, J A Stiles, K S Shanmugan, and J C Holtzman (1982), “A model for radar images and its application to adaptive digital filtering of multiplicative noise,” IEEE Trans Pattern Anal Machine Intell., vol PAMI-4, pp 157–165 47 Witkin A.P (1983), “Scale-space Filtering” presented at the Eighth International Joint Conference on Artificial Intelligence, Karlsruhe, Germany, pp 1019-1022 48 Xiaona Zhi, Tianfu Wang (2008), "An Anisotropic Diffusion Filter for Ultrasonic Speckle Reduction", The Institution of Engineering and Technology Natural Science Foundation of China (No 60772147), pp 327-330 49 Yongjian Yu and Scott T Acton (2002), " Speckle Reducing Anisotropic Diffusion ", IEEE Transactions on Image Processing, Vol 11, No 11, pp 12601270 50 Zsolt Vörözhágy, András Kiss, Zoltán Nagy and Peeter Szolgay (2008), "Standalone FPGA Based Emulated-Digital CNN-UM System", 11th International Workshop on CNNA 2008, Spain, IEEE, pp 4-4 51 Zonghoang Yang, Yoshifumi Nishio, Akio Ushida (2002), "Templates and Algorithms for Two-layer Cellular Neural Network," IEEE, pp 1946-1951 52 Levente Török, Tamás Roska, "Stability of Multi-layer Cellular Neural/Nonlinear Networks," International Jurnal of Bifurcation and Chaos, Vol 14, No 10 (2004) pp.3567-3586 [...]... các thuật toán xử lý trên máy tính hệ lệnh tuần tự vẫn được tiếp tục nhằm đáp ứng các nhu cầu của thực tế Trong khoảng 10 năm trở lại đây, ngoài việc phát triển các phương pháp xử lý truyền thống giới xử lý ảnh còn quan tâm đến một loại hình xử lý ảnh mới là xử lý ảnh dùng PDE [17], [25], [27], [28], [37], do có nhiều ưu điểm hơn so với các phương pháp đã có Tuy nhiên dù theo hướng nào thì xử lý ảnh. .. tốc độ 30 ảnh/ giây (fps); một số trường hợp với tốc độ 60fps Với kiến trúc của máy tính hệ lệnh tuần tự như vậy, cơ chế chuyển vận dữ liệu để xử lý như vậy thì rõ ràng là có tăng tốc độ bắt ảnh fps lên thì cũng không thể tăng được tốc độ xử lý Nội dung của luận án trình bày một số đóng góp về xử lý ảnh dùng mạng nơron tế bào CNN trong vấn đề lọc nhiễu cho ảnh Các mô hình và thuật toán xử lý được đề... phương trình mô tả quá trình vật lý của đối tượng cần nghiên cứu, biến đổi phương trình mô tả trạng thái của CNN một lớp và nhiều lớp để thu được các mô hình mạng nơron tế bào CNN cần thiết áp dụng vào lớp nhiệm vụ cần giải quyết • Xây dựng các thuật toán mới, phương pháp mới ứng dụng CNN để tăng tốc độ xử lý một số tác vụ xử lý ảnh (Các thuật toán lai trong xử lý ảnh dùng PDE cho giảm nhiễu, tăng... với các bộ xử lý tế bào khác trong bán kính ảnh hưởng trực tiếp có tốc độ xử lý tín hiệu đầu vào là thời gian quá độ của một mạch điện (khoảng vài micro giây) Hàng chục ngàn bộ xử lý tế bào trong một chip CNN xử lý hàng chục ngàn tín hiệu đầu vào khác nhau để cho ra đồng thời ở đầu ra hàng chục ngàn tín hiệu đã được xử lý cũng chỉ cần một lệnh duy nhất là bộ trọng số liên kết giữa các bộ xử lý này +... càng phát triển và giá thành càng hạ Đây cũng là một hướng nghiên cứu mở vô hạn cho những người nghiên cứu về xử lý và tính toán thời gian thực dùng CNN • Xử lý ảnh dùng CNN những kết quả đạt được và những vấn đề còn chưa được nghiên cứu Mạng nơron tế bào CNN cho phép xử lý các mảng tín hiệu tốc độ cao bởi hai yếu tố cơ bản và khó có thể tách rời nhau: + Một bộ xử lý tế bào trong mảng CNN là một mạch... thanh, ) có thể đưa trực tiếp vào đầu vào của mỗi nơron trong mạng nơron tế bào để xử lý không cần qua các bộ ADC Như vậy đã bỏ được rất nhiều khâu biến đổi, truyền dẫn trung gian giữa tín hiệu cần xử lý và bộ xử lý Xử lý ảnh dùng CNN hiện nay đã thực hiện được tất cả các công việc kinh điển mà một chương trình xử lý ảnh thường phải thực hiện: 22 + Tiền xử lý: Loại bỏ các đối tượng nhiễu, tăng cường độ... xử lý trong một chip Ví dụ chip ACE16K trong thiết bị Bi-i (được giới thiệu 2003) có 128x128=16.384 bộ xử lý, chip Q-Eye (2006) có 176x144 = 25.344 bộ xử lý, chip 255x255=65.025 bộ xử lý đang được nghiên cứu Những hệ thống kết hợp cảm biến ảnh và CNN cho phép thu và xử lý ảnh đạt tốc độ đến 50.000fps Các mạng nơron tế bào CNN hiện nay được nghiên cứu để tạo ra các ứng dụng trong xử lý ảnh nhanh, giải... giải PDE cho bài toán ô nhiễm, giải PDE bài toán dòng chảy, mô hình CNN 2 lớp phức ứng dụng trong xử lý ảnh, các thuật toán lai giảm nhiễu, lọc ảnh, các sơ đồ cứng hoá thuật toán lai, nghiên cứu ứng dụng camera CNN nhận dạng hình ảnh trên robot tự động sử dụng trong công nghiệp Hiện nay việc nghiên cứu về ứng dụng CNN vẫn được tiếp tục phát triển thông qua các đề tài hợp tác quốc tế như Việt Nam-Hung-ga-ry... ảnh, do lượng thông tin cần xử lý vô cùng lớn Xử lý ảnh dùng CNN đã giải quyết được sự xung đột về lượng thông tin đồ sộ cần xử lý và tốc độ thực hiện Vấn đề xử lý ảnh thời gian thực, xử lý ảnh trong những khoảng thời gian vài phần nghìn giây, xử lý ảnh từ nhiều nguồn thu khác nhau đã trở thành hiện thực Do tính chất động học liên tục về thời gian nên luồng ảnh được xử lý (thực chất là luồng tín hiệu... xử lý theo luồng được giới thiệu năm 1992 bởi L.O.Chua và Tamás Roska là một loại máy tính xử lý song song thực sự, mở ra một hướng mới cho sự phát triển của khoa học tính toán, tiếp cận đến các phương thức xử lý cũng như phương thức cảm nhận và hành động của các tổ chức trong cơ thể sinh vật sống Các chip CNN thực hiện tính toán song song bằng một lệnh duy nhất cho một phép toán Khi chúng ta đưa một