ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ ĐỖ ĐÌNH LỰC NGHIÊN CƢ́U PHƢƠNG PHÁP NHẬN DẠNG MẶT NGƢỜI DỰA TRÊN PCA-LDA VÀ MẠNG NEURAL LUẬN VĂN THẠC SĨ NGÀNH CÔNG NGHỆ THÔNG TIN HÀ NỘI - 2015 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƢỜNG ĐẠI HỌC CÔNG NGHỆ ĐỖ ĐÌNH LỰC NGHIÊN CƢ́U PHƢƠNG PHÁP NHẬN DẠNG MẶT NGƢỜI DỰA TRÊN PCA-LDA VÀ MẠNG NEURAL Ngành: Công nghê ̣ thông tin Chuyên ngành: Truyề n dƣ̃ liê ̣u và ma ̣ng máy tính Mã số: Chuyên ngành đào tạo thí điểm LUẬN VĂN THẠC SĨ NGÀ NH CÔNG NGHỆ THÔNG TIN NGƢỜI HƢỚNG DẪN KHOA HỌC: PGS – TS NGÔ QUỐC TẠO Hà Nội - 2015 LỜI CẢM ƠN Em xin chân thành cảm ơn thầy cô Khoa Công nghệ thông tin, trƣờng Đại học Công nghệ, Đại học Quốc Gia Hà Nội và thầy giáo PGS-TS Ngô Quốc Tạo đã tạo điều kiện cho em đƣợc học tập và nghiên cứu để hoàn thành luận văn này Em xin gửi lời cảm ơn tới thầy cô, đồng nghiệp quan nơi em công tác đã tạo điều kiện cho em đƣợc học tập, nghiên cứu và hoàn thành luận văn này Hà Nội, ngày 15 tháng năm 2014 Học viên Đỗ Đình Lực LỜI CAM ĐOAN Tôi xin cam đoan luận văn ““Nghiên cứu phương pháp nhận dạng mặt người dựa PCA-LDA mạng neural” này là công trình nghiên cứu riêng Các số liệu sử dụng luận văn là trung thực Các kết nghiên cứu đƣợc trình bày luận văn chƣa đƣợc công bố công trình nào khác 3 MỤC LỤC LỜI CẢM ƠN LỜI CAM ĐOAN MỤC LỤC DANH MỤC CÁC TỪ VIẾT TẮT DANH MỤC CÁC BẢNG DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ MỞ ĐẦU CHƢƠNG I TỔNG QUAN VỀ NHẬN DẠNG MẶT NGƢỜIError! Bookmark not defined 1.1 Giới thiệu xử lý ảnh Error! Bookmark not defined 1.1.1 Khái niệm xử lý ảnh số Error! Bookmark not defined 1.1.2 Các ứng dụng xử lý ảnh số Error! Bookmark not defined 1.1.3 Các bƣớc xử lý ảnh số Error! Bookmark not defined 1.2 Giới thiệu chung phân tích ảnh Error! Bookmark not defined 1.2.1 Khái niệm Error! Bookmark not defined 1.2.2 Các ứng dụng phân tích ảnh Error! Bookmark not defined 1.3 Nhận dạng mặt ngƣời Error! Bookmark not defined 1.3.1 Khái niệm nhận dạng mặt ngƣời qua ảnh Error! Bookmark not defined 1.3.2 Các ứng dụng nhận dạng mặt ngƣời Error! Bookmark not defined 1.4 Các hƣớng tiếp cận nhận dạng mặt ngƣời Error! Bookmark not defined 1.4.1 Trích chọn đặc trƣng sử dụng Eigenface Error! Bookmark not defined 1.4.2 Trích chọn đặc trƣng sử dụng mô hình Markov ẩnError! Bookmark not defined 1.4.3 Mẫu nhị phân cục (LBP) Error! Bookmark not defined 1.4.4 Phƣơng pháp phân tích thành phần Error! Bookmark not defined CHƢƠNG NHẬN DẠNG KHUÔN MẶT DỰA TRÊN PCA-LDA VÀ MẠNG NƠRON Error! Bookmark not defined 2.1 Phƣơng pháp phân tích thành phần (PCA) Error! Bookmark not defined 2.1.1 Cơ sở toán học Error! Bookmark not defined 2.1.2 Kỹ thuật trích chọn đặc trƣng PCA Error! Bookmark not defined 4 2.2 Phƣơng pháp LDA Error! Bookmark not defined 2.3 Phƣơng pháp mạng neural Error! Bookmark not defined 2.3.1 Giới thiệu mạng nơron Error! Bookmark not defined 2.3.2 Hàm kích hoạt và quy tắc xác định tín hiệu raError! Bookmark not defined 2.3.3 Thuật toán học lan truyền ngƣợc Error! Bookmark not defined CHƢƠNG THỰC NGHIỆM Error! Bookmark not defined 3.1 Thiết kế hệ thống Error! Bookmark not defined 3.1.1 Cơ sở liệu ảnh Error! Bookmark not defined 3.1.2 Sơ đồ hệ thống Error! Bookmark not defined 3.1.3 Môi trƣờng cài đặt Error! Bookmark not defined 3.1.4 Giao diện chƣơng trình Error! Bookmark not defined 3.2 Kiểm thử và đánh giá Error! Bookmark not defined KẾT LUẬN Error! Bookmark not defined TÀI LIỆU THAM KHẢO 11 PHỤ LỤC Error! Bookmark not defined 5 DANH MỤC CÁC TỪ VIẾT TẮT LDA (Linear Discriminant Analysis): Phân tích phân lớp tuyến tính ORL (Olivetti Research Laboratory, Surrey University): Cơ sở liệu ảnh dùng luận văn HMM (Hidden Markov Model): Mô hình Markov ẩn PCA (Principal Components Analysis): Phân tích thành phần DANH MỤC CÁC BẢNG Bảng 1.3 Các ứng dụng tiêu biểu nhận dạng mặt ngƣời.Error! Bookmark not defined Bảng 2.1 Ví dụ tính độ lệch chuẩn Error! Bookmark not defined Bảng 2.2 Tập liệu hai chiều và tính toán hiệp phƣơng saiError! Bookmark not defined Bảng 4.1 Các module chƣơng trình Error! Bookmark not defined 7 DANH MỤC CÁC HÌNH VẼ, ĐỒ THỊ Hình 1.1 Tổ ng quan các giai đoa ̣n bản xƣ̉ lý ảnhError! Bookmark not defined Hình 1.2: Các kỹ thuật phân tích ảnh Error! Bookmark not defined Hình 1.4 Mô hình hệ thống nhận dạng mặt ngƣời Error! Bookmark not defined Hình 1.5 Cơ sở liệu ảnh mặt ngƣời AT&T (ORL) Error! Bookmark not defined Hình1.6 Một số hình ảnh sở liệu ảnh mặt ngƣời Yale AError! Bookmark not defined Hình 1.7 Mô hình Markov cho định vị khuôn mặt: Error! Bookmark not defined (a) Các vector quan sát; (b) Các trạng thái ẩn Error! Bookmark not defined Hình 1.8 Ví dụ tính toán LBP Error! Bookmark not defined Hình1.9 Minh họa toán tử LBP mở rộng vớị P và R khác nhau.Error! Bookmark not defined Hình 1.10 Ví dụ LBP8,1 Error! Bookmark not defined Hình 1.11 LBP giống với độ sáng khác Error! Bookmark not defined Hình 1.12 Ví dụ mẫu đồng và mẫu không đồng nhấtError! Bookmark not defined Hình 1.13 58 Mẫu đồng 𝑳𝑩𝑷(𝟖, 𝟏)𝒖𝟐 Error! Bookmark not defined Hình 1.14 Trích rút đặc trƣng khuôn mặt LBP Error! Bookmark not defined Hình 2.1 Ví dụ minh họa PCA Error! Bookmark not defined Hình 2.2: Một số không gian riêng sở liệu ảnh ORLError! Bookmark not defined Hình 2.3 Minh hoạ hƣớng véctơ riêng Error! Bookmark not defined Hình 2.4 Dữ liệu và đồ thị biểu diễn liệu Error! Bookmark not defined Hình 2.5 Đồ thị biểu diễn liệu đã chuẩn hóa với vector riêngError! Bookmark not defined 8 Hình 2.6 Ảnh gốc sở liệu ORL Error! Bookmark not defined Hình 2.7 Ảnh sau biến đổi theo PCA Error! Bookmark not defined Hình 2.8 Ví dụ minh họa LDA Error! Bookmark not defined Hình 2.9 Ảnh sau biến đổi theo LDA Error! Bookmark not defined Hình 2.10 Các thành phần mạng nơron nhân tạoError! Bookmark not defined Hình 2.11 Một số dạng hàm kích hoạt nơron Error! Bookmark not defined Hình 2.12 Mạng nơron l lớp Error! Bookmark not defined Hình 3.1 Ảnh gốc ảnh ORL Error! Bookmark not defined Hình 3.2 Sơ đồ khối trình huấn luyện Error! Bookmark not defined Hình 3.3 Ảnh gốc đƣợc bổ sung ảnh gƣơng Error! Bookmark not defined Hình 3.4 Sơ đồ khối trình nhận dạng Error! Bookmark not defined Hình 3.5 Giao diện chƣơng trình Error! Bookmark not defined Hình 3.6 Giao diện huấn luyện mạng nơron Error! Bookmark not defined Hình 3.7 Giao diện nhận dạng Error! Bookmark not defined Hình 3.8 Kết nhận dạng thay đổi hình thái khuôn mặtError! Bookmark not defined Hình 3.9 Kết nhận dạng có nhiễu Error! Bookmark not defined 9 MỞ ĐẦU Nhận dạng ảnh ngày càng chứng tỏ đƣợc vai trò quan trọng và đƣợc ứng dụng ngày càng rộng rãi sống đại Bên cạnh đó, lĩnh vực nhận dạng ảnh là nhận dạng mặt ngƣời ngày càng đƣợc ứng dụng nhiều, đặc biệt là lĩnh vực an ninh Nhƣ đã biết, khuôn mặt ngƣời có nét đặc trƣng riêng Nhận đƣợc nét đặc trƣng đó, có nghĩa là nhận đƣợc ngƣời Mặc dù đặc trƣng khuôn mặt không đảm bảo đƣợc tính nhƣ vân tay hay võng mạc mắt, nhiên việc xây dựng hệ thống nhận dạng mặt đơn giản so với hệ thống nhận dạng vân tay hay nhận dạng mắt Do đó, trƣờng hợp không thực đòi hỏi an toàn và xác, việc xây dựng hệ thống nhận dạng mặt thay cho hệ thống nhận dạng vân tay hay hệ thống nhận dạng võng mạc mắt là giải pháp hợp lý Bên cạnh đó, nhận dạng vân tay và nhận dạng võng mạc đòi hỏi việc thu nhận tín hiệu phải trực tiếp và đòi hỏi độ xác cao, mà điều này là nhiều trƣờng hợp, đặc biệt là khoa học hình Vì thế, trƣờng hợp này không tồn giải pháp thay nào khác cho nhận dạng mặt ngƣời Có hai phƣơng pháp nhận dạng phổ biến là nhận dạng dựa đặc trƣng hình học phần tử khuôn mặt nhƣ biển đổi Sóng Wavelet (Gabor Wavelet) và Mạng Nơron (Neural Network), … và nhận dạng dựa xét tổng thể toàn khuôn mặt nhƣ phƣơng pháp Phân tích thành phần (Principal Component Analysis – PCA) phƣơng pháp Phân tích phân lớp tuyến tính (Linear Discriminant Analysis – LDA), Kết hợp phƣơng pháp PCA, LDA và mạng Nơron mang lại hiệu nhận dạng cao hoạt động ổn định và có tính thích nghi cao với thay đổi ánh sáng, góc độ ảnh mặt ngƣời Trên sở đó, em đã chọn hƣớng đề tài “Nghiên cứu phương pháp nhận dạng mặt người dựa PCA-LDA mạng neural” làm luận văn tốt nghiệp Bố cục luận văn bao gồm phần: Chƣơng 1:Tổng quan nhận dạng mặt ngƣời: Giới thiệu tổng quan ứng dụng xử lý ảnh lĩnh vực nhận dạng mặt ngƣời Chƣơng 2: Nhận dạng mặt ngƣời dựa PCA-LDA và mạng nơron: Trình bày phƣơng pháp phân tích thành phần chính(PCA), phân tích phân lớp 10 tuyến tính(LDA) và mạng nơron Xây dựng phƣơng pháp nhận dạng với bƣớc trích chọn đặc trƣng PCA-LDA và nhận dạng mạng nơron Chƣơng 3: Thực nghiệm: Trình bày sơ đồ hệ thống nhận dạng khuôn mặt dựa PCA-LDA và mạng nơron, kiểm thử đánh giá hiệu suất hệ thống và đƣa hƣớng phát triển đề tài 11 TÀI LIỆU THAM KHẢO PhạmViệt Bình, Đỗ Năng Toàn, Xử lý ảnh.Nhà xuất Khoa học và Kỹ thuật, Hà Nội, 2008 Lƣơng Mạnh Bá, Nguyễn Thanh Thuỷ, Nhập môn xử lý ảnh số, Nhà xuất Khoa học và Kỹ thuật, 2002 Ben Kröse, Patrick van der Smagt (1996), An introduction to Neural Networks, The University ofAmsterdam Kresimir Delac, Mislav Grgic (2007),“PCA and LDA based Neural Networks for Human Face Recognition”, Face Recognition, ISBN 978-3-902613-03-5, ITech, Vienna, Austria Ethan Png (2004), Morphological Shared-Weight Neural Network for Face Recognition, University of Manchester Institute of Science and Technology Lindsay I.Smith (2002), A Tutorial on Principal Components Analysis, Cornell University, USA William K.Pratt (2007), Digital Image Processing, John Wiley & Sons, Inc., Publication W.Zhao, R.Chellappa, P.J.Phillips, A.Rosenfeld (2003),“Face Recognition - A Literature Survey”, ACM Computing Surveys, Vol 35 (No 4) V.M.C.F.S.a.L Chiara Turati (2006), "Newborns face recognition: Role of inner and outer facial features Child Development"