NGHIÊN CỨU GiẢI PHÁP CÔNG NGHỆ TÍNH TOÁN HIỆU NĂNG CAO VỚI BỘ XỬ LÝ ĐỒ HỌA GPU VÀ ỨNG DỤNG Nguyễn Đức Minh Trường Đại học Công nghệ - Đại học Quốc gia Hà Nội Luận văn Thạc sĩ chuyên ngành: Kỹ thuật phần mềm; Mã số: 60 480 10 Người hướng dẫn: TS Lê Quang Minh Năm bảo vệ: 2016 Abstract: Trình bày sở lý thuyết tính toán hiệu cao tính toán song song,trên sở lý thuyết tính toán song song kiến thức GPU CUDA đưa toán ứng dụng GPU để làm rõ hiệu nằng tính toán mặt thời gian so với tính toán đơn CPU Keywords: Tính toán song song, GPU, CUDA MỞ ĐẦU Sự bùng nổ Internet, bùng nổ xu thiết bị kết nối (Internet of thing - IOT), bùng nổ nhu cầu thưởng sẩn phầm âm đồ họa độ phân giải cao chất lượng cao, bùng nổ dịch vụ lưu trữ đám mây, dịch vụ trực tuyến, khiến cho khôi lượng liệu mà vi xử lý (CPU) phải tính toán ngày lớn thực vượt nhanh so với phát triển tốc độ CPU Không người muốn có nhiều thông tin hơn, thông tin phải tốt lại muốn tốc độ xử lý phải nhanh hơn, điều làm cho nhu cầu tính toán lĩnh vực khoa học, công nghệ trở thành thách thức lớn Từ giải pháp nhằm tăng tốc độ tính toán đời Tư năm 2001 đến 2003 tốc độ Pentium tăng gấp đôi từ 1.5GHz lên đến 3GHz Tuy nhiên hiệu CPU không tăng tương xứng mức gia tăng xung nhịp CPU việc tăng xung nhịp đạt tới giới hạn công nghệ Cụ thể tính đến 2005 xung nhịp Pentium tăng lên 3.8GHz Việc tăng xung nhịp CPU dẫn đến việc tăng nhiệt độ làm việc CPU Các công nghệ làm mát không đáp ứng bề mặt tiếp xúc CPU ngày nhỏ Trước tình hình nhà nghiên cứu vi xử lý chuyển sang hướng phát triển công nghệ đa lõi nhằm song song hóa trình tính toán để tăng tốc độ tiết kiệm điện Một công nghệ đa lõi xử lý song song đời xử lý đồ họa GPU (Graphic Processing Unit) GPU ban đầu đời phục vụ cho mục đích xử lý đồ họa, ngành công nghiệp Game Tuy nhiên ngày với công nghệ CUDA phát triển hãng NVIDIA từ năm 2007 cho phép thực tính toán song song với phép tính phức tạp dấu chấm động Với hiệu xuất ngàn lệnh thời điểm Chính xu hướng nghiên cứu đời phát triển thuật toán song song thực GPU Với CUDA lập trình viên nhanh tróng phát triển ứng dụng tính toán song song cho rât nhiều ứng dụng khác như: Điện toán, xếp, tìm kiếm, xử lý tín hiệu số, ảnh,… Việc nghiêp cứu áp dụng CUDA để tăng tốc độ tính toán cho toán mà cần phải xử lý khối liệu đầu vào khổng lồ toán yêu cầu tính thời gian thực thực trở thành vấn đề cấp thiết thực tế Xuất phát từ cầu mà chọn đề tài : NGHIÊN CỨU GiẢI PHÁP CÔNG NGHỆ TÍNH TOÁN HIỆU NĂNG CAO VỚI BỘ XỬ LÝ ĐỒ HỌA GPU VÀ ỨNG DỤNG Luận văn gồm chương chính: Chương 1: Tổng quan tính toán song song GPU, chương giới thiệu kiến thức tổng quan tính toán song song, từ tìm hiểu kiến thức xử lý đồ họa GPU cách thức ứng dụng tính toán Chương 2: Tính toán song song GPU CUDA, Chương cung cấp kiến thức môi trường lập trình, ngôn ngữ lập trình, cách thiết lập chương trình dẫn hiệu cài đặt ứng dụng tính toán GPU Chương 3:Tăng tốc độ tính toán số toán sử dụng GPU Trên cở kiến thức trình bày chương trên, tác giả luận văn tiến hành cài đặt thử nghiệm mô toán CPU GPU Từ có so sánh, nhận xét lực tính toán vượt trội GPU so với CPU truyền thống Đồng thời mở hướng cải tiến hiệu cho toán chạy GPU DANH MỤC THUẬT NGỮ Tiếng Anh Tiếng Việt API Application Program Interface: API định nghĩa giao diện chuẩn để triệu gọi tập chức coproccessor đồng xử lý gpgpu tính toán thông dụng GPU GPU Bộ xử lý đồ họa kernel hạt nhân MIMD Multiple Instruction Multiple Data: đa lệnh đa liệu primary surface Bề mặt chính, khái niệm dùng kết cấu proccessor Bộ xử lý Rasterization Sự quét mành hình 10 SIMD Single Instruction Multiple Data: đơn lệnh đa liệu 11 stream Dòng 12 streaming processor Bộ xử lý dòng 13 texture Kết cấu: cấu trúc đối tượng, xem mô hình thu nhỏ đối tượng 14 texture fetches Hàm đọc kết cấu 15 texture reference Tham chiếu kết cấu 16 warp Mỗi khối tách thành nhóm SIMD luồng DANH MỤC HÌNH VẼ Hình Mô tả kiến trúc Von Neumann 10 Hình Máy tính song song có nhớ chia sẻ 14 Hình Máy tính song song có nhớ phân tán .14 Hình Mô hình kiến trúc máy SISD 15 Hình Mô hình kiến trúc máy SIMD .15 Hình Mô hình kiến trúc máy MISD .16 Hình Mô hình kiến trúc máy MIMD 16 Hình Mô hình lập trình truyền thông hai tác vụ hai máy tính .18 Hình Mô hình lập trình song song liệu 18 Hình 10: Ảnh chụp 3dfx Voodoo3 22 Hình 11: Kiến trúc GPU NVIDIA AMD có lượng đồ sộ đơn vị lập trình tổ chức song song thống 28 Hình 12:Hiệu quét CPU, GPU dựa đồ họa (sử dụng OpenGL), GPU tính toán trực tiếp (sử dụng CUDA) Kết thực GeForce 8800 GTX GPU Intel Core2Duo 37 Hình 13: Kiến trúc phần mềm CUDA 41 Hình 14: Các thao tác thu hồi cấp phát nhớ 42 Hình 15: Vùng nhớ dùng chung mang liệu gần ALU 43 Hình 16: Sơ đồ hoạt động truyền liệu Host Device 44 Hình 17: Khối luồng 46 Hình 18: Mô hình nhớ GPU 47 Hình 19: Chiều lưới khối với số khối luồng 52 Hình 20: Phương pháp đánh số luồng 56 Content TÓM TẮT LUẬN VĂN THẠC SỸ Luận văn gồm chương chính: Chương 1: Tổng quan tính toán song song GPU, chương giới thiệu kiến thức tổng quan tính toán song song, từ tìm hiểu kiến thức xử lý đồ họa GPU cách thức ứng dụng tính toán Bao gồm: - Lịch sử đời lý mục đích tính toán song song Các mô hình tính toán song song Các mô hình lập trình song song Nguyên lý thiết kế giải thuật song song Nhận thức toán chương trình song song hóa Tổng quan GPU Chương 2: Tính toán song song GPU CUDA, Chương cung cấp kiến thức môi trường lập trình, ngôn ngữ lập trình, cách thiết lập chương trình dẫn hiệu cài đặt ứng dụng tính toán GPU Bao gồm: Tổng quan CUDA (lịch sử đời, cấu tạo,thành phần….) - Môi trường lập trình chế hoạt động chương trình CUDA - Cách thức lập trình ứng dụng với CUDA ví dụ - Chương 3: Tăng tốc độ tính toán số toán sử dụng GPU Trên cở kiến thức trình bày chương trên, tác giả luận văn tiến hành cài đặt thử nghiệm mô toán CPU GPU Từ có so sánh, nhận xét lực tính toán vượt trội GPU so với CPU truyền thống Đồng thời mở hướng cải tiến hiệu cho toán chạy GPU Bao gồm : - Giới thiệu toán - Chương trình demo - Kết chạy thử nghiệm - So sánh kết mặt thời gian xử lý KẾT LUẬN Luận văn nghiên cứu tổng quan tính toán song song, điều kiện cần để phát triển ứng dụng GPU cho mục đích thông dụng Tác giả luận văn tìm hiểu chế hoạt động GPU, kiến trúc bên nó, mô hình lập trình GPU Trong chương 2, luận văn tìm hiểu công cụ lập trình GPU phổ biến CUDA Tác giả luận văn trình bày chi tiết mô hình lập trình, thiết lập phần cứng card đồ họa Nvidia, giao diện lập trình dẫn hiệu chạy ứng dụng card đồ họa Từ hiệu biết trên, tác giả thực thử nghiệm lực tính toán GPU so sánh với CPU để kiểm chứng điều mà lý thuyết nói Các kết thử nghiệm trình bày chi tiết chương luận văn Với kết đạt được, tác giả mong muốn có nghiên cứu thêm cải tiến hiệu toán mô tiếp tục nghiên cứu phát triển cài đặt thuật toán, phương pháp xử lý tín hiếu số, ảnh áp dụng mạng Nơron tảng GPU Mong kết nghiên cứu tương lai luận văn đạt điều TÀI LIỆU THAM KHẢO Tài liệu tiếng việt [1] Trương Văn Hiệu (2011), “Nghiên cứu giải thuật song song hệ thống xử lý đồ họa GPU đa lõi”, luận văn thạc sĩ, trường Đại học Đà Nẵng [2] Nguyễn Việt Đức – Nguyễn Nam Giang (2012), ”Xây dựng thuật toán song song tìm đường ngắn với CUDA”, luận văn thạc sỹ, trường Đại học Công nghệ Hồ Chí Minh [3] Nguyễn Thị Thùy Linh (2009), “Tính toán hiệu cao với xử lý đồ họa GPU ứng dụng”, luận văn thạc sĩ, trường Đại học Công nghệ Hà Nội Tài liệu tiếng anh [4] Jason Sanders, Edward Kandrot, “CUDA by example”, an introduction to General- Purpose GPU programming [5] Maciej Matyka, “GPGPU programming on example of CUDA”, Institute of Theoretical Physics University of Wroclaw [6] NVIDIA, “High performance computing with CUDA”, Users Group Conference San Diego, CA June 15, 2009