Đang tải... (xem toàn văn)
Nhu cầu tính toán trong lĩnh vực khoa học và công nghệ ngày càng cao và trở thành một thách thức vì phương pháp xử lý tuần tự với một bộ xử lý không thể đáp ứng được. Trong suốt nhiều thập kỉ qua, những tiến bộ về Khoa học và Công nghệ đã mang đến những thay đổi lớn trên nhiều lĩnh vực và đóng góp một tầm ảnh hưởng vô cùng quan trọng tới mọi mặt đời sống của con người. Một trong những tiến bộ đó có thể nhắc tới việc các thiết bị phần cứng ngay nay đang trở nên hoàn hảo và đáp ứng được khả năng tính toán mạnh mẽ trước những yêu cầu phức tạp mà con người đề ra. Với sự phát triển mạnh mẽ của công nghệ sản xuất chip, sản xuất phần cứng máy tính thì giờ đây việc xây dựng các hệ thống máy tính mạnh đã trở nên đơn giản hơn trong lĩnh vực tính toán hiệu năng cao. Ngoài ra thách thức đặt ra trong lĩnh vực tính toán hiệu năng cao phải đối mặt là làm sao để sử dụng các hệ thống tính toán hiệu năng cao để giải quyết các bài toán trong đời sống. Nhóm chúng em thực hiện nghiên cứu chủ đề “Đánh giá hiệu năng cao thuật toán tính tích ma trận Fox sử dụng MPI” với bài toán tính tích ma trận khá phổ biến trong xử lý ảnh và trong lĩnh vực AI. Chúng em cũng không quên gửi lời cảm ơn thầy Hà Mạnh Đào đã hỗ trợ nhóm thực hiện đề tài. Nhóm mong muốn qua việc nghiên cứu chủ đề có thể hiểu thêm về các khái niệm trong tính toán hiệu năng cao một lĩnh vực có thể coi là xu hướng hiện nay trong giới công nghệ nói chung từ đó có thể có nền tảng vững chắc để ứng dụng kiến thức đã học vào phát triển các giải pháp thực tế.
TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI KHOA CÔNG NGHỆ THÔNG TIN ======***====== BÁO CÁO BÀI TẬP LỚN HỌC PHẦN: TÍNH TỐN HIỆU NĂNG CAO CHỦ ĐỀ: ĐÁNH GIÁ HIỆU NĂNG THUẬT TỐN TÍNH TÍCH MA TRẬN FOX SỬ DỤNG MPI GVHD: HÀ MẠNH ĐÀO Nhóm – Lớp: – 20231IT6069001 Thành viên: Nguyễn Đức Cường – 2021605340 Nguyễn Mạnh Trung – 2021607594 Lê Đức Phi – 2020603655 Hà Nội, Năm 2023 LỜI MỞ ĐẦU Nhu cầu tính tốn lĩnh vực khoa học công nghệ ngày cao trở thành thách thức phương pháp xử lý với xử lý đáp ứng Trong suốt nhiều thập kỉ qua, tiến Khoa học Công nghệ mang đến thay đổi lớn nhiều lĩnh vực đóng góp tầm ảnh hưởng vơ quan trọng tới mặt đời sống người Một tiến nhắc tới việc thiết bị phần cứng trở nên hoàn hảo đáp ứng khả tính tốn mạnh mẽ trước yêu cầu phức tạp mà người đề Với phát triển mạnh mẽ công nghệ sản xuất chip, sản xuất phần cứng máy tính việc xây dựng hệ thống máy tính mạnh trở nên đơn giản lĩnh vực tính tốn hiệu cao Ngồi thách thức đặt lĩnh vực tính tốn hiệu cao phải đối mặt để sử dụng hệ thống tính tốn hiệu cao để giải tốn đời sống Nhóm chúng em thực nghiên cứu chủ đề “Đánh giá hiệu cao thuật tốn tính tích ma trận Fox sử dụng MPI” với tốn tính tích ma trận phổ biến xử lý ảnh lĩnh vực AI Chúng em không quên gửi lời cảm ơn thầy Hà Mạnh Đào hỗ trợ nhóm thực đề tài Nhóm mong muốn qua việc nghiên cứu chủ đề hiểu thêm khái niệm tính tốn hiệu cao - lĩnh vực coi xu hướng giới cơng nghệ nói chung từ có tảng vững để ứng dụng kiến thức học vào phát triển giải pháp thực tế MỤC LỤC Chương Giới thiệu kiến thức sở liên quan 1.1 Giới thiệu tính tốn hiệu cao 1.1.1 Tính tốn hiệu cao gì? 1.1.2 Cách hoạt động tính tốn hiệu cao 1.2 Tính tốn song song gì? 1.2.1 Mơ hình tính tốn song song 10 1.2.2 Nguyên lý thiết kế thuật toán song song 15 1.3 Giới thiệu thư viện MPI 16 1.4 Giới thiệu thuật toán Fox 18 1.4.1 Định nghĩa 18 1.4.2 Nguyên lý hoạt động 18 1.4.3 Phân tích độ phức tạp thuật toán 19 Chương Mô tả, thực đánh giá hiệu toán 2.1 Giới thiệu toán 20 2.2 Thực thuật toán Fox 20 2.2.1 Thuật toán .20 2.2.2 Thuật toán song song 22 2.3 20 Đánh giá hiệu 27 2.3.1 Đánh giá theo lý thuyết 28 2.3.2 Đánh giá theo thực tế 29 Chương Tổng kết 30 3.1 Nội dung thực .30 3.2 Hướng phát triển .30 Chương 1.Giới thiệu kiến thức sở liên quan 1.1 Giới thiệu tính tốn hiệu cao 1.1.1 Tính tốn hiệu cao gì? − Tính tốn hiệu cao việc sử dụng tổng hợp sức mạnh máy tính để mang lại kết tính tốn cao so với máy tính truyền thống máy chủ việc xử lý tốn khó phức tạp − Mơ hình hệ thống tính tốn hiệu cao hệ thống máy tính có kết nối với qua mạng internet siêu máy tính thiết kế để giải toán lớn với tốc độ cao − Tính tốn hiệu cao thường sử dụng số vấn đề lớn giới khoa học, kĩ thuật, tài chính, mơi trường … 1.1.2 Cách hoạt động tính tốn hiệu cao − Một hệ thống tính tốn hiệu cao hoạt động cách nút(nodes) máy tính đơn lẻ hoạt động cụm (nhóm) kết nối với để thực lượng lớn tính tốn thời gian ngắn − Các máy tính (nodes) kết nối với qua mạng Internet để trao đổi liệu Vì HPC quan trọng: − Tính tốn hiệu cao (HPC) phần quan trọng hoạt động nghiên cứu đổi công nghiệp nhiều thập kỉ qua − HPC giúp nhà kỹ sư, khoa học liệu, nhà thiết kế nhà nghiên cứu giải vấn đề lớn, phức tạp thời gian ngắn chi phí thấp so với điện tốn truyền thống Các lợi ích to lớn HPC: ● Hiệu suất: Hệ thống HPC vượt trội nhiều so với PC trung bình hiệu suất Một tổ chức có quyền truy cập vào HPC vượt trội đối thủ cạnh tranh đơn giản nhiệm vụ hồn thành hiệu giá trị trích xuất từ liệu có sẵn Các sản phẩm quy trình có hội thành công cao nhiều mô chạy hệ thống HPC trình phát triển ● Tốc độ: Hệ thống HPC nhanh chóng Máy tính thơng thường chạy tốc độ gigaFLOPS (một tỷ FLOPS) teraFLOPS (một nghìn tỷ FLOPS) hệ thống HPC đo cấp độ nhanh petaFLOPS exaFLOPS Khả hoàn thành phép tính vài phút vài thay ngày tháng lợi to lớn ● Chi phí: Câu trả lời nhanh có nghĩa lãng phí thời gian tiền bạc Ngoài ra, với HPC dựa đám mây, doanh nghiệp nhỏ công ty thành lập đủ khả để chạy khối lượng cơng việc HPC, trả tiền cho họ sử dụng mở rộng quy mô cần ● Cải tiến: HPC thúc đẩy đổi hầu hết ngành—đó động lực đằng sau khám phá khoa học đột phá giúp cải thiện chất lượng sống cho người khắp giới 1.2 Tính tốn song song gì? Theo nghĩa đơn giản nhất, tính tốn song song việc sử dụng đồng thời nhiều tài ngun tính tốn để giải vấn đề tính tốn: ● Một vấn đề chia thành phần riêng biệt giải đồng thời ● Mỗi phần chia nhỏ thành loạt hướng dẫn ● Các hướng dẫn từ phần thực thi đồng thời xử lý khác ● Một chế kiểm soát/phối hợp tổng thể sử dụng Vấn đề tính tốn có thể: ● Chia nhỏ cơng việc rời rạc để giải đồng thời; ● Thực nhiều hướng dẫn chương trình lúc nào; ● Được giải thời gian ngắn với nhiều tài nguyên điện toán so với tài ngun điện tốn Các tài ngun tính tốn thường là: ● Một máy tính có nhiều xử lý/lõi ● Một số lượng tùy ý máy tính kết nối mạng Máy tính song song: Hầu tất máy tính độc lập ngày song song từ góc độ phần cứng: ● Nhiều đơn vị chức (bộ đệm L1, đệm L2, nhánh, tìm nạp trước, giải mã, dấu phẩy động, xử lý đồ họa (GPU), số nguyên, v.v.) ● Nhiều đơn vị thực thi/lõi ● Nhiều chủ đề phần cứng ● Các mạng kết nối nhiều máy tính độc lập (các nút) để tạo thành cụm máy tính song song lớn Ví dụ, sơ đồ bên hiển thị cụm máy tính song song LLNL điển hình: ● Bản thân nút tính tốn máy tính song song đa xử lý ● Nhiều nút điện toán nối mạng với mạng Infiniband ● Các nút mục đích đặc biệt, xử lý đa năng, sử dụng cho mục đích khác ● Phần lớn máy tính song song lớn (siêu máy tính) giới cụm phần cứng sản xuất số (hầu hết) nhà cung cấp tiếng 10 ● Bộ nhớ chia sẻ ● Bộ nhớ phân tán ● Dạng lai hai loại 1.4 Giới thiệu thuật toán Fox 1.4.1 Định nghĩa Thuật toán Fox thuật toán phổ biến để thực tính tốn nhân ma trận nhiều Đây thuật toán song song sử dụng để nhân ma trận lớn cách chia ma trận thành khối thực tính tốn đồng thời khối 1.4.2 Nguyên lý hoạt động ● Các phần tử n ma trận A B phân vùng xử lý với tổng số xử lý p để xử lý ban đầu lưu trữ ( √n❑ ) * ( √n❑ ) ● Lúc này, thuật toán sử dụng phần tử ma trận A nhân với tất phần tử hàng ma trận B Sau dịch chuyển vịng trịn bước lên khối lệnh ma trận B dọc theo cột xử lý ● Ban đầu chọn khối chéo Ai,i để phân vùng xử lý Sau hoàn thành phần trên, ta lập lại thêm p lần: Nhân Ai,i với tất phần tử hàng ma trận B Nhân ma trận A vừa nhận với ma trận B Dịch khối B lên bước Sau chọn khối Ai,(j+1)mod√❑ nhân với phần tử hàng Quay lại bước 20