Bộ Giáo dục và Đào tạo Trờng Đại học Bách khoa Hà Nội Luận văn thạc sĩ khoa học Ngành: Xử lý thông tin và truyền thông đánh giá hiệu năng hệ thống song song phân cụm Phạm Thanh Liêm Hà Nội 2006 1 MỤC LỤC MỞ ĐẦU………………………………………………………………… 6 CHƯƠNG 1 TỔNG QUAN VỀ ĐÁNH GIÁ HIỆU NĂNG HỆ THỐNG 8 1.1 Định nghĩa về đánh giá hiệu năng…………………………………… 8 1.2 Mục đích của việc đánh giá hiệu năng…………………………………. 8 1.3 Phân loại các phần mềm đo hiệu năng…………………………… 9 1.3.1 Phân loại dựa trên độ phức tạp của chương trình đo hiệu năng…… 10 1.3.2 Phân loại dựa trên mục đích của chươ ng trình……………………. 11 1.4 Sự phát triển của các phần mềm đo hiệu năng…………………… 15 CHƯƠNG 2 KIẾN TRÚC HỆ THỐNG TÍNH TOÁN SONG SONG….… 18 2.1 Giới thiệu chung…………………………………………………… 18 2.2 Phân loại các kiểu kiến trúc song song………………………………… 19 2.2.1 Kiến trúc máy tính Von Newmann…………………………… 19 2.2.2 Phân loại kiến trúc máy tính của Flynn……………………… … 20 2.3 Các mô hình lập trình song song…………………………………… 25 2.3.1 Mô hình đa luồng……………………………………………… 25 2.3.2 Mô hình truyền thông điệp………………………………… 25 2.3.3 Mô hình song song dữ liệu……………………………………… 26 2.4 Các vấn đề của một hệ thống tính toán song song phân cụm 26 2.4.1 Các khái niệm cơ bản 26 2.4.2 Cấu trúc phần cứ ng hệ thống tính toán song song phân cụm………. 27 2.4.3 Các phần mềm sử dụng trong hệ thống song song phân cụm………. 28 2.5 Kiến trúc hệ thống tính toán song song BKCluster……………………. 32 2.5.1 Kiến trúc phần cứng của hệ thống BK Cluster…………………… 32 2.5.2 Kiến trúc phần mềm cài đặt trong hệ thống BK Cluster…………… 34 2.6 Quy trình đánh giá hiệu năng của hệ thống BK Cluser………… 36 2.6.1 Đo hiệu năng tính toán (năng lực của CPU)………………… 38 2 2.6.2 Đo hiệu năng truy cập bộ nhớ trong…………………………… 41 2.6.3 Đo hiệu năng truyền thông……………………………………… 42 2.6.4 Đo hiệu năng của thư viện MPICH…………………………………. 42 CHƯƠNG 3 CÁC PHƯƠNG PHÁP ĐO HIỆU NĂNG…………………. 44 3.1 Đo hiệu năng tính toán…………………………………………………. 44 3.2 Đo hiệu năng truy cập bộ nhớ trong………………………………… 47 3.3 Đo hiệu năng truyền thông…………………………………………… 47 3.4 Đo hiệu năng của thư viện phần mềm…………………………………. 48 CHƯƠNG 4 XÂY DỰNG CÁC CHƯƠNG TRÌNH THỰ C HIỆN QUI TRÌNH ĐO HIỆU NĂNG…………………………………………………. 50 4.1 Xây dựng chương trình thực hiện quy trình đo hiệu năng…………… 50 4.2 Chương trình thực hiện các công việc đo hiệu năng………………… 51 4.2.1 Chương trình thực hiện việc đo hiệu năng tính toán…………… 51 4.2.2 Chương trình thực hiện đo hiệu năng truy cập bộ nhớ trong……… 53 4.2.3 Chương trình thực hiện đo hiệu năng truyền thông…………… 54 4.2.4 Chương trình thực hiện đo hiệ u năng thư viện MPICH……………. 55 CHƯƠNG 5 KẾT QUẢ ĐO HIỆU NĂNG……………………………… 56 5.1 Kết quả đo hiệu năng tính toán………………………………………… 56 5.1.1 Kết quả đo hiệu năng tính toán của CPU đơn…………………… 56 5.1.2 Kết quả đo hiệu năng tính toán của toàn bộ hệ thống……………… 57 5.2 Kết quả đo hiệu năng truy cập bộ nhớ trong………………………… 64 5.3 Kết quả đo hiệu năng truyền thông……………………………………. 64 5.4 Kết quả đ o hiệu năng của thư viện truyền thông điệp MPICH……… 65 5.5 Đánh giá tổng hợp về hiệu năng của hệ thống BK Cluster……………. 68 CHƯƠNG 6 KẾT LUẬN…………………………………………………. 71 TÀI LIỆU THAM KHẢO…………………………………………………. 73 3 CÁC THUẬT NGỮ Synthetic Code Mã lệnh đơn Kernel Hạt nhân Simulation Application Mô phỏng ứng dụng Mega Instruction Per Second MIPS Triệu lệnh trên giây Message Passing Interface MPI Thư viện truyền thông điệp Open Passing Interface Open MP. Thư viện lập trình đa luồng NASA Parallel Benchmark NPB Phần mềm đo hiệu năng song song Single Intruction Single Data SISD Đơn dòng lệnh, đơn dòng dữ liệu Single Instruction Multiple Data SIMD Đơn dòng lệnh, đa dòng dữ liệu Multiple Instruction Multip Data MIMD Đa dòng lệnh, đa dòng dữ liệu Nonumiform Memory Access NUMA Truy cập bộ nhớ không đồng nh ất Uniform Memory Access UMA Truy cập bộ nhớ đồng nhất Symmetric Multi Processor SMP Đa bộ xử lý đối xứng Portable Batch System PBS Hệ thống phân tải 4 DANH MỤC HÌNH Hình 2.1 Nguyên lý kiến trúc máy tính Von Newmann…………………… 20 Hình 2.2 Kiến trúc SISD…………………………………………………… 20 Hình 2.3 Kiến trúc SIMD………………………………………………… 21 Hình 2.4 Kiến trúc MIMD Share Memory………………………………… 22 Hình 2.5 Kiến trúc MIMD Distributed Memory………………………… 23 Hình 2.6 Kiến trúc Core Duo Intel………………………………………… 24 Hình 2.7 Cấu hình kết nối Cluster…………………………………………. 24 Hình 2.8 Kiến trúc phần cứng hệ thống BK Cluster……………………… 34 Hình 2.9 Hai phần mềm PBS và MPICH………………………………… 36 Hình 2.10 Qui trình đo hiệu năng BK Cluster…………………………… 38 Hình 5.1 Biểu đồ tương quan giữa hiệu năng và số trạm………………… 63 Hình 5.2 Biểu đồ tương quan tốc độ truy cập bộ nhớ …………………… 64 Hình 5.3 Biểu đồ tương quan dung lượng gói tin - t ốc độ truyền thông… 65 Hình 5.4 Biểu đồ tương quan dung lượng gói tin- tốc độ truyền thông điệp. 66 Hình 5.5 Biểu đồ tương quan tốc độ và thời gian truyền thông mạng……. 67 Hình 5.6 Biểu đồ tương quan dung lượng gói tin- thời gian truyền thông… 68 5 DANH MỤC BẢNG Bảng 2.1 Kiến trúc phần mềm hệ thông……………………………………. 34 Bảng 2.2 Các phần mềm sử dụng đo hiệu năng……………………………. 37 Bảng 2.3 Độ lớn của các lớp dữ liệu gói phần mềm NPB…………………. 40 Bảng 3.1 Sự tương ứng các phép toán số thực và đơn vị flop…………… 46 Bảng 5.1 Kết quả đo hiệu năng CPU đơn…………………………………. 57 Bảng 5.2 Kết quả đo hiệu năng tính toán bằng hạ t nhân EP………………. 58 Bảng 5.3 Kết quả đo hiệu năng tính toán bằng hạt nhân IS……………… 59 Bảng 5.4 Kết quả đo hiệu năng tính toán bằng hạt nhân CG……………… 60 Bảng 5.5 Kết quả đo hiệu năng tính toán bằng hạt nhân MG……………… 60 Bảng 5.6 Kết quả đo hiệu năng tính toán bằng hạt nhân LU………………. 61 Bảng 5.7 Kết quả đo hiệu năng tính toán bằng mô phỏng chương trình SP 62 Bảng 5.8 Kết quả đo hiệu năng tính toán b ằng mô phỏng chương trình BT. 62 6 MỞ ĐẦU Hiện nay trên thế giới nhờ các tiến bộ công nghệ cao, đã xây dựng được những hệ thống máy tính có khả năng tính toán rất lớn như siêu máy tính, tính toán lưới phục vụ cho việc nghiên cứu khoa học và các ứng dụng thực tế. Bên cạnh đó các nhà sản xuất máy tính cũng luôn thay đổi công nghệ, cho ra những thế hệ máy tính có khả năng tính toán với tốc độ nhanh. Tuy nhiên ở Việt Nam, v ới hiện tại các trung tâm nghiên cứu chưa đủ tiền để mua những máy tính lớn, trong khi đó nhu cầu có hệ thống tính toán lớn lại rất cần thiết. Một giải pháp là xây dựng hệ thống tính toán song song từ các máy tính hiện có và liên kết các trung tâm lại tạo ra hệ thống tính toán lớn. Trung tâm tính toán hiệu năng cao, Trường đại học Bách Khoa Hà Nội đang triển khai nghiên cứu làm chủ công nghệ lưới và ứng dụng vào thực tiễn. H ệ thống BKGrid 2006 là sản phẩm của công trình đó. Hệ thống BKGrid 2006 được xây dựng với phần cứng là các máy tính hiện có như máy chủ HP NetServer và các máy trạm là các máy tính cá nhân, cấu hình mạng Ethernet và sử dụng các phần mềm mã nguồn mở: Hệ điều hành Linux, các thư viện tính toán chuyên dụng, phần mềm quản lý tài nguyên, thư viện truyền thông điệp Đánh giá hiệu năng của hệ thống là một trong những nhiệ m vụ cần thiết để đưa ra những nhận xét, kết luận về tốc độ tính toán, tính hiệu quả của toàn bộ hệ thống. Đối với hệ thống tính toán song song phân cụm, việc đánh giá hiệu năng sẽ được tiến hành dưới hai mức độ. Đánh giá hiệu năng từng thành phần trong hệ thống : Gồm phần cứng và phần mềm. - Đánh giá hiệu nă ng phần cứng được thực hiện dựa trên các số đo : tốc độ tính toán của CPU, tốc độ truy cập vào bộ nhớ trong trên từng máy trạm, tốc độ truyền tin trong mạng. 7 Đánh giá hiệu năng phần mềm được thực hiện dựa trên việc khảo sát quá trình hoạt động của các thư viện được cài đặt trong hệ thống như các thư viện tính toán, các thư viện truyền thông điệp. - Đánh giá hiệu năng tổng hợp của toàn bộ hệ thống: toàn bộ hệ thống được coi như một máy tính song song duy nhất. Dựa trên quá trình khảo sát tốc độ , kết thu được khi thực hiện một số bài toán song song mà người quản trị có thể đánh giá được hiệu năng tính toán của toàn bộ hệ thống, cũng như sự tương thích của hệ thống đối với những dạng bài toán cụ thể. Luận văn này sẽ trình bày về quy trình áp dụng các phần mềm đo hiệu năng mã nguồn mở chuyên dụng để đánh giá hiệu năng c ủa hệ thống tính toán song song phân cụm BKCLUSTER. Cấu trúc của luận văn gồm 6 chương với nội dung cụ thể như sau : Chương 1 Tổng quan về đánh giá hiệu năng hệ thống máy tính. Chương 2 Kiến trúc của hệ thống tính toán BKCLUSTER. Chương 3 Các phương pháp đo hiệu năng. Chương 4 Xây dựng chương trình thực hiện quy trình đo hiệu năng. Chương 5 Các kết quả đ o hiệu năng. Chương 6 Kết luận. Luận văn cao học này được hoàn thành tại Trung tâm tính toán hiệu năng cao và Trung tâm máy tính thuộc Trường đại học Bách Khoa Hà Nội. Tôi xin cảm ơn chân thành nhất đến thầy PGS.TS Nguyễn Thanh Thủy và Ths Đinh Hùng đã tận tình hướng dẫn và tạo điều kiện cho tôi hoàn thành luận văn này. Tôi xin chân thành cảm ơn các thầy, cô đã tham gia giảng dạy tại Trung tâm đào tạo sau đại học, Tr ường đại học Bách Khoa Hà Nội đã truyền những kiến thức quý báu của chương trình cao học. Hà Nội, Ngày 30 tháng 10 năm 2006 8 CHƯƠNG 1 TỔNG QUAN VỀ ĐÁNH GIÁ HIỆU NĂNG HỆ THỐNG 1.1 Định nghĩa về đánh giá hiệu năng. Đánh giá hiệu năng là sử dụng phần mềm chuyên dụng trên một máy tính đơn hay cả một hệ thống máy tính, từ việc phân tích thời gian chạy chương trình hoặc những kết quả thu được, từ đó người quản trị rút ra những kết luận về tốc độ tính toán, tốc độ truyền thông và khả năng truy cập bộ nhớ. Sau đó đưa ra kết luận về hiệu năng thực của hệ thống. 1. 2 Mục đích của việc đánh giá hiệu năng. Khi triển khai một hệ thống tính toán, một yêu cầu đặt ra đối với người quản trị là phải đánh giá được khả năng của hệ thố ng về các mặt tính toán, truyền thông. Sự đánh giá này có được dựa trên các kết quả cụ thể phản ánh tốc độ thực hiện các thao tác trên các kiểu dữ liệu, tốc độ gửi và nhận gói tin, tốc độ truy cập bộ nhớ ngoài và bộ nhớ trong. Các kết quả này khi được tổng hợp lại cho phép dự đoán một phần về hiệu năng của những ứng dụng đang được triển khai. Đối với từng máy tính đóng vai trò là nút tính toán, việc đánh giá hiệu năng được thực hiện với mục đích đưa ra những thông số cụ thể phản ánh tốc độ tính toán, tốc độ truy cập bộ nhớ trong khi thực hiện bài toán trên CPU đơn của máy tính. Từ những thông số cụ thể trên người quản trị có thể đưa những đánh giá về năng lực tính toán cũng nh ư kích thước của bài toán là bao nhiêu thì sẽ phù hợp với nút mạng. Khả năng truyền thông giữa các nút trong mạng đóng vai trò rất quan trọng khi triển khai một hệ thống tính toán. Tốc độ truyền thông chịu ảnh hưởng một cách trực tiếp bởi các cấu hình phần cứng cũng như dung lượng gói tin và 9 tần số gửi gói tin. Từ những thông số đo được khi thực hiện các chương trình đo hiệu năng truyền thông, người quản trị có thể đưa ra những thông số tối ưu về dung lượng gói tin và tần số gửi tin của từng giao thức cụ thể đối với hệ thống tính toán đang triển khai. Quá trình đo hiệu năng còn được sử dụng để đánh giá sự tương thích của hệ thống đối với các thư viện lập trình. Trong trường hợp này, phần mềm đo hiệu năng sẽ gọi một số hàm tiêu biểu của thư viện, đo thời gian thực hiện các hàm này đối với các kích thước đầu vào cụ thể. Một trong những mục đích của việc xây dựng hệ thống máy tính là để thực hiện các bài toán đòi hỏ i số lượng tính toán rất lớn. Lúc này cả hệ thống sẽ được xem như một máy tính duy nhất thực hiện quá trình chạy chương trình. Các phần mềm đo hiệu năng tính toán song song cho phép người quản trị có được những thông số về tốc độ tính toán đối với những kiểu bài toán, ứng dụng khác nhau. Có những chương trình thiên về truyền thông, có những chương trình cho phép giảm thiểu quá trình truyền thông để tập trung đánh giá n ăng lực tính toán. Để đánh giá sự tương thích của hệ thống đối với những ứng dụng đang dự định triển khai, các phần mềm đo hiệu năng có dạng mô phỏng ứng dụng được viết ra và sử dụng. Các phần mềm này sẽ mô phỏng ứng dụng trong tương lai ở mức độ nhỏ hơn và đo đạc các thông số về tính toán, truyền thông khi chạy vớ i những giá trị đầu vào thích hợp. Qua các thông số thu được, người quản trị hệ thống sẽ có thể đưa ra những đánh giá đúng đắn, những chỉnh sửa để có thể triển khai hệ thống trong tương lai một cách tối ưu nhất về cả cấu trúc phần cứng cũng như các phần mềm cài đặt. 1.3 Phân loại các phần mềm đo hiệu năng. Những ph ần mềm đo hiệu năng ra đời vào đầu những năm 80 với mục đích ban đầu là đo hiệu năng tính toán của những máy tính tuần tự. Những chương trình đo hiệu năng này sử dụng một tập các câu lệnh được gọi trong nhiều [...]... các hệ thống máy tính khác Hệ thống song song phân cụm là mô hình đa máy tính nên các chương trình song song trên các hệ thống đa máy tính có thể tương thích với hệ thống phân cụm, nhưng trong một số trường hợp hiệu năng thực hiện của chương trình không được tối ưu do hệ thống song song phân cụm có một số đặc điểm riêng biệt Hệ thống tính toán song song phân cụm là hệ thống máy tính có bộ nhớ phân. .. chương trình đo hiệu năng 16 Sự phát triển về khả năng tương thích hệ thống của các chương trình đo hiệu năng : ban đầu các chương trình đo hiệu năng thường được viết để đánh giá hiệu năng của những hệ thống cụ thể Điều này được thể hiện qua một số ví dụ như sau : - Gói phần mềm NASA Parallel Benchmark được viết để đánh giá hiệu năng tính toán của hệ thống tính toán song song phân cụm của cơ quan... về đánh giá hiệu năng Có thể nói rằng, bất cứ khía cạnh nào của một máy tính đơn hay một hệ thống tính toán phức tạp đều tồn tại những chương trình đo hiệu năng chuyên dụng để đánh giá hiệu năng Có thể chia ra thành các phần mềm đo hiệu năng với những mục đích sau : đo hiệu năng tính toán, đo hiệu năng truyền thông, đo hiệu năng truy cập bộ nhớ trong, đo hiệu năng của thư viện lập trình, đo hiệu năng. .. trúc hệ thống tính toán song song phân cụm BKCLUSTER BKCluster là hệ thống tính toán song song phân cụm được xây dựng tại Trung Tâm Tính Toán Hiệu Năng Cao trường Đại Học Bách Khoa Hà Nội Hệ thống có mục đích chính làm dịch vụ tính toán để thực hiện các bài toán kỹ thuật có yêu cầu tính toán lớn 2.5.1 Kiến trúc phần cứng của hệ BKCLUSTER - Hệ thống BKLUSTER được xây dựng theo mô hình song song phân cụm. .. việc triển khai hệ thống song song phân cụm với khả năng tuỳ biến cao 29 Các thành phần phần mềm dùng trong hệ thống tính toán song song phân cụm có thể chia thành 3 nhóm chính sau : Thư viện và môi trường lập trình, các phần mềm quản lý tài nguyên và phân tải, các thư viện truyền thông điệp a)Thư viện và môi trường lập trình Lập trình song song trong các hệ thống tính toán song song phân cụm là phức... tính Một hệ thống phân cụm là cục bộ với ý nghĩa là toàn bộ các thành phần hệ thống con nằm trong khu vực địa lý hẹp và được quản lý tập trung như là một hệ thống thống nhất Các nút trong hệ bó có thể là kết hợp của các máy tính đơn bộ xử lý với các máy nhiều bộ sử lý (SMP: symmertric multiprocesor) Ưu điểm của hệ thống phân cụm là giá thành của hệ thống Hiện nay một hệ thống dựa trên công nghệ LAN và... và phân tải OpenPBS là hệ thống phân tải của NASA phát triển Phiên bản OpenPBS là phiên bản mã nguồn mở PBS ra đời sau các hệ thống phân tải khác như DQS, Condor nên khắc phục được một số nhược điểm của hệ thống trên, hơn nữa PBS được thiết kế theo hướng mở có khả năng thay đổi và tối ưu cho phù hợp với hệ thống c)Thư viện truyền thông điệp Hệ thống BKCluster là hệ thống tính toán song song phân cụm. .. trong hệ thống song song phân cụm Giá thành rẻ là lợi thế của hệ thống tính toán song song phân cụm thì việc triển khai phần mềm trên hệ thống này lại phức tạp Nhưng phần mềm cho hệ thống tính toán song song phân cụm lại rất đa dạng và sẵn dùng, thậm chí có cả những giải pháp hoàn chỉnh Các hệ thống phân cụm thường được triển khai trên các hệ điều hành dòng Unix như Linux, Unix, Solaris.Với sự ra đời... biên dịch song song và ngôn ngữ lập trình tạo lên một ngôn ngữ lập 30 trình song song cho các hệ thống tính toán phân cụm Các ngôn ngữ lập trình song song tiêu biểu hiện nay là: HPF (Hight Performance Fortran), Titanium (kế thừa từ Java), Para++, ABC+, Split-C, BSP… Một trong những thành phần quan trọng của các chương trình tính toán song song phân cụm nói riêng và các hệ thống tính toán song song nói... Một số sản phẩm phân tải và quản lý tài nguyên thường được sử dụng trong các hệ thống tính toán song song phân cụm là: 31 - PBS (Portable Batch System) : hệ thống phân tải và quản lý tài nguyên rất mạnh do NASA phát triển Hệ thống này được sử dụng rất phổ biến trong các hệ thống tính toán hiệu năng cao Chức năng chính của hệ thống là tiếp nhận các công việc từ người sử dụng, bảo vệ công việc đó cho đến . kết luận về tốc độ tính toán, tính hiệu quả của toàn bộ hệ thống. Đối với hệ thống tính toán song song phân cụm, việc đánh giá hiệu năng sẽ được tiến hành dưới hai mức độ. Đánh giá hiệu năng. QUAN VỀ ĐÁNH GIÁ HIỆU NĂNG HỆ THỐNG 8 1.1 Định nghĩa về đánh giá hiệu năng ………………………………… 8 1.2 Mục đích của việc đánh giá hiệu năng ………………………………. 8 1.3 Phân loại các phần mềm đo hiệu năng …………………………. QUAN VỀ ĐÁNH GIÁ HIỆU NĂNG HỆ THỐNG 1.1 Định nghĩa về đánh giá hiệu năng. Đánh giá hiệu năng là sử dụng phần mềm chuyên dụng trên một máy tính đơn hay cả một hệ thống máy tính, từ việc phân