Đang tải... (xem toàn văn)
Trong suốt nhiều thập kỉ qua, những tiến bộ về Khoa học và Công nghệ đã mang đến những thay đổi lớn trên nhiều lĩnh vực và đóng góp một tầm ảnh hưởng vô cùng quan trọng tới mọi mặt đời sống của con người. Một trong những tiến bộ đó có thể nói tới đó là việc các thiết bị phần cứng ngày nay đang trở nên hoàn hảo và đáp ứng được khả năng tính toán mạnh mẽ trước những yêu cầu phức tạp mà con người đề ra. Tính toán hiệu năng cao (High Performance Computing HPC) trên cơ sở các hệ thống siêu máy tính là một trong những thành phần cốt lõi trong sự phát triển đó và nó đã đánh dấu cho sự thay đổi trong bước chuyển hóa về nghiên cứu dựa trên những công cụ tính toán lớn. Ngoài ra, AI đang ngày càng đóng vai trò quan trọng đi đầu trong nghiên cứu và khám phá khoa học, điều này đang thúc đẩy sự hội tụ của HPC và AI. Trong hai năm qua, sự kết hợp giữa AI và HPC đã tạo ra những đột phá sẽ không thể thực hiện được chỉ bằng cách sử dụng điện toán tăng tốc. Sau khi được học và tích lũy được những kiến thức của môn Tính toán hiệu năng ca, Nhóm chúng xem sẽ tìm hiểu và phân tích tầm quan trọng và vai trò của HPC với AI. Do còn thiếu kinh nghiệm và kĩ năng nên bản báo cáo không tránh khỏi sai sót, rất mong sự đóng góp từ thầy cô để bản báo cáo của chúng em hoàn thiện hơn. Nhân đây, nhóm em cũng xin cảm ơn thầy Hà Mạnh Đào, đã hướng dẫn, cung cấp kiến thức và kĩ năng cho nhóm chúng em hoàn thành bản báo cáo.
TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI KHOA CÔNG NGHỆ THÔNG TIN - BÁO CÁO BTL THUỘC HỌC PHẦN: TÍNH TỐN HIỆU NĂNG CAO Tìm hiểu vai trị tầm quan trọng HPC với AI GVHD: TS.HÀ MẠNH ĐÀO Sinh viên: Nguyễn Trọng Trường Phạm Tiến Cơng Phạm Việt Hưng Lớp: 20231IT6069001 Khóa: K16 Hà Nội – Năm 2023 TRƯỜNG ĐẠI HỌC CÔNG NGHIỆP HÀ NỘI KHOA CÔNG NGHỆ THÔNG TIN - BÁO CÁO BTL THUỘC HỌC PHẦN: TÍNH TỐN HIỆU NĂNG CAO Tìm hiểu vai trị tầm quan trọng HPC với AI GVHD: TS.HÀ MẠNH ĐÀO Sinh viên: Nguyễn Trọng Trường Phạm Tiến Công Phạm Việt Hưng Lớp: 20231IT6069001 Khóa: K16 Hà Nội – Năm 2023 Mục Lục Lời nói đầu .4 PHẦN 1: MỞ ĐẦU 1.1 Tên đề tài .5 1.2 Lý chọn đề tài 1.3 Nội dung nghiên cứu 1.3.1 Kiến thức 1.3.2 Kỹ PHẦN 2: KẾT QUẢ NGHIÊN CỨU 2.1 Tổng quan HPC .6 2.1.1 HPC gì? 2.1.2 Các tốn phổ biến có sử dụng HPC 2.2 HPC với AI 13 2.2.1 Sự phổ biến HPC 13 2.2.2 Vai trò tầm quan trọng HPC với AI .13 2.2.3 Một số ví dụ 15 PHẦN 3: KẾT LUẬN VÀ BÀI HỌC KINH NGHIỆM 21 3.1 Kiến thức tích lũy 21 3.2 Những thuận lợi khó khan làm hoàn thiện tập lớn 21 TÀI LIỆU THAM KHẢO 22 Lời nói đầu Trong suốt nhiều thập kỉ qua, tiến Khoa học Công nghệ mang đến thay đổi lớn nhiều lĩnh vực đóng góp tầm ảnh hưởng vơ quan trọng tới mặt đời sống người Một tiến nói tới việc thiết bị phần cứng ngày trở nên hồn hảo đáp ứng khả tính tốn mạnh mẽ trước yêu cầu phức tạp mà người đề Tính tốn hiệu cao (High Performance Computing - HPC) sở hệ thống siêu máy tính thành phần cốt lõi phát triển đánh dấu cho thay đổi bước chuyển hóa nghiên cứu dựa cơng cụ tính tốn lớn Ngồi ra, AI ngày đóng vai trị quan trọng đầu nghiên cứu khám phá khoa học, điều thúc đẩy hội tụ HPC AI Trong hai năm qua, kết hợp AI HPC tạo đột phá thực cách sử dụng điện tốn tăng tốc Sau học tích lũy kiến thức mơn Tính tốn hiệu ca, Nhóm chúng xem tìm hiểu phân tích tầm quan trọng vai trị HPC với AI Do thiếu kinh nghiệm kĩ nên báo cáo khơng tránh khỏi sai sót, mong đóng góp từ thầy để báo cáo chúng em hồn thiện Nhân đây, nhóm em xin cảm ơn thầy Hà Mạnh Đào, hướng dẫn, cung cấp kiến thức kĩ cho nhóm chúng em hoàn thành báo cáo 6 PHẦN 1: MỞ ĐẦU 1.1 Tên đề tài Tầm quan trọng vai trò HPC với AI 1.2 Lý chọn đề tài Trong nghiên cứu “Sự hội tụ trí tuệ nhân tạo điện tốn hiệu cao sở hạ tầng mạng hỗ trợ NSF” (Journalofbigdata, 2020) cho thấy xu hướng tích hợp HPC vào công nghệ AI Các ứng dụng AI mang tính đổi hỗ trợ giải pháp chuyển đổi cho thách thức liệu lớn, thúc đẩy ngành cơng nghiệp, cơng nghệ có trị giá hàng tỷ la đóng vai trị ngày tăng việc định hình mơ hình xã hội loài người Khi AI tiếp tục phát triển thành mơ hình tính tốn có độ xác mặt thống kê toán học, rõ ràng mơ hình tính tốn sử dụng GPU để đào tạo, xác thực kiểm thử khơng cịn đủ đáp ứng cho thách thức lớn tính toán sở khoa học tạo liệu với tốc độ khối lượng vượt xa khả tính tốn tảng sở hạ tầng mạng có Nhận thức thúc đẩy kết hợp HPC AI để giảm thời gian tính tốn cho phép nghiên cứu có hệ thống kiến trúc domain-inspired AI data-driven AI Ở Việt Nam, việc tích hợp HPC AI cịn hạn chế vấn đề liên quan đến nhận thức, công nghệ Trong báo cáo này, đưa dẫn chứng từ nghiên cứu khoa học thực nghiệm để chứng minh vai trò tầm quan trọng HPC với AI 1.3 Nội dung nghiên cứu 1.3.1 Kiến thức Tính tốn hiệu cao (HPC) có tác động đáng kể nhiều lĩnh vực khoa học chịu ảnh hưởng tính tốn, hóa học, vật lý hạt nhân, khoa học vũ trụ, đặc biệt dự án trí tuệ nhân tạo có u cầu tính tốn phức tạp Tính tốn hiệu cao đóng vai trị quan trọng việc giải nhiều vấn đề toán học, giúp dự đốn kết thử nghiệm trước, từ rút ngắn thời gian thử nghiệm Nhiều toán yêu cầu mơi trường tính tốn lưới vàng, đặt cần thiết tính tốn hiệu cao nhiều lĩnh vực khoa học công nghệ Mở đầu bắt đầu với tổng quan Tính tốn hiệu cao, phân tích ảnh hưởng HPC trí tuệ nhân tạo tốn địi hỏi xử lý, nhớ, xử lý liệu phức tạp Đặc biệt, viết trình bày số kết thực nghiệm Tính tốn hiệu cao việc phát triển mơ hình trí tuệ nhân tạo 1.3.2 Kỹ Các kĩ cần trang bị để hoàn thiện báo cáo thành viên nhóm: - Kỹ làm việc nhóm - Kỹ tìm kiếm tài liệu - Kỹ năng viết tài liệu kỹ thuật PHẦN 2: KẾT QUẢ NGHIÊN CỨU 2.1 Tổng quan HPC 2.1.1 HPC gì? Khái niệm: Điện toán hiệu cao (HPC) việc sử dụng siêu máy tính kỹ thuật xử lý song song để giải vấn đề tính tốn phức tạp Công nghệ HPC tập trung vào phát triển thuật toán hệ thống xử lý song song cách kết hợp kỹ thuật quản trị tính tốn song song Hình 2.1 Mơ hình kiến trúc HPC Các thành phần kiến trúc hệ thống HPC: Hình 2.2 Các thành phần hệ thống HPC Thành phần tính tốn: Như tên cho thấy, thành phần tính tốn tập trung vào việc xử lý liệu, thực thi phần mềm thuật tốn giải vấn đề Một cụm máy tính (và tất xử lý, mạch chuyên dụng nhớ cục yêu cầu đó) thực tính tốn nằm "máy tính" Thành phần mạng: Kiến trúc HPC thành cơng phải có mạng nhanh đáng tin cậy, cho dù để nhập liệu ngoài, di chuyển liệu tài nguyên máy tính truyền liệu đến từ tài nguyên lưu trữ Thành phần lưu trữ: Lưu trữ đám mây, với khối lượng lớn tốc độ truy cập truy xuất cao, phần thiếu thành công hệ thống HPC Trong lưu trữ truyền thống thành phần chậm hệ thống máy tính, lưu trữ hệ thống HPC hoạt động tương đối nhanh để đáp ứng nhu cầu khối lượng công việc HPC Các kiến trúc hệ thống HPC là: - Paralell computing - Cluster computing - Quantum computing 10 - Grid computing - HPC on Cloud 2.1.2 Các tốn phổ biến có sử dụng HPC 2.1.2.1 Các toán nặng xử lý (compute intensive) Trước hết xem xét tốn địi hỏi nhiều xử lý Mục tiêu phân phối công việc cho toán cho nhiều CPU để giảm thiểu thời gian xử lý Để thực điều này, cần triển khai song song bước toán Mỗi process thread xử lý phần công việc thực chúng đồng thời Việc trao đổi liệu CPU thường cần nhanh chóng, yêu cầu phần cứng chuyên dụng cho giao tiếp Các ví dụ loại tốn bao gồm phân tích liệu liên quan đến mơ hình hóa tài chính, quản lý rủi ro, hay chăm sóc sức khỏe Đây thường mảng lớn vấn đề High-Performance Computing (HPC) lĩnh vực truyền thống HPC Khi cố gắng giải vấn đề nặng xử lý, nghĩ việc thêm nhiều CPU giảm thời gian thực Tuy nhiên, điều không Đa phần mã nguồn song song thường đạt đến giới hạn tỷ lệ mở rộng (scaling-limit) Nguyên nhân hệ thống trở nên tải việc quản lý nhiều hạn chế khác Điều tóm tắt luật định Amdahl Trong kiến trúc máy tính, định luật Amdahl công thức giúp tăng tốc độ lý thuyết độ trễ việc thực nhiệm vụ với khối lượng cơng việc cố định dự kiến hệ thống có tài nguyên cải thiện Nó đặt theo tên nhà khoa học máy tính Gene Amdahl, trình bày kiện AFIPS Spring Joint Computer Conference năm 1967 Định luật Amdahl, thường sử dụng điện toán song song để dự đoán tăng tốc lý thuyết sử dụng nhiều xử lý Ví dụ: chương trình cần 20 sử dụng lõi xử lý đơn phần cụ thể chương trình 11 để thực thi khơng thể song song, 19 (p = 0,95) thời gian thực song song có xử lý dành cho việc thực thi song song chương trình này, thời gian thực tối thiểu khơng thể quan trọng Do đó, việc tăng tốc lý thuyết bị giới hạn tối đa 20 lần (1 / (1 – p) = 20) Vì lý này, xử lý song song với nhiều xử lý hữu ích cho chương trình có chất song song tự nhiên Định luật Amdahl xây dựng theo cách sau, đó: - S[latency] tăng tốc lý thuyết việc thực toàn nhiệm vụ - s tăng tốc phần nhiệm vụ hưởng lợi từ tài nguyên hệ thống cải thiện - p tỷ lệ thời gian thực mà phần hưởng lợi từ tài nguyên cải thiện ban đầu bị chiếm dụng Hiện có nhiều thư viện giúp hỗ trợ song song hóa tốn Ví dụ OpenMP Open MPI nên cố gắng tối ưu hóa hiệu suất CPU, sau làm cho p lớn tốt chuyển sang thư viện 2.1.2.2 Các toán nặng nhớ (memory intensive) Các vấn đề phức tạp nhớ đòi hỏi ý đặc biệt xây dựng hệ thống, chúng thường u cầu khơng gian nhớ lớn tăng cường CPU Việc lập trình chuyển mã trở nên dễ dàng nhớ quản lý cách liền lạc, tạo hình ảnh đồng hệ thống Tuy nhiên, thách thức lớn xuất phát cần tối ưu hóa hệ thống với thời gian kéo dài, tính đồng thành phần gặp khó khăn Trong môi trường truyền thống trung tâm liệu, việc không thay đổi máy chủ sau ba năm điều phổ biến Tuy muốn mở rộng cluster trì hiệu suất đồng đều, việc sử dụng nhớ khơng đồng có 12 thể tạo độ trễ thực tế Hơn nữa, cần phải xem xét kết nối CPU nhớ để đảm bảo hiệu suất tối ưu Hiện nay, nhiều lo ngại giảm bớt nhờ vào phổ biến máy chủ tiêu chuẩn Việc yêu cầu hàng nghìn instance với cấu hình phần cứng giống từ dịch vụ Amazon Web Services giúp giải nhiều vấn đề phức tạp quản lý tài nguyên đồng hóa hiệu suất 2.1.2.3 Các toán nặng liệu (data intensive) Bài toán khả toán phổ biến ngày có lẽ loại có nhiều buzzword Được gọi toán Big Data Bài toán liệu lớn (Big Data) loại tốn phù hợp cho gói phần mềm Hadoop hay MapReduce, yêu cầu khả xử lí liệu với thông lượng cao Chúng ta sử dụng công nghệ để phân tán chia nhỏ liệu nhiều CPU để giảm thiểu thời gian xử lí Tương tự, việc áp dụng data segment, không luôn quan tâm đến điều này.Bản chất việc giải toán liên quan đến vấn đề di chuyển trao đổi thông tin ổ đĩa máy tính vấn đề kết nối mạng Các toán Big Data áp dụng rộng rãi lĩnh vực khoa học sinh học (genomics), nghiên cứu có khả ứng dụng rộng ứng dụngthương mại, đặc biệt việc thu thập xử lí thơng tin người sử dụng xung quanh internet 2.1.2.4 Các toán cần đến thông lượng cao (throughput intensive) Công việc xử lý hàng loạt xem tốn nặng thơng lượng cao, hoạt động gần khơng đáng kể thực song song có khơng có giao tiếp CPU Trong tốn này, tập trung vào việc tăng thơng lượng khoảng thời gian định hiệu xử lý cho công việc Để giảm thời gian thực tổng thể, phân phối công việc độc lập nhiều CPU Tuy nhiên, để đạt điều này, công việc cần 13 chia thành phần độc lập cách tự nhiên có khơng có giao tiếp CPU-CPU Các công việc cần thực process thread riêng biệt CPU để thực đồng thời Bài tốn nặng xử lý chia thành tốn nặng thơng lượng cao Tuy nhiên, khơng thiết tốn thơng lượng cao yêu cầu nhiều CPU Vì vậy, để tối ưu hóa q trình xử lý tăng thơng lượng, cần phân tích áp dụng phương pháp phù hợp cho loại toán khác 2.2 HPC với AI 2.2.1 Sự phổ biến HPC Tăng cường nhu cầu tính tốn lĩnh vực khoa học công nghệ dần trở thành thách thức phương pháp xử lý xử lý tại, khiến cho chuyển đổi sang xử lý song song trở thành chìa khóa quan trọng để đối mặt với thách thức Do đó, nghiên cứu lĩnh vực tính tốn hiệu cao (High Performance Computing) hình thành trở nên cần thiết Kết hệ máy tính mạnh đời Điển hình hệ máy tính mạnh giá thành hạ, phát triển dựa việc liên kết máy tính cá nhân/máy trạm thơng qua đường truyền mạng tốc độ cao phát triển mạnh thập kỷ qua Hiện nay, cơng nghệ tính tốn lưới cho phép tận dụng tài nguyên sẵn có để xây dựng mạng lưới tính tốn mạnh Trong thời đại đại, Trí tuệ Nhân tạo (AI) nhanh chóng trở thành xu hướng động lực nhiều lĩnh vực Nó tích hợp vào đa dạng ứng dụng doanh nghiệp phát triển, tương tác với hàng ngày sống Khi tiến đến cấp độ exascale, tài ngun Tính tốn Hiệu Cao (HPC) trở thành nhiệm vụ quan trọng không lĩnh vực khoa học cơng nghệ truyền thống mà cịn mở rộng khắp lĩnh vực kinh tế xã hội Các tảng giải pháp HPC hội tụ cung cấp khả cần thiết, mở nhiều hội 14 hết cho nhà nghiên cứu, giúp họ vượt qua thách thức khám phá doanh nghiệp khó khăn nhất, từ cung cấp sản phẩm dịch vụ sáng tạo sâu sắc Mặc dù có nhiều cơng việc phải thực hiện, nhiên, tầm nhìn rõ ràng phần thưởng đạt lớn 2.2.2 Vai trò tầm quan trọng HPC với AI Đã lâu nay, điện tốn hiệu cao (HPC) đóng vai trò quan trọng việc quản lý khối lượng cơng việc lớn, từ mơ đến phân tích quy mô lớn, nhằm thúc đẩy tiến lĩnh vực khoa học, sáng tạo sản phẩm, tăng cường khả cạnh tranh quốc gia Với gia tăng quy mơ trí tuệ nhân tạo (AI), mở rộng sở hạ tầng điện toán hiệu cao bước quan trọng để đối mặt với thách thức đặt quy trình cơng việc Sự kết hợp mở rộng phạm vi ứng dụng HPC làm cho sở hạ tầng HPC trở nên quan trọng hết Tầm quan trọng HPC hội tụ khối lượng công việc phản ánh dự báo tăng trưởng AI Dự kiến thị trường HPC tổng thể trì mức tăng trưởng tích lũy hàng năm 7% (CAGR) đến năm 2021 Trong đó, phân khúc AI-HPC dự kiến có mức tăng trưởng ấn tượng với 30% CAGR khoảng thời gian Phân khúc HPC dành cho học sâu / Deep Learning tăng nhanh hơn, với 81% CAGR Những số liệu phân tích Intel cịn cho thấy chu kỳ tính toán AI tăng lên đến 12 lần vào năm 2022 Mơ tăng tốc Q trình xây dựng mơ hình Trí tuệ Nhân tạo (AI), đặc biệt giai đoạn đào tạo, trở thành hoạt động chi phối cơng nghệ điện tốn May mắn thay, tối ưu hóa tốc độ tính tốn mang lại hiệu suất đáng kể trình Trong thời gian hai năm qua, kết hợp Trí tuệ Nhân tạo (AI) Điện tốn Hiệu Cao (HPC) tạo tiến đạt 15 dựa vào điện toán tăng tốc Ví dụ, vào năm 2020, nhóm nghiên cứu từ Hoa Kỳ Trung Quốc kết hợp mô hình máy học "DeepMD-kit" với cơng cụ mơ động lực học phân tử LAMMPS để đồng thời mô 100 triệu ngun tử Mơ hình học máy tính tốn lực tương tác, đồng thời thúc đẩy động lực học hệ thống nhanh 1.000 lần so với phương pháp tiêu chuẩn, cho phép mô hệ thống với kích thước lớn đáng kể Huerta đồng đội xây dựng đào tạo mô hình AI để mơ tả tín hiệu phát từ cặp lỗ đen xoay quanh quỹ đạo, gây biến dạng khôngthời gian Việc tạo liệu đào tạo u cầu mơ hình mơ vật lý thiên văn lớn thu nhỏ hệ thống HPC đặc biệt lớn, giảm đáng kể thời gian để tạo liệu đào tạo mơ hình từ 24 ngày xuống 1,2 Mặc dù hầu hết phương pháp tập trung vào tăng tốc mô đơn lẻ, tổng hợp mang lại dịch vụ người dùng hiệu hơn, với kết nhanh thông lượng tổng thể cao cho mơi trường HPC HPC áp dụng AI theo nhiều cách, từ việc tăng tốc mô riêng lẻ đến việc giảm thiểu số lượng mô Sự hiệu trở thành trọng tâm người sử dụng HPC đối mặt với thách thức tối ưu hóa nhiều tham số, đặc biệt họ cần đánh giá tham số để tối ưu hóa giá trị khơng gian thiết kế thực Thực tế, vấn đề "thiết kế thử nghiệm" (DOE) đưa ra, thử nghiệm tương đương với mô DOE phổ biến HPC thương mại, nơi mô sử dụng công cụ quan trọng thiết kế sản phẩm 2.2.3 Một vài ứng dụng kết thực nghiệm HPC AI 2.2.3.1 Công nghệ lái xe tự động Lái xe tự động trường hợp sử dụng AI biết đến rõ hầu hết liên quan đến.HPC khơng cung cấp khả xử lý 16 nhanh chóng, mà cịn cho phép hệ thống lái xe tự động thực tính tốn phức tạp đồng thời từ nhiều nguồn liệu Điều bao gồm việc phân tích khơng hình ảnh liệu radar, mà cịn thơng tin từ cảm biến khác lidar ultrasonic HPC giúp tối ưu hóa định lái xe dựa kết hợp chặt chẽ thông tin này, tăng cường khả dự đoán phản ứng xe thời gian thực Ngồi ra, tích hợp HPC với AI hệ thống lái xe tự động cải thiện khả học máy (machine learning) xe Hệ thống liên tục cập nhật mơ hình dự đốn dựa liệu mới, từ trải nghiệm lái xe thông tin từ môi trường, tạo hệ thống ngày thơng minh linh hoạt Đồng thời, khả tính toán cao HPC mở cửa cho ứng dụng mở rộng, tương tác xe tự động để cải thiện hiệu suất giao thông chí kết nối với hệ thống giao thơng thông minh Tất yếu tố tạo nên hệ thống lái xe tự động ngày thơng minh, an tồn tích hợp với mơi trường thị ngày phức tạp 2.2.3.2 Tìm hiểu gen virus Trong nghiên cứu gen virus Covid-19, kết hợp HighPerformance Computing (HPC) Trí tuệ Nhân tạo (AI) đóng vai trị quan trọng việc phân tích đánh giá liệu genơm virus Một ví dụ cụ thể sử dụng HPC để thực phân tích genơm hàng loạt từ mẫu virus Covid-19 thu thập khắp giới HPC sử dụng để tăng tốc trình so sánh genơm, xác định biến thể gen phân loại chúng dựa đặc điểm genetict Các giảng viên nghiên cứu sử dụng mơ hình máy học (machine learning) 17 đào tạo liệu genơm để dự đốn biến đổi virus tiên đốn mức độ nguy hiểm Qua đó, kết hợp HPC AI không giúp tạo sở liệu genôm rộng lớn mà cịn cung cấp hiểu biết sâu rộng đặc tính genetict tiềm ẩn virus Điều hỗ trợ nhóm nghiên cứu y tế việc phát theo dõi biến thể virus, từ cung cấp thơng tin quan trọng để phát triển chiến lược kiểm sốt phịng ngừa 2.2.3.3 Giám sát thời tiết mặt trời NASA Vào năm 2019, NASA tận dụng khả tính tốn hiệu suất cao để theo dõi mức độ mạnh mẽ xạ tia cực tím từ mặt trời, gây tượng lóa sáng Điều khơng quan trọng để đảm bảo an toàn cho chiến dịch vũ trụ, mà để hiểu rõ cách thời tiết mặt trời ảnh hưởng đến hệ thống truyền tải trái đất NASA sử dụng thiết bị không gian chuyên dụng, EVE MEGS-A, để theo dõi biến động mặt trời Tuy nhiên, để đảm bảo tính liên tục độ xác, họ phát triển mơ hình học sâu thơng qua hợp tác với Phịng thí nghiệm Phát triển Biên giới Mơ hình mạng nơ-ron sâu khơng có khả mô thay đổi thời tiết mặt trời cách đáng tin cậy mà hỗ trợ định nhanh chóng linh hoạt Ứng dụng không mang lại đột phá lĩnh vực nghiên cứu khoa học mà ảnh hưởng trực tiếp đến sống hàng ngày, hỗ trợ phi hành gia quan quản lý việc đưa định tức trước tình khơng mong muốn 18 2.2.3.4 Tăng tốc Đào tạo Mơ hình Học Máy Dự báo Thị trường Tài Một ví dụ rõ ràng High-Performance Computing (HPC) hỗ trợ trí tuệ nhân tạo lĩnh vực dự báo thị trường tài Các mơ hình học máy sử dụng để dự đoán xu hướng thị trường đưa định giao dịch Sử dụng HPC giúp tăng tốc q trình đào tạo mơ hình lượng lớn liệu lịch sử liệu thị trường HPC (High Performance Computing) công nghệ cung cấp khả xử lý song song tính tốn nhanh chóng, giúp mơ điều chỉnh mơ hình dự đoán dựa thay đổi thị trường Với HPC, việc tính tốn phân tích liệu thực cách nhanh chóng hiệu hết Sử dụng HPC để phân tích thị trường có nhiều lợi ích Đầu tiên, việc sử dụng cơng nghệ giúp cải thiện độ xác mơ hình dự đốn Nhờ vào khả xử lý hàng loạt thông tin khoảng thời gian ngắn, HPC cho phép nhà đầu tư quỹ đầu tư có nhìn tổng quan tình hình thị trường, từ đưa định thơng minh linh hoạt Thứ hai, HPC giúp cho việc thí nghiệm triển khai chiến lược giao dịch trở nên thuận tiện Với công nghệ này, nhà đầu tư kiểm tra hiệu chiến lược cách nhanh chóng xác Việc giúp cho nhà đầu tư kiểm soát rủi ro tối ưu hóa lợi nhuận mơi trường thị trường động Tóm lại, sử dụng HPC để phân tích thị trường xu hướng khơng thể bỏ qua ngành tài Cơng nghệ mang lại nhiều lợi ích cho nhà đầu tư quỹ đầu tư, từ việc cải thiện độ xác mơ hình dự đốn việc triển khai chiến lược giao dịch 19 2.2.3.5 Bài tốn tối ưu hóa siêu tham số mơ hình data-driven AI Trong nghiên cứu “Ứng dụng HPC nâng cao khả tính tốn cho tốn tối ưu hóa siêu tham số mơ hình data-driven AI” (Eric Wulff et al 2023 J Phys.: Conf Ser 2438 012092) Các tài nguyên HPC sử dụng siêu máy tính ứng dụng để tăng tốc độ thực thuật tốn tìm siêu tham số cho mơ hình AI Giai đoạn thực siêu máy tính JUWELS Booster trung tâm siêu máy tính Julich, Đức Mỗi nút JUWELS Booster có hai CPU AMD EPYC Rome 7402 với 48 lõi tốc độ 2,8 GHz bốn GPU NVIDIA A100-SXM4-4 Giai đoạn thứ hai thực siêu máy tính CoreSite Viện Flatiron New York, Hoa Kỳ với độ phức tạp thuật toán cao CoreSite sử dụng 12 nút tính tốn, nút trang bị CPU 64-core Intel Icelake Platinum 8358 CPU với nhân tốc độ 2,6 GHz bốn GPU NVIDIA A100-SXM4-40GB Sau hai giai đoạn, giai đoạn thứ cần 19,574 core-hours để hoàn thành, giai đoạn thứ hai cần 56,730 core-hours Theo tình tốn, dùng GPU đề hồn thành cơng việc thơng thường khoảng gần tháng để hoàn thành thuật tốn, sử dụng siêu máy tính với kỹ thuật HPC gần 83 để hoàn thành 2.2.3.6 Trong vật lý thiên văn học Với việc tích hợp HPC vào mơ hình AI, ngành vật lí thiên văn nhanh chóng đạt kết tích cực Đặc biệtt chương trình nghiên cứu vật lí plasma, vật lí thiên văn sóng hấp dẫn, vật lí lượng cao, khoa học vật liệu Những thành tựu có chung điểm chung, thuật tốn phát triển để tăng tốc q trình đào tạo mơ hình AI tảng HPC có thành phần thử nghiệm mạnh mẽ 20 Hình 2.5 Huấn luyện mơ hình ImageNet ResNet-50 (Gọi tắt ResNet, lần giới thiệu vào năm 2015 để tự động phân loại hình ảnh) cách mở rộng quy mô đào tạo ResNet-50 sử dụng liệu ImageNet Giai đoạn huấn luyện rút ngắn cịn giờ, đạt độ xác 93%, sử dụng tồn cụm siêu máy tính HAL Hình 2.6 Phần mềm ứng dụng vật lý thiên văn sóng hấp dẫn AI-GW với siêu máy tính HAL để huấn luyện mơ hình học sâu, dùng để suy tốc độ quay hai lỗ đen va chạm, giảm từ tháng—sử dụng GPU V100 —xuống cịn 12,4 sử dụng tồn GPU siêu máy tính HAL