NVIDIA trình làng GPU Hopper H200 tích hợp AI mạnh nhất thế giới
GPU Hopper H200 và GH200 của NVIDIA đại diện cho những bước tiến vượt bậc trong lĩnh vực chip đồ họa, với bộ nhớ HBM3e lên đến 141GB. Tốc độ của bộ nhớ này đạt 6.25Gbps/pin, với mỗi stack có dung lượng 24GB và tổng cộng 6 stack. Trong khi đó, đối với GPU H100 trước đó của NVIDIA, bộ nhớ chỉ là 80GB HBM3e với băng thông khoảng 3.35TB/s.
Ngoài ra, NVIDIA đã công bố hiệu suất xử lý FP8 của H200 là 32 Petaflops khi sử dụng cấu hình 8 GPU. Điều này đồng nghĩa với việc mỗi GPU H200 có khả năng xử lý khoảng 4 Petaflops, mức hiệu suất gần tương đương với GPU H100 trước đó của họ.
Hiệu suất của H200 so với H100 sẽ phụ thuộc vào nhu cầu công việc cụ thể. NVIDIA đã cung cấp ví dụ về khả năng vượt trội của H200 trong việc xử lý các mô hình ngôn ngữ lớn (LLM) như GPT-3 và Meta Llama2. Theo đó, H200 có tốc độ nhanh hơn 11 lần so với H100 và 18 lần so với A100 trong các tác vụ này, nhờ vào cải tiến của bộ nhớ lớn hơn và băng thông tăng cao. Tuy nhiên, khi so sánh với B100, sử dụng kiến trúc Blackwell dự kiến ra mắt vào năm sau, H200 vẫn còn ở một khoảng cách khá xa.
Bên cạnh đó, NVIDIA không chỉ giới thiệu bản nâng cấp cho GPU H100 mà còn ra mắt hệ thống GH200 mới, bao gồm “siêu GPU” H200 và “siêu CPU” Grace. Mỗi hệ thống “siêu chip” GH200 sẽ có tổng cộng 624GB bộ nhớ, trong đó bao gồm 480GB bộ nhớ LPDDR5x và 144GB bộ nhớ HBM3e. Số liệu này đại diện cho một bước tiến đáng kể so với GH100 với 96GB bộ nhớ HBM3.
Điều quan trọng nhất là GH200 sẽ tích hợp vào các hệ thống HGX H200 và sẽ tương thích với hệ thống HGX H100 trước đó. Điều này có nghĩa là các hệ thống HGX H200 có thể tích hợp vào cùng một cơ sở hạ tầng với các hệ thống HGX H100 để tăng cường hiệu suất xử lý mà không cần thay đổi cấu trúc.
Cuối cùng, siêu máy tính Vendano tại Phòng thí nghiệm Quốc gia Los Alamos, Mỹ, đã trở thành hệ thống HGX H200 đầu tiên đi vào hoạt động. Sau đó, hệ thống Vista tại Trung tâm Máy tính Nâng cao Texas (TACC) cũng đã đạt được thoả thuận sử dụng CPU Grace và GPU Hopper của NVIDIA, tuy nhiên, chưa rõ liệu đó có phải là H100 hay H200.
NVIDIA cũng giới thiệu siêu máy tính Jupiter, mà trong đó có 24.000 siêu chip GH200, mang lại hiệu suất AI lên đến 96 exaflops (có thể là FP8) và 1 exaflops FP64.
Sự ra mắt của GPU Hopper H200 đánh dấu một bước tiến quan trọng trong ngành công nghiệp chip đồ họa, không chỉ về hiệu suất mà còn về khả năng xử lý AI mạnh mẽ. Với các cải tiến đáng kể về bộ nhớ và băng thông, H200 hứa hẹn sẽ mở ra nhiều cơ hội mới cho các ứng dụng và nghiên cứu trong lĩnh vực trí tuệ nhân tạo. Khi các công nghệ mới này tiếp tục phát triển, người dùng cũng nên chú ý đến việc nâng cấp hệ thống của mình. Nếu bạn cần hỗ trợ sua may vi tinh o Da Nang để tối ưu hóa hiệu suất thiết bị, đừng ngần ngại tìm kiếm sự giúp đỡ từ các chuyên gia địa phương.
