Siêu máy chủ NVIDIA GB200 NVL72 vừa được giới thiệu tại Computex 2024 đã làm nổi bật khả năng mạnh mẽ và tiên tiến trong lĩnh vực xử lý dữ liệu và trí tuệ nhân tạo. Với sự kết hợp giữa GPU NVIDIA Blackwell Tensor Core và CPU NVIDIA Grace, hệ thống này không chỉ tối ưu hóa hiệu suất mà còn mở ra những tiềm năng mới cho các ứng dụng AI phức tạp. Nếu bạn đang tìm kiếm một giải pháp để nâng cấp hoặc bảo trì thiết bị công nghệ của mình, công ty sửa máy tính Đà Nẵng sẽ là địa chỉ đáng tin cậy để giúp bạn tối ưu hóa hiệu suất cho máy tính của mình. Dưới đây là những thông tin chi tiết về siêu máy chủ NVIDIA GB200 NVL72.
Siêu máy chủ NVIDIA GB200 NVL72 mạnh mẽ như thế nào?
Trong quý 1 vừa qua, NVIDIA đã giới thiệu hàng loạt công nghệ mới, bao gồm NVLink-C2C (NVLink Chip-to-Chip) và thế hệ GPU mạnh mẽ nhất – NVIDIA Blackwell Tensor Core. Đặc biệt, sự kết hợp giữa GPU NVIDIA Blackwell Tensor Core và CPU NVIDIA Grace thông qua kết nối siêu tốc NVLink Chip-to-Chip đã tạo nên tổ hợp xử lý và tính toán ưu việt nhất – NVIDIA GB200 Grace Blackwell Superchip. Siêu chip này được cấu thành từ một CPU NVIDIA Grace và hai GPU NVIDIA Blackwell.
Không chỉ dừng lại ở việc tạo ra một tổ hợp tính toán xuất sắc với GB200 Grace Blackwell Superchip, NVIDIA còn ghép nhiều siêu chip này lại với nhau để làm việc đồng thời, tạo ra một siêu máy chủ hiệu năng cao mang tên NVIDIA GB200 NVL72. Hệ thống này vừa qua đã được giới thiệu tại triển lãm công nghệ quốc tế Computex 2024, bao gồm 36 GB200 Grace Blackwell Superchip, tức là 36 CPU NVIDIA Grace kết hợp với 72 GPU NVIDIA Blackwell. Tất cả đều được tích hợp trong một tủ rack và làm mát bằng chất lỏng.
NVIDIA đã áp dụng công nghệ kết nối tiên tiến NVLink thế hệ thứ 5 để liên kết các GB200 Grace Blackwell Superchip, tạo ra một domain 72-GPU NVLink. Do đó, cả tủ rack này hoạt động như một siêu chip, cho phép tăng tốc độ lên 30 lần cho các suy luận trên các mô hình ngôn ngữ siêu lớn (LLM) với hàng nghìn tỷ tham số trong thời gian thực, đạt hiệu suất 1,4 exaflop cho các suy luận AI thời gian thực, đồng thời làm nền tảng cho việc xây dựng DGX SuperPOD mạnh nhất hiện nay.
Để tối ưu hóa không gian khi lắp đặt các Compute Node vào tủ rack GB200 NVL72, mỗi khay Blackwell Compute Node (GB200 Compute Node) sẽ tích hợp hai GB200 Grace Blackwell Superchip. Điều này có nghĩa là mỗi khay sẽ bao gồm 2 CPU NVIDIA Grace và 4 GPU NVIDIA Blackwell. Vì vậy, một hệ thống GB200 NVL72 sẽ có 18 khay Blackwell Compute Node.
Theo đó, một tủ rack của NVIDIA GB200 NVL72 sẽ gồm những thành phần sau:
- Top Of Rack của Rack sẽ là cặp Switch TOR.
- Các Card cấp nguồn được lắp đặt tại ngay bên dưới cặp Switch TOR ở phía trên, và phần dưới cùng của tủ Rack.
- Các Tray Blackwell Compute Node (GB200 Compute Node) được chia thành 2 cụm, 10 Tray Blackwell Compute Node (GB200 Compute Node), sẽ được lắp phía trên, tiếp đến là 09 NVSwitch và tiếp theo là 8 Tray Blackwell Compute Node (GB200 Compute Node). 09 NVSwitch sẽ cung cấp kết nối NVLink tốc độ siêu cao cho toàn bộ 36 GB200 Grace Blackwell Superchip.
Bảng thông số cấu hình phần cứng chi tiết của NVIDIA GB200 NVL72 và GB200 Grace Blackwell Superchip:
| Specification | GB200 NVL72 | GB200 Grace Blackwell Superchip |
| Configuration | 36 Grace CPU : 72 Blackwell GPUs | 1 Grace CPU : 2 Blackwell GPU |
| FP4 Tensor Core | 1,440 PFLOPS | 40 PFLOPS |
| FP8/FP6 Tensor Core | 720 PFLOPS | 20 PFLOPS |
| INT8 Tensor Core | 720 POPS | 20 POPS |
| FP16/BF16 Tensor Core | 360 PFLOPS | 10 PFLOPS |
| TF32 Tensor Core | 180 PFLOPS | 5 PFLOPS |
| FP64 Tensor Core | 3,240 TFLOPS | 90 TFLOPS |
| GPU Memory | Bandwidth | Up to 13.5 TB HBM3e | 576 TB/s | Up to 384 GB HBM3e | 16 TB/s |
| NVLink Bandwidth | 130TB/s | 3.6TB/s |
| CPU Core Count | 2,592 Arm® Neoverse V2 cores | 72 Arm Neoverse V2 cores |
| CPU Memory | Bandwidth | Up to 17 TB LPDDR5X | Up to 18.4 TB/s | Up to 480GB LPDDR5X | Up to 512 GB/s |
Mở ra một tương lai đầy triển vọng cho mô hình Real-Time-Trillion Parameter
Nâng cao xử lý ngôn ngữ tự nhiên (NLP)
NVIDIA GB200 NVL72 nổi bật trong các nhiệm vụ NLP phức tạp như dịch thuật, trả lời câu hỏi, tóm tắt văn bản và cải thiện khả năng thông thạo ngôn ngữ.
Cải thiện hiểu biết theo ngữ cảnh
Những hệ thống này có khả năng duy trì bối cảnh trong các cuộc trò chuyện dài, mang lại những cải tiến đáng kể cho chatbot và công nghệ trợ lý ảo.
Ứng dụng đa phương thức
Bằng cách tích hợp ngôn ngữ, hình ảnh và âm thanh, các mô hình này mở ra những khả năng mới trong việc hiểu và tương tác với thế giới xung quanh.
AI sáng tạo và tạo sinh
Từ việc tự sáng tác truyện và thơ cho đến viết mã, các mô hình này đang mở ra một kỷ nguyên mới cho các ứng dụng AI sáng tạo.
Đột phá khoa học
Ứng dụng của chúng trong các lĩnh vực như gấp protein và khám phá thuốc đang thúc đẩy nghiên cứu và đổi mới khoa học.
Cá nhân hóa nâng cao
Những mô hình với hàng nghìn tỷ tham số có khả năng phát triển các tính cách độc đáo và ghi nhớ bối cảnh của từng người dùng, mang lại trải nghiệm cá nhân hóa hơn bao giờ hết.
Siêu máy chủ NVIDIA GB200 NVL72 không chỉ đánh dấu một bước tiến lớn trong công nghệ AI mà còn mở ra những cơ hội mới cho nhiều ứng dụng phức tạp, từ xử lý ngôn ngữ tự nhiên đến các nghiên cứu khoa học tiên tiến. Với khả năng xử lý ấn tượng và cấu hình mạnh mẽ, hệ thống này sẽ trở thành nền tảng cho các giải pháp AI sáng tạo trong tương lai. Nếu bạn đang tìm kiếm một địa chỉ uy tín để nâng cấp hoặc bảo trì thiết bị công nghệ của mình, cong ty sua may tinh Da Nang sẽ là lựa chọn hoàn hảo để bạn tối ưu hóa hiệu suất cho máy tính của mình.
