Không có thông báo nào

AMD Threadripper Halo Station: Workstation AI 96 nhân, hỗ trợ tối đa 4 GPU MI350P

AMD đang đưa khả năng xử lý AI cục bộ lên phân khúc workstation với Threadripper Halo Station, một hệ thống máy trạm tản nhiệt bằng chất lỏng được thiết kế để chạy các mô hình AI cực lớn mà không cần phụ thuộc vào hạ tầng cloud.

Hệ thống được AMD giới thiệu tại IFA 2026, kết hợp CPU AMD Threadripper PRO 9995WX 96 nhân với tối đa 4 GPU AMD Instinct MI350P. Khi được trang bị đầy đủ 4 GPU, hệ thống có thể đạt tổng cộng 576GB HBM3E, bên cạnh tối đa 2TB RAM DDR5 cho hệ thống.

AMD định vị Threadripper Halo Station là một nền tảng dành cho local AI, đặc biệt hướng tới khả năng xử lý các mô hình có quy mô trên 1 nghìn tỷ tham số.

CPU Threadripper PRO 9995WX 96 nhân

Threadripper PRO 9995WX dựa trên kiến trúc Zen 5, với: - 96 nhân CPU - 192 luồng - Boost tối đa 5,4 GHz - Hỗ trợ tối đa 2TB DDR5 - Bộ nhớ 8 kênh - 128 lane PCIe 5.0 Số lượng lane PCIe lớn đặc biệt quan trọng đối với một workstation AI nhiều GPU, giúp hệ thống kết nối nhiều accelerator mà không nhanh chóng bị giới hạn bởi băng thông nền tảng.

Threadripper PRO 9995WX

Tối đa 4 GPU Instinct MI350P

Trong cấu hình AMD giới thiệu, Threadripper PRO được kết hợp với 2 GPU Instinct MI350P. Mỗi accelerator dựa trên kiến trúc CDNA 4, hướng tới các workload AI cấp doanh nghiệp và sở hữu: - 144GB HBM3E - Băng thông bộ nhớ khoảng 4TB/s - Công suất bo mạch khoảng 600W - Kết nối dạng PCIe Hai GPU cung cấp tổng cộng 288GB HBM3E, trong khi hệ thống có đủ không gian để mở rộng lên 4 GPU, nâng tổng dung lượng HBM3E lên 576GB. Đây chính là yếu tố quan trọng trong chiến lược local AI của AMD, khi dung lượng bộ nhớ GPU trở thành một trong những giới hạn lớn nhất đối với việc chạy các mô hình AI kích thước cực lớn.

AMD Halo Station

Công suất có thể lên tới gần 2.750W

Mức tiêu thụ điện của Threadripper Halo Station cũng đặc biệt cao. Một cấu hình đầy đủ 4 GPU sẽ bao gồm: - 4 × MI350P: 4 × 600W - Threadripper PRO: 350W Tổng công suất lý thuyết riêng cho CPU và GPU đạt khoảng 2.750W. Trong khi đó, hệ thống được AMD giưới thiệu với 2 GPU đã cần khoảng 1.550W chỉ cho CPU và accelerator. Con số này chưa bao gồm RAM, SSD, motherboard, bơm và quạt tản nhiệt, tổn hao chuyển đổi điện năng cùng các linh kiện khác. Điều này khiến bài toán tản nhiệt và cấp nguồn trở nên quan trọng không kém hiệu năng tính toán.

MI350P

Tản nhiệt chất lỏng cho CPU và từng GPU

Để giải quyết lượng nhiệt rất lớn, AMD sử dụng hệ thống liquid cooling riêng cho CPU và các accelerator. Mục tiêu không chỉ là ngăn hiện tượng thermal throttling mà còn duy trì mức độ ồn phù hợp với môi trường workstation. Khác với server GPU thường được đặt trong datacenter, workstation được thiết kế để đặt ngay bên cạnh kỹ sư hoặc nhà nghiên cứu. Vì vậy, khả năng kiểm soát tiếng ồn là một yếu tố quan trọng. Hệ thống trình diễn sử dụng kiểu case tower kính cường lực và nguồn theo chuẩn ATX, khiến Threadripper Halo Station trông giống một workstation cực mạnh hơn là một server rack truyền thống.

AMD Halo Station

AMD và NVIDIA đang đi theo hai hướng khác nhau

Threadripper Halo Station được AMD định vị cạnh tranh với những hệ thống như NVIDIA DGX Station, nhưng cách tiếp cận của hai bên khá khác nhau. NVIDIA sử dụng kiến trúc tích hợp CPU-GPU với kết nối NVLink-C2C, tạo ra một không gian bộ nhớ coherent lớn. Cấu hình DGX Station dựa trên nền tảng GB300 có khoảng 748GB bộ nhớ và băng thông NVLink-C2C khoảng 900GB/s. Trong khi đó, AMD lựa chọn kiến trúc modular: Threadripper CPU + nhiều GPU PCIe rời + HBM3E riêng trên từng GPU + RAM DDR5 hệ thống. Ưu điểm là có thể tăng dung lượng HBM bằng cách bổ sung thêm accelerator. Với 4 MI350P, tổng HBM3E đạt 576GB. Tuy nhiên, nhược điểm là hiệu quả multi-GPU sẽ phụ thuộc rất lớn vào khả năng giao tiếp giữa các GPU.

AMD vs Nvidia

AMD vẫn chưa công bố giá và hiệu năng thực tế. Tham khảo thêm tại: AMD

Nguồn: kad8

Cộng đồng: