Gigabyte ra mắt WRX90 AI TOP: Bo mạch chủ sTR5 với 2TB RAM ECC làm mát chủ động và 9 GPU
Gigabyte công bố bo mạch chủ WRX90 AI TOP cho AMD Threadripper PRO, hỗ trợ 2TB RAM ECC làm mát chủ động giảm 43 độ C và cấu hình tối đa 9 GPU.
Kiến trúc 8 GPU NVIDIA B300 Blackwell Ultra và mục tiêu tối ưu chi phí suy luận
Tại sự kiện NVIDIA GTC Berlin, Nutanix và Supermicro đã công bố một hệ thống suy luận AI riêng tư (Private Inference System) được thiết kế đồng bộ, đặt trọng tâm vào hiệu năng và khả năng kiểm soát chi phí cho doanh nghiệp. Hệ thống này được xây dựng dựa trên các máy chủ GPU của Supermicro, mỗi nút (node) tích hợp 8 GPU NVIDIA B300 thuộc dòng Blackwell Ultra. Đây là thế hệ GPU mới nhất của NVIDIA, được tối ưu hóa đặc biệt cho các tác vụ suy luận (inference) quy mô lớn, nơi mà hiệu năng mỗi token và độ trễ là những yếu tố quyết định. Mục tiêu cốt lõi của giải pháp này là giảm thiểu thời gian cấu hình thủ công và các độ trễ tích hợp phần mềm, vốn là rào cản lớn khi triển khai AI trong môi trường doanh nghiệp. Thay vì phải loay hoay với việc tích hợp rời rạc giữa phần cứng và phần mềm, hệ thống cung cấp một nền tảng đã được xác thực (validated) sẵn, giúp doanh nghiệp nhanh chóng đưa các mô hình AI vào hoạt động sản xuất (time-to-online). Theo công bố từ Nutanix, hệ thống kết hợp Nutanix Agentic AI (NAI) với các cụm quản lý và lưu trữ chuyên dụng. Mặc dù cả hai hãng chưa công bố mức giá cụ thể hay số liệu đo lường chi phí mỗi token (cost-per-token), nhưng kiến trúc này được thiết kế để kiểm soát chặt chẽ chi phí vận hành khi dung lượng GPU mở rộng, một vấn đề cấp thiết trong bối cảnh chi phí hạ tầng AI đang tăng cao.
Tách biệt cụm quản lý NX-8170 và lưu trữ NX-8150 để đảm bảo độ tin cậy cao
Một điểm nhấn kỹ thuật quan trọng trong thiết kế của hệ thống này là sự tách biệt hoàn toàn giữa cụm quản lý (management cluster) và cụm lưu trữ (storage cluster). Cụm quản lý được triển khai trên nền tảng Supermicro NX-8170-G10, đóng vai trò là mặt phẳng điều khiển (control plane) cho thuê bao đơn lẻ (single-tenant). Việc tách biệt này đảm bảo rằng một sự cố phần mềm hoặc phần cứng trên mặt phẳng quản lý sẽ không làm gián đoạn quá trình thực thi trên các GPU, một yêu cầu khắt khe đối với các hệ thống AI chạy liên tục 24/7. Song song với đó, cụm lưu trữ Nutanix Unified Storage (NUS) được triển khai trên nền tảng Supermicro NX-8150-G10. NUS được chứng nhận bởi NVIDIA Enterprise, hỗ trợ các tác vụ I/O băng thông cao như nạp dữ liệu (data ingestion), kiểm tra điểm (checkpointing) và làm nóng bộ nhớ đệm (cache warming). Khả năng hỗ trợ lưu trữ ngữ cảnh (context caching) là yếu tố then chốt giúp tăng tốc độ suy luận bằng cách giữ các dữ liệu liên quan gần với GPU nhất có thể, giảm thiểu thời gian chờ truy xuất dữ liệu từ ổ cứng. Sự kết hợp giữa Nutanix Cloud Platform, Nutanix Kubernetes Platform (NKP) và Nutanix Enterprise AI trên các máy chủ GPU đã xác thực tạo thành một hệ sinh thái khép kín. Hệ thống này bao phủ toàn bộ vòng đời từ triển khai bare metal, cung cấp mô hình như một dịch vụ (model-as-a-service) cho đến cổng kết nối Agent Gateway an toàn, kèm theo một danh mục AI tích hợp sẵn cho các ứng dụng phổ biến.
Mạng NVIDIA Spectrum-X và kết nối GPU-to-GPU non-blocking
Để đảm bảo hiệu năng truyền tải dữ liệu giữa các GPU và các cụm thành phần, hệ thống sử dụng mạng NVIDIA Spectrum-X. Đây là giải pháp mạng được thiết kế đặc biệt cho các trung tâm dữ liệu AI, cung cấp kết nối Ethernet có độ trễ thấp và băng thông cao. Các cụm được kết nối thông qua các bộ chuyển mạch Spectrum-4 Ethernet (mã SN5610 và SN5600), kết hợp với các SuperNIC ConnectX-7 và ConnectX-8. Việc tích hợp các DPU (Data Processing Unit) BlueField-3 đóng vai trò then chốt trong việc offload các tác vụ hạ tầng và quản lý in-band. Điều này giải phóng tài nguyên CPU và GPU để tập trung hoàn toàn vào các tác vụ tính toán AI. Theo mô tả từ các nhà phát triển, cấu trúc mạng này tạo ra một lớp kết nối GPU-to-GPU mang tính xác định (deterministic) và không chặn (non-blocking), đảm bảo rằng dữ liệu luôn được truyền đi với hiệu suất ổn định nhất, không bị nghẽn cổ chai trong các kịch bản tải cao. Matthew Thauberger, Giám đốc Doanh thu của Supermicro, nhấn mạnh rằng mục tiêu của sự hợp tác này là đẩy nhanh tốc độ đưa AI vào hoạt động cho doanh nghiệp. Sự kết hợp giữa phần cứng Supermicro, phần mềm Nutanix và mạng NVIDIA tạo thành một giải pháp end-to-end, nơi mà hiệu năng mạng không còn là biến số không xác định mà đã được tối ưu hóa sẵn trong kiến trúc tổng thể.
Hỗ trợ NVIDIA Vera CPU và nền tảng đa thuê bao với Netris
Bên cạnh hệ thống GPU, Nutanix cũng công bố kế hoạch hỗ trợ Day Zero cho CPU NVIDIA Vera. Việc hỗ trợ này sẽ bắt đầu với NKP Bare Metal và sau đó mở rộng sang các môi trường ảo hóa của Nutanix. CPU Vera đóng vai trò quan trọng trong các ứng dụng agentic, xử lý các tác vụ nằm giữa các thao tác GPU như gọi công cụ (tool calls), thực thi mã, truy xuất dữ liệu và điều phối quy trình. Nutanix dự kiến sẽ kết hợp Vera CPU với NVIDIA OpenShell và NKP để xây dựng các môi trường runtime an toàn và riêng tư cho các AI agent. Một sáng kiến đáng chú ý khác là sự hợp tác với Netris nhằm mở rộng khả năng đa thuê bao (multitenancy) vào tầng mạng vật lý. Hệ thống kết hợp Nutanix Cloud Platform với nền tảng Netris NAAM (Network Automation, Abstraction, and Multitenancy). Trong khi Nutanix cung cấp khả năng điều phối tính toán, lưu trữ và bảo mật, Netris chịu trách nhiệm tự động hóa, trừu tượng hóa và đa thuê bao cho mạng vật lý. Giải pháp này cho phép tách biệt cứng (hard isolation) giữa các thuê bao từ các workload ảo hóa, qua DPU, cho đến các bộ chuyển mạch vật lý. Các dịch vụ mạng như VPC, IP động, NAT và cân bằng tải L4 được quản lý thông qua web console, REST API và Terraform. Điều này đặc biệt hữu ích cho các neocloud, đối tác đám mây của NVIDIA và các doanh nghiệp vận hành hạ tầng GPU đa thuê bao, đảm bảo rằng tài nguyên của mỗi khách hàng được cách ly hoàn toàn về mặt mạng vật lý.
Nguồn tổng hợp:
- storagereview.com - Nutanix Private Inference System With Supermicro Puts Eight NVIDIA B300 Blackwell Ultra GPUs per Node Behind Dedicated NX Management and Storage Clusters, Ships Early 2027
- newsbreak.com - Nutanix Private Inference System With Supermicro Puts Eight NVIDIA B300 Blackwell Ultra GPUs per Node Behind Dedicated NX Management and Storage Clusters, Ships Early 2027
