Không có thông báo nào

Mac Studio M5 Ultra: Cỗ máy AI cục bộ nhỏ gọn vượt DGX Spark và Threadripper

Apple đang biến Mac Studio thành một trong những nền tảng đáng chú ý nhất cho AI chạy cục bộ (local AI). Trong bài đánh giá mới, Tom’s Hardware cho thấy phiên bản Mac Studio sử dụng M5 Ultra không chỉ là một máy tính nhỏ gọn dành cho dân sáng tạo, mà còn có khả năng xử lý các mô hình AI lớn ngay trên thiết bị. Điểm đáng chú ý nhất nằm ở bộ nhớ hợp nhất (Unified Memory) dung lượng lớn và băng thông lên tới 1,2 TB/s. Trong các bài kiểm tra AI với Qwen 3.8-27B-Q4_K_M, Mac Studio M5 Ultra đạt tốc độ xử lý prompt cao hơn Nvidia DGX Spark, trong khi tốc độ sinh token gần gấp bốn lần DGX Spark và gấp đôi Mac Studio M4 Max. Tuy nhiên, mức hiệu năng này đi kèm mức giá rất cao. Cấu hình Tom’s Hardware thử nghiệm có giá tới 12.299 USD, biến Mac Studio M5 Ultra thành một thiết bị gần với workstation hoặc máy chủ AI cá nhân hơn là một chiếc desktop thông thường.

M5 Ultra có gì đặc biệt?

M5 Ultra là con chip cao cấp nhất trong dòng Mac Studio thế hệ mới. Apple sử dụng kiến trúc UltraFusion để kết hợp hai die M5 Max thành một SoC lớn hơn. Phiên bản cao cấp nhất có tới 36 nhân CPU và 80 nhân GPU, cùng hệ thống bộ nhớ hợp nhất có thể đạt 512 GB. Apple cũng trang bị cho M5 Ultra Neural Engine 32 nhân và các GPU core tích hợp bộ gia tốc cho các phép toán AI. Một trong những nâng cấp quan trọng nhất không nằm ở số lượng nhân mà nằm ở băng thông bộ nhớ. M5 Ultra đạt khoảng 1,2 TB/s, cao hơn đáng kể so với thế hệ M4 Max mà Tom’s Hardware từng thử nghiệm cho các tác vụ AI. Đây là yếu tố đặc biệt quan trọng khi chạy các mô hình ngôn ngữ lớn tại chỗ. Đối với nhiều workload AI, vấn đề không đơn thuần là có bao nhiêu nhân tính toán. GPU phải liên tục đọc trọng số của mô hình và dữ liệu liên quan từ bộ nhớ. Khi mô hình càng lớn, tốc độ di chuyển dữ liệu càng trở thành một yếu tố quyết định. Đó chính là điểm mà kiến trúc Unified Memory của Apple bắt đầu phát huy lợi thế.

M5 Ultra

256 GB bộ nhớ hợp nhất là lợi thế lớn cho local AI

Cấu hình mà Tom’s Hardware thử nghiệm có 256 GB Unified Memory và 4 TB SSD. Con số 256 GB này rất đáng chú ý nếu nhìn Mac Studio dưới góc độ AI. Trên một hệ thống PC thông thường, CPU và GPU thường sử dụng những vùng bộ nhớ khác nhau. Với các mô hình AI lớn, dữ liệu có thể phải được chuyển qua lại giữa RAM hệ thống và VRAM của GPU. Trong khi đó, Apple Silicon sử dụng kiến trúc bộ nhớ hợp nhất, cho phép CPU và GPU truy cập cùng một pool bộ nhớ. Điều này tạo ra một lợi thế rất rõ ràng khi chạy các mô hình lớn hơn khả năng VRAM của những GPU phổ thông. Tom’s Hardware cho biết họ đã thử chạy những mô hình lớn hơn đáng kể so với bài benchmark chính bằng Hermes và LM Studio, và Mac Studio M5 Ultra vẫn cho hiệu năng tốt. Với cấu hình 256 GB, máy có thể chứa một mô hình đơn rất lớn hoặc nhiều mô hình khác nhau trên cùng một hệ thống. Đây cũng là lý do Mac Studio trở nên hấp dẫn đối với người dùng muốn xây dựng AI workstation tại nhà, thay vì phải phụ thuộc hoàn toàn vào API đám mây.

M5 Ultra đánh bại DGX Spark trong bài kiểm tra local AI
Phần đáng chú ý nhất trong bài review nằm ở benchmark AI. Tom’s Hardware sử dụng Qwen 3.8-27B-Q4_K_M, một mô hình dense có mức độ phụ thuộc khá lớn vào băng thông bộ nhớ.

Kết quả cho thấy M5 Ultra có tốc độ xử lý prompt cao hơn Nvidia DGX Spark. Đáng chú ý hơn, tốc độ sinh token của M5 Ultra gần gấp bốn lần DGX Spark trong các bài kiểm tra được thực hiện. So với Mac Studio M4 Max, tốc độ cũng tăng khoảng gấp đôi.

Điều này rất quan trọng bởi hai loại workload của LLM thường có đặc điểm khác nhau. Khi hệ thống tiếp nhận một prompt dài, giai đoạn prompt processing/prefill có thể tận dụng khả năng tính toán song song rất mạnh.

Sau đó, trong quá trình decode, mô hình phải liên tục sinh từng token tiếp theo. Đây là giai đoạn thường bị giới hạn bởi khả năng truy xuất dữ liệu từ bộ nhớ. Với băng thông 1,2 TB/s cùng dung lượng Unified Memory lớn, M5 Ultra có điều kiện khá thuận lợi cho kiểu workload này.

Nguồn: tomshardware

Vì sao M5 Ultra có thể mạnh hơn nhiều GPU trong một số bài toán AI?

Điều này không có nghĩa M5 Ultra mạnh hơn mọi GPU Nvidia. Điểm quan trọng là local AI không phải lúc nào cũng được quyết định bởi sức mạnh tính toán thuần túy. Một GPU có hàng chục hoặc hàng trăm TFLOPS vẫn có thể không đạt tốc độ tối đa nếu phải chờ dữ liệu từ bộ nhớ.

Đặc biệt với các mô hình ngôn ngữ lớn, trọng số mô hình có thể chiếm hàng chục hoặc hàng trăm GB. Khi đó, băng thông bộ nhớ và khả năng chứa toàn bộ mô hình trong một không gian bộ nhớ lớn trở nên cực kỳ quan trọng.

M5 Ultra kết hợp ba yếu tố:

  • GPU tích hợp mạnh.
  • Unified Memory dung lượng rất lớn.
  • Băng thông bộ nhớ lên tới 1,2 TB/s.

Đây là lý do nó có thể trở thành một nền tảng local AI rất khác so với một PC thông thường.

Hiệu năng workstation: Mạnh, ổn định nhưng không phải vô đối

M5 Ultra sở hữu CPU 36 nhân, nhưng không phải mọi bài benchmark đều cho thấy nó vượt các workstation cao cấp. Trong Blender, các hệ thống dùng Threadripper 7980X và 9980X 64 nhân vẫn nhanh hơn. Ngược lại, ở HandBrake, M5 Ultra hoàn thành bài chuyển đổi video 4K xuống 1080p trong 1 phút 4 giây, nhanh hơn Threadripper 9980X khoảng 8 giây.

Mac Studio cũng duy trì hiệu năng khá ổn định trong thời gian dài. Sau 10 vòng Cinebench 2026, điểm số dao động từ 17.825 đến 18.069, trong khi nhiệt độ CPU trung bình khoảng 78,3°C. SSD đạt tốc độ sao chép khoảng 2.983 MB/s trong bài thử 25 GB của Tom’s Hardware.

Tuy nhiên, gaming không phải thế mạnh của M5 Ultra. Trong Cyberpunk 2077 với Ray Tracing Ultra ở 1080p, máy đạt khoảng 66 FPS, thấp hơn đáng kể so với hệ thống RTX 5090. Điều này cho thấy M5 Ultra được thiết kế thiên về AI, sáng tạo nội dung và workstation hơn là gaming.

Điểm yếu lớn nhất là giá

Cấu hình Tom’s Hardware đánh giá có giá tới 12.299 USD, gồm M5 Ultra, 256 GB Unified Memory và SSD 4 TB. Phiên bản M5 Ultra thấp hơn có giá khởi điểm khoảng 5.499 USD, trong khi M5 Max bắt đầu từ 2.499 USD. Đây là mức giá rất cao nếu chỉ dùng Mac Studio cho các tác vụ thông thường. Nhưng với local AI, câu chuyện khác hẳn. 256 GB hoặc thậm chí 512 GB Unified Memory cho phép Mac Studio chạy những mô hình lớn mà nhiều hệ thống GPU đơn lẻ có thể gặp giới hạn về VRAM.

Mac Studio M5 Ultra

Mac Studio đang trở thành một AI workstation đáng chú ý

Điểm đáng chú ý nhất của M5 Ultra không phải là nó đánh bại mọi CPU hay GPU trên thị trường, mà là cách Apple kết hợp GPU mạnh, bộ nhớ dung lượng rất lớn và băng thông 1,2 TB/s trong một hệ thống nhỏ gọn.

Trong các workload inference được Tom’s Hardware thử nghiệm, M5 Ultra có thể vượt DGX Spark, cho thấy lợi thế của kiến trúc Unified Memory khi chạy các mô hình AI lớn. Tuy nhiên, điều này không có nghĩa M5 Ultra thay thế được GPU Nvidia trong mọi workload; RTX vẫn có lợi thế rõ rệt ở gaming và nhiều tác vụ được tối ưu cho CUDA.

Nếu local AI và agentic AI tiếp tục phát triển, những hệ thống có hàng trăm GB bộ nhớ tốc độ cao có thể ngày càng trở nên quan trọng. Mac Studio M5 Ultra là một ví dụ cho hướng đi này: không chỉ tăng sức mạnh tính toán, mà còn đưa dung lượng và băng thông bộ nhớ lên thành yếu tố trung tâm của AI inference.

Nguồn: tomshardware

Cộng đồng: