AMD chỉ trích chỉ số TOPS không phản ánh đúng hiệu năng thực tế trong Physical AI. Khám phá kiến trúc Kria AI với độ trễ dưới 0.1 giây và khả năng vượt trội so với NVIDIA Jetson T5000.
Trong bối cảnh ngành công nghiệp AI đang chạy đua theo đuổi các con số hiệu năng khổng lồ, Salil Raje, Phó Chủ tịch cao cấp kiêm Tổng giám đốc nhóm Tính toán Tự thích ứng và Nhúng của AMD, đã đưa ra một quan điểm gây chấn động. Theo ông, các chỉ số truyền thống như TOPS (Tera Operations Per Second) hay FLOPS đang dần trở nên lạc hậu và không còn đủ sức đo lường chính xác hiệu năng thực tế của các hệ thống Physical AI (AI vật lý). Khác với các tác vụ AI thuần túy trên máy chủ hay PC, nơi mà tốc độ xử lý đỉnh cao là yếu tố quyết định, Physical AI đòi hỏi sự tương tác trực tiếp với thế giới vật chất. Tại đây, một robot không chỉ cần 'suy nghĩ' nhanh, mà quan trọng hơn là phải 'hành động' chính xác trong một khung thời gian cực kỳ ngắn. Raje nhấn mạnh rằng việc đạt được hiệu năng đỉnh cao trên giấy tờ không đồng nghĩa với việc hệ thống có thể phản hồi kịp thời trong các tình huống thực tế đầy rủi ro. Sự khác biệt cốt lõi nằm ở khái niệm về độ trễ (latency). Trong khi TOPS đo lường số lượng phép toán thực hiện được mỗi giây, nó lại bỏ qua yếu tố then chốt: sự ổn định của độ trễ. Một hệ thống có thể có hiệu năng trung bình rất cao nhưng nếu xuất hiện các dao động độ trễ (latency jitter) hoặc độ trễ tối đa (maximum latency) vượt quá ngưỡng cho phép, hậu quả trong thế giới vật lý sẽ không chỉ là sự chậm trễ mà là tai nạn va chạm hoặc sự cố nghiêm trọng.
Để giải quyết bài toán về độ trễ và hiệu năng thực tế, AMD đã triển khai kiến trúc Kria AI, một nền tảng được thiết kế dựa trên nguyên lý mô phỏng hệ thần kinh của con người. Thay vì tập trung vào một bộ xử lý trung tâm duy nhất, Kria AI phân tách các nhiệm vụ thành các cấp độ xử lý chuyên biệt, tương tự như cách cơ thể con người phân bổ chức năng cho não bộ, tủy sống và các khớp. Theo công bố từ AMD, phần 'não bộ' chịu trách nhiệm cảm nhận và suy luận được giao cho các module Kria AI tích hợp trong dòng Ryzen AI Embedded X100. Đây là nơi xử lý các mô hình AI phức tạp, đưa ra các quyết định chiến lược. Trong khi đó, phần 'tủy sống' đảm nhiệm vai trò truyền tải tín hiệu và tích hợp dữ liệu một cách xác định (deterministic), được thực hiện bởi các SoC Versal Adaptive. Sự kết hợp này giúp đảm bảo rằng dữ liệu được truyền đi một cách ổn định và không bị gián đoạn. Ở cấp độ thấp hơn, các 'khớp' thực hiện chuyển động chính xác được xử lý bởi các SoC Zynq, trong khi việc xử lý dữ liệu cảm biến cấp độ đầu (first-level processing) được giao cho các FPGA Spartan. Cách tiếp cận này cho phép mỗi loại dữ liệu được xử lý bởi bộ xử lý phù hợp nhất, từ đó loại bỏ các nút thắt cổ chai về băng thông, tiêu thụ điện năng và đặc biệt là giảm thiểu độ trễ tổng thể của hệ thống.
Các số liệu từ các bài kiểm thử độc lập do AMD trích dẫn cho thấy sự khác biệt rõ rệt giữa hiệu năng lý thuyết và hiệu năng thực tế. Trong các bài kiểm tra về thời gian suy luận AI, nền tảng Kria AI SOM đã đạt được thời gian phản hồi dưới 0.1 giây, một con số ấn tượng cho các ứng dụng yêu cầu phản ứng tức thì như robot tự hành hoặc thiết bị tự động hóa công nghiệp. Điểm nổi bật nhất nằm ở khả năng duy trì độ tin cậy của thời gian điều khiển (control timing reliability). Trong các bài kiểm tra chuẩn mở về điều hướng (open navigation benchmark), cấu hình Ryzen AI Embedded của AMD đã thể hiện độ tin cậy thời gian thực cao gấp 3.4 lần so với đối thủ NVIDIA Jetson T5000. Điều này có nghĩa là trong khi hệ thống đối thủ có thể gặp phải các dao động độ trễ ngẫu nhiên, hệ thống của AMD duy trì sự ổn định vượt trội, yếu tố sống còn trong Physical AI. Không chỉ dừng lại ở độ trễ, Kria AI còn thể hiện khả năng xử lý song song vượt trội. Hệ thống này có thể hỗ trợ lên đến 8,000 quyết định điều khiển mỗi giây, đồng thời duy trì lượng dự phòng hiệu năng (compute headroom) cao hơn 1.6 lần so với Jetson T5000. Đáng chú ý, số lượng các tác nhân tự chủ (autonomous agents) có thể chạy đồng thời trên nền tảng này cao hơn tới 2.3 lần, cho thấy khả năng mở rộng và xử lý đa nhiệm vượt trội trong môi trường phức tạp.
Quan điểm của AMD đang tạo ra một sự chuyển dịch trong cách các nhà sản xuất robot và thiết bị tự động hóa đánh giá phần cứng. Thay vì chỉ quan tâm đến số TOPS hay FLOPS trên trang thông số kỹ thuật, các kỹ sư hiện nay đang tập trung vào các chỉ số về độ trễ tối đa, độ ổn định của thời gian phản hồi và khả năng xử lý dữ liệu cảm biến theo thời gian thực. Các công ty tiên phong như Foundation Robotics và Generative Bionics đã bắt đầu tích hợp nền tảng Kria AI vào các sản phẩm của họ, xác nhận xu hướng này. Việc lựa chọn phần cứng không còn là bài toán về sức mạnh tính toán thô, mà là bài toán về khả năng đảm bảo an toàn và độ tin cậy trong môi trường vật lý động, nơi mà một sai sót nhỏ về thời gian có thể dẫn đến hậu quả nghiêm trọng. Sự cạnh tranh trong lĩnh vực Physical AI đang được định hình lại. Thay vì chạy theo các con số hiệu năng đỉnh cao, các nhà phát triển đang tìm kiếm những giải pháp phần cứng có khả năng kiểm soát độ trễ chặt chẽ, đảm bảo rằng mỗi quyết định AI được thực hiện chính xác trong khung thời gian cho phép. Đây là bước tiến quan trọng để AI thực sự hòa nhập vào thế giới vật chất một cách an toàn và hiệu quả.
Nguồn tổng hợp:
- news.mydrivers.com - AMD炮轰TOPS指标过时！物理AI要的是毫秒级保命 不是跑分
Ảnh: amd.com, framerusercontent.com
Lenovo Yoga Pro 15 RTX Spark: Laptop Windows on ARM đầu tiên với chip NVIDIA RTX Spark N1X, 128GB RAM thống nhất, GPU Blackwell 6144 CUDA Cores và màn hình OLED 165Hz.
Elon Musk xác nhận SpaceX đang lắp đặt 200.000 GPU Nvidia GB300 mỗi tháng. Mục tiêu đạt 13-20 GW công suất tính toán AI vào cuối 2027, chuyển đổi sang kiến trúc Vera Rubin.
QNAP giới thiệu hai thiết bị mở rộng lưu trữ JBOD sử dụng chuẩn USB4: TL-D810TC4 (8 bay) và TL-R1210TC4-RP (12 bay). Hỗ trợ tốc độ 40 Gbps, tương thích đa nền tảng, tối ưu cho biên tập video và lưu trữ doanh nghiệp.
NVIDIA và Groq đang phát triển thế hệ LPU tiếp theo sử dụng công nghệ 3D Stacked DRAM thay thế SRAM thuần túy. Mục tiêu là tăng dung lượng bộ nhớ lên hàng TB để xử lý các mô hình AI có tham số cực lớn, đồng thời duy trì băng thông cao.
CEO Michael Dell cảnh báo khủng hoảng thiếu hụt chip bộ nhớ HBM và DRAM sẽ kéo dài đến 2029-2030. Dell đang đối mặt với nút thắt cổ chai nghiêm trọng khi có 95 tỷ USD đơn hàng AI chưa thể giao do thiếu linh kiện.
AMD và Intel chính thức hợp tác chuẩn hóa phần mềm AI trên CPU x86 thông qua oneDNN và bộ mở rộng ACE. Động thái này giúp giảm phân mảnh hệ sinh thái, tối ưu hiệu năng PyTorch và hỗ trợ các định dạng dữ liệu AI mới như FP8, BF16.
ByteDance, Alibaba và Tencent đặt hàng 3 triệu GPU Nvidia RTX Pro 5500 trị giá 35 tỷ USD để phát triển AI, dù chỉ 10% đơn hàng khả thi do quy định xuất khẩu Mỹ.
Hai pallet GPU Zotac RTX 5090 trị giá 470.000 USD đã biến mất tại sân bay Guarulhos, Brazil. Nhà phân phối Oderço kêu gọi giải thích sau khi không nhận được phản hồi từ các cơ quan chức năng.
