Không có thông báo nào

LattePanda Sigma 2 ra mắt: Server AI 180 TOPS với Intel Core Ultra X7 358H

LattePanda Sigma 2 ra mắt với Intel Core Ultra X7 358H và GPU Arc B390, đạt 180 TOPS AI. Thiết kế 146x102mm tích hợp 2 cổng 10GbE và Thunderbolt 4 cho hệ thống nhúng.

Hiệu năng AI 180 TOPS trên nền tảng x86 di động

LattePanda Sigma 2 đánh dấu bước tiến mới trong phân khúc máy chủ đơn tấm (SBC) khi tích hợp khả năng xử lý AI cục bộ mạnh mẽ. Theo công bố từ LattePanda, thiết bị này đạt tổng hiệu năng AI lên tới 180 TOPS (INT8) nhờ sự kết hợp đồng bộ giữa CPU, GPU và NPU. Đây là mức hiệu năng ấn tượng cho một thiết bị có kích thước nhỏ gọn, hướng tới các ứng dụng chạy mô hình ngôn ngữ lớn (LLM) và tác nhân AI (AI agents) ngay tại chỗ mà không cần phụ thuộc vào đám mây. Trái tim của Sigma 2 là bộ xử lý Intel Core Ultra X7 358H, kiến trúc lai mới nhất của Intel với 16 lõi (4 lõi hiệu năng P-core, 8 lõi hiệu suất E-core và 4 lõi tiết kiệm điện LPE-core). Bộ vi xử lý này hoạt động ở xung nhịp tối đa 4.8 GHz và sở hữu bộ nhớ đệm 18 MB, đảm bảo khả năng xử lý đa nhiệm mượt mà cho các tác vụ ảo hóa và lưu trữ dữ liệu phức tạp. Điểm nhấn kỹ thuật nằm ở khả năng phân bổ hiệu năng AI: NPU đóng góp 50 TOPS, trong khi GPU Intel Arc B390 với 12 Xe-cores cung cấp thêm 122 TOPS. Sự phân tách này cho phép người dùng tối ưu hóa việc chạy các tác vụ suy luận (inference) trên NPU để tiết kiệm điện năng, hoặc đẩy tải lên GPU khi cần xử lý các mô hình đồ họa và AI phức tạp hơn.

Bo mạch chủ LattePanda Sigma 2 với bộ xử lý Intel Core Ultra X7 358H

Cấu hình bộ nhớ và lưu trữ tốc độ cao

Để đáp ứng yêu cầu của các hệ thống AI hiện đại, Sigma 2 được trang bị bộ nhớ RAM LPDDR5X-8533 với dung lượng tối đa 64 GB. Băng thông bộ nhớ đạt 136.5 GB/s, đảm bảo dữ liệu được truyền tải nhanh chóng giữa CPU và các thành phần xử lý AI, giảm thiểu độ trễ trong quá trình nạp dữ liệu vào mô hình. Về khả năng mở rộng lưu trữ, thiết bị tích hợp 3 khe M.2 M-Key và 1 khe M.2 E-Key. Cấu hình này cho phép người dùng kết hợp nhiều ổ cứng SSD NVMe tốc độ cao, phù hợp cho các kịch bản sử dụng như máy chủ NAS hiệu năng cao, lưu trữ dữ liệu video 4K/8K, hoặc chạy các hệ thống RAG (Retrieval-Augmented Generation) cần truy xuất dữ liệu lớn với tốc độ cao. Ngoài ra, cổng OCuLink PCIe 4.0 x2 cung cấp thêm khả năng mở rộng linh hoạt, cho phép kết nối các thiết bị ngoại vi tốc độ cao hoặc card đồ họa rời nếu cần nâng cấp hiệu năng xử lý chuyên sâu trong tương lai.

Cấu hình khe cắm M.2 và bộ nhớ RAM LPDDR5X trên LattePanda Sigma 2

Kết nối mạng và giao tiếp ngoại vi đa dạng

LattePanda Sigma 2 được thiết kế để hoạt động như một nút trung tâm trong các hệ thống mạng nội bộ. Thiết bị sở hữu 2 cổng Ethernet 10GbE RJ45, cho phép truyền tải dữ liệu với tốc độ 10 Gbps, đáp ứng nhu cầu của các ứng dụng lưu trữ mạng, sao lưu dữ liệu thời gian thực và xử lý video chuyên nghiệp. Hệ sinh thái giao tiếp ngoại vi được hỗ trợ đầy đủ với 2 cổng Thunderbolt 4 Type-C, 2 cổng USB 3.2 Gen 2 và 2 cổng USB 2.0. Thunderbolt 4 không chỉ cung cấp băng thông cao cho các thiết bị ngoại vi mà còn hỗ trợ kết nối màn hình độ phân giải cao, mở rộng khả năng hiển thị cho các trạm làm việc di động. Khả năng xuất hình ảnh đa dạng bao gồm HDMI 2.1, DisplayPort 2.1 qua USB Type-C và eDP 1.5. Sự kết hợp này cho phép Sigma 2 kết nối với nhiều loại màn hình khác nhau, từ các màn hình chuyên dụng trong phòng điều khiển đến các thiết bị hiển thị tiêu chuẩn trong văn phòng.

Các cổng kết nối mạng 10GbE và Thunderbolt 4 trên LattePanda Sigma 2

Thiết kế nhúng và khả năng tích hợp hệ thống

Với kích thước chỉ 146 × 102 mm, LattePanda Sigma 2 là giải pháp lý tưởng cho các thiết bị nhúng (embedded systems). Thiết kế nhỏ gọn này cho phép tích hợp dễ dàng vào các robot tự hành, thiết bị y tế, máy công nghiệp hoặc các hệ thống IoT phức tạp mà không làm tăng đáng kể kích thước tổng thể của sản phẩm. Thiết bị hỗ trợ hệ điều hành Windows 11 và Ubuntu 24.04 LTS, đảm bảo tương thích với các công cụ phát triển phần mềm phổ biến và các nền tảng AI hiện có. Sự linh hoạt về hệ điều hành giúp các nhà phát triển dễ dàng triển khai các ứng dụng AI cục bộ, từ các tác vụ nhận diện hình ảnh đến xử lý ngôn ngữ tự nhiên. Việc tích hợp đồng xử lý RP2350 cho phép Sigma 2 thực hiện các tác vụ điều khiển thời gian thực độc lập, giảm tải cho CPU chính. Tính năng này đặc biệt hữu ích trong các ứng dụng robot và tự động hóa, nơi yêu cầu phản hồi tức thì và độ ổn định cao.

Thiết kế nhỏ gọn 146x102mm của LattePanda Sigma 2 cho ứng dụng nhúng

Ứng dụng thực tế trong AI cục bộ và Homelab

LattePanda Sigma 2 hướng tới các kịch bản sử dụng cụ thể như thiết bị AI cục bộ (Local AI Appliances), nơi người dùng có thể chạy các mô hình RAG và AI agents mà vẫn giữ dữ liệu nhạy cảm tại chỗ. Điều này giải quyết lo ngại về quyền riêng tư và bảo mật dữ liệu, đặc biệt quan trọng trong các môi trường doanh nghiệp và y tế. Trong lĩnh vực Homelab, Sigma 2 đóng vai trò là một hệ thống tất cả trong một, kết hợp NAS, ảo hóa, dịch vụ truyền thông và AI cục bộ. Người dùng có thể xây dựng một trung tâm dữ liệu cá nhân mạnh mẽ, tiết kiệm không gian và năng lượng so với các máy chủ truyền thống. Đối với các nhà phát triển robot và thiết bị tự hành, Sigma 2 cung cấp nền tảng thống nhất cho các chức năng nhận thức, điều hướng, lập kế hoạch và điều khiển thời gian thực. Khả năng xử lý đa nhiệm trên một bo mạch duy nhất giúp đơn giản hóa thiết kế phần cứng và giảm chi phí sản xuất hàng loạt.

Ứng dụng LattePanda Sigma 2 trong hệ thống Homelab và robot tự hành
Cộng đồng: