Không có thông báo nào

Anthropic ra mắt FlashProve: Hệ thống mã hóa xác thực nguồn gốc mô hình AI

Anthropic công bố FlashProve, hệ thống mã hóa nguồn mở giúp người dùng xác minh chính xác AI output đến từ mô hình nào, ngăn chặn việc thay thế model ngầm để cắt giảm chi phí.

Giải pháp mã hóa chống gian lận trong AI

Anthropic vừa chính thức công bố hệ thống mã hóa nguồn mở mang tên FlashProve, một bước tiến quan trọng trong việc giải quyết bài toán niềm tin khi người dùng tương tác với các mô hình ngôn ngữ lớn (LLM). Hệ thống này được thiết kế để cung cấp bằng chứng mật mã học xác thực rằng đầu ra của AI thực sự đến từ mô hình mà nhà phát triển cam kết, thay vì bị thay thế bởi một model rẻ hơn hoặc bị tấn công bởi bên thứ ba. Vấn đề hiện tại là người dùng hoàn toàn không thể kiểm tra xem câu trả lời họ nhận được có thực sự xuất phát từ mô hình cao cấp họ đã trả phí hay không. Các dịch vụ trung gian có thể âm thầm chuyển hướng yêu cầu sang các model nhỏ hơn để giảm chi phí, hoặc kẻ tấn công có thể can thiệp vào luồng token mà người dùng không hề hay biết nếu chỉ dựa vào chất lượng nội dung đầu ra. FlashProve hoạt động tương tự như chữ ký số trong email. Khi một mô hình tạo ra câu trả lời, nó sẽ kèm theo một chứng chỉ mật mã ngắn gọn. Người dùng có thể xác minh chứng chỉ này ngay trên thiết bị cá nhân mà không cần truy cập vào trọng số (weights) của mô hình - vốn là tài sản bí mật thương mại. Điều này đảm bảo tính toàn vẹn của dữ liệu mà vẫn bảo vệ được quyền sở hữu trí tuệ của nhà phát triển.

FlashProve hệ thống mã hóa xác thực nguồn gốc AI từ Anthropic

Hiệu năng vượt trội trên kiến trúc GPU hiện đại

Theo thông số kỹ thuật từ Anthropic, FlashProve đạt được hiệu suất đáng kinh ngạc khi áp dụng cho các mô hình quy mô lớn. Với mô hình Llama 4 Maverick (400 tỷ tham số, lượng tử hóa 4-bit), một GPU NVIDIA H100 đơn lẻ có thể tạo ra chứng chỉ với tốc độ khoảng 110 token/giây. Kích thước của chứng chỉ mật mã này khá nhẹ, chỉ khoảng 19 MB cho mỗi yêu cầu dài 1.024 token. Tốc độ xử lý này nhanh hơn gấp 70-95 lần so với thời gian GPU cần để chạy chính mô hình đó trên thư viện vLLM thông thường. Đây là một bước đột phá về hiệu năng so với các hệ thống mã hóa trước đây vốn chậm hơn nhiều bậc. Anthropic nhấn mạnh rằng việc tối ưu hóa này không chỉ giúp giảm tải cho hạ tầng máy chủ mà còn làm cho việc xác thực trở nên khả thi trong thời gian thực, mở đường cho các ứng dụng thương mại và bảo mật nghiêm ngặt trong tương lai gần.

Minh họa quy trình mã hóa FlashProve của Anthropic

Mã nguồn mở và cam kết minh bạch

Để thúc đẩy cộng đồng nghiên cứu phát triển công nghệ này, Anthropic đã phát hành toàn bộ mã nguồn, bao gồm trình tạo chứng chỉ (prover), hai trình xác minh (verifier) và các bằng chứng toán học dưới dạng ngôn ngữ Lean. Tất cả được cấp phép theo Apache 2.0, cho phép bất kỳ ai cũng có thể kiểm tra, sử dụng và cải tiến. Việc công bố mã nguồn không chỉ giúp cộng đồng bảo mật dễ dàng phát hiện lỗ hổng mà còn tạo ra một tiêu chuẩn chung cho ngành AI trong việc xác minh nguồn gốc nội dung. Anthropic hy vọng đây sẽ là nền tảng để các nhà phát triển khác xây dựng lên các giải pháp an toàn hơn, chống lại sự giả mạo mô hình. Mặc dù hệ thống vẫn đang trong giai đoạn nghiên cứu và chưa có kế hoạch triển khai ngay trên các sản phẩm Claude hiện tại, nhưng bước đi này cho thấy Anthropic đang nghiêm túc đối mặt với thách thức về độ tin cậy và minh bạch trong kỷ nguyên AI phát triển chóng mặt.

Bối cảnh bảo mật mã nguồn mở và AI từ Anthropic
Cộng đồng: