Mã nguồn mở và cam kết minh bạch
Để thúc đẩy cộng đồng nghiên cứu phát triển công nghệ này, Anthropic đã phát hành toàn bộ mã nguồn, bao gồm trình tạo chứng chỉ (prover), hai trình xác minh (verifier) và các bằng chứng toán học dưới dạng ngôn ngữ Lean. Tất cả được cấp phép theo Apache 2.0, cho phép bất kỳ ai cũng có thể kiểm tra, sử dụng và cải tiến.
Việc công bố mã nguồn không chỉ giúp cộng đồng bảo mật dễ dàng phát hiện lỗ hổng mà còn tạo ra một tiêu chuẩn chung cho ngành AI trong việc xác minh nguồn gốc nội dung. Anthropic hy vọng đây sẽ là nền tảng để các nhà phát triển khác xây dựng lên các giải pháp an toàn hơn, chống lại sự giả mạo mô hình.
Mặc dù hệ thống vẫn đang trong giai đoạn nghiên cứu và chưa có kế hoạch triển khai ngay trên các sản phẩm Claude hiện tại, nhưng bước đi này cho thấy Anthropic đang nghiêm túc đối mặt với thách thức về độ tin cậy và minh bạch trong kỷ nguyên AI phát triển chóng mặt.