DeepProve đang tiên phong một tiêu chuẩn mới cho AI an toàn, có thể xác minh—và chúng tôi đang tiếp tục mở rộng khả năng của nó. Các kỹ sư và nhà nghiên cứu của Lagrange đang khám phá những khả năng mới cho những gì DeepProve có thể đạt được cho AI. Hãy xem xét một khả năng: Chứng minh lý luận... 🧵

2/ Hôm nay, lý luận trong AI là một hộp đen. Chúng ta hỏi mô hình đã dự đoán điều gì, nhưng hiếm khi hiểu tại sao. Chứng minh lý luận cung cấp một mô hình mới: biên lai mật mã về logic của AI.

3/ Bằng chứng lý luận là một trong bốn loại bằng chứng mà chúng tôi đang khám phá để tạo ra sự minh bạch đạt tiêu chuẩn quy định, niềm tin vào cơ sở hạ tầng quan trọng và các quyết định AI có thể kiểm toán. Chúng xác minh tại sao một mô hình lại đưa ra quyết định *mà không* tiết lộ trọng số nội bộ hoặc các đầu vào riêng tư.

4/ Bằng chứng lý luận sẽ rất cần thiết cho việc bảo vệ, chăm sóc sức khỏe và chính sách. Hãy tưởng tượng một chiếc drone giám sát có thể chứng minh rằng nó chỉ đánh dấu các đối tượng phù hợp với các tham số nghiêm ngặt. Hoặc một AI chẩn đoán cho thấy logic của nó—mà không làm lộ dữ liệu bệnh nhân.

5/ DeepProve của Lagrange sẽ định nghĩa một tiêu chuẩn mới cho cách mà AI nên hoạt động trong các hệ thống quan trọng. Đọc toàn bộ Lộ trình Lagrange cho năm 2025 và hơn thế nữa để tìm hiểu về những tiến bộ chính mà chúng tôi đang xây dựng cho AI an toàn, có thể xác minh ↓