SB1047 là một ý tưởng tồi. Nhưng SB53 mới nhất của Thượng nghị sĩ Wiener đang đi đúng hướng, và điều quan trọng là phải chỉ ra những tiến bộ. Đây là lý do của tôi. Cách tiếp cận của tôi đối với việc điều chỉnh công nghệ mới như các mô hình là: chúng ta không biết cách định nghĩa "giảm thiểu" và đảm bảo "tốt" như thế nào, nhưng chúng ta sẽ biết khi - và nếu - chúng ta thấy nó. Có hai hệ quả. #1. Chúng ta không nên quy định ngưỡng rủi ro hoặc tiêu chuẩn chăm sóc cho việc phát triển mô hình. Chúng ta không thể đồng ý về những rủi ro quan trọng, cách đo lường chúng, hoặc bao nhiêu là quá nhiều. Hướng dẫn duy nhất cho các nhà phát triển, nhà quản lý và tòa án là một tập hợp các thực tiễn mới nổi chủ yếu được xác định bởi các công ty nguồn đóng dựa vào tường phí để thực hiện công việc nặng nhọc. Làm như vậy có thể làm giảm sự đổi mới mở bằng cách phơi bày các nhà phát triển trước trách nhiệm mơ hồ hoặc gia tăng cho việc phát hành rộng rãi. Đó là SB1047 trong một câu tóm tắt, cùng với ~5 tương đương mà nó đã truyền cảm hứng trên toàn nước Mỹ trong phiên họp này, chẳng hạn như Đạo luật RAISE ở NY. Chúng ta nên tránh cách tiếp cận đó. Những đề xuất này - trong những khía cạnh hẹp nhưng quan trọng - đã đi quá xa. Và tuy nhiên: #2. Chúng ta cần chiếu sáng các thực tiễn trong ngành để hiểu rõ hơn về sự cẩn trọng, hoặc thiếu sót, mà các công ty khác nhau áp dụng. Nếu các nhà phát triển phải cam kết với một chính sách an toàn và bảo mật, cho thấy công việc của họ, và để lại dấu vết giấy tờ, chúng ta có thể đánh giá tốt hơn sức mạnh của các tuyên bố của họ, theo dõi các rủi ro mới nổi, và quyết định về can thiệp trong tương lai. Đó là Đạo luật AI của EU và Bộ quy tắc thực hành cuối cùng trong một câu tóm tắt, mà cả OpenAI và Mistral đều đã ủng hộ, và đó cũng là phiên bản mới nhất của SB53 từ @Scott_Wiener. Nếu chúng ta sẽ điều chỉnh việc phát triển mô hình, đó là cách tiếp cận tốt hơn về cơ bản: điều chỉnh tính minh bạch - không phải khả năng, giảm thiểu, hoặc rủi ro chấp nhận được. Nó sẽ cung cấp ít nhất một khu vực pháp lý của Mỹ quyền giám sát của Brussels, và nó sẽ tránh được những tác động không mong muốn đối với phát triển mở. Để rõ ràng, vẫn còn nhiều trở ngại phía trước: > Độ phức tạp. Dù là Big Tech hay không, đây là những nghĩa vụ tài liệu và báo cáo nặng nề. Nói một cách chiến thuật, càng phức tạp, dự luật này sẽ càng dễ bị tổn thương. > Khuyến khích. Việc báo cáo công khai bắt buộc các đánh giá rủi ro tự nguyện tạo ra một động lực sai lệch cho các nhà phát triển để không thử nghiệm mô hình của họ đủ, và làm ngơ trước những rủi ro khó khăn. Cho phép các nhà phát triển công bố kết quả của họ cho các kiểm toán viên hoặc cơ quan thay vì công khai có thể giúp thúc đẩy sự trung thực hơn trong các đánh giá nội bộ của họ. > Ngựa thành Troy. Văn hóa sửa đổi và cắt bỏ quá mức của California có thể làm cho việc thẩm định các dự luật này trở nên khó khăn. Nếu SB53 biến thành một dự luật tiêu chuẩn chăm sóc như SB1047 hoặc RAISE, nó nên bị bác bỏ vì những lý do tương tự như trước. Càng nhiều đồ trang trí được thêm vào cây thông Giáng sinh này, dự luật càng trở nên gây tranh cãi. > Phạm vi. Dự luật này vươn ra một cách rộng rãi với các định nghĩa mở rộng về rủi ro thảm khốc và khả năng nguy hiểm. Đối với một dự luật "báo cáo bắt buộc / thực hành tự nguyện", chúng hoạt động. Nếu dự luật này là một dự luật tiêu chuẩn chăm sóc, chúng sẽ không khả thi. Tóm lại: xin chúc mừng Thượng nghị sĩ Wiener vì đã tham gia và phản hồi một cách suy nghĩ trong suốt năm qua. Thật refreshing khi thấy một dự luật thực sự xây dựng trên những chỉ trích trước đó. Vẫn còn nhiều con đường mà dự luật này có thể đi - và nó đã phát triển vượt xa đề xuất tố giác ban đầu - nhưng quỹ đạo là đầy hứa hẹn.