Một số tin tức cá nhân: Kể từ khi rời OpenAI, tôi đã viết công khai về cách xây dựng một tương lai AI thực sự thú vị: tránh những rủi ro tồi tệ nhất và xây dựng một tương lai thực sự tốt đẹp. Tôi rất hào hứng để tiếp tục công việc này với tư cách là một thành viên của Viện Roots of Progress.

Khi tôi rời OpenAI, tôi đã viết rằng tôi khá sợ hãi về hướng đi của AI. Điều này vẫn đúng, và tôi biết rất nhiều nhân viên trong các phòng thí nghiệm AI muốn mọi thứ dừng lại, nhưng cảm thấy bất lực cá nhân. Nhưng tôi cũng tin vào một tương lai tích cực sâu sắc với AI, nếu các rủi ro được xử lý tốt.

Để rõ ràng, tôi nghĩ rằng các phòng thí nghiệm AI ngày nay đang đi sai hướng để đạt được một tương lai tích cực: Họ không coi trọng đủ những rủi ro của AI, và họ không lập kế hoạch thực sự thú vị.

Một cách đơn giản để mô tả những rủi ro: Các công ty AI đang chạy đua để xây dựng công nghệ mà họ hoàn toàn không hiểu và không thể kiểm soát, nhưng tin rằng nó có thể cực kỳ hủy diệt. Và về mặt lợi ích: Khẳng định rằng AI sẽ giải quyết vấn đề biến đổi khí hậu không có nghĩa là nó sẽ như vậy.

Trong bài viết của mình, tôi nhằm mục đích cung cấp cho bạn cái nhìn trung thực, rõ ràng về những gì đang diễn ra trong lĩnh vực AI, từ một người đã làm việc trong lĩnh vực này gần một thập kỷ. Các công ty AI đang chơi trò chơi chữ ở đâu? Những loại giảm thiểu rủi ro nào là dễ dàng? Và tôi thực sự lo lắng về điều gì?

Tôi rất hào hứng khi gia nhập một cộng đồng các nhà văn khác, nhưng hãy yên tâm, tôi vẫn có thể nói bất cứ điều gì tôi muốn. Có sự độc lập hoàn toàn: Điều duy nhất nên thay đổi là, hy vọng, một số cải thiện trong phong cách viết của tôi.

Nếu bạn muốn theo dõi, bạn có thể đăng ký Clear-Eyed AI tại trang web khác đó (nhấp vào nó từ tiểu sử của tôi). Nó miễn phí; tôi chỉ yêu cầu bạn chia sẻ thông tin với những người khác có thể cũng thích nó.

Tôi cũng chưa bao giờ giới thiệu bản thân một cách đúng đắn ở đó - và vì vậy bài viết hôm nay nói về câu chuyện nguồn gốc của tôi trong lĩnh vực an toàn AI, cùng một số ý tưởng cốt lõi thúc đẩy suy nghĩ của tôi. Ngoài ra, còn có một câu chuyện bonus về mối quan hệ bất ngờ giữa an toàn AI và "salad gà Trung Quốc."