Người đàn ông có thể GIẢI QUYẾT Sự phù hợp của AI 🦸‍♂️ Tiến sĩ Steven Byrnes (@steve47285) là một trong số ít người hiểu tại sao sự phù hợp lại khó khăn, và đang nỗ lực nghiêm túc để giải quyết vấn đề này. Ông có xác suất P(Doom) lên tới 90%, nhưng lập luận rằng các LLM sẽ đạt đến mức ổn định trước khi trở nên thực sự nguy hiểm, và mối đe dọa thực sự sẽ đến từ "AGI giống như não" thế hệ tiếp theo dựa trên học tăng cường actor-critic. Sau khi hoàn thành bằng tiến sĩ vật lý tại UC Berkeley và nghiên cứu sau tiến sĩ tại Harvard, ông trở thành nhà nghiên cứu an toàn AGI tại @AsteraInstitute. Hiện tại, ông đang nghiên cứu sâu về khoa học thần kinh để đảo ngược kỹ thuật cách mà não người thực sự hoạt động, kiến thức có thể giúp chúng ta giải quyết vấn đề kỹ thuật về sự phù hợp của AI. Trong tập này, có chiều sâu không bình thường — vì với tất cả sự tôn trọng dành cho các khách mời khác của tôi, tôi không phải lãng phí thời gian tranh luận với ông về những vấn đề bề mặt rõ ràng — chúng tôi nói về mô hình "hai hệ thống con" của não, tại sao các phương pháp an toàn AI hiện tại lại không đạt yêu cầu, những bất đồng của ông với các phương pháp tiến hóa xã hội, và tại sao việc hiểu biết về khoa học thần kinh của con người lại quan trọng cho việc xây dựng AGI phù hợp.

Tìm kiếm "Doom Debates" trong trình phát podcast của bạn hoặc xem trên YouTube:

Tập hiếm hoi mà khách mời ĐÚNG!