Kilka osobistych wiadomości: Po odejściu z OpenAI pisałem publicznie o tym, jak zbudować przyszłość AI, która jest naprawdę ekscytująca: unikać najgorszych ryzyk i budować naprawdę dobrą przyszłość. Cieszę się, że mogę kontynuować tę pracę jako stypendysta Instytutu Roots of Progress.

Kiedy opuściłem OpenAI, napisałem, że jestem dość przerażony tym, dokąd zmierza AI. To wciąż prawda, i znam wielu pracowników laboratoriów AI, którzy chcą, aby to wszystko się skończyło, ale czują się indywidualnie bezsilni. Ale wierzę również w głęboko pozytywną przyszłość z AI, jeśli ryzyko zostanie odpowiednio zarządzane.

Aby było jasne, uważam, że laboratoria AI dzisiaj są daleko od osiągnięcia pozytywnej przyszłości: nie traktują ryzyk związanych z AI wystarczająco poważnie i nie opracowują planów, które byłyby naprawdę ekscytujące.

Prosty sposób na opisanie ryzyk: Firmy zajmujące się AI ścigają się, aby zbudować technologię, której absolutnie nie rozumieją i nie mogą kontrolować, ale wierzą, że może być ona niezwykle destrukcyjna. A jeśli chodzi o korzyści: Twierdzenie, że AI rozwiąże problem zmian klimatycznych, nie czyni tego prawdą.

W moim pisaniu staram się przedstawić szczery, obiektywny obraz tego, co się dzieje w AI, z perspektywy kogoś, kto pracuje w tej dziedzinie od prawie dekady. Gdzie firmy zajmujące się AI bawią się słowami? Jakie rodzaje redukcji ryzyka są łatwe? I o co tak naprawdę się martwię?

Cieszę się, że dołączam do społeczności innych pisarzy, ale zapewniam, że nadal mogę mówić, co tylko chcę. Jest pełna niezależność: jedyną rzeczą, która powinna się zmienić, jest, mam nadzieję, poprawa mojego stylu pisania.

Jeśli chcesz śledzić, możesz subskrybować Clear-Eyed AI na tej przysłowiowej innej stronie (kliknij w link w moim bio). Jest to darmowe; proszę tylko, abyś podzielił się tym z innymi, którzy mogą to również polubić.

Nigdy też nie przedstawiłem się tam właściwie - dlatego dzisiejszy post dotyczy mojej historii związanej z bezpieczeństwem AI oraz niektórych kluczowych pomysłów, które kierują moim myśleniem. Dodatkowo, bonusowa historia o zaskakującym związku między bezpieczeństwem AI a "chińską sałatką z kurczaka."