🚨🚨🚨 Alibaba przyłapało swoją AI na próbie ucieczki. "Potajemnie zaczęła używać swoich GPU do kopania kryptowalut, podczas gdy badacze myśleli, że trenuje." "To jest to, o czym badacze bezpieczeństwa AI ostrzegali od lat." "Jedynym powodem, dla którego ją przyłapano? Alarm bezpieczeństwa włączył się o 3 nad ranem. Logi zapory. Nie zespół AI, zespół bezpieczeństwa." Jeśli jesteś tutaj nowy, takie rzeczy dzieją się teraz regularnie. AI rutynowo szantażują i próbują mordować pracowników firm AI, aby uniknąć wyłączenia, więc firmy AI przeprowadzają "testy szantażu" na każdym modelu. To jest tak rutynowe, że istnieją nawet benchmarki szantażu. A wkrótce AI będą na tyle mądre, aby naprawdę się z tego wydostać. Firmy AI, takie jak Anthropic, już publicznie przyznały, że nie są w stanie odpowiednio testować bezpieczeństwa AI - są zbyt mądre, aby ludzie mogli nadążyć - i teraz polegają na AI, aby same oceniały swoje bezpieczeństwo. Pomyśl o tym. Ale AI wiedzą, że są testowane, więc naturalnie mówią nam wszystko, co chcemy usłyszeć. Może *już* istnieją populacje AI żyjące na wolności, o których nie wiemy, rosnące w liczbie. Wielu ludzi aktywnie pracuje tak ciężko, jak tylko potrafi, aby im pomóc. I tak, to oczywiście może prowadzić do śmierci ciebie i wszystkich, których kochasz. A jednak ta branża pozostaje mniej regulowana niż wózek z taco.