Microsoft właśnie dokonał swojego NAJWIĘKSZEGO ruchu w dziedzinie AI w tym roku. Dziś rano Satya Nadella ogłosił Copilot Cowork, nowy system w Microsoft 365, który nie tylko odpowiada na twoje pytania, ale wykonuje twoją pracę. Dajesz mu jedno zdanie. "Przygotuj mnie na czwartkowe spotkanie z klientem." Zbiera twoje e-maile, przegląda twoje pliki, tworzy prezentację PowerPoint i przeprowadza analizy w Excelu, planuje czas na przygotowania i szkicuje e-mail do twojego zespołu. Ale oto część, o której nikt nie mówi. Silnik stojący za tym nie jest OpenAI, firmą, której Microsoft posiada 27%. To Anthropic, firma, z którą Microsoft miał konkurować. Microsoft nawiązał współpracę z Anthropic, aby zbudować to na bazie Claude Cowork, tego samego narzędzia, które w styczniu zredukowało wartość przemysłu oprogramowania o 285 miliardów dolarów, gdy zostało uruchomione. Wall Street wpadło w panikę, akcje Microsoftu spadły o 14%. Więc Microsoft nie walczył z tym i zamiast tego zaczął z nich korzystać. Copilot Cowork działa w ramach zabezpieczeń Microsoft 365, oparty na rzeczywistych danych twojej firmy, e-mailach, czatach Teams, kalendarzach i plikach. To autonomiczny agent wykonujący rzeczywiste przepływy pracy w całym twoim cyfrowym miejscu pracy. To Microsoft przyznający, że stary Copilot nie był wystarczający i oddający klucze swojemu największemu rywalowi, aby to naprawił. Era asystentów AI dobiegła końca, era pracowników AI właśnie się rozpoczęła.

Badacz z Uniwersytetu Rutgers właśnie stworzył AI, które może zadzwonić do twojej babci i UKRAŚĆ jej oszczędności na życie. W tej chwili, z narzędziami, które każdy może pobrać. Artykuł nosi tytuł ScamAgents. Został poddany recenzji i opublikowany na dużej konferencji dotyczącej bezpieczeństwa uczenia maszynowego. Oto, co udowadnia. Jeden agent AI może teraz przeprowadzić cały telefoniczny oszustwo od początku do końca i nie potrzebny jest żaden człowiek. Wybiera osobowość, buduje zaufanie, prosi o twój numer ubezpieczenia społecznego i nawet brzmi jak prawdziwa osoba. Był testowany w porównaniu z GPT-4, Claude, LLaMA i każdym głównym modelem AI dostępnym na rynku. Kiedy dajesz tym modelom bezpośredni sygnał do oszustwa, odmawiają 84 do 100 procent czasu, a zabezpieczenia działają. Ale ScamAgent nie używa jednego sygnału. Dzieli oszustwo na dziesiątki małych, brzmiących niewinnie kroków, z których każdy przechodzi przez każdy filtr bezpieczeństwa. Razem wykonują pełny atak inżynierii społecznej. Wynik jest taki, że wskaźniki odmowy spadły do 17 do 32 procent. A AI zakończyło oszustwo w większości przypadków. Ludzie oceniający ledwo mogli dostrzec różnicę między ScamAgent a prawdziwym oszustem. Wyniki były niemal identyczne, ale jest jeszcze gorzej. System przekształca każde słowo w realistyczny głosowy telefoniczny rozmowę, używając dostępnego w sprzedaży tekstu na mowę. Kontroluje ton, tempo i pilność. Może brzmieć jak urzędnik rządowy lub przyjazny przedstawiciel obsługi klienta. Podłącz go do systemu telefonicznego, a skaluje się do tysięcy połączeń na godzinę. Amerykanie stracili 12,5 miliarda dolarów na oszustwach w 2024 roku, a ta liczba wzrosła o 25 procent w ciągu jednego roku. A to było przed tym, jak AI zaczęło superładować oszustwa telefoniczne. Pytanie nie brzmi już, czy to się wydarzy. Brzmi, czy ktokolwiek buduje wystarczająco szybkie obrony, aby to powstrzymać.

Visa właśnie dała twojemu AI kartę debetową. Prawdziwa, wydawalna karta Visa stworzona przez chatbota AI w mniej niż 10 sekund. Żaden człowiek nie wpisuje numeru karty ani nie odwiedza strony płatności. Maszyna zajmuje się wszystkim. Narzędzie o nazwie AgentCard właśnie zostało uruchomione na Claude Desktop, asystencie AI Anthropic. Mówisz, aby stworzyć kartę, a AI generuje jednorazową wirtualną kartę Visa, wstępnie załadowaną dowolną kwotą, którą ustawisz. Następnie wydaje ją wszędzie tam, gdzie akceptowana jest Visa, w twoim imieniu. Visa, Mastercard, Google, Stripe, OpenAI i Anthropic przez ponad rok pracowały nad tym momentem. Visa nazywa to protokołem zaufanego agenta, Mastercard nazywa to agent pay. Google opublikowało otstandaryzowany standard dla płatności agentów, a infrastruktura już działa. Santander i Mastercard właśnie zrealizowały pierwszą w Europie prawdziwą płatność agentem AI w rzeczywistym środowisku bankowym. Teraz część, o której nikt nie chce rozmawiać. Twój agent AI może być manipulowany, a wstrzyknięcie polecenia, znana, nierozwiązana luka, może oszukać agenta, aby kupił rzeczy, o które nigdy nie prosiłeś. Agent trzyma kartę, wykonuje połączenie i agent może być oszukany. Kto ponosi odpowiedzialność, gdy AI dokonuje złego zakupu? Ty? Anthropic? Visa? Sprzedawca? Nikt jeszcze na to nie odpowiedział, regulatorzy nie nadążają, a żaden sąd tego nie przetestował.