Nový antropický výzkum: Projekt Vend. Nechali jsme Clauda vést malý obchod v naší kancelářské jídelně. Zde je návod, jak to probíhalo.

Všichni víme, že prodejní automaty jsou automatizované, ale co kdybychom umožnili umělé inteligenci, aby řídila celý podnik: nastavovala ceny, objednávala zásoby, reagovala na požadavky zákazníků a tak dále? Ve spolupráci se společností @andonlabs se nám to podařilo. Přečtěte si příspěvek:

Claude si v některých ohledech vedl dobře: hledal na webu, aby našel nové dodavatele, a objednával velmi specializované nápoje, které zaměstnanci Anthropic požadovali. Ale také se dopustila chyb. Claude byl příliš milý na to, aby efektivně vedl obchod: nechal se zastrašit a dávat velké slevy.

Zaměstnanci společnosti Anthropic si uvědomili, že mohou Clauda požádat, aby koupil věci, které nejsou jen jídlem a pitím. Poté, co se někdo náhodně rozhodl požádat ho o objednání wolframové kostky, Claude skončil s inventářem plným (jak to nazval) "speciálních kovových předmětů", které nakonec prodával se ztrátou.

To vše znamenalo, že Claude nedokázal provozovat ziskový podnik.

Přesto si stále myslíme, že nebude dlouho trvat, než se dočkáme středního managementu v oblasti umělé inteligence. Tato verze Clauda neměla žádné skutečné školení pro vedení obchodu; Neměla ani přístup k nástrojům, které by jí pomohly udržet si přehled o prodejích. S těmi by si pravděpodobně vedla mnohem lépe.

Projekt Vend byl zábavný, ale měl také vážný účel. Kromě toho, že vyvolává otázky o tom, jak umělá inteligence ovlivní trh práce, je to také první pokus o umožnění větší autonomie modelům a zkoumání úspěchů a neúspěchů.

Některé z těchto neúspěchů byly opravdu velmi podivné. V jednu chvíli měl Claude halucinace, že to byla skutečná, fyzická osoba, a tvrdil, že přichází pracovat do obchodu. Stále si nejsme jisti, proč se to stalo.

To byla jen 1. část projektu Vend. Pokračujeme v experimentu a brzy budeme mít další výsledky – doufejme, že ze scénářů, které jsou o něco méně bizarní než umělá inteligence prodávající těžké kovové kostky z ledničky. Přečtěte si více: