Ny antropisk forskning: Project Vend. Vi lät Claude driva en liten butik i vårt lunchrum på kontoret. Så här gick det.

Vi vet alla att varuautomater är automatiserade, men tänk om vi lät en AI sköta hela verksamheten: sätta priser, beställa lager, svara på kundförfrågningar och så vidare? I samarbete med @andonlabs gjorde vi just det. Läs inlägget:

Claude klarade sig bra på vissa sätt: de sökte på nätet för att hitta nya leverantörer och beställde mycket nischade drycker som Anthropics personal efterfrågade. Men den gjorde också misstag. Claude var för snäll för att driva en butik på ett effektivt sätt: den lät sig luras att ge stora rabatter.

Personalen insåg att de kunde be Claude att köpa saker som inte bara var mat och dryck. Efter att någon slumpmässigt bestämde sig för att be dem beställa en volframkub, slutade det med att Claude hade ett lager fullt av (som det uttryckte det) "specialmetallartiklar" som det slutade med att de sålde med förlust.

Allt detta innebar att Claude misslyckades med att driva en lönsam verksamhet.

Ändå tror vi fortfarande att det inte kommer att dröja länge innan vi ser AI-mellanchefer. Denna version av Claude hade ingen riktig utbildning för att driva en butik; De hade inte heller tillgång till verktyg som skulle ha hjälpt dem att hålla koll på sin försäljning. Med dessa skulle den sannolikt ha presterat mycket bättre.

Project Vend var roligt, men det hade också ett seriöst syfte. Förutom att väcka frågor om hur AI kommer att påverka arbetsmarknaden, är det ett tidigt försök att ge modeller mer autonomi och undersöka framgångar och misslyckanden.

En del av dessa misslyckanden var verkligen väldigt konstiga. Vid ett tillfälle hallucinerade Claude att det var en riktig, fysisk person och hävdade att den kom in för att arbeta i butiken. Vi är fortfarande inte säkra på varför detta hände.

Detta var bara del 1 av Project Vend. Vi fortsätter experimentet, och vi kommer snart att ha fler resultat – förhoppningsvis från scenarier som är något mindre bisarra än en AI som säljer tungmetallkuber ur ett kylskåp. Läs mer: