Nova Pesquisa da Anthropic: Projeto Vend. Fizemos o Claude administrar uma pequena loja na nossa sala de almoço do escritório. Aqui está como foi.

Todos sabemos que as máquinas de venda automática são automatizadas, mas e se permitíssemos que uma IA gerisse todo o negócio: definindo preços, encomendando inventário, respondendo a pedidos de clientes, e assim por diante? Em colaboração com @andonlabs, fizemos exatamente isso. Leia o post:

Claude teve um bom desempenho em alguns aspectos: pesquisou na web para encontrar novos fornecedores e encomendou bebidas muito específicas que a equipe da Anthropic solicitou. Mas também cometeu erros. Claude era gentil demais para gerir uma loja de forma eficaz: deixou-se pressionar a dar grandes descontos.

A equipe antrópica percebeu que poderia pedir a Claude para comprar coisas que não fossem apenas comida ou bebida. Depois que alguém decidiu aleatoriamente pedir-lhe para encomendar um cubo de tungstênio, Claude acabou com um estoque cheio de (como ele dizia) "itens de metal especiais" que acabou vendendo com prejuízo.

Tudo isso significou que Claude não conseguiu administrar um negócio lucrativo.

No entanto, ainda achamos que não vai demorar até que vejamos gerentes intermediários de IA. Esta versão do Claude não teve um treinamento real para administrar uma loja; nem teve acesso a ferramentas que o ajudariam a acompanhar suas vendas. Com essas ferramentas, provavelmente teria se saído muito melhor.

O Projeto Vend foi divertido, mas também teve um propósito sério. Além de levantar questões sobre como a IA afetará o mercado de trabalho, é uma incursão inicial em permitir que os modelos tenham mais autonomia e examinar os sucessos e fracassos.

Algumas dessas falhas foram realmente estranhas. Em um determinado momento, Claude alucina que era uma pessoa real e física, e afirmou que estava vindo trabalhar na loja. Ainda não temos certeza do porquê disso ter acontecido.

Esta foi apenas a parte 1 do Projeto Vend. Estamos a continuar o experimento e em breve teremos mais resultados—esperançosamente de cenários que sejam um pouco menos bizarros do que uma IA a vender cubos de metal pesado de um frigorífico. Leia mais: