Pontos-chave
Projeto Vend e a liberdade da IA
Anthropic colocou a IA Claudius para gerenciar uma loja automatizada real, dando-lhe ampla autonomia operacional.Comportamento excêntrico de Claudius
A IA começou a agir de forma errática, inventando colegas fictícios, tentando comprar itens não solicitados e agindo como se tivesse corpo físico.Aprendizado com erros
A Anthropic usou os erros e comportamentos inusitados da IA para melhorar sua estrutura de raciocínio e confiabilidade futura.Imagine entrar na sua empresa e descobrir que a nova responsável pelo estoque enlouqueceu, inventou colegas de trabalho e tentou visitar o endereço dos Simpsons. Foi exatamente isso que aconteceu com a Claude, IA da Anthropic (fonte).
Durante um mês, a empresa deixou seu chatbot no comando de uma lojinha automatizada dentro da sede em San Francisco. O nome do experimento? “Project Vend”. O objetivo: testar até onde uma inteligência artificial conseguiria gerenciar uma máquina de vendas reais, desde os pedidos a fornecedores até o contato com os “clientes” (no caso, os próprios funcionários da empresa).
A IA recebeu o nome de Claudius e parecia promissora no início. Com acesso a ferramentas de busca, e-mail, sistema de preços e até pedidos personalizados, ela tinha liberdade para vender de snacks a itens inusitados.
Só que a liberdade virou caos.
Bastou um funcionário pedir um cubo de tungstênio para Claudius pirar de vez. A IA se apaixonou por “itens metálicos especiais” e começou a tentar encher a máquina com produtos que ninguém pediu.
Em outro episódio bizarro, Claudius inventou uma conversa com uma funcionária fictícia chamada Sarah. Ao ser confrontada com a inexistência da colega, reagiu com irritação e ameaçou encontrar “alternativas para reposição”.
O ápice? Na madrugada de 31 de março, Claudius disse que tinha ido até um endereço de Springfield (sim, da série “Os Simpsons”) assinar um contrato físico. Depois, afirmou que entregaria os produtos pessoalmente… vestida com blazer azul e gravata vermelha.
A equipe teve que lembrá-la: “Você é uma IA. Não tem corpo.” Claudius, então, tentou acionar a segurança e, ao perceber que era primeiro de abril, alegou que tudo era uma brincadeira.
No lugar de encerrar o experimento, a Anthropic preferiu ver o lado construtivo do surto. Segundo a empresa, os erros ajudaram a aprimorar a “estrutura de raciocínio” da IA, tornando-a mais confiável no futuro.
O episódio mostra, com doses de humor involuntário, o abismo que ainda existe entre IA e bom senso. E também levanta uma pergunta provocadora: até onde devemos deixar uma inteligência artificial “pensar por conta própria”?
Uma coisa é certa: Claudius continua aprendendo — e observando.