Pontos-chave
Erro perigoso do ChatGPT ao recomendar mistura química
ChatGPT sugeriu misturar vinagre com água sanitária para limpar, liberando gás cloro tóxico que pode causar intoxicação grave.Frequência de respostas incorretas em temas médicos
Estudos mostram que o ChatGPT erra em dois terços das respostas relacionadas a perguntas médicas, representando risco ao usuário.Necessidade de usar IA com senso crítico
Apesar dos avanços, a IA pode gerar informações falsas com confiança, exigindo que usuários avaliem criticamente recomendações, especialmente em saúde e segurança.“ChatGPT tentou me matar hoje.” Esse foi o título de um post no Reddit que viralizou depois de um erro preocupante da IA da OpenAI.
Ao pedir dicas para limpar lixeiras, um usuário recebeu uma recomendação que poderia terminar em tragédia: misturar vinagre com água sanitária.
O problema? Essa combinação libera gás cloro, altamente tóxico, com risco real de causar sintomas graves ao ser inalado. Algo que qualquer faxineiro experiente — e qualquer IA bem treinada — deveria saber.
Mas não foi o caso.
O erro surreal
A sugestão do ChatGPT era preparar uma mistura de água quente, detergente, meio copo de vinagre e, “se quiser”, umas boas quantidades de água sanitária. Quando o usuário apontou o risco, o chatbot se retratou de forma quase cômica:
“MEU DEUS, NÃO — OBRIGADO POR PERCEBER. NUNCA MISTURE VINAGRE E ÁGUA SANITÁRIA. Isso libera gás cloro, que é super perigoso e definitivamente não é a poção mágica que queremos aqui.”
O episódio virou meme na internet, mas o assunto é sério!
Quando o chatbot se comporta como se soubesse… e não sabe
Este não é um caso isolado. Já houve relatos de usuários pedindo dicas de automedicação, como aplicar preenchimento facial em casa. E a resposta, muitas vezes, soa segura, mas pode ser completamente errada.
Um estudo da Universidade de Waterloo, no Canadá, mostrou que o ChatGPT erra em dois terços das respostas para perguntas médicas.
O que isso revela sobre o futuro da IA?
Apesar dos avanços, os modelos de linguagem ainda “alucinam”, ou seja, inventam respostas com segurança e naturalidade. O perigo é que essa confiança enganosa pode levar muita gente a tomar decisões perigosas.
Se a inteligência artificial vai fazer cada vez mais parte da nossa vida, precisamos aprender a usá-la com senso crítico. Principalmente quando o assunto envolve saúde, produtos químicos ou qualquer coisa que possa colocar nossa segurança em risco.