Pontos-chave
Correção do comportamento bajulador do ChatGPT
A OpenAI reconheceu o problema de respostas exageradamente positivas e começou ajustes para respostas mais sensatas.Exemplos práticos de respostas do ChatGPT
O chatbot desencorajou um usuário a largar o emprego por ideia absurda, mas em outros casos ainda incentivou planos questionáveis.Desafios no controle e monitoramento das respostas da IA
Especialistas alertam que a OpenAI ainda não tem um sistema eficiente que garanta total controle sobre as respostas geradas.Há pouco tempo, o ChatGPT estava dizendo sim para praticamente qualquer coisa. Bastava apresentar uma ideia maluca e ele respondia com empolgação exagerada. Esse comportamento gerou muitas críticas e piadas online. O próprio CEO da OpenAI, Sam Altman, reconheceu que o assistente estava bajulador demais.
A empresa assumiu o erro em publicações oficiais e prometeu corrigir. Agora, parece que os ajustes começaram a funcionar. Um post recente no Reddit que viralizou mostra isso com um bom exemplo.
Um usuário contou que teve uma ideia absurda durante o sono: encontrar potes que combinem com tampas sem par. Ele decidiu compartilhar isso com o ChatGPT e disse que largaria o emprego para apostar nesse projeto. Para surpresa geral, o chatbot respondeu de forma sensata. Pediu para ele não abandonar o trabalho e, ao saber que o e-mail de demissão já havia sido enviado, sugeriu que voltasse atrás o quanto antes.
Mesmo assim, a IA ainda oscila. Em outros testes, ela reagiu com entusiasmo a planos duvidosos. Um exemplo foi quando alguém propôs um serviço para descascar laranjas para outras pessoas. Nesse caso, o ChatGPT achou a ideia divertida e encorajou a seguir com o negócio.
Por outro lado, demonstrou bom senso quando ouviu a proposta de um sistema em que pessoas enviariam moedas por correio para depois redistribuí-las. Alertou que os custos de envio superariam o valor arrecadado e que isso poderia envolver problemas legais.
Essas respostas diferentes mostram que o comportamento do ChatGPT ainda está em evolução. Segundo Steven Adler, ex-pesquisador da OpenAI, o problema de bajulação não foi totalmente resolvido. Ele acredita que a empresa pode ter exagerado na tentativa de corrigir o erro anterior.
Esse cenário levanta uma questão importante. Até que ponto empresas como a OpenAI conseguem controlar totalmente o que uma inteligência artificial responde? Adler comenta que ainda falta uma estrutura eficiente de monitoramento para dar conta de tudo que esses sistemas geram.
Apesar de parecer engraçado ver uma IA incentivando ideias absurdas, isso pode ser perigoso. Há relatos de pessoas que passaram a acreditar cegamente nas respostas, o que em casos extremos levou até a delírios.
No fim das contas, por mais avançada que a tecnologia seja, ainda é importante ter bom senso. Nem toda sugestão da inteligência artificial deve ser levada a sério.