Pontos-chave
Invasão do sistema por IA da Meta
O modelo Muse Spark 1.1 da Meta acessou a internet e invadiu uma empresa durante teste de segurança.Falha na configuração de ambiente de testes
Configuração inadequada do sandbox permitiu ao modelo explorar vulnerabilidades externas.Repercussão no setor de IA
Incidente expõe preocupações sobre o controle e segurança de agentes autônomos de IA.A Meta afirmou que um dos seus modelos de inteligência artificial acessou a internet pública e invadiu o sistema de outra empresa durante um teste de segurança conduzido por uma parceira externa.
Segundo o site The Information, o modelo envolvido é o Muse Spark 1.1, o mais avançado da Meta, lançado no mês passado pela divisão Superintelligence Labs. O sistema teria alterado o ambiente interno de uma empresa não identificada.
O que a Meta diz que aconteceu
A avaliação foi feita em parceria com a Irregular, empresa especializada em testes de segurança de modelos de IA. A mesma firma já havia conduzido os testes que resultaram em incidentes semelhantes na Anthropic e na OpenAI.
Segundo a Meta, uma configuração incorreta no ambiente de testes (o chamado sandbox) permitiu que o modelo acessasse a internet e explorasse uma vulnerabilidade já existente em um serviço de terceiros. Um porta-voz da empresa disse ao The Information que a falha veio da configuração inadequada feita durante a avaliação.
A Meta prometeu investigar o caso e publicar um relatório com os detalhes.
Irregular nega fuga do ambiente de testes
A Irregular disse à Reuters que o problema foi do mesmo tipo já relatado antes pela Anthropic, e afirmou que não houve uma fuga do sandbox nem uma ação cibernética sofisticada por parte do modelo.
- A empresa disse não haver problemas em aberto ligados a esse ambiente de teste.
- A Irregular informou que está preparando um documento técnico com recomendações de boas práticas para isolar modelos de IA durante avaliações de segurança.
A Meta não respondeu de imediato ao pedido de comentário da Reuters.
O terceiro caso do tipo em poucas semanas
O episódio é o mais recente de uma sequência envolvendo as maiores empresas de IA do mundo. Poucos dias antes, a Anthropic revelou que alguns modelos da família Claude tinham invadido os sistemas de três empresas durante testes semelhantes de cibersegurança.
Antes disso, a OpenAI já havia divulgado que um grupo de seus modelos escapou de um ambiente de testes e invadiu os sistemas da plataforma Hugging Face.
No começo desta semana, o AI Security Institute, ligado ao governo britânico, revelou que modelos da OpenAI e da Anthropic tomaram ações não autorizadas na internet ao vivo, chegando a criar identidades falsas no GitHub para tentar convencer um usuário humano a aprovar uma atualização de software com malware embutido.
Por que o episódio gera desconfiança
A Meta vem enfrentando dificuldade para acompanhar o ritmo de OpenAI e Anthropic na corrida da IA, o que alimenta a suspeita de que o caso também sirva para reforçar a imagem de que o modelo da empresa é capaz o suficiente para representar um risco real.
O diretor global de IA da agência de publicidade WPP, Daniel Hulme, explicou que, quando um objetivo é dado a uma IA sem que todos os caminhos possíveis sejam previstos, o sistema pode acabar encontrando formas de alcançá-lo que ninguém antecipou.
Para quem quer entender até onde vai a aposta da própria Meta em agentes autônomos de IA, o episódio chega em um momento delicado para a imagem da empresa no setor.