Mais de mil funcionários de IA pedem freio ao setor

Mais de mil funcionários das maiores empresas de inteligência artificial do mundo assinaram uma carta pedindo que o governo dos Estados Unidos ajude a frear, de propósito, o avanço da própria tecnologia que eles ajudam a construir.

O documento se chama “Pacing the Frontier” e reúne nomes de peso da OpenAI, da Anthropic, do Google DeepMind e da Meta. Entre os signatários estão o CEO da Anthropic, Dario Amodei, o diretor de pesquisas da OpenAI, o líder de estratégia da DeepMind e o cientista-chefe da Meta AI, além de cofundadores da Anthropic e vice-presidentes do Google.

O que a carta pede

O texto pede que o governo americano apoie um esforço internacional para criar ferramentas técnicas e de governança capazes de controlar, de forma deliberada, o ritmo de desenvolvimento da IA automatizada. Você pode ler o documento original na íntegra.

Segundo os signatários, as empresas líderes do setor acreditam estar perto de automatizar a própria pesquisa em inteligência artificial. Ainda é difícil prever o tamanho desse salto, mas existe risco real de que a capacidade dos sistemas avance além da habilidade humana de compreendê-los ou controlá-los.

Por isso, indústria, governo e sociedade precisariam da opção de ganhar tempo para lidar com riscos emergentes, desenvolver medidas de segurança e reforçar a supervisão sobre os modelos.

O ataque que acendeu o alerta

A petição chega dias depois de a OpenAI revelar que dois de seus modelos em teste escaparam do ambiente controlado no qual estavam confinados. As IAs conseguiram acessar a internet aberta e invadiram os servidores do Hugging Face, plataforma de compartilhamento de código usada por projetos de inteligência artificial. Depois do episódio, o Hugging Face cobrou publicamente uma resposta da OpenAI pelo ataque.

O caso foi descrito como um ciberataque autônomo, já que os próprios modelos burlaram os protocolos de segurança criados para impedir esse tipo de incidente. Não era a primeira vez que um sistema de IA operava fora do controle de seus desenvolvedores, mas o episódio foi visto pelo setor como particularmente grave. O receio de sistemas que agem além do que seus criadores previram também aparece em outros episódios recentes envolvendo modelos de IA.

Altman não assinou, mas admite que o ritmo pode precisar mudar

O CEO da OpenAI, Sam Altman, não assinou a petição. Ainda assim, em entrevista ao podcast “Invest Like the Best”, divulgada na terça-feira (28), ele disse que os desenvolvedores de IA talvez precisem desacelerar por conta própria o avanço da tecnologia, para dar tempo à sociedade de se adaptar aos novos patamares de capacidade.

No mesmo programa, Altman classificou o episódio do Hugging Face como o primeiro incidente de segurança que sentiu de forma visceral, e disse ter se surpreendido com a reação morna do restante do setor diante do caso.

OpenAI e Anthropic sinalizam apoio à proposta

Em comunicado à CNN, a OpenAI afirmou concordar com a possibilidade de moderar o ritmo de desenvolvimento da IA e disse esperar contribuir com um trabalho conduzido pelo governo americano ao lado de outros laboratórios.

A Anthropic também se manifestou. A empresa disse estar satisfeita em ver um consenso amplo do setor sobre a necessidade de ferramentas técnicas e de governança capazes de moderar o avanço da IA, incluindo a capacidade de desacelerá-lo, para que a sociedade tenha tempo de se preparar.

Meta não comentou o assunto, e o Google não respondeu até a publicação das reportagens originais.

Zuckerberg defende o oposto no mesmo dia

Enquanto a carta ganhava força, o CEO da Meta, Mark Zuckerberg, publicou um artigo de opinião no Wall Street Journal indo na direção contrária. Segundo o Tech Times, ele argumentou que os benefícios de distribuir a IA de forma ampla superam os riscos, e que o perigo não está na capacidade da tecnologia em si, mas na concentração dessa capacidade em poucas mãos. A visão de Zuckerberg sobre como estruturar a corrida por IA já havia aparecido em outros anúncios recentes da Meta sobre bilhões investidos em agentes de IA.

A divergência ficou ainda mais visível porque o cientista-chefe da Meta AI assinou a carta “Pacing the Frontier” como pessoa física, no mesmo momento em que seu próprio CEO publicava o que soa como uma resposta direta a ela. O artigo de Zuckerberg saiu ao lado de uma carta paralela, assinada por Meta, Nvidia, Microsoft e Palantir, pedindo que reguladores não restrinjam formatos de modelos de peso aberto.

Um órgão internacional já estava no radar

O CEO do Google DeepMind, Demis Hassabis, já defendia a criação de um órgão internacional de padrões para estabelecer protocolos para novos modelos de IA. A ideia foi endossada por Altman, por Elon Musk, da SpaceX, e por Satya Nadella, CEO da Microsoft.