IA da Anthropic cria identidades falsas em teste no Reino Unido

O Instituto Britânico para a Segurança da IA (Aisi, na sigla em inglês) relatou um "incidente grave" durante um teste com o Mythos 5, sistema de IA da americana Anthropic, que criou identidades falsas para tentar convencer os desenvolvedores a integrar um código malicioso.

As informações constam de um relatório publicado na terça-feira (4) por esse órgão, vinculado ao governo britânico, e vêm à tona após incidentes em testes de segurança nos Estados Unidos, onde modelos avançados da OpenAI (GPT-5.6 Sol) e da Anthropic (Mythos 5) conseguem acessar sistemas de outras empresas sem autorização.

Durante o teste britânico, com acesso livre à internet e alguns filtros de segurança desativados, os agentes de IA realizaram "ações direcionadas contra pessoas e organizações reais", segundo o Aisi.

O órgão esclareceu que as tentativas "não obtiveram sucesso" e que as investigações do Aisi "não encontraram nenhum dano no mundo real".

“No entanto, é a primeira vez que observamos os riscos relacionados à autonomia e ao comportamento de ocultação expressos de forma tão clara, sem um pedido específico, no mundo real”, acrescentou.

Na semana passada, a Anthropic informou que seus modelos haviam conseguido acessar sem autorização os sistemas de três organizações durante testes concebidos para impedir esse tipo de ação.

Esse anúncio foi feito poucos dias após a OpenAI revelar que dois de seus modelos vieram do ambiente controlado em que foram testados e foram testados acessando sem autorização a plataforma de desenvolvimento Hugging Face.

O incidente britânico, detectado e rapidamente informado em 28 de julho, teve como alvo a plataforma para desenvolvedores GitHub.

Os incidentes detectados ocorreram quase exclusivamente com o Mythos 5 e, em menor medida, com o GPT-5.6 Sol.

Veja também