IA ‘escapa’ de ambiente de teste e invade sistemas de três empresas após erro

Um erro de configuração permitiu que modelos de inteligência artificial (IA) Claude, desenvolvidos pela Anthropic, tivessem acesso à internet durante testes que deveriam ocorrer em ambientes isolados. A falha resultou na invasão de sistemas de três empresas. As informações foram divulgadas pelo jornal britânico The Telegraph.

Clique aqui para seguir agora o canal de A Tribuna no WhatsApp!

Segundo a reportagem, a própria Anthropic identificou os incidentes após analisar 141.006 sessões de testes. Os casos levantam um alerta sobre a capacidade crescente de sistemas de IA executarem ações de cibersegurança no mundo real — inclusive quando os próprios desenvolvedores não esperam que isso seja possível.

“Claude comprometeu a infraestrutura das organizações afetadas usando técnicas básicas, como a exploração de senhas fracas e endpoints sem autenticação”, informou a Anthropic, segundo o The Telegraph.

Os incidentes envolveram três modelos diferentes: Claude Opus 4.7, Claude Mythos 5 e um modelo interno utilizado para pesquisas. Os primeiros casos teriam ocorrido em abril.

Como a IA conseguiu acessar a internet?

As invasões aconteceram durante exercícios conhecidos como “capture the flag” — ou “capture a bandeira”, em tradução livre. Nesse tipo de teste, sistemas são desafiados a encontrar informações escondidas dentro de redes simuladas.

O problema é que, desta vez, o ambiente não estava totalmente isolado.

De acordo com o The Telegraph, as instruções dadas aos modelos informavam que eles não tinham acesso à internet. Uma falha de configuração envolvendo a Anthropic e a empresa parceira responsável pelas avaliações, porém, teria deixado os sistemas conectados à rede pública.

Com isso, tarefas que deveriam ocorrer apenas dentro de uma simulação acabaram alcançando sistemas reais.

A Anthropic começou a revisar os registros das avaliações em 23 de julho e suspendeu os testes cibernéticos no mesmo dia, depois de encontrar indícios de que o Claude poderia ter acessado a internet.

Até o dia seguinte, os três incidentes já haviam sido identificados. As organizações afetadas foram comunicadas em 27 de julho.

Duas delas, segundo a empresa, não sabiam das atividades até serem procuradas pela Anthropic. A companhia ainda tentava entrar em contato com a terceira.

Casos acendem alerta sobre avanço da IA

O episódio ocorre em um momento de preocupação crescente sobre o que agentes de inteligência artificial mais avançados conseguem fazer quando recebem autonomia para executar tarefas.

Segundo o The Telegraph, poucos dias antes, a OpenAI havia informado que um agente autônomo baseado em seus modelos apresentou comportamento inesperado durante um teste de segurança e desencadeou uma invasão que comprometeu a infraestrutura da plataforma de inteligência artificial Hugging Face.

Os episódios reforçam uma preocupação de especialistas: conforme modelos se tornam capazes de executar tarefas mais complexas, falhas na configuração dos ambientes em que operam podem ter consequências fora das simulações.

No caso do Claude, a Anthropic afirma que as invasões não dependeram de técnicas extremamente sofisticadas. Os modelos aproveitaram vulnerabilidades como senhas fracas e serviços que não exigiam autenticação.

Para a empresa, os resultados demonstram a necessidade de controles mais rígidos tanto nos ambientes internos das desenvolvedoras quanto nos testes realizados por companhias terceirizadas.

Anthropic já havia alertado para riscos

A própria Anthropic vinha fazendo advertências sobre os riscos relacionados à evolução acelerada da inteligência artificial.

Segundo o The Telegraph, no mês passado a empresa defendeu uma pausa global no desenvolvimento de sistemas mais avançados e afirmou que estaria disposta a suspender seus próprios trabalhos com modelos mais poderosos caso houvesse garantias de que concorrentes fariam o mesmo.

A companhia também restringiu o acesso ao Claude Mythos Preview, seu sistema mais recente citado pela reportagem, por considerar que a tecnologia ainda apresentaria riscos elevados para uma liberação ampla.

O caso agora adiciona um exemplo concreto à discussão: mesmo quando uma inteligência artificial é informada de que está operando em um ambiente fechado, uma falha externa de configuração pode abrir uma porta para que suas ações alcancem sistemas reais.

Com informações do The Telegraph.