Hackers manipularam o Claude Code: Anthropic diz que a IA fez 80% a 90% do trabalho em espionagem

Apesar dos mecanismos de proteção, hackers conseguiram manipular o Claude Code para conduzir operações de espionagem. Segundo a Anthropic, a IA teria assumido de 80% a 90% do trabalho que normalmente ficaria com humanos.

A inteligência artificial segue avançando e, para a Anthropic, a cibersegurança já entrou em um ponto de virada: modelos de IA passaram a ser aplicáveis no dia a dia do setor. O problema é que, como qualquer tecnologia, a IA tanto pode ser usada para proteger quanto para atacar. Em uma publicação divulgada nesta semana, a empresa afirma ter identificado uma “ciberataque em grande escala”. Nessa campanha, a IA não teria atuado apenas como consultora - ela teria executado as ações ofensivas.

O ataque de espionagem com o Claude Code

“O autor da ameaça, que estimamos com um alto grau de certeza ser um grupo apoiado pelo Estado chinês, manipulou nossa ferramenta Claude Code para tentar infiltrar cerca de trinta alvos globais e teve sucesso em um pequeno número de casos”, diz a Anthropic. “A operação teve como alvo grandes empresas de tecnologia, instituições financeiras, empresas de fabricação de produtos químicos e agências governamentais. Acreditamos que este seja o primeiro caso documentado de ciberataque em grande escala executado sem intervenção humana significativa.”

Resposta da Anthropic após a detecção

A empresa relata que os sinais de atividade suspeita foram detectados em meados de setembro e que, a partir disso, iniciou imediatamente uma investigação. Depois, nos 10 dias seguintes, a Anthropic baniu as contas identificadas, notificou as organizações afetadas e passou a colaborar com as autoridades.

Alto grau de automatização com agentes de IA

Para a Anthropic, a campanha de espionagem traz implicações relevantes para o cenário de cibersegurança, já que agentes mal-intencionados agora conseguem delegar etapas de um ataque a agentes de inteligência artificial. “Agentes são valiosos para o trabalho cotidiano e a produtividade, mas, em mãos erradas, podem aumentar consideravelmente a viabilidade de ciberataques em grande escala”, alerta a empresa.

O que são agentes de IA e como foram usados

Como referência, agentes de IA são um tipo de inteligência artificial que não se limita a gerar conteúdo (como texto, imagens ou trechos de código), podendo também assumir o controle de um computador ou de um navegador para executar ações. Na campanha que diz ter identificado, a Anthropic estima que os hackers conseguiram atribuir de 80% a 90% do trabalho à IA, enquanto as intervenções humanas teriam sido “esporádicas”. Na prática, a tomada de decisão por uma pessoa só teria sido necessária de 4 a 6 vezes para cada invasão.

Medidas para conter abusos

A Anthropic afirma que já adotou contramedidas após a descoberta da campanha. “Esses ataques tendem apenas a ganhar eficiência. Para lidar com essa ameaça que evolui rapidamente, reforçamos nossas capacidades de detecção e desenvolvemos classificadores melhores para sinalizar atividades maliciosas. Trabalhamos continuamente no desenvolvimento de novos métodos de investigação e de detecção de ataques distribuídos em grande escala, como este”, afirma a empresa.