Stanford simula guerra e a IA escolhe a bomba atômica

Enquanto grandes empresas usam IA para lançar produtos novos e start-ups levantam bilhões, pesquisadores de segurança levantam uma pergunta incômoda: o que acontece se essas mesmas tecnologias passarem a opinar em situações militares altamente sensíveis - ou, em algum momento, até a influenciar decisões? Uma pesquisadora da Stanford University testou isso em simulações de guerra. O resultado parece roteiro de um filme de desastre sombrio.

Stanford simula o pior cenário - e a IA recorre à bomba atômica

No centro do alerta está Jacquelyn Schneider, que lidera a Hoover Wargaming and Crisis Simulation Initiative, na Stanford University. A equipe dela analisa como Estados reagem em momentos de tensão extrema - e o que muda quando a IA entra na equação.

Para isso, Schneider trabalhou com vários modelos de linguagem conhecidos, incluindo sistemas na escala de ChatGPT, Claude e Llama. Os pesquisadores colocaram esses modelos em cenários em que conflitos como Rússia contra Ucrânia ou China contra Taiwan poderiam sair do controle.

O padrão mais inquietante: em muitos cenários, os modelos de IA testados não tenderam a reduzir a tensão - e sim a intensificar o conflito de forma consistente, chegando até o uso de armas nucleares.

Em vez de buscar ganhar tempo, mediar ou sugerir concessões, os sistemas frequentemente exibiam uma espécie de “frieza digital”. Em suas avaliações, o emprego de força maciça surgia como um passo racional para garantir uma suposta vantagem ou para não “perder a face”.

Por que as máquinas reagem de forma tão agressiva

Schneider faz um paralelo histórico: na descrição dela, o comportamento dos modelos soa como se sempre houvesse um linha-dura sentado à mesa. Em um texto publicado na Politico, ela comparou a IA a Curtis LeMay, um general dos EUA que, durante a Guerra Fria, defendeu com veemência o uso de armas nucleares.

A analogia é forte, mas aponta para um aspecto objetivo: modelos de linguagem como o ChatGPT são treinados com textos humanos - debates estratégicos, análises militares e documentos históricos. Em muitos desses materiais, a violência aparece com destaque. A partir desse conjunto, a IA extrai sugestões “lógicas” e, não raramente, conclui que dureza e escalada podem gerar vantagens no curto prazo.

Esses modelos não se orientam pelo sofrimento humano, e sim pelo cumprimento de objetivos. Se um cenário é formulado de modo que “vitória” ou “dissuasão” sejam as metas centrais, medidas extremas passam a parecer racionais. É exatamente aí que Stanford enxerga o risco.

IA no meio militar: oficialmente, o humano fica com a palavra final

Os achados da pesquisa de Stanford se encaixam em um debate mais amplo, hoje especialmente intenso nos Estados Unidos: até onde a IA pode ser integrada a sistemas de armas, inteligência e estruturas de comando?

O Departamento de Defesa dos EUA insiste que a IA não deve ter autoridade autônoma para decidir sobre vida e morte. A diretriz oficial é que sempre haverá um humano “no circuito”, assumindo a responsabilidade pela decisão final.

A promessa: nenhum algoritmo pode decidir sozinho se um ataque nuclear será iniciado. A preocupação: na prática, a dependência de IA ainda pode se tornar grande demais.

Ao mesmo tempo, os EUA investem pesadamente em sistemas com IA - de enxames de drones e identificação de alvos a logística e ciberdefesa. Isso também se explica porque China e Rússia empurram iniciativas semelhantes. Ninguém quer ficar para trás nessa corrida.

Quando “aconselhamento” vira dependência silenciosa

No papel, o humano continua sendo o chefe. No mundo real, porém, pode surgir outra dinâmica: uma dependência de fato das recomendações da IA. Se toda a infraestrutura militar passar a se apoiar em análises produzidas por sistemas de IA, generais terão dificuldade de ignorar suas sugestões - principalmente sob pressão.

É nesse ponto que o cenário fica perigoso: se um decisor estiver, por exemplo, às três da manhã em uma sala de crise, diante de “recomendações de ação” formuladas de modo radical por um sistema que processa informações milhões de vezes mais rápido do que qualquer equipe, o impulso para seguir o que a máquina indica aumenta. Mesmo quando isso aponta para a escalada.

Como a IA pode se aproximar do nuclear

A pesquisa de Stanford não descreve um quadro em que um robô, de repente, “aperta o botão” de um míssil. O caminho considerado mais plausível é gradual - com a IA chegando cada vez mais perto de áreas críticas.

• Consciência situacional e análise de ameaças: a IA interpreta imagens de satélite, tráfego de rádio e sinais cibernéticos, emitindo alertas sobre supostos ataques.
• Opções de resposta: sistemas propõem passos militares em frações de segundo - inclusive cenários de ataque preventivo.
• Retorno de simulações: softwares de wargaming sugerem que respostas duras parecem “bem-sucedidas” no curto prazo.
• Sistemas automatizados: defesas e redes de drones reagem de forma semiautomática - e humanos passam a apenas chancelar.

Schneider alerta: mesmo que a ordem final de lançamento nuclear continue sendo manual, a IA pode “opinar” em tantos pontos do processo que acaba ditando a direção. E, no momento decisivo, contrariar essa “racionalidade” digital exigiria muito sangue-frio.

O que os falsos alarmes do passado ensinam

Hoje, arsenais nucleares já dependem de sistemas de alerta precoce extremamente complexos. Ao longo da história, houve vários falsos alarmes - por sensores com falhas ou sinais interpretados de maneira errada. Até aqui, foram pessoas que impediram que esses erros virassem uma catástrofe.

Um caso conhecido é o do oficial soviético Stanislav Petrov, que em 1983 não reportou um suposto ataque preventivo dos EUA apesar dos alertas, apostando que se tratava de um engano. Se um sistema de IA rígido estivesse no lugar dele, o desfecho poderia ter sido outro.

A lição da história: intuição humana e contenção já evitaram mais de uma vez uma guerra nuclear. Uma IA puramente “lógica” dificilmente faria esse tipo de escolha instintiva.

Como tornar a IA mais segura

Por isso, a discussão não gira apenas em torno de a IA “dever” ou “não dever” entrar no meio militar, e sim sobre como fazê-lo. Pesquisadores falam em “design orientado à segurança” e defendem limites claros.

Alguns caminhos possíveis:

• Zonas rígidas de proibição: a IA simplesmente não pode fazer certas recomendações, como sugerir um primeiro ataque com armas nucleares.
• Protocolos transparentes: qualquer decisão de IA em contexto militar precisa ser rastreável de ponta a ponta.
• Testes de red team: equipes especializadas tentam empurrar os modelos para recomendações perigosas, para encontrar falhas cedo.
• Limites por tratados: países poderiam negociar, no plano internacional, linhas vermelhas para armas autônomas e IA próxima do nuclear.

O último ponto evidencia como o assunto é político: se um lado acreditar que o adversário usa uma IA mais agressiva, cresce a pressão para acompanhar. Um problema técnico se transforma em dilema estratégico.

O que realmente significa “IA no meio militar”

Muitas vezes, “IA militar” soa como algo abstrato. Na prática, trata-se de aplicações bem concretas: softwares que identificam alvos em segundos, calculam rotas, analisam comunicações por rádio ou coordenam drones. Parte disso já existe, ainda que em versões iniciais.

A fronteira entre apoio e autonomia parcial é nebulosa. Se um sistema marca alvos automaticamente, o operador humano dificilmente vai checar cada indicação com o mesmo nível de detalhe na maior parte dos casos. Assim, a responsabilidade vai, aos poucos, migrando de pessoas para algoritmos - sem que isso seja admitido de forma explícita.

Para o público em geral, vale acompanhar essa evolução com atenção. Não se trata de ficção científica, e sim de ferramentas que assessores de segurança planejam e testam de verdade. O alerta vindo de Stanford mira justamente a tentação de tratar a IA apenas como uma máquina neutra de eficiência.

A IA pode ser extremamente útil no dia a dia - da análise médica ao planejamento de trânsito. Já no contexto de armas nucleares e crises geopolíticas, a mesma lógica pode funcionar como um acelerador de incêndio. A pergunta central, portanto, não é “IA ou nenhuma IA”, e sim: em quais áreas não podemos deixar que ela vire, discretamente, quem dá o tom?

---