EUA e China propõem medidas de segurança para IA como setor nuclear

Propostas de especialistas para segurança da inteligência artificial

Pesquisadores de segurança dos Estados Unidos e China apresentaram recomendações para implementar medidas de segurança para IA semelhantes às do setor nuclear. O objetivo é preparar ambas as potências para cenários onde sistemas de inteligência artificial possam interferir em operações militares digitais ou redes de comando nuclear, deixando Washington ou Pequim com apenas minutos para determinar a responsabilidade de possíveis ataques.

As propostas surgiram de um diálogo contínuo entre especialistas dos dois países que orientam discussões oficiais. Os pesquisadores alertam sobre a crescente preocupação com sistemas cada vez mais poderosos e autônomos, que exigem novas estruturas de governança e controle.

Principais recomendações para controle de inteligência artificial

As propostas incluem estabelecer limites rígidos para sistemas nucleares, exigir controle humano sobre operações digitais de grande impacto e criar uma linha direta exclusiva para incidentes envolvendo IA autônoma. Essas medidas buscam evitar que acidentes sejam confundidos com ataques deliberados e limitar decisões militares tomadas por máquinas.

Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, participaram do diálogo entre instituições de ambos os países, promovido desde 2019 pela Brookings e pelo Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. As recomendações foram publicadas antes de negociações governamentais e de uma reunião programada para 24 de setembro, em Washington, entre o presidente Donald Trump e o presidente chinês Xi Jinping.

A transformação da guerra pela inteligência artificial

O ministro da Segurança do Estado da China, Chen Yixin, reconheceu que a inteligência artificial "transforma fundamentalmente a forma da luta militar". A tecnologia deixou de ter um papel secundário no campo de batalha e agora ocupa posição central nas estratégias militares, conforme demonstram ataques dirigidos por IA nas operações dos EUA e de Israel contra o Irã.

A rivalidade entre EUA e China em segurança para IA transcende a competição por chips e modelos avançados. Ela abrange temas historicamente associados ao controle de armas, como evitar confusão entre acidentes e ataques, limitar decisões autônomas militares e estabelecer protocolos de comunicação entre rivais nucleares quando a tecnologia funciona de forma inesperada.

Controle humano como linha vermelha

Sisson argumenta que apenas seres humanos devem ter autoridade para iniciar ataques digitais com uso de inteligência artificial contra sistemas de comando, controle e comunicação nucleares ou infraestruturas estratégicas. Um sistema autônomo poderia falhar, extrapolar suas instruções ou ser comprometido, enquanto o país alvo teria dificuldade para determinar se a ação foi acidental ou ordenada pelo rival.

Jiang propôs limites explícitos para impedir que a IA decida independentemente sobre o uso de armas nucleares ou ataque autonomamente sistemas de comando nuclear. Ele também defendeu proteções para infraestruturas críticas, como energia, finanças e saúde, além de uma definição comum de "controle humano significativo" para evitar que os dois países justifiquem diferentes níveis de autonomia das máquinas com a mesma linguagem.

Essa proposta baseia-se em um princípio endossado pelo então presidente Joe Biden e por Xi em novembro de 2024: manter o controle humano sobre decisões de uso de armas nucleares. Lora Saalman, pesquisadora do Instituto Internacional de Pesquisa para a Paz de Estocolmo, identificou esse como um importante ponto de convergência entre as nações, apesar de evidências de que ambas vêm integrando inteligência artificial cada vez mais profundamente a sistemas nucleares e ligados à energia nuclear.

A necessidade de comunicação rápida entre potências

Jiang também propôs uma linha direta militar exclusiva entre EUA e China para incidentes envolvendo inteligência artificial. As trocas digitais automatizadas podem se intensificar rapidamente, reduzindo o tempo disponível para intervenção humana. A IA defensiva de um país poderia responder automaticamente a atividades suspeitas, enquanto o outro lado poderia interpretar essa reação como um ataque e retaliar antes de compreender o que realmente aconteceu.

Uma linha direta permitiria que um governo informasse ao outro se uma operação incomum de inteligência artificial foi acidental, não autorizada ou ainda estava sob investigação, antes que fosse tratada como uma ação estatal deliberada. No entanto, especialistas como Carla Freeman, da Escola de Estudos Internacionais Avançados da Johns Hopkins, questionam a utilidade dessa linha direta, citando a recusa de autoridades chinesas em responder ligações de homólogos norte-americanos durante o "incidente do balão espião" em fevereiro de 2023.

A rígida hierarquia da burocracia chinesa impede que oficiais de baixo escalão tomem iniciativa em interações com homólogos norte-americanos. Segundo Freeman, ninguém no sistema chinês quer se comunicar com os Estados Unidos até que a alta liderança decida sobre uma resposta, processo que pode levar dias ou mais.

Posições de Washington e Pequim

Nenhum dos dois governos endossou publicamente as propostas da Brookings-Tsinghua. Contudo, a China vem incorporando cada vez mais inteligência artificial à sua estrutura de controle de armas. A IA é uma área de atuação formal do Departamento de Controle de Armas do Ministério das Relações Exteriores da China, responsável também por questões nucleares, não proliferação e mísseis.

Shen Jian, embaixador da China para assuntos de desarmamento, afirmou em uma reunião da ONU em Genebra que a inteligência artificial militar pode afetar a estabilidade estratégica, aumentar riscos de erros de cálculo e ampliar o risco de escalada de conflitos. Segundo ele, as armas devem permanecer sob controle humano, enquanto a China argumenta que a segurança da IA não deve servir de pretexto para criar barreiras tecnológicas.

Washington não possui um órgão único equivalente para tratar do controle de armas relacionado à inteligência artificial. A política de segurança nacional é dividida entre o Conselho de Segurança Nacional da Casa Branca, o Departamento de Estado, o Pentágono e outras agências. Ambos os governos seguem cautelosos em relação a medidas que possam desacelerar seu desenvolvimento tecnológico, com Trump alertando que restrições amplas poderiam favorecer a China, enquanto Pequim considera muitos controles tecnológicos norte-americanos como tentativa de preservar a liderança dos EUA.