EUA e China propõem proteções de IA semelhante ao controle nuclear
Propostas de especialistas para segurança de IA autônoma
Pesquisadores de segurança dos Estados Unidos e da China apresentaram recomendações inovadoras sobre segurança IA autônoma, sugerindo que os dois países implementem medidas de proteção similares àquelas já estabelecidas no controle de armas nucleares. As propostas surgem em um contexto de crescentes preocupações com sistemas de inteligência artificial cada vez mais sofisticados e independentes, capazes de interferir em operações militares de grande escala.
Conforme análise dos especialistas que participam do diálogo diplomático entre Washington e Pequim, um sistema de inteligência artificial que comprometa infraestruturas nucleares ou execute operações militares digitais poderia deixar ambos os governos com apenas minutos para determinar se o outro país foi responsável por algum ataque. Essa realidade torna imperativa a criação de protocolos de segurança claros e bem estabelecidos.
Recomendações principais dos especialistas
As recomendações publicadas na semana anterior às negociações governamentais incluem três pilares fundamentais. Primeiro, a imposição de limites rígidos para qualquer sistema de inteligência artificial que interaja com infraestruturas nucleares. Segundo, a garantia de controle humano inteligência artificial absoluto em ataques digitais de grande impacto. Terceiro, o estabelecimento de uma linha direta exclusiva para incidentes envolvendo IA autônoma.
Melanie Sisson, pesquisadora sênior da Brookings Institution, e Tianjiao Jiang, professor associado da Universidade de Fudan, coordenam esse diálogo entre os dois países desde 2019, em parceria com a Brookings e o Centro de Segurança e Estratégia Internacional da Universidade de Tsinghua. Suas propostas refletem reconhecimento mútuo de que a rivalidade tecnológica transcende a competição por chips e modelos avançados.
IA e sistemas nucleares: uma questão estratégica
A rivalidade entre Washington e Pequim em IA sistemas nucleares abrange temas historicamente ligados ao controle de armas, como diferenciação entre acidentes e ataques reais, limitação de decisões militares automatizadas e estabelecimento de canais de comunicação confiáveis entre potências nucleares quando a tecnologia apresenta comportamentos inesperados.
Chen Yixin, ministro da Segurança do Estado da China, declarou oficialmente que a inteligência artificial