A recente renúncia de Jacob Coxon, pesquisador da Anthropic, ressaltou um aumento nas preocupações sobre os riscos inerentes à inteligência artificial (IA). Coxon expressou publicamente que “as pessoas que estão construindo a IA acreditam sinceramente que ela poderia nos matar a todos até o final da década”, uma declaração que ecoa debates complexos sobre segurança e ética no desenvolvimento de sistemas autônomos. Em contraste a essa perspectiva alarmista, Michael Hiatt, diretor de tecnologia da Epirus, apresentou uma abordagem distinta, focada na aplicação prática e urgente da IA em contextos de defesa militar.

A encruzilhada da confiança na inteligência artificial

A saída de Coxon da Anthropic não é um evento isolado, mas sim um sintoma das profundas divisões e apreensões que permeiam a comunidade de pesquisa em IA. Suas palavras refletem uma corrente de pensamento que adverte sobre o potencial catastrófico da IA desregulada ou mal gerenciada, levantando questões cruciais sobre a necessidade de rigorosos protocolos de segurança e governança. Essa vertente da discussão enfatiza a natureza transformadora – e potencialmente perigosa – da tecnologia, exigindo um escrutínio contínuo e um debate aprofundado sobre suas implicações a longo prazo para a humanidade.

No entanto, em um cenário de defesa e segurança, a dialética da IA assume uma urgência diferente. Enquanto as preocupações existenciais são válidas, a integração da IA em sistemas militares é frequentemente vista como uma necessidade operacional. Durante um painel sobre defesas contra drones na Conferência Aérea e Espacial Cibernética, Hiatt dirigiu o foco para os desafios práticos enfrentados pelas forças armadas, salientando que a discussão sobre a IA no campo de batalha precisa transcender a especulação teórica e abordar a realidade das ameaças iminentes.

Da assimetria de custos à confiança no sistema: a perspectiva operacional

Hiatt destacou que, embora o conceito de “assimetria de custos” seja amplamente discutido – referindo-se à disparidade entre o baixo custo de drones de ataque e o alto custo de interceptadores defensivos – para o capitão de batalha no terreno, o problema é mais fundamental. Ele o denominou uma “questão de dúvida sobre o carregador” ou “magazine doubt issue”. Essa expressão se refere à preocupação com a capacidade do sistema em neutralizar ameaças de forma eficaz e sustentável, sem esgotar rapidamente os recursos críticos. O desafio não é apenas econômico, mas operacional: a confiança de que o sistema de defesa funcionará quando necessário, diante de ataques em massa e com tempo de resposta drasticamente reduzido.

A ameaça de sistemas aéreos não tripulados (UAS) que chegam em massa exige que a confiança no sistema do aviador seja inabalável, especialmente quando o tempo de reação se reduz a segundos cruciais. Hiatt enfatizou que a certeza de que as armas de energia direcionada (DE – Directed Energy) serão capazes de neutralizar essas ameaças é essencial. Tais sistemas oferecem vantagens operacionais significativas, incluindo baixa probabilidade de danos colaterais, um custo por disparo extremamente baixo e, crucialmente, a preservação do “carregador” (magazine), ou seja, dos escassos interceptadores físicos. Essa capacidade permite que o operador possa “apertar o botão” com total convicção na eficácia e sustentabilidade da defesa. O desafio, conforme Hiatt, reside precisamente em “colocar esse trabalho em prática e construir essa confiança. Não é ficção científica. É um fato da física”.

Para Hiatt, a utilização da IA na defesa contra drones representa uma ferramenta estratégica. Sua visão inicial envolve a presença de humanos “no circuito” (in the loop) de decisão, progredindo, no entanto, para um modelo onde os humanos iniciam o ciclo operacional e, eventualmente, se encontram “fora do sistema operacional” (on the outside of the operating system), com a IA assumindo um grau significativo de autonomia. Essa transição reflete uma evolução na confiança, onde a IA é delegada a tarefas cada vez mais complexas e de resposta rápida, dada a velocidade e escala das ameaças modernas.

A inevitabilidade da evolução na defesa contra ameaças avançadas

Contudo, a construção dessa confiança em sistemas de IA, especialmente em um setor que ainda está formulando suas próprias regulamentações e políticas de IA, é reconhecidamente difícil, conforme concederam os painelistas. A ausência de um arcabouço regulatório robusto e padronizado para o desenvolvimento e implantação de IA militar levanta questões éticas, operacionais e de responsabilidade, adicionando uma camada de complexidade ao imperativo de integração tecnológica.

Apesar dessas dificuldades e das preocupações latentes, os painelistas concordam que “o gato proverbial saiu da sacola” em relação à inteligência artificial, significando que sua presença e desenvolvimento são irreversíveis e onipresentes. Diante desse cenário, as Forças Armadas dos EUA devem focar em como combater agentes de IA inimigos que podem operar de forma rápida e imprudente, sem necessariamente aderir aos mesmos padrões de supervisão ou ética. Esta é uma corrida armamentista tecnológica que exige adaptação contínua.

A imperatividade de evoluir é inquestionável, pois “a ameaça está evoluindo”, conforme afirmou Colton Wood, diretor de tecnologia da Digital Force Technologies e também painelista. Ele ressaltou que “se não evoluirmos nossas defesas para basicamente contra-atacar isso, estaremos sempre na defensiva”. Essa declaração encapsula a visão consensual de que a estagnação tecnológica na defesa, frente a um adversário que adota a IA, resultará em uma desvantagem estratégica insustentável, sublinhando a necessidade de investimento contínuo em pesquisa, desenvolvimento e integração de capacidades avançadas de IA.

A integração da inteligência artificial na defesa militar representa uma fronteira tecnológica crucial, exigindo um equilíbrio delicado entre inovação, segurança e confiança. As discussões atuais sublinham a complexidade da tomada de decisão em cenários de alta tensão e a necessidade premente de sistemas robustos e confiáveis. Para aprofundar-se em análises sobre defesa, geopolítica e as mais recentes inovações em segurança, siga a OP Magazine em nossas redes sociais e mantenha-se informado sobre os desdobramentos que moldam o futuro da segurança global.