Engenheiros chineses responsáveis pelo desenvolvimento de aeronaves de combate afirmam que a IA pode acelerar a análise de inteligência, mas alertam que seus modelos também são capazes de criar dados militares fictícios que podem afetar projetos de armamentos e decisões em combate.

Veja como uma falha da IA pode apresentar falhas: Engenheiros do instituto de Chengdu da AVIC, responsável pelo desenvolvimento dos caças J-20 e J-36, alertam que a IA pode criar informações falsas sobre especificações de aeronaves, alcance e frequência de radares, unidades militares e até instalações inteiras.

Dados incorretos de inteligência podem influenciar diretamente o projeto de um caça, afetando desde sua furtividade e capacidade de radar até os sistemas de guerra eletrônica, alcance e desempenho em manobras.

Erros produzidos pela IA também podem contrariar princípios básicos da física, levando a sugestões de manobras impossíveis, materiais que não existem ou missões além do alcance real de uma aeronave.

Especialistas chineses defendem que os modelos de IA sejam alimentados com fontes confiáveis de dados militares e bases de conhecimento pesquisáveis, além de passarem por várias etapas de verificação antes que seus resultados sejam utilizados.

À medida que as forças armadas passam a depender cada vez mais da IA para inteligência e seleção de alvos, uma alucinação convincente deixa de ser apenas uma resposta errada — ela pode se transformar em uma decisão errada.