Descrito como a terceira revolução na guerra, após a pólvora e as armas nucleares, os sistemas de armas letais autónomas  (AWS) são armas que podem identificar, selecionar e atacar um alvo sem controlo humano significativo. Muitas armas semi-autónomas atualmente usadas dependem da autonomia em certas partes do seu sistema, mas têm de comunicar com um humano para que este aprove ou tome decisões. Em contraste, um sistema totalmente autónomo poderia ser implantado sem qualquer funcionalidade de comunicação estabelecida e responderia de forma autónoma a uma mudança das condições ambientais, ou outras, decidindo como atingir os seus objetivos pré-programados. Teria um maior alcance e não estaria sujeito a interferências de comunicação. A autonomia já está presente em muitas aplicações militares que não levantam preocupações, tais como descolagens, aterragens e reabastecimento de aeronaves, sistemas anticolisão no solo, eliminação de bombas e sistemas de defesa antimíssil. O debate ético, político e legal em curso tem sido em torno da autonomia no uso da força e da sua decisão autónoma de eliminar uma vida humana.

Um sistema AWS letal pode criar uma mudança de paradigma na forma como travamos a guerra. Esta revolução será uma revolução de software; com os avanços em tecnologias como o reconhecimento facial e visão por computador, navegação autónoma em ambientes congestionados, autonomia cooperativa ou enxameação, estes sistemas podem ser utilizados numa variedade de bens, desde carros de combate, a navios e a pequenos drones comerciais. Permitiriam a instalação de sistemas altamente letais no campo de batalha que podem não ser controlados ou recuperados uma vez lançados. Ao contrário de qualquer arma vista até agora, poderiam permitir a escolha seletiva de um determinado grupo com base em parâmetros como idade, sexo, etnia ou inclinação política (se tal informação estivesse disponível). Uma vez que o AWS letal diminuiria consideravelmente o custo com o pessoal e poderia ser fácil de obter a baixo custo (como no caso dos pequenos drones), pequenos grupos de pessoas poderiam potencialmente infligir danos desproporcionados, tornando o AWS letal uma nova classe de arma de destruição em massa.

Alguns acreditam que os sistemas letais AWS tem a oportunidade de tornar a guerra mais humana e reduzir as baixas civis, por serem mais precisas e por retirarem mais soldados do campo de batalha. Outros preocupam-se com a escalada acidental e a instabilidade global e com os riscos de ver estas armas cairem nas mãos de atores não estatais. Mais de 4500 investigadores de IA e Robótica, 250 organizações, 30 nações e o Secretário-Geral da ONU apelaram a um tratado juridicamente vinculativo que proíba as armas AWS letais. Têm contado com a resistência de países que desenvolvem AWS letais, temendo a perda de superioridade estratégica.

Há, assim, uma importante discussão em curso sobre como balizar o desenvolvimento desta tecnologia e onde traçar a linha do uso aceitável da autonomia letal. Isto abrirá um precedente para futuras discussões em torno da governação da IA.