Quando um drone decide quem vive

(Imagem gerada por IA)

Você já parou para pensar como seria se um carro autônomo de aplicativo decidisse, do nada, pegar um atalho perigoso por achar que sabe o que é melhor para você? Isso seria bem assustador aos nossos olhos. O assunto que vem dando o que falar em todo o planeta envolve uma tecnologia parecida, operando em um cenário infinitamente mais grave. Estou falando dos drones autônomos, aquelas pequenas aeronaves que conseguem voar, mapear caminhos e cumprir missões sem que ninguém precise ficar com o dedo fixo no controle segundo a segundo.

Clique aqui para seguir agora o canal de A Tribuna no WhatsApp!

Acontece que essa tecnologia ultrapassou uma barreira muito delicada. Autoridades da Ucrânia confirmaram o registro de três mortes de civis provocadas por um drone russo que escolheu o alvo final inteiramente sozinho, sem nenhuma interferência humana. Se os relatórios estiverem corretos, estamos diante do primeiro caso documentado da história em que uma arma guiada por IA tira a vida de civis em um conflito.

Para entender como isso é possível, vale olhar por dentro do cérebro eletrônico desses aparelhos. Em locais onde o sinal de GPS falha, os engenheiros usam uma técnica chamada Slam, sigla em inglês para mapeamento e localização simultâneos, um GPS interno, por assim dizer. E a inteligência artificial é aplicada de diferentes formas nesse contexto.

As redes neurais (sistemas inspirados no cérebro humano) fazem com que esse drone não apenas capte imagens, mas entenda o que está vendo. Ele identifica cabos de alta tensão finos, torres, árvores ou pessoas, diferenciando cada objeto para desviar deles e desenhar um mapa 3D do local em tempo real.

Conforme o drone voa, usa sensores como câmeras comuns, câmeras de profundidade ou laser (chamado de Lidar) que ficam tirando fotos e medindo distâncias a cada centésimo de segundo.

Esse equipamento com IA embarcada passa por um treinamento, para aprender o que precisa ser feito, para navegar em corredores apertados, florestas densas ou perseguir alvos em movimento, o drone “joga videogame” em um simulador milhões de vezes e a hipótese dos ucranianos é de que o havia sido “ensinado” a reconhecer os tanques de postos de combustível, para causar ainda mais destruição.

Diante desse cenário alarmante, a Organização das Nações Unidas (ONU) e o Comitê Internacional da Cruz Vermelha vieram a público condenar o uso de armas autônomas que decidem quem atacar sem a supervisão direta de uma pessoa. A ONU classificou o momento como a aproximação perigosa de uma linha vermelha moral.

Afinal, se a tecnologia decide quem vive e quem morre, quem assume a culpa quando o erro acontece?