Inteligência artificial e o desafio de educar a IA para o bem

(Adobe Stock)

Em tempos marcados por uma transformação tecnológica cada vez mais acelerada e que tem a inteligência artificial (IA) como seu maior símbolo, o historiador israelense Yuval Noah Harari fez um alerta no mês passado, em São Paulo. Segundo ele, o que diferencia esse momento de outros é que, agora, não temos só humanos moldando o mundo, mas, pela primeira vez, inteligências não humanas fazendo a mesma coisa.

Na Capital paulista, Harari participou da prévia do SP2B - São Paulo Beyond Business, megaevento de negócios, criatividade e inovação que será realizado em terras paulistanas em 2026. Ele é o autor de Sapiens - Uma Breve História da Humanidade e do mais recente Nexus: Uma Breve História das Redes de Informação, da Idade da Pedra à Inteligência Artificial, entre outros livros que se tornaram best-sellers.

Na palestra, o israelense se atentou a três perguntas: “o que é IA?”, “quais são seus perigos?” e "como podemos garantir que ela ajude a humanidade a prosperar, e não a nos destruir?”. Ele lembrou que há mais desconfiança do que nunca entre os humanos e criticou governos que tendem a criar "fortalezas", com tendências totalitárias e imperialistas, citando Donald Trump, Xi Jinping, Vladimir Putin e Benjamin Netanyahu. “Algumas mentes pensam que podem moldar o mundo para todos os outros”.

Harari afirmou que o termo IA tem sido aplicado para muitas coisas, mas é preciso saber diferenciar. "A IA não é automação. É um agente independente, capaz de aprender e evoluir por conta própria, de tomar decisões e inventar novas ideias sozinha”, explicou o historiador. Por conta disso, ele diz que uma palavra mais adequada para essa tecnologia seria “inteligência alienígena”, no sentido de que é não humana, “opera em linhas inorgânicas”.

Essa inteligência não humana pode inventar novas estratégias militares, aparelhos financeiros, novas religiões e até ideologias. Diante disso, Harari questiona: o que acontecerá quando os líderes políticos não conseguirem mais entender e controlar o sistema financeiro? Além disso, o que acontecerá quando nenhum humano conseguir entender o que está acontecendo no mundo?

“O problema da IA é ser imprevisível e não confiável", disse o historiador, que vê as grandes empresas continuarem a desenvolvê-la sem nenhum tipo de controle, sob a justificativa de que não podem confiar na concorrência. "Os humanos que acham que não podem confiar em outros humanos, mas aceitam confiar nessa inteligência alienígena podem estar comentando um grande erro”.

Ponto de atenção Harari pontua que as IAs mais simples já sabem mentir e manipular. Não sabemos o que acontecerá quando milhões delas interagirem com humanos, e menos ainda qual será o resultado da interação entre elas.

“O maior desafio de líderes de negócios e inovadores não é como criar tecnologias mais poderosas e inteligentes, e sim como desenvolver a sabedoria necessária para usar todo esse poder e inteligência para o bem”, disse. A solução para isso passa por criar mais confiança entre os humanos antes de desenvolver tais tecnologias.

“Infelizmente, quando precisamos da confiança entre os humanos mais do que nunca, muitos dos nossos líderes poderosos estão ocupados arruinando essa confiança. Se a humanidade estiver dividida, a IA vai fugir do nosso controle e vai nos escravizar ou até nos aniquilar".

Por outro lado, ele diz, se construirmos essa confiança, podemos usar a IA para pesquisas científicas e avanços na Medicina. A IA é como uma criança, argumenta Harari, ela vai aprender com base nos nossos comportamentos. Portanto, cabe a nós educá-la de modo a servir ao bem.