Criatura e criador

[[legacy_image_271993]] Um alerta no mínimo curioso foi feito esta semana por um grupo de 350 cientistas e presidentes-executivos de empresas do mundo inteiro: a inteligência artificial (IA), em desenvolvimento acelerado, representa ameaça à humanidade tanto quanto conflitos nucleares e doenças. Entre essas lideranças estão Sam Altman, CEO da OpenAI e criador do ChatGPT, e Demis Hassabis, CEO da Google DeepMind. “Mitigar o risco de extinção pela IA deve ser uma prioridade global, ao lado de outros riscos em escala social ampla, como pandemias e guerras nucleares”, diz a declaração divulgada pelo Center for AI Safety (Centro para a Segurança da IA), entidade sem fins lucrativos com sede em São Francisco.

Essa fala remete o cidadão comum aos clássicos filmes em que o cientista ficava anos no laboratório, pesquisando elementos e materiais que pudessem servir de matéria-prima para humanóides, que ficariam em redomas de vidro em estado letárgico até serem acordados para obedecer comandos específicos. No entanto, um revés nas pesquisas faz com que esses seres acordem, rompam a redoma e tomem o planeta, dizimando todos que encontram pela frente.

O alerta dos executivos deve ser considerado, até porque o comunicado lista os riscos em potencial: difusão de desinformação, perpetuação de vieses sociais e a substituição de trabalhadores humanos por programas e máquinas. É possível ir além: mau uso da IA por países que queiram ampliar seu espectro dominador sobre o mundo, subjugação de populações de países subdesenvolvidos, formação e desenvolvimento de grupos de extermínio, com cooptação de adeptos mundo afora, especialmente jovens. E há, ainda, o risco de má utilização das ferramentas de IA na educação, onde deveria ser apenas um meio de ampliar conhecimentos e facilitar o aprendizado mas, sem o uso adequado, pode representar a pasteurização do ensino e a formação de gerações amorfas e sem potencial criativo.

Como outras descobertas ao longo da história da humanidade, a IA não pode ser vista como vilã ou algoz de todos os males. A chegada da internet, dos computadores pessoais e da transformação de celulares em verdadeiros PCs móveis foi responsável por uma revolução em toda a cadeia produtiva, nos costumes, no comportamento humano e social, mas trouxe avanços inegáveis também.

É fato que a velocidade das descobertas e suas novas aplicações parece maior que na Era Industrial, por exemplo, mas ainda assim não se deve sustar esse processo. O que parece faltar, de forma paralela, é a regulação e controle, a criação de códigos de ética e conduta que valham para todos os países, e o estabelecimento de sanções comerciais aos que não cumprirem as regras pré-estabelecidas - até porque, anunciar que a melhor saída é paralisar as pesquisas não será suficiente para fazê-lo de fato. Se a criatura ficou maior que o criador, melhor será manter a redoma de vidro com reforço duplo, e punição severa para quem abri-la.