Tribuna Livre: A burrice artificial do ChatGPT

[[legacy_image_258310]] Quando eu cursava a matéria inteligência artificial (IA) durante o mestrado no Inpe, criei um neurônio artificial interessante que motivou o professor Lorena a me convidar para a área. Deveria ter aceitado! Anos depois, tornei-me professor de IA. Testemunhei o fracasso dos sistemas especialistas e vejo com desconfianças essas promessas deslumbradas.

Clique, assine A Tribuna por apenas R\$ 1,90 e ganhe centenas de benefícios!

No dia seguinte do manifesto das celebridades tecnológicas contra o desenvolvimento sem controle de IA, resolvi testar o ChatGPT usando os conhecimentos que adquiri nas áreas de tecnologia e religião. Reproduzo as mais interessantes.

Perguntei sobre a origem do universo, a IA deu uma resposta superficial, mas suficiente sobre o Big Bang. Então, perguntei quem era o autor da teoria, respondeu que fora desenvolvida por George Gamow, Fred Hoyle e Edwin Hubble, e apontou Lemaitre como autor... Um erro que uma criança faria seria apontar Hoyle como coautor. Ele era autor da outra teoria e deu o nome de Big Bang (grande explosão) zombando da teoria.

Primeira conclusão: estudante ou profissional que utiliza a IA está fazendo trabalhos de baixa qualidade, escrito em estilo Lero-Lero (velho conhecido) e não enganará professores de verdade. Então, perguntei sobre a congregação mariana. A resposta novamente parece acertada, mas disse que foi fundada por um grupo de estudantes jesuítas liderados por São João Berchmans. Repliquei que Berchmans nascera em 1599, não tinha como. A IA desculpou-se e afirmou que fora Santo Inácio de Loyola, outro erro. Cito Leunis (o fundador), então, ela incorpora essa informação e diz que além de Leunis, podemos mencionar os nomes de Jean du Drac e Jean de Bonnelles. Digo que Drac morreu em 1473. Ela se corrige, mas mantém o outro Jean. E eu desisto.

Segunda conclusão: a IA sofre do complexo de superioridade ilusória (ou efeito Dunning-Kruger), faz afirmações erradas acreditando que está certa, uma situação terrível, tanto para humanos (por exemplo, médicos que negam as vacinas) quanto para robôs. E a insistência em fornecer informações erradas a torna mentirosa, uma falha inescusável para uma IA. Realmente preocupante desenvolver uma inteligência assim.

Pedi que fizesse alguns programas simples de computador em linguagem pascal, saiu-se bem. Então, pedi “um programa em pascal que leia nomes de um arquivo, até cem no máximo, e que embaralhe esses nomes, depois escreva em outro arquivo”. O resultado me surpreendeu, o ChatGPT usou um método que eu desconhecia e mais eficiente que eu faria (eu geraria dois índices aleatórios e trocaria os nomes indicados), mas ao criar um “procedure”, ela gerou um erro difícil para um leigo achar.

Ou seja, terceira conclusão: só traz ganhos para quem já sabe fazer, porque haverá erros. Quando eu for criar um programa de computador, certamente usarei essa IA, faz em um segundo o que eu levaria mais de meia hora.

Não creio que devamos nos comportar como inquisidores contra Copérnico e evangélicos criacionistas contra Darwin, apenas jamais realimentar a IA com pensamentos de pessoas medíocres e de pessoas más. Ética a IA, ou seja, com controle.