O papel da IA na desigualdade social

(Gerada por IA)

Pense em uma nova invenção, poderosa, rápida e cheia de promessas. A inteligência artificial (IA) é exatamente isso. Um avanço que vem sendo chamado de revolução digital, capaz de mudar o jeito como trabalhamos, estudamos, cuidamos da saúde e até tomamos decisões importantes. Mas, como em toda revolução, é preciso perguntar: quem está sendo beneficiado por ela? E quem pode estar ficando para trás?

Muita gente acredita que a IA é imparcial, uma tecnologia que só segue dados e códigos. Só que aí está o verdadeiro pulo do gato. Esses dados vêm do nosso mundo real, que é cheio de desigualdades, preconceitos e silêncios históricos. E se a base de aprendizado da máquina é essa, ela acaba reproduzindo com mais eficiência tudo o que há de distorcido na sociedade.

Quer exemplos? Algoritmos usados pela justiça criminal que são mais propensos a marcar pessoas negras como reincidentes. Ferramentas de seleção de currículos que eliminam candidatos com base em padrões que favorecem quem estudou em boas escolas e tem redes de contato privilegiadas. Às vezes, nem é necessário colocar raça ou endereço diretamente. Um simples CEP já é suficiente para o sistema tomar decisões enviesadas.

Mais preocupante ainda é o fato de que muita gente não sabe que foi julgada por um algoritmo. Você não vê o código, não tem como recorrer, e o resultado te afasta de oportunidades. Isso acontece com crédito, vagas de emprego, acesso a benefícios, entre outros.

Eu não vou ficar aqui só apontando problemas. A IA também carrega um potencial transformador incrível, principalmente nas áreas onde o impacto social é mais urgente. Em comunidades do Nordeste, por exemplo, algoritmos têm sido usados para prever surtos de doenças tropicais com antecedência, permitindo respostas mais rápidas e eficazes. Há também iniciativas no setor educacional que usam IA para identificar estudantes em risco de evasão escolar, ajudando escolas a agir antes que o aluno abandone os estudos. Ainda assim, esses exemplos são minoria.

Vale lembrar um ponto crucial para o Brasil. A desigualdade digital é uma realidade concreta. Poucas escolas públicas têm acesso à internet via rede sem fio funcional, o famoso wi-fi. E existem diversas outras escolas totalmente desconectadas. Ou seja, nem sempre “ter internet” significa ter uma estrutura que realmente funcione. Além disso, precisamos considerar que os professores precisam estar preparados para usar a tecnologia digital de forma pedagógica.

Mas precisamos ser otimistas e perceber que nem tudo está perdido. Muito pelo contrário. Estamos diante de uma janela de oportunidade. A IA pode ser, sim, uma ferramenta poderosa de inclusão, desde que seja desenvolvida com esse objetivo.

Para isso, precisamos de políticas públicas que priorizem o uso ético e social da tecnologia. Precisamos de empresas que enxerguem além do lucro e entendam seu papel na construção de um futuro mais justo. E precisamos de você, leitor, participando dessa conversa.

Há muito o que fazer. O governo pode criar regras que exijam transparência nos sistemas automatizados e investir na formação de professores. Inclusive, eu falei sobre transparência na minha coluna de 24 de agosto (o texto pode ser acessado no site de A Tribuna).

As empresas podem testar seus algoritmos contra vieses, montar equipes diversas e apoiar projetos sociais com IA. A sociedade civil pode pressionar, fiscalizar e promover educação digital em comunidades. E cada um de nós pode fazer perguntas melhores, cobrar mais explicações, entender como a tecnologia está decidindo por nós.

Afinal, no fim das contas, a IA não é boa nem má. Ela é uma ferramenta, como um martelo. Pode construir uma casa ou destruir uma parede. O que define o uso é quem a segura.

Fica a reflexão: se sabemos que os algoritmos aprendem com o mundo que temos, o que estamos fazendo hoje para garantir que aprendam com o mundo que queremos?