Inteligência Artificial, fake news e eleições: a temporada começou

Longe de mim ser um dos cavaleiros do apocalipse. Mas, se nas eleições passadas (e retrasadas), um texto mal redigido, um print de tela com baixa resolução, um link de matéria de 10 anos atrás e totalmente fora de contexto, eram os carros-chefes em grupos de programas de mensagens espalhando desinformação, imaginem hoje, caro leitor, em um cenário que temos a chamada inteligência artificial (IA) generativa em um estágio moderadamente avançado?

Nos últimos anos, testemunhamos avanços notáveis na IA desencadeando uma revolução em diversos setores. Contudo, à medida que essa tecnologia se torna mais sofisticada, também surgem preocupações significativas, especialmente quando do papel que elas desempenham em um contexto de eleições.

Trouxemos aqui em colunas anteriores que, recentemente, milhares de eleitores nos Estados Unidos receberam em janeiro uma ligação automática, supostamente do presidente Joe Biden. A voz do outro lado pareci, ao menos. Mas a mensagem de que os democratas não deveriam votar nas próximas eleições primárias não fazia sentido. “Seu voto faz diferença em novembro, não nesta terça”, dizia a voz. Rapidamente descobriu-se que a voz não era de Biden. Foi o produto da inteligência artificial.

Falsificar uma chamada automática não é novidade. Mas criar uma farsa persuasiva ficou mais fácil, rápido e barato graças às ferramentas generativas de IA, que podem criar imagens, vídeos e áudios realistas retratando coisas que nunca aconteceram. À medida que deepfakes gerados por esses instrumentos estão a ser usados ??para espalhar informações falsas em eleições em todo o mundo, os decisores políticos, as empresas de tecnologia e os governos estão tentando correr atrás para evitar um cenário mais catastrófico. Porque ruim, no mínimo, vai ser.

Dentre outras possiblidades, os áudios gerados por IA podem ser utilizados para criar discursos falsos, declarações controversas e até mesmo imitar vozes de candidatos e candidatas, gerando confusão e comprometendo a confiança do eleitorado. Em um cenário onde a confiança no processo democrático é crucial, tais práticas minam os fundamentos da democracia. Isso pode ser potencializado, sobretudo, em retas finais das eleições, pois haverá quando há pouco (ou nenhum) tempo para os jornalistas ou as campanhas verificarem os fatos. E até mesmo caso verifiquem, entra neste ponto a etapa de desconstrução, o que também demanda tempo.

E foi exatamente isso que aconteceu recentemente nas últimas eleições da Eslováquia, poucos dias antes de os eleitores irem às urnas. Um áudio falso, que parecia mostrar um candidato discutindo fraude eleitoral e aumento do custo da cerveja, começou a se espalhar online. O partido dele acabou perdendo para um liderado pela oposição.

O problema se agrava mais quando descemos a hierarquia do sistema de governança. Uma deepfake de Lula ou Bolsonaro pode ser facilmente desmascarada, já que são figuras proeminentes. Mas e uma deepfake de um candidato a vereador? Ou a prefeito de uma cidade média ou pequena?

Uma possibilidade existente para enfrentar essas ameaças é a implementação de estruturas regulatórias adequadas torna-se imperativa. É necessário um esforço coordenado entre governos, organizações internacionais e empresas de tecnologia para estabelecer padrões e medidas preventivas que protejam a integridade dos processos eleitorais.

Aliás, elas também já estão participando. Meta, YouTube e TikTok começaram a exigir que as pessoas divulguem quando publicam conteúdo de IA. A Meta lançou uma nota recente em que disse que está trabalhando com OpenAI, Microsoft, Adobe e outras empresas para desenvolver padrões industriais para que imagens geradas por IA tenham automaticamente rótulos em plataformas.

A regulação da IA generativa não significa uma restrição à inovação, mas sim a criação de diretrizes que garantam o uso ético e responsável dessa tecnologia. Mecanismos de verificação de autenticidade de conteúdo, transparência nos algoritmos e penalidades severas para aqueles que buscam manipular eleições são elementos fundamentais a serem considerados.

O Tribunal Superior Eleitoral (TSE) já está em vias de publicar uma nova regulamentação sobre propaganda eleitoral. A resolução deve alterar a normativa existente sobre publicidade, horário gratuito e condutas ilícitas em campanha, incorporando disposições específicas sobre o uso ético e responsável de tecnologias de IA.

Mas cá entre a gente: canetada não resolve. Ajuda, mas não resolve. Os eleitores, as campanhas, os legisladores e as plataformas tecnológicas têm de se adaptar, criando não apenas leis, mas também normas sociais em torno do uso da IA. Basicamente, precisamos chegar a um lugar onde coisas como deepfakes sejam vistas quase como spam ou aquelas chamadas de telemarketing: são irritantes, acontecem, mas não interferem no nosso dia ou em como pensamos. Mas o ponto é: nessas eleições teremos isso?