Como investigar conteúdos gerados por IA no período eleitoral

Desenvolver técnicas e encontrar ferramentas para investigar a autoria de conteúdos produzidos por Inteligência Artificial (IA) ou sites que compartilham desinformação, principalmente durante o período eleitoral, podem ser um desafio para os jornalistas. Em uma aula gravada especialmente para o 19º Congresso da Abraji, Laís Martins, jornalista no The Intercept Brasil, entrevistou o jornalista Nilesh Christopher, que trabalha com tecnologia, negócios, cultura e sociedade. Nilesh compartilhou sua experiência na cobertura jornalística referente ao uso de IA’s na produção de conteúdo nas eleições da Índia (em 2020 e 2024) e deu dicas de como fazer a verificação de conteúdos.

Contextualizando as eleições de 2020 na índia, Nilesh conta como descobriu as deepfakes naquele período em que ainda não existia a IA como é conhecida atualmente, com chatbots como o ChatGPT, por exemplo. “Eu fazia parte de vários grupos do WhatsApp, onde comecei a ver alguns vídeos que, a princípio, não pareciam gerados por IA. Mas, depois de testes consecutivos e conversas com especialistas locais que falam o idioma, pude identificar que eram gerados por IA.”

“A Índia tem um bilhão de habitantes, 22 idiomas oficiais e outros milhares de dialetos. Tem um político específico, do partido BJP, seu nome é Manoj Tiwari. Ele precisa se dirigir a grupos específicos em diferentes idiomas, então o que ele fez para alcançar eleitores em vários idiomas e atingir a população migrante falante de haryanvi? Basicamente, ele clonou sua voz e aparência para poder sancionar seu próprio deepfake e enviar mensagens à população falante de haryanvi e impedi-la de votar na oposição”, explicou. 

O jornalista fala que esse foi um dos primeiros usos de IA por um político para atingir um alcance eleitoral direcionado a grupos e idiomas específicos. “A escala disso foi efetivamente produzida no WhatsApp [...] não conseguimos estimar qual foi o alcance final. Mas, na prática, isso se constituiu em uso persuasivo da IA por um político e foi o primeiro exemplo disso na Índia.”

Ao deparar com essa situação, Nilesh contatou consultores políticos e, através disso, descobriu que havia uma empresa chamada Ideas Factory, responsável por criar o vídeo com a voz e a aparência de Manoj Tiwar. No entanto, não consideravam como uma prática nociva, mas sim como algo inovador.  

“E lembrem-se de que não tínhamos o ChatGPT, não tínhamos ferramentas tão avançadas para geração de imagens ou vídeos naquela época. Eles estavam tentando estabelecer novas formas de alcance e estavam dispostos a contar como criaram o conteúdo”, contextualiza.

Desafios na testagem de conteúdos gerados por IA

De acordo com Nilesh, sua segunda matéria para a revista Wired começou a ser investigada em 2023, quando já havia acontecido o ‘boom’ de IAs como o ChatGPT, Lemon Labs, entre outras ferramentas. Acerca desse tópico, o jornalista fala sobre o político Narendra Modi, que repercutiu bastante na Índia este ano ao utilizar IA para a produção de conteúdo eleitoral. “As pessoas começaram a usá-las ironicamente, para clonar as vozes. Então, os consultores tiveram a seguinte ideia: se eu posso fazer o Modi falar em um idioma que ele não sabe, então eu poderia usar isso para alcançar os eleitores nessa língua e torná-lo mais popular nessa comunidade.”

“Depois dessa matéria, de repente, surgiu uma espécie de ameaça, pois as pessoas começaram a entender que a voz e a aparência de qualquer um podem ser clonadas, o que também ofereceu a oportunidade para os políticos alegarem que imagens reais eram falsas. Especialistas chamam isso de 'dividendo do mentiroso', que é a capacidade dos mais poderosos de alegarem negação plausível de qualquer filmagem desfavorável simplesmente dizendo que é IA”,  descreveu.

Em um paralelo com a atual situação política do Brasil, o jornalista fala que os jornalistas brasileiros também podem encontrar desafios na checagem de conteúdos, tendo em vista a dificuldade, assim como na Índia, de identificar os especialistas certos, que entendam o contexto local e consigam usar ferramentas para testar as alegações. 

Dicas práticas sobre monitoramento 

Sobre o monitoramento das redes sociais e aplicativos de mensagens, Nilesh comenta que existem páginas de partidos políticos na Índia com números expostos para as pessoas entrarem em grupos de WhatsApp. “E, se alguém se esforçar para clicar nele e participar deles, já tem uma certa intenção ou um viés político por trás. Assim, quando você entra nesses grupos de WhatsApp, consegue ver certos padrões surgirem como algumas teorias da conspiração, por exemplo, conteúdos de polarização religiosa, tudo isso.”

A jornalista Laís acrescenta que, assim como na Índia, o WhatsApp está no topo no quesito compartilhamento de conteúdos políticos no Brasil. “É onde a maioria das discussões políticas está acontecendo. O conteúdo político mais polêmico está sendo compartilhado lá, e tem sido, há anos, por dois ciclos eleitorais, um grande desafio para jornalistas brasileiros.”

Para Nilesh, algumas ações são essenciais para monitorar os conteúdos que são compartilhados na internet: ter escuta ativa; participar de grupos sobre política para identificar o tipo de diálogo e o conteúdo compartilhado; encontrar professores ou especialistas em perícias que possam ajudar a testar conteúdos e utilizar a Biblioteca de Anúncios da Meta, pois ela ajuda a localizar páginas e revisar o material postado nelas.

Patrocinadores 

O 19º Congresso Internacional de Jornalismo Investigativo é uma realização da Abraji e do curso de Jornalismo da ESPM.

Patrocinaram o 19º Congresso: Google News Initiative, Luminate, Grupo Globo, JSK Journalism Fellowships, Albert Einstein - Sociedade Beneficente Israelita Brasileira, Agence Française de Développement (AFD), Transparência Internacional - Brasil, SBT News, Embaixada e Consulados dos EUA no Brasil, Fundação Maria Cecilia Souto Vidigal, Jusbrasil, International Center for Journalists (ICFJ), Atricon, Abert, Basília Rodrigues Comunicação, Alma Preta, Folha de S. Paulo, Abracom, Fundação Lemann, Natura, Alright, YouTube, Revista Cenarium, JB Litoral, RConsortium, Fogo Cruzado, Fundo Brasil, Poder 360, Internews, Serrapilheira, Artigo19, Report for the World, Meio e UOL.

Foram parceiros institucionais do evento: Aberj, Galápagos Newsmaking, Jeduca, Portal Imprensa, Agência Mural, Vida de Jornalista, Núcleo, DiversaCom, Knight Center, ANJ, Pacto pela Democracia, Fórum De Direito de Acesso a Informações Públicas, Inova.aê, Oboré e Textual Comunicação.