Imagine a seguinte situação: às vésperas do dia das eleições, um determinado candidato a prefeito de alguma cidade aparece em vídeo anunciando a sua renúncia à candidatura, alegando motivos pessoais ou outro argumento qualquer.

Em outra situação, um áudio com a voz de um certo candidato circula nas redes sociais e aplicativos de bate-papo dando a entender que se envolveu em compra de votos autorizada por ele próprio, como se fosse um vazamento de informação confidencial.

Em ambos os casos, as imagens e vozes aparentemente são deles próprios candidatos. Só que não foram eles que fizeram o anúncio, não houve nenhuma reunião com intenção de comprar votos e sequer sabiam da existência desses materiais. Nas duas situações hipotéticas eles foram alvos de propaganda ilícita produzida por conteúdo sintético, composto por imagens e sons gerados por Inteligência Artificial (IA).

Imaginando que esse material circule às vésperas da eleição municipal, podemos pressupor que o estrago nas respectivas campanhas já foi sacramentado.

Cada eleição traz suas novidades em termos de legislação e também suas preocupações. No caso do pleito de 2024, a maior preocupação da Justiça Eleitoral, e consequentemente de candidatos, partidos e coligações, é o uso da inteligência artificial generativa nas campanhas.

Na semana passada, o assunto foi tema de audiência pública realizada pelo Tribunal Superior Eleitoral (TSE), órgão responsável por coordenar as eleições, definir normas, condutas e aplicar sanções. Como se trata de eleições municipais, a fiscalização nos municípios fica a cargo dos juízes eleitorais que, no entanto, estão subordinados às condutas definidas pelo TSE.

As regras para a utilização das tecnologias digitais estão previstas na minuta de resolução elaborada pelo TSE que trata da propaganda eleitoral. Após a realização de três audiências, o texto agora será submetido ao plenário do Tribunal, que tem até 5 de março para aprová-lo.

Na minuta, o TSE sugere proibir conteúdo fabricado com IA e penalizar casos de divulgação de fatos inverídicos ou descontextualizados. Na prática, sabemos que será impossível ignorar o uso de tecnologias digitais nas campanhas. No que a Justiça Eleitoral deverá bater o pé é na forma como a IA será utilizada, ou seja, coibir a divulgação de conteúdo que fere a legislação eleitoral, seja como forma de enganar o eleitor, manipular informações ou desvirtuar a realidade.

Neste aspecto, a grande preocupação é o uso dos deepfakes - áudios e vídeos manipulados com a intenção de distorcer a realidade. É o caso do primeiro exemplo que citei acima.

No fim do ano passado, a eleição presidencial da Argentina foi a primeira da América Latina a registrar o uso de IA nas campanhas, tanto do candidato vencedor, Javier Milei, quanto a de seu principal adversário, o peronista Sergio Massa. Os dois lados tentaram manipular a opinião do eleitor com conteúdo sintético, ou seja, utilizando imagens e áudios dos adversários produzidos com inteligência artificial. Imagina então o que está por vir nas eleições tupiniquins deste ano!

Outro receio sobre o uso da IA na eleição é na produção e distribuição de mensagens segmentadas. Com a tecnologia, é possível construir em larga escala conteúdos extremamente personalizados que levem em consideração cada detalhe do perfil do eleitor. Um defensor, por exemplo, do porte de armas, será bombardeado com informações que reforcem sua linha de raciocínio. O risco é que essa mensagem chegue até o eleitor com informações fora de contexto, distorcidas ou até mesmo mentirosas.

Uma das novidades que a minuta do TSE traz é a obrigatoriedade de informar explicitamente a utilização de conteúdo fabricado ou manipulado em qualquer modalidade de propaganda eleitoral. A campanha deverá comunicar qual a tecnologia foi empregada para modificar o conteúdo.

O descumprimento das normas poderá acarretar detenção de dois meses a um ano ou pagamento de 120 a 150 dias-multa, tanto para quem produz quanto para quem veicula ou vende vídeo com conteúdo inverídico.

O texto a ser aprovado pelo TSE também define responsabilidades aos provedores de aplicação de internet. Quando notificados sobre alguma ilicitude, deverão adotar providências para a devida apuração do caso e indisponibilização do material, incluindo situações em que o conteúdo foi impulsionado. É obrigação dos provedores ainda manter mecanismos de notificação, canal de denúncia e ações preventivas.

Já as redes sociais também devem adotar medidas para impedir a circulação de propaganda eleitoral ilícita, com ferramentas acessíveis para identificação de anúncios políticos.

Neste caso, há uma questão que considero mais complexa, fruto de um impasse político. Ano passado, a Câmara dos Deputados colocou e depois retirou de pauta o Projeto das Fake News, como ficou conhecido o texto que trata, ainda, sobre a regulamentação das plataformas digitais. Sem uma norma que estabeleça obrigações, direitos e punições às big techs, será que a Justiça Eleitoral por si só conseguirá frear em tempo hábil a proliferação de conteúdos com potencial suficiente para alterar o resultado das eleições? No caso da disputa majoritária, o estrago na imagem de um candidato pode não ser suficiente para afetar substancialmente o resultado, a depender do conteúdo e do tempo em que ele propagou. Já numa eleição proporcional, em que a quantidade necessária de votos para eleger um vereador é bem menor, a eficiência no tempo de resposta faz toda a diferença.

Por exemplo, a minuta do TSE proíbe a comercialização, por provedor de aplicação de internet, de qualquer tipo de impulsionamento de conteúdo eleitoral inverídico ou gravemente descontextualizado. A questão é como fazer com que esse conteúdo seja impedido de ir ao ar se hoje não há um filtro por parte das empresas de tecnologia, e muito menos uma legislação que cobre esse controle interno? E mais: via de regra, somente depois que um conteúdo é divulgado, é que surgem as denúncias e, consequentemente, a adoção de medidas para retirar o material de circulação.

Se os deputados tivessem feito seu dever de casa, talvez não tivessem que se preocupar tanto com situações que muitos deles irão enfrentar em outubro próximo, quando tentarão se eleger prefeito em suas bases eleitorais. O governo também tem sua parcela de responsabilidade à medida que deixou de priorizar a regulamentação das plataformas e optou por aguardar por respostas externas, ou seja, como as grandes potências mundiais irão atuar sobre a questão.

Vamos aguardar a resolução definitiva do TSE para saber se essas e outras respostas serão atendidas a contento. O que se pode imaginar é que as Eleições 2024 vão acontecer em meio a disputas intensas e prioritariamente no campo da realidade virtual.

Gastar sola de sapato para encantar o eleitor já é coisa do passado!