Yasmin Curzi*
As eleições de 2024 no Brasil se aproximam em um cenário preocupante: o uso cada vez mais ubíquo de tecnologias de inteligência artificial (IA) — termo geral para falar de tecnologias de aprendizado de máquina e tomada automatizada de decisão — sem as devidas barreiras e proteções aos usuários. As redes sociais têm sido tomadas por conteúdos sinteticamente produzidos para simular atores reais, acirrando crises de confiança, com capacidade de produzir desastres reputacionais e afetar significativamente as eleições.
Montagens baratas (as chamadas cheap fakes) já produzem, há alguns anos, estragos bastante significativos — a título de exemplo, o kit gay nas eleições de 2018 e os dublês de voz de personalidades políticas relevantes, em áudios no WhatsApp, pedindo votos para candidatos em eleições regionais. Com o avanço de tecnologias de deep fakes e IA generativa e, principalmente, sua maior ibilidade, via integração em serviços de plataformas, a capacidade de manipulação aumenta, e não há regulação que possa acompanhar. Ainda que posteriormente sejam verificados, os impactos produzidos são imediatos e podem subverter significativamente o resultado das eleições.
Os riscos significativos para a integridade das campanhas políticas on-line são evidentes. O aumento da violência on-line, especialmente direcionada a grupos minorizados, como mulheres, pessoas LGBTQIA , negras e indígenas, tem afetado significativamente a produção de suas campanhas e suas participações no debate político. Campanhas de desinformação têm minado a confiança no processo eleitoral e manipulado a opinião pública sobre temas críticos, como saúde, segurança, emergência climática e questões de gênero. Todos os desafios aqui elencados têm um elemento em comum: o fomento de conteúdos mais divisivos pelas plataformas digitais a partir dos seus sistemas de recomendação de conteúdo — também via uso de IA.
Como destacado por Max Fischer, autor de A máquina do caos, as plataformas têm implementado mecanismos diversos para maximizar o engajamento dos usuários — entre eles, os sistemas de recomendação. Tais sistemas servem principalmente para promover conteúdos que capturem a atenção dos usuários, principalmente fazendo com que se sintam parte de um grupo, fomentando o posicionamento contra outro grupo. Em resumo, os conteúdos mais priorizados são, em geral, sensacionalistas e polarizadores em essência, que, em última instância, exacerbam a radicalização dos usuários e aprofundam as divisões sociais.
A Organização das Nações Unidas (ONU) lançou recentemente cinco princípios globais para a integridade da informação. São eles: confiança e resiliência social, incentivos saudáveis para a comunicação, empoderamento público, meios de comunicação independentes e pluralistas, e transparência e pesquisa. O objetivo é possibilitar a reforma do ecossistema digital, viabilizando o combate à desinformação e ao discurso de ódio de forma global, também perando as práticas das próprias plataformas que produzem a amplificação de conteúdos que engendram a radicalização dos usuários.
Com o arrefecimento do PL nº 2.630/2020, o PL nº 2.338/2023 poderia ser um grande auxílio na luta contra a amplificação de práticas nocivas envolvendo tecnologias de IA, inclusive no âmbito eleitoral. O novo texto do PL nº 2.338 avança em alguns pontos, como a nomeação da Autoridade Nacional de Proteção de Dados (ANPD) como órgão de coordenação do Sistema Nacional de Regulação e Governança de Inteligência Artificial — o qual poderia ser de grande auxílio para evitar que dados pessoais dos usuários sejam utilizados para direcionamento de conteúdos nocivos para a captura de sua atenção. No entanto, é essencial que sejam aumentadas as capacidades técnicas da ANPD para que ela possa desempenhar esse papel de forma eficaz e, de fato, dar conta de tantas demandas.
O Brasil tem uma oportunidade única de liderar na proteção dos direitos digitais e na promoção de um ecossistema informacional saudável, principalmente por estar na presidência do G20. O PL nº 2.338, com as devidas melhorias, pode ser um marco na regulação da IA na América Latina, protegendo a democracia e garantindo que a tecnologia sirva ao bem comum. Devemos escolher o caminho da proteção dos direitos e da inovação responsável, alinhando-se aos princípios globais estabelecidos pela ONU e protegendo a nossa democracia.
*Professora, coordenadora do Programa Diversidade e Inclusão e pesquisadora do Centro de Tecnologia e Sociedade da FGV Direito Rio. Coordenadora da UN IGF Dynamic Coalition of Platform Responsibility (DR)