21/02/2024 - Gigantes da Tecnologia se unem para combater o uso indevido da IA em eleições

Anunciado durante a Conferência de Segurança de Munique no último dia 16, vinte empresas líderes da indústria de tecnologia assinaram um acordo para colaborar na prevenção do uso inadequado de conteúdos gerados por inteligência artificial durante processos eleitorais. Entre essas empresas estão a Amazon, IBM, Microsoft, TikTok, entre outras.

O acordo, denominado "Tech Accord to Combat Deceptive Use of AI in 2024 Elections," tem como objetivo estabelecer regras e compromissos para garantir que os eleitores não sejam influenciados por conteúdos enganosos gerados por IA, como áudio, vídeo ou imagens que falsificam ou alteram vozes e ações de candidatos, oficiais eleitos ou líderes envolvidos nas eleições, bem como informações falsas sobre onde, quando e como votar.

Entre as ferramentas que as empresas devem desenvolver em conjunto, estão campanhas educacionais voltadas para aumentar a transparência, guiadas por oito regras básicas:

1. Desenvolver e implementar tecnologias que reduzam o risco de IA enganosa nas eleições, incluindo ferramentas de código aberto
2. Utilizar modelos no escopo do acordo para entender os riscos que a IA pode trazer às eleições.
3. Buscar detectar a distribuição desse tipo de conteúdo malicioso nas plataformas.
4. Analisar adequadamente esses conteúdos nas plataformas.
5. Fortalecer a resiliência de todos os participantes da indústria para combater o mau uso de IA nas eleições.
6. Levar ao público transparência sobre como as companhias enfrentam esse problema.
7. Engajar em atividades com a sociedade civil e a academia.
8. Apoiar os esforços para alertar, educar e fortalecer a sociedade global.

Empresas como a Microsoft, por exemplo, planejam abordar os desafios nas eleições por meio de algumas ações, como: Evitar a criação de deepfakes com um sistema avançado de autenticidade, marca d'água e fortalecimento da arquitetura de segurança em ferramentas de criação; detectar e responder aos deepfakes enganosos com detecção de distribuição e remoção de deepfakes em suas plataformas, compartilhando informações sobre esse conteúdo com outros parceiros do setor; e, oferecer transparência e resiliência sendo claro com o público e a sociedade civil sobre este problema nas eleições.

O intuito do grupo das grandes empresas de tecnologia é apoiar a população mundial que participará de pleitos em mais de 40 países, incluindo o Brasil, que terá eleições municipais em outubro. No Tribunal Superior Eleitoral - TSE, foram propostas medidas como a proibição de chatbots com IA generativa e a exigência de que as campanhas dos candidatos indiquem explicitamente quando o material foi gerado por IA, além de informar qual tecnologia foi utilizada.