Grandes empresas de tecnologia estão articulando um acordo voluntário para tentar conter o uso de inteligência artificial (IA) na criação de conteúdos falsos capazes de enganar eleitores durante o ciclo eleitoral de 2024. Google, Microsoft, Meta, OpenAI, Adobe e TikTok estão entre as companhias envolvidas na iniciativa, que deverá ser apresentada na Conferência de Segurança de Munique, na Alemanha, nesta sexta-feira (16).
O entendimento ainda não havia sido formalmente anunciado até esta quarta-feira (14), mas uma versão preliminar do acordo prevê que as empresas desenvolvam mecanismos para identificar, rotular e enfrentar imagens, vídeos e áudios produzidos ou manipulados por IA com a intenção de enganar eleitores.
A movimentação ocorre diante do avanço das ferramentas de IA generativa e da preocupação de governos, especialistas e empresas com a possibilidade de deepfakes serem utilizados para interferir em eleições, disseminar desinformação ou manipular a opinião pública.
Acordo não prevê proibição total
De acordo com a proposta em discussão, o compromisso não deverá estabelecer uma proibição geral para conteúdos políticos produzidos com inteligência artificial. A estratégia será concentrada em reduzir os riscos de materiais fraudulentos que imitem candidatos, autoridades eleitorais ou outras figuras envolvidas no processo democrático.
Entre as medidas consideradas está a adoção de tecnologias capazes de identificar a origem de conteúdos gerados por IA e mecanismos para sinalizar esse material aos usuários.
A proposta também prevê uma atuação coordenada entre as empresas para desenvolver padrões e ferramentas de detecção, além do compartilhamento de informações sobre ameaças e práticas de segurança.
Uma das ideias discutidas é ampliar o uso de marcas d’água e mecanismos de procedência digital, permitindo identificar quando uma imagem, gravação ou vídeo foi produzido ou alterado com auxílio de ferramentas de inteligência artificial.
Deepfake de Biden expôs risco eleitoral
A preocupação ganhou força após um episódio ocorrido nos Estados Unidos em janeiro. Eleitores de New Hampshire receberam uma ligação automatizada com uma voz artificial que imitava o presidente Joe Biden e recomendava que democratas não participassem das primárias do Estado.
As autoridades locais abriram investigação e concluíram posteriormente que a gravação utilizava uma voz gerada artificialmente. O caso foi considerado um exemplo concreto de como a clonagem de voz pode ser empregada para tentar interferir no comportamento do eleitor.
O episódio ampliou os alertas sobre o potencial das ferramentas de IA para produzir conteúdos cada vez mais convincentes com custo relativamente baixo e capacidade de disseminação em larga escala.
Em um ano marcado por eleições importantes em diversos países, especialistas temem que esse tipo de tecnologia seja utilizado para criar falsas declarações de candidatos, alterar vídeos de discursos ou divulgar informações enganosas sobre locais, datas e procedimentos de votação.
Empresas querem estabelecer padrões comuns
A proposta em negociação representa uma tentativa de estabelecer uma resposta coordenada do setor de tecnologia diante de um problema que ultrapassa uma única plataforma.
Empresas como Microsoft e OpenAI desenvolvem ferramentas de inteligência artificial generativa, enquanto Meta e TikTok administram plataformas nas quais conteúdos manipulados podem alcançar milhões de usuários. A cooperação entre esses diferentes setores da indústria poderá facilitar a identificação e o tratamento de materiais fraudulentos.
Um dos objetivos é criar mecanismos de procedência de conteúdo, capazes de registrar informações sobre a origem e o processo de produção de arquivos digitais. A tecnologia conhecida como C2PA, que permite adicionar credenciais de conteúdo e informações de procedência, já vinha sendo desenvolvida pela indústria como uma possível referência para esse tipo de identificação.
Ainda assim, as próprias empresas reconhecem que nenhuma tecnologia isolada será suficiente para eliminar o problema. Informações de procedência podem ser removidas ou degradadas, o que exige a combinação de diferentes ferramentas de autenticação e detecção.
2024 concentra eleições em dezenas de países
A preocupação ganha dimensão adicional pelo calendário eleitoral de 2024. Mais de 4 bilhões de pessoas em mais de 40 países deverão participar de eleições ao longo do ano, segundo informações divulgadas pelas empresas envolvidas na iniciativa.
Entre os países que realizarão eleições estão Estados Unidos, Índia e diversas nações de diferentes regiões do mundo. O volume de eleitores e a importância política desses pleitos aumentam o potencial de impacto de campanhas coordenadas de desinformação.
Nesse cenário, a inteligência artificial pode ser usada tanto para produção de textos e imagens falsas quanto para clonagem de voz e criação de vídeos nos quais candidatos aparentemente dizem ou fazem algo que nunca ocorreu.
Pressão cresce sobre empresas de tecnologia
O movimento ocorre em um momento de maior pressão sobre as grandes plataformas para que apresentem respostas mais efetivas aos riscos associados à inteligência artificial.
Além das medidas técnicas, o acordo em preparação deverá incentivar ações de educação digital, transparência e conscientização pública. A ideia é aumentar a capacidade dos usuários de reconhecer conteúdos potencialmente manipulados e compreender as limitações das ferramentas de inteligência artificial.
A proposta também deve estimular as empresas a trabalhar com governos, pesquisadores e organizações da sociedade civil para acompanhar novos métodos de manipulação e desenvolver respostas mais rápidas.
Conferência de Munique será palco do anúncio
A expectativa é que o acordo seja apresentado oficialmente durante a Conferência de Segurança de Munique, que começa em 16 de fevereiro.
Até lá, os termos finais ainda podem sofrer alterações. O documento em discussão representa, portanto, um compromisso em construção, e não uma regulamentação obrigatória ou uma legislação internacional sobre inteligência artificial.
A iniciativa, no entanto, sinaliza que o setor de tecnologia reconhece a necessidade de estabelecer mecanismos comuns antes que o uso de deepfakes alcance escala ainda maior no processo eleitoral.
Para as eleições de 2024, o principal desafio será transformar os compromissos anunciados em ferramentas efetivas de prevenção, identificação e resposta. A velocidade de evolução da inteligência artificial deverá colocar à prova a capacidade das empresas de acompanhar novas formas de manipulação digital.
