Deepfaking: a eleição de 2024 da América colide com o boom da IA

[1/6] Um modelo de wireframe verde cobre a parte inferior do rosto de um ator durante a criação de um vídeo sintético de reanimação facial, conhecido alternativamente como deepfake, em Londres, Grã-Bretanha, 12 de fevereiro de 2019. Reuters TV via REUTERS

30 de maio (Reuters) - (Nota: Linguagem forte no parágrafo 10)

"Na verdade, gosto muito de Ron DeSantis", revela Hillary Clinton em um vídeo surpresa de endosso online. "Ele é exatamente o tipo de cara que este país precisa, e eu realmente quero dizer isso."

Joe Biden finalmente deixa a máscara cair, desencadeando um discurso cruel contra uma pessoa transgênero. "Você nunca será uma mulher de verdade", rosna o presidente.

Bem-vindo à corrida presidencial americana de 2024, onde a realidade está em jogo.

Os deepfakes de Clinton e Biden - vídeos realistas, porém fabricados, criados por algoritmos de IA treinados em copiosas imagens online - estão entre os milhares que estão surgindo nas redes sociais, confundindo fato e ficção no mundo polarizado da política dos EUA.

Embora essa mídia sintética exista há vários anos, ela foi turbinada no ano passado por uma série de novas ferramentas de "IA generativa", como o Midjourney, que torna barato e fácil criar deepfakes convincentes, de acordo com entrevistas da Reuters com cerca de dois dezenas de especialistas em áreas como IA, desinformação online e ativismo político.

"Vai ser muito difícil para os eleitores distinguir o verdadeiro do falso. E você pode imaginar como os apoiadores de Trump ou de Biden poderiam usar essa tecnologia para fazer o oponente parecer ruim", disse Darrell West, membro sênior do Brookings Centro de Inovação Tecnológica da Instituição.

"Pode haver coisas que caem logo antes da eleição que ninguém tem chance de derrubar."

Ferramentas que podem gerar deepfakes estão sendo lançadas com poucas ou imperfeitas proteções para evitar desinformação prejudicial à medida que o setor de tecnologia se envolve em uma corrida armamentista de IA, disse Aza Raskin, cofundador do Center for Human Technology, uma organização sem fins lucrativos que estuda o impacto da tecnologia na sociedade .

O ex-presidente Donald Trump, que competirá com DeSantis e outros pela indicação republicana para enfrentar Biden, compartilhou ele mesmo um vídeo adulterado do âncora da CNN Anderson Cooper no início deste mês em sua plataforma de mídia social Truth Social.

"Aquele foi o presidente Donald J. Trump nos rasgando um novo idiota aqui na prefeitura presidencial ao vivo da CNN", diz Cooper na filmagem, embora as palavras não correspondam ao movimento de seus lábios.

A CNN disse que o vídeo era um deepfake. Um representante de Trump não respondeu a um pedido de comentário sobre o clipe, que ainda estava na página do Twitter de seu filho Donald Jr esta semana.

Embora as principais plataformas de mídia social como Facebook, Twitter e YouTube tenham feito esforços para proibir e remover deepfakes, sua eficácia no policiamento desse conteúdo varia.

Houve três vezes mais deepfakes de vídeo de todos os tipos e oito vezes mais deepfakes de voz postados online este ano em comparação com o mesmo período de 2022, de acordo com a DeepMedia, uma empresa que trabalha com ferramentas para detectar mídia sintética.

No total, cerca de 500.000 deepfakes de vídeo e voz serão compartilhados em sites de mídia social globalmente em 2023, estima a DeepMedia. A clonagem de uma voz costumava custar US$ 10.000 em custos de servidor e treinamento de IA até o final do ano passado, mas agora as startups oferecem isso por alguns dólares, diz.

Ninguém tem certeza de onde o caminho da IA ​​generativa leva ou como se proteger efetivamente contra seu poder de desinformação em massa, de acordo com as pessoas entrevistadas.

A líder da indústria OpenAI, que mudou o jogo nos últimos meses com o lançamento do ChatGPT e o modelo atualizado GPT-4, está lutando contra o problema. O CEO Sam Altman disse ao Congresso este mês que a integridade eleitoral era uma "área significativa de preocupação" e pediu uma regulamentação rápida do setor.

Ao contrário de algumas startups menores, a OpenAI tomou medidas para restringir o uso de seus produtos na política, de acordo com uma análise da Reuters dos termos de uso de meia dúzia de empresas líderes que oferecem serviços de IA generativa.