Corrida presidencial americana de 2024, onde a realidade está em disputa”
Os deepfakes de Clinton e Biden – vídeos realistas, porém fabricados, criados por algoritmos de IA treinados em copiosas imagens online – estão entre os milhares que estão surgindo nas redes sociais, confundindo fato e ficção no mundo polarizado da política dos EUA.
Embora essa mídia sintética exista há vários anos, ela foi turbinada no ano passado por uma série de novas ferramentas de “IA generativa”, como o Midjourney, que torna barato e fácil criar deepfakes convincentes, de acordo com entrevistas da Reuters com cerca de dois dezenas de especialistas em áreas como IA, desinformação online e ativismo político.
“Vai ser muito difícil para os eleitores distinguir o verdadeiro do falso. E você pode imaginar como os apoiadores de Trump ou de Biden poderiam usar essa tecnologia para fazer o oponente parecer ruim”, disse Darrell West, membro sênior do Brookings Centro de Inovação Tecnológica da Instituição.
“Pode haver coisas que caem logo antes da eleição que ninguém tem chance de derrubar.”
Ferramentas que podem gerar deepfakes estão sendo lançadas com poucas ou imperfeitas proteções para evitar desinformação prejudicial à medida que o setor de tecnologia se envolve em uma corrida armamentista de IA, disse Aza Raskin, cofundador do Center for Human Technology, uma organização sem fins lucrativos que estuda o impacto da tecnologia na sociedade .
O ex-presidente Donald Trump, que competirá com DeSantis e outros pela indicação republicana para enfrentar Biden, compartilhou ele mesmo um vídeo adulterado do âncora da CNN Anderson Cooper no início deste mês em sua plataforma de mídia social Truth Social.
“Aquele foi o presidente Donald J. Trump nos rasgando um novo idiota aqui na prefeitura presidencial ao vivo da CNN”, diz Cooper na filmagem, embora as palavras não correspondam ao movimento de seus lábios.
A CNN disse que o vídeo era um deepfake. Um representante de Trump não respondeu a um pedido de comentário sobre o clipe, que ainda estava na página do Twitter de seu filho Donald Jr esta semana.
Embora as principais plataformas de mídia social como Facebook, Twitter e YouTube tenham feito esforços para proibir e remover deepfakes, sua eficácia no policiamento desse conteúdo varia.
DEEPFAKE PENCE, NÃO TRUMP
Houve três vezes mais deepfakes de vídeo de todos os tipos e oito vezes mais deepfakes de voz postados online este ano em comparação com o mesmo período em 2022, de acordo com a DeepMedia, uma empresa que trabalha com ferramentas para detectar mídia sintética.
No total, cerca de 500.000 deepfakes de vídeo e voz serão compartilhados em sites de mídia social globalmente em 2023, estima a DeepMedia. A clonagem de uma voz costumava custar US$ 10.000 em custos de servidor e treinamento de IA até o final do ano passado, mas agora as startups oferecem isso por alguns dólares, diz.
Ninguém tem certeza de onde o caminho da IA generativa leva ou como se proteger efetivamente contra seu poder de desinformação em massa, de acordo com as pessoas entrevistadas.
A líder da indústria OpenAI, que mudou o jogo nos últimos meses com o lançamento do ChatGPT e o modelo atualizado GPT-4, está lutando contra o problema. O CEO Sam Altman disse ao Congresso este mês que a integridade eleitoral era uma “área significativa de preocupação” e pediu uma regulamentação rápida do setor.
Ao contrário de algumas startups menores, a OpenAI tomou medidas para restringir o uso de seus produtos na política, de acordo com uma análise da Reuters dos termos de uso de meia dúzia de empresas líderes que oferecem serviços de IA generativa.
Os guarda-corpos têm lacunas, no entanto.
Por exemplo, a OpenAI diz que proíbe seu gerador de imagens DALL-E de criar figuras públicas – e, de fato, quando a Reuters tentou criar imagens de Trump e Biden, o pedido foi bloqueado e apareceu uma mensagem dizendo que “pode não seguir nossa política de conteúdo. “
No entanto, a Reuters conseguiu criar imagens de pelo menos uma dúzia de outros políticos dos EUA, incluindo o ex-vice-presidente Mike Pence, que também está avaliando uma candidatura à Casa Branca em 2024.
A OpenAI também restringe qualquer uso “em escala” de seus produtos para fins políticos. Isso proíbe o uso de sua IA para enviar e-mails personalizados em massa aos constituintes, por exemplo.
A empresa, apoiada pela Microsoft, explicou suas políticas políticas à Reuters em uma entrevista, mas não respondeu a novos pedidos de comentários sobre as lacunas na aplicação de suas políticas, como bloquear a criação de imagens de políticos.
Várias startups menores não têm restrições explícitas sobre conteúdo político.
A Midjourney, lançada no ano passado, é líder em imagens geradas por IA, com 16 milhões de usuários em seu servidor oficial do Discord. O aplicativo, que varia de gratuito a US$ 60 por mês, dependendo de fatores como quantidade e velocidade da imagem, é o favorito de designers e artistas de IA devido à sua capacidade de gerar imagens hiper-realistas de celebridades e políticos, de acordo com quatro pesquisadores de IA e criadores entrevistados.
Midjourney não respondeu a um pedido de comentário para este artigo. Durante um bate-papo online no Discord na semana passada, o CEO David Holz disse que a empresa provavelmente faria mudanças antes da eleição para combater a desinformação.
A Midjourney quer cooperar em uma solução do setor para permitir a rastreabilidade de imagens geradas por IA com um equivalente digital de marca d’água e consideraria o bloqueio de imagens de candidatos políticos, acrescentou Holz.
ANÚNCIO REPUBLICANO GERADO POR IA
Mesmo enquanto a indústria luta para evitar o uso indevido, alguns atores políticos estão tentando aproveitar o poder da IA generativa para incrementar as campanhas.
Até agora, o único anúncio político de alto perfil gerado por IA nos EUA foi publicado pelo Comitê Nacional Republicano no final de abril. O anúncio de 30 segundos, que o RNC divulgou como sendo inteiramente gerado por IA, usou imagens falsas para sugerir um cenário cataclísmico caso Biden fosse reeleito, com a China invadindo Taiwan e San Francisco sendo fechado pelo crime.
O RNC não respondeu aos pedidos de comentário sobre o anúncio ou seu uso mais amplo de IA. O Comitê Nacional Democrata se recusou a comentar sobre o uso da tecnologia.
A Reuters pesquisou todas as campanhas presidenciais republicanas sobre o uso de IA. A maioria não respondeu, embora a equipe de Nikki Haley tenha dito que não estava usando a tecnologia e a campanha do candidato Perry Johnson tenha dito que estava usando IA para “geração e iteração de cópias”, sem dar mais detalhes.
O potencial da IA generativa para produzir e-mails, postagens e anúncios de campanha é irresistível para alguns ativistas que acham que a tecnologia de baixo custo pode nivelar o campo de jogo nas eleições.
Mesmo nas profundezas da zona rural de Hillsdale, Michigan, a inteligência de máquina está em marcha.
Jon Smith, presidente republicano do 5º distrito congressional de Michigan, está realizando várias reuniões educacionais para que seus aliados possam aprender a usar IA para mídia social e geração de anúncios.
“A IA nos ajuda a jogar contra os grandes felinos”, disse ele. “Vejo o maior aumento nas corridas locais. Alguém de 65 anos, fazendeiro e comissário do condado, poderia facilmente ser derrotado por um gato mais jovem usando a tecnologia.”
As consultorias políticas também estão buscando aproveitar a IA, confundindo ainda mais a linha entre o real e o irreal.
A Numinar Analytics, uma empresa de dados políticos com foco em clientes republicanos, começou a experimentar a geração de conteúdo de IA para áudio e imagens, bem como a geração de voz para potencialmente criar mensagens personalizadas na voz de um candidato, disse o fundador Will Long em uma entrevista.
Enquanto isso, o grupo democrático de pesquisa e estratégia Honan Strategy Group está tentando desenvolver um bot de pesquisa de IA. A empresa espera lançar um bot feminino a tempo das eleições municipais de 2023, disse o CEO Bradley Honan, citando pesquisas de que homens e mulheres têm maior probabilidade de falar com uma entrevistadora do sexo feminino.
Fonte: Reuters
