Em Toronto, um candidato na eleição para prefeito desta semana que promete limpar acampamentos de sem-teto divulgou um conjunto de promessas de campanha ilustradas por inteligência artificial, incluindo falsas imagens distópicas de pessoas acampadas em uma rua do centro e uma imagem fabricada de tendas montadas em um parque .
Na Nova Zelândia, um partido político postou uma renderização de aparência realista no Instagram de ladrões falsos invadindo uma joalheria.
Em Chicago, o vice-campeão na votação para prefeito em abril reclamou que uma conta no Twitter disfarçada de agência de notícias havia usado IA para clonar sua voz de uma forma que sugeria que ele tolerava a brutalidade policial.
O que começou há alguns meses como um fluxo lento de e-mails de arrecadação de fundos e imagens promocionais compostas por IA para campanhas políticas se transformou em um fluxo constante de materiais de campanha criados pela tecnologia, reescrevendo o manual político para eleições democráticas em todo o mundo.
Cada vez mais, consultores políticos, pesquisadores eleitorais e legisladores dizem que a criação de novas barreiras, como a legislação que restringe os anúncios gerados sinteticamente, deve ser uma prioridade urgente. As defesas existentes, como regras e serviços de mídia social que alegam detectar conteúdo de IA, falharam em fazer muito para diminuir a maré.
À medida que a corrida presidencial dos EUA em 2024 começa a esquentar, algumas das campanhas já estão testando a tecnologia. O Comitê Nacional Republicano divulgou um vídeo com imagens geradas artificialmente de cenários apocalípticos depois que o presidente Biden anunciou sua candidatura à reeleição, enquanto o governador Ron DeSantis, da Flórida, postou imagens falsas do ex-presidente Donald J. Trump com o Dr. oficial. O Partido Democrata experimentou mensagens de arrecadação de fundos redigidas por inteligência artificial na primavera – e descobriu que elas eram frequentemente mais eficazes em encorajar engajamento e doações do que cópias escritas inteiramente por humanos.
Alguns políticos veem a inteligência artificial como uma forma de ajudar a reduzir os custos de campanha, usando-a para criar respostas instantâneas para debater questões ou atacar anúncios, ou para analisar dados que, de outra forma, poderiam exigir especialistas caros.
Ao mesmo tempo, a tecnologia tem o potencial de espalhar desinformação para um público amplo. Um vídeo falso nada lisonjeiro, um e-mail cheio de falsas narrativas produzidas por computador ou uma imagem fabricada da decadência urbana podem reforçar preconceitos e ampliar a divisão partidária, mostrando aos eleitores o que eles esperam ver, dizem os especialistas.
A tecnologia já é muito mais poderosa do que a manipulação manual – não é perfeita, mas está melhorando rapidamente e é fácil de aprender. Em maio, o executivo-chefe da OpenAI, Sam Altman, cuja empresa ajudou a lançar um boom de inteligência artificial no ano passado com seu popular chatbot ChatGPT, disse a um subcomitê do Senado que estava nervoso com a temporada eleitoral.
Ele disse que a capacidade da tecnologia de “manipular, persuadir, fornecer uma espécie de desinformação interativa individual” era “uma área significativa de preocupação”.
A deputada Yvette D. Clarke, democrata de Nova York, disse em um comunicado no mês passado que o ciclo eleitoral de 2024 “está prestes a ser a primeira eleição em que o conteúdo gerado por IA prevalecerá”. Ela e outros democratas do Congresso, incluindo a senadora Amy Klobuchar, de Minnesota, introduziram uma legislação que exigiria anúncios políticos que usavam material gerado artificialmente para conter uma isenção de responsabilidade. Um projeto de lei semelhante no estado de Washington foi recentemente sancionado.
A Associação Americana de Consultores Políticos condenou recentemente o uso de conteúdo deepfake em campanhas políticas como uma violação de seu código de ética.
“As pessoas ficarão tentadas a ir além e ver onde podem levar as coisas”, disse Larry Huynh, o novo presidente do grupo. “Como acontece com qualquer ferramenta, pode haver maus usos e más ações usando-os para mentir para os eleitores, para enganar os eleitores, para criar uma crença em algo que não existe.”
A recente intrusão da tecnologia na política foi uma surpresa em Toronto, uma cidade que apóia um próspero ecossistema de pesquisa e startups de inteligência artificial. A eleição para prefeito ocorre na segunda-feira.
Um candidato conservador na corrida, Anthony Furey, ex-colunista de notícias, recentemente expôs sua plataforma em um documento tinha dezenas de páginas e era preenchido com conteúdo gerado sinteticamente para ajudá-lo a manter sua posição de endurecimento contra o crime.
Um olhar mais atento mostrou claramente que muitas das imagens não eram reais: uma cena de laboratório apresentava cientistas que pareciam bolhas alienígenas. Uma mulher em outra representação usava um alfinete em seu cardigã com letras ilegíveis; marcas semelhantes apareceram em uma imagem de fita adesiva em um canteiro de obras. A campanha de Furey também usou um retrato sintético de uma mulher sentada com dois braços cruzados e um terceiro braço tocando seu queixo.
Os outros candidatos minaram essa imagem para rir em um debate este mês: “Na verdade, estamos usando fotos reais”, disse Josh Matlow, que mostrou uma foto de sua família e acrescentou que “ninguém em nossas fotos tem três braços”.
Ainda assim, as renderizações malfeitas foram usadas para ampliar o argumento do Sr. Furey. Ele ganhou impulso suficiente para se tornar um dos nomes mais conhecidos em uma eleição com mais de 100 candidatos. No mesmo debate, ele reconheceu o uso da tecnologia em sua campanha, acrescentando que “vamos dar algumas risadas aqui enquanto continuamos aprendendo mais sobre IA”
Especialistas políticos temem que a inteligência artificial, quando mal utilizada, possa ter um efeito corrosivo no processo democrático. A desinformação é um risco constante; um dos rivais de Furey disse em um debate que, embora membros de sua equipe usassem o ChatGPT, eles sempre checavam os fatos.
“Se alguém pode criar ruído, criar incerteza ou desenvolver narrativas falsas, essa pode ser uma maneira eficaz de influenciar os eleitores e vencer a disputa”, escreveu Darrell M. West, membro sênior da Brookings Institution. em um relatório mês passado. “Como a eleição presidencial de 2024 pode chegar a dezenas de milhares de eleitores em alguns estados, qualquer coisa que possa levar as pessoas a uma direção ou outra pode acabar sendo decisiva.”
O conteúdo de IA cada vez mais sofisticado está aparecendo com mais frequência em redes sociais que em geral não querem ou não conseguem policiá-lo, disse Ben Colman, executivo-chefe da Reality Defender, uma empresa que oferece serviços para detectar IA. “dano irreversível” antes de ser tratado, disse ele.
“Explicar a milhões de usuários que o conteúdo que eles já viram e compartilharam era falso, bem depois do fato, é muito pouco, muito tarde”, disse Colman.
Durante vários dias deste mês, uma transmissão ao vivo do Twitch conduziu um debate ininterrupto e inseguro para o trabalho entre versões sintéticas de Biden e Trump. Ambos foram claramente identificados como “entidades de IA” simuladas, mas se uma campanha política organizada criasse tal conteúdo e se espalhasse amplamente sem qualquer divulgação, poderia facilmente degradar o valor do material real, disseram especialistas em desinformação.
Os políticos poderiam ignorar a responsabilidade e alegar que imagens autênticas de ações comprometedoras não eram reais, um fenômeno conhecido como dividendo do mentiroso. Cidadãos comuns poderiam fazer suas próprias falsificações, enquanto outros poderiam se entrincheirar mais profundamente em bolhas de informações polarizadas, acreditando apenas nas fontes que escolheram acreditar.
“Se as pessoas não podem confiar em seus olhos e ouvidos, elas podem apenas dizer: ‘Quem sabe?’” Josh A. Goldstein, pesquisador do Centro de Segurança e Tecnologia Emergente da Universidade de Georgetown, escreveu em um e-mail. “Isso pode promover uma mudança do ceticismo saudável que encoraja bons hábitos (como leitura lateral e busca de fontes confiáveis) para um ceticismo doentio de que é impossível saber o que é verdade.”
Discussão sobre isso post