Deepfakes de celebridades pornográficas estão em grande circulação online, já que a inteligência artificial e a tecnologia avançada confundem as linhas entre imagens reais e conteúdo adulterado.
Apesar das políticas do Twitter contra mídia enganosa e nudez não consensual, imagens alteradas digitalmente de criadores e celebridades populares do TikTok surgiram na plataforma, de acordo com um relatório da NBC.
As pesquisas no Twitter pelos criadores do TikTok Addison Rae Easterling, Charli D’Amelio e Bella Poarch revelaram deepfakes sexualmente explícitos – vídeos ou imagens manipuladas em que o rosto de uma pessoa é sobreposto ao corpo de outra pessoa.
De acordo com a NBC News, um trecho mostrava o rosto de Easterling, 22, no corpo de outra mulher deitada em uma cama sedutoramente.
Na terça-feira, ele havia sido visto mais de 21 milhões de vezes, e o tópico apresentava mais conteúdo explícito do deepfake.
O usuário anônimo por trás da conta disse à agência que posteriormente excluiu o tweet após o golpe.
A agência alegou ter descoberto pelo menos nove contas que circulam deepfakes pornográficos, seis das quais foram suspensas posteriormente, e algumas apresentavam conteúdo explícito usando a imagem de Poarch.
Outras imagens da família D’Amelio supostamente permanecem na plataforma.
No Twitter, o conteúdo parece violar duas das rígidas políticas de conteúdo da empresa.
O primeiro, a política de mídia sintética e manipuladaproíbe conteúdo enganoso ou fabricado que é promovido como factual.
O conteúdo também pode violar as regras do Twitter política de nudez não consensualque afirma que os usuários não podem compartilhar “fotos ou vídeos íntimos de algo que foi produzido ou distribuído sem o consentimento deles”.
O Twitter respondeu ao pedido de comentário por e-mail do Post com um emoji de cocô.
Os representantes de D’Amelio não foram encontrados e o The Post contatou os representantes de Poarch e Easterling para mais comentários.
Mas as TikTokers, que são as criadoras femininas mais seguidas no aplicativo, estão entre as muitas mulheres que foram alvo de deepfakes pornográficos.
Este ano, as atrizes Emma Roberts e Scarlett Johansson foram as estrelas de um anúncio sexualmente sugestivo de um software deepfake, que mais tarde foi removido pelo Facebook. Enquanto isso, um professor do Texas foi vítima de fotos nuas alteradas digitalmente, e dois streamers do Twitch lamentaram a tendência emergente.
“É assim que se sente violado. É assim que se sente sendo explorado, é assim que se vê nu contra a sua vontade sendo espalhado por toda a internet ”, uma das streamers, Blaire, de 28 anos, também conhecida como QTCinderella, dito anteriormente em parte.
Mas as diretrizes da comunidade e a lei estão reprimindo as imagens alteradas digitalmente.
Em abril, um homem de Long Island foi condenado a seis meses de prisão por postar imagens obscenas de mulheres menores de idade em sites pornográficos.
Enquanto isso, o TikTok baniu totalmente os deepfakes que não apenas enganam o público sobre grandes eventos, mas também apresentam semelhanças com pessoas privadas e jovens.
Mas os deepfakes não se limitam apenas ao conteúdo obsceno – imagens falsas do Papa Francisco vestindo Balenciaga enganaram milhões de espectadores.
Então, nos cantos da internet, deepfakes da primeira prisão do ex-presidente Donald Trump surgiram em março, levando o Google a uma ação rápida para rotular as imagens como geradas por IA.
Discussão sobre isso post