O Facebook e o Instagram permitiram imagens com um nude desfocado e falso da atriz Jenna Ortega aparecendo quando adolescente para anunciar um aplicativo que permite aos usuários criar imagens falsas e explícitas de qualquer pessoa com inteligência artificial.
O aplicativo chamado Perky AI – que já foi removido da loja de aplicativos da Apple – veiculou pelo menos 11 anúncios nas duas plataformas no mês passado que mostravam uma imagem borrada de Ortega parecendo estar de topless aos 16 anos de idade, de acordo com a NBC News.
Mas as imagens da estrela de “quarta-feira” eram falsas. Os anúncios demonstraram como os usuários do aplicativo poderiam fornecer avisos como “sem roupa” para criar nus falsos de pessoas reais.
Outras sugestões que os anúncios ofereceram para avisos de IA incluíam “traje de látex” e “roupa íntima do Batman”, de acordo com a estação de notícias.
A Perky AI – que cobra US$ 7,99 por semana ou US$ 29,99 por 12 semanas – anunciou que poderia criar imagens “NSFW”, que significa “não seguro para o trabalho”, a pedido dos usuários.
A Meta, controladora de ambas as plataformas de mídia social, suspendeu a página do aplicativo Perk depois que a NBC News entrou em contato com a empresa. Antes de a conta ser suspensa, o aplicativo com tecnologia de IA veiculou mais de 260 anúncios diferentes na plataforma desde setembro – 30 dos quais foram suspensos anteriormente pela Meta, de acordo com o meio de comunicação.
Um dos anúncios do deepfake de Ortega, hoje com 21 anos, teve mais de 2.600 visualizações no Instagram antes de ser retirado, informou a emissora de notícias.
Outro anúncio da Perky exibia uma imagem manipulada e borrada da cantora Sabrina Carpenter, junto com a mesma alegação de usar IA para mostrá-la sem roupas, de acordo com a NBC News.
Os anúncios perturbadores são parte de um problema crescente com deepfakes de meninas e mulheres online fabricados por IA. A pornografia infantil criada digitalmente tem sido um dos piores casos, assim como a falsa pornografia de vingança de ex-namorados chateados.
Meta disse em um comunicado que a empresa de mídia social “proíbe estritamente a nudez infantil, conteúdo que sexualiza crianças e serviços que oferecem imagens de nudez não consensuais geradas por IA”.
“Embora este aplicativo permaneça amplamente disponível em várias lojas de aplicativos, removemos esses anúncios e as contas por trás deles”, disse o porta-voz da Meta, Ryan Daniels, ao The Post.
Representantes de Ortega não responderam imediatamente aos pedidos de comentários.
A Apple também removeu o aplicativo Perky – que considerou violar suas políticas sobre “material abertamente sexual ou pornográfico” – de sua loja de aplicativos.
Discussão sobre isso post