Uma mãe do Arizona traumatizada por golpistas doentes que usaram IA para clonar a voz de sua filha adolescente em uma trama de sequestro falsa descrita em emocionante depoimento perante o Congresso como os vigaristas sem coração ameaçaram bombear o estômago de seu filho “tão cheio de drogas” se ela não pagasse seu resgate.
Jennifer DeStefano, mãe de dois filhos de Scottsdale, sentou-se perante o Comitê Judiciário do Senado na terça-feira e descreveu a ligação angustiante que ela acreditava ter sido feita por sua filha Brianna, de 15 anos, em 20 de janeiro.
A mãe está pedindo uma ação urgente dos legisladores para lidar com as ameaças da IA depois que ela disse que as autoridades rejeitaram sua reclamação.
DeStefano disse aos membros do subcomitê de direitos humanos e da lei que estava pegando sua filha mais nova, Aubrey, no ensaio de dança quando recebeu uma ligação de um número desconhecido.
“No toque final, optei por atender, já que ligações desconhecidas muitas vezes podem ser de um hospital ou de um médico”, lembra ela.
“Era Briana soluçando e chorando, dizendo: ‘Mãe’. A princípio não dei importância e perguntei casualmente: ‘O que aconteceu?’ Eu estava com o telefone no viva-voz entrando no estacionamento para encontrar a irmã dela”, disse ela ao painel.
Brianna deveria estar com o pai treinando para uma corrida de esqui.
“’Mãe, eu errei!’”, disse a pessoa que ela pensava ser sua filha em meio a soluços incontroláveis, contou a mãe traumatizada. “’Mãe, esses homens maus me pegaram. Me ajude! Me ajude!'”
Ela descreveu como o clone era realista porque “não era apenas a voz dela, eram seus gritos, eram seus soluços”.
De repente, uma voz masculina arrepiante entrou na linha e exigiu um resgate de US$ 1 milhão.
“Um homem ameaçador e vulgar atendeu a ligação. ‘Escute aqui. Eu tenho sua filha. Ligue para qualquer um, chame a polícia, vou bombear o estômago dela tão cheio de drogas. Eu vou fazer do meu jeito com ela. Vou deixá-la no México. Você nunca mais verá sua filha’”, lembrou um emocionado DeStefano, lutando contra as lágrimas.
“Começou com US$ 1 milhão. Reduziu para $ 50.000 porque isso não era possível. Pedi a ele instruções de transferência ”, disse ela, acrescentando que ele recusou e exigiu que ela entrasse em uma van com uma sacola na cabeça com o dinheiro na mão.
Outra mãe logo disse a ela que havia encontrado seu marido, que encontrou Brianna “descansando em segurança na cama”.
“Ela veio até mim e me disse que Brianna estava bem, mas eu não acreditei nela porque tinha acabado de falar com minha filha e estava muito segura de sua voz e de seus gritos”, disse ela.
“Nunca serei capaz de tirar aquela voz e os gritos desesperados de ajuda da minha mente”, acrescentou ela.
“É o pior pesadelo de todos os pais ouvir seus filhos implorando com medo e dor, sabendo que estão sendo feridos e indefesos.”
DeStefano disse que descobriu mais tarde que os golpes de inteligência artificial são comuns.
“Eles podem usar não apenas a voz, mas a inflexão, a emoção. Ainda não acreditei, porque ouvi — conversei com minha filha. Era minha filha”, disse ela.
Quando a angustiada mãe denunciou o golpe cruel do deepfake à polícia, ela disse que eles chamaram de “trote” e disseram que nada poderia ser feito, já que nenhum sequestro havia ocorrido e nenhum dinheiro havia sido enviado.
O senador democrata da Geórgia, Jon Ossoff, disse que realizou a reunião para que o Senado “pudesse investigar e entender a natureza das ameaças do abuso do uso de inteligência artificial”.
Ele disse que os legisladores “identificaram algumas áreas importantes onde pode haver necessidade de nova legislação ou de pressionar as agências federais de aplicação da lei para proteger melhor as famílias na Geórgia e em todo o país contra essas ameaças”.
Vários especialistas também se dirigiram ao painel do Senado na terça-feira, incluindo Aleksander Madry, professor de ciência da computação no Massachusetts Institute of Technology e diretor do MIT Center for Deployable Machine Learning.
“A mais nova onda de IA generativa está prestes a transformar fundamentalmente nossa criação coletiva de sentido”, disse Madry, de acordo com o Courthouse News.
“Acho que não importa o que aconteça, o público precisa entender como interagir com os sistemas de IA e ficar atento quando estiver realmente interagindo com a IA em primeiro lugar. Não queremos aprender isso da maneira mais difícil”, disse ele.
Alexandra Reeve Givens, CEO do Center for Democracy and Technology, com sede em DC, disse que modelos generativos de IA também podem ser usados para espalhar desinformação durante as eleições.
“Nas eleições anteriores, os agentes usaram chamadas robóticas e mensagens de texto para espalhar informações enganosas”, disse Givens. “Mas agora, os malfeitores podem facilmente usar a IA para crescer exponencialmente e personalizar a supressão de eleitores ou outros alvos.”
DeStefano pediu ação imediata antes que o abuso da IA se torne ainda maior.
“Meu maior medo é como isso vai se manifestar em outras áreas, como tráfico humano e sequestro de crianças”, disse ele. “Porque, felizmente, eu era um adulto que tinha outros adultos ao meu redor. Mas e se fosse uma criança? ‘Ei, é a mamãe. Venha me encontrar aqui. Esse é o meu maior medo.”
A mãe alertou que, se essa ameaça da IA for “deixada descontrolada, desregulada e desprotegida”, ela “reescreverá nossa compreensão e percepção do que é – e do que não é – verdade”.
Uma mãe do Arizona traumatizada por golpistas doentes que usaram IA para clonar a voz de sua filha adolescente em uma trama de sequestro falsa descrita em emocionante depoimento perante o Congresso como os vigaristas sem coração ameaçaram bombear o estômago de seu filho “tão cheio de drogas” se ela não pagasse seu resgate.
Jennifer DeStefano, mãe de dois filhos de Scottsdale, sentou-se perante o Comitê Judiciário do Senado na terça-feira e descreveu a ligação angustiante que ela acreditava ter sido feita por sua filha Brianna, de 15 anos, em 20 de janeiro.
A mãe está pedindo uma ação urgente dos legisladores para lidar com as ameaças da IA depois que ela disse que as autoridades rejeitaram sua reclamação.
DeStefano disse aos membros do subcomitê de direitos humanos e da lei que estava pegando sua filha mais nova, Aubrey, no ensaio de dança quando recebeu uma ligação de um número desconhecido.
“No toque final, optei por atender, já que ligações desconhecidas muitas vezes podem ser de um hospital ou de um médico”, lembra ela.
“Era Briana soluçando e chorando, dizendo: ‘Mãe’. A princípio não dei importância e perguntei casualmente: ‘O que aconteceu?’ Eu estava com o telefone no viva-voz entrando no estacionamento para encontrar a irmã dela”, disse ela ao painel.
Brianna deveria estar com o pai treinando para uma corrida de esqui.
“’Mãe, eu errei!’”, disse a pessoa que ela pensava ser sua filha em meio a soluços incontroláveis, contou a mãe traumatizada. “’Mãe, esses homens maus me pegaram. Me ajude! Me ajude!'”
Ela descreveu como o clone era realista porque “não era apenas a voz dela, eram seus gritos, eram seus soluços”.
De repente, uma voz masculina arrepiante entrou na linha e exigiu um resgate de US$ 1 milhão.
“Um homem ameaçador e vulgar atendeu a ligação. ‘Escute aqui. Eu tenho sua filha. Ligue para qualquer um, chame a polícia, vou bombear o estômago dela tão cheio de drogas. Eu vou fazer do meu jeito com ela. Vou deixá-la no México. Você nunca mais verá sua filha’”, lembrou um emocionado DeStefano, lutando contra as lágrimas.
“Começou com US$ 1 milhão. Reduziu para $ 50.000 porque isso não era possível. Pedi a ele instruções de transferência ”, disse ela, acrescentando que ele recusou e exigiu que ela entrasse em uma van com uma sacola na cabeça com o dinheiro na mão.
Outra mãe logo disse a ela que havia encontrado seu marido, que encontrou Brianna “descansando em segurança na cama”.
“Ela veio até mim e me disse que Brianna estava bem, mas eu não acreditei nela porque tinha acabado de falar com minha filha e estava muito segura de sua voz e de seus gritos”, disse ela.
“Nunca serei capaz de tirar aquela voz e os gritos desesperados de ajuda da minha mente”, acrescentou ela.
“É o pior pesadelo de todos os pais ouvir seus filhos implorando com medo e dor, sabendo que estão sendo feridos e indefesos.”
DeStefano disse que descobriu mais tarde que os golpes de inteligência artificial são comuns.
“Eles podem usar não apenas a voz, mas a inflexão, a emoção. Ainda não acreditei, porque ouvi — conversei com minha filha. Era minha filha”, disse ela.
Quando a angustiada mãe denunciou o golpe cruel do deepfake à polícia, ela disse que eles chamaram de “trote” e disseram que nada poderia ser feito, já que nenhum sequestro havia ocorrido e nenhum dinheiro havia sido enviado.
O senador democrata da Geórgia, Jon Ossoff, disse que realizou a reunião para que o Senado “pudesse investigar e entender a natureza das ameaças do abuso do uso de inteligência artificial”.
Ele disse que os legisladores “identificaram algumas áreas importantes onde pode haver necessidade de nova legislação ou de pressionar as agências federais de aplicação da lei para proteger melhor as famílias na Geórgia e em todo o país contra essas ameaças”.
Vários especialistas também se dirigiram ao painel do Senado na terça-feira, incluindo Aleksander Madry, professor de ciência da computação no Massachusetts Institute of Technology e diretor do MIT Center for Deployable Machine Learning.
“A mais nova onda de IA generativa está prestes a transformar fundamentalmente nossa criação coletiva de sentido”, disse Madry, de acordo com o Courthouse News.
“Acho que não importa o que aconteça, o público precisa entender como interagir com os sistemas de IA e ficar atento quando estiver realmente interagindo com a IA em primeiro lugar. Não queremos aprender isso da maneira mais difícil”, disse ele.
Alexandra Reeve Givens, CEO do Center for Democracy and Technology, com sede em DC, disse que modelos generativos de IA também podem ser usados para espalhar desinformação durante as eleições.
“Nas eleições anteriores, os agentes usaram chamadas robóticas e mensagens de texto para espalhar informações enganosas”, disse Givens. “Mas agora, os malfeitores podem facilmente usar a IA para crescer exponencialmente e personalizar a supressão de eleitores ou outros alvos.”
DeStefano pediu ação imediata antes que o abuso da IA se torne ainda maior.
“Meu maior medo é como isso vai se manifestar em outras áreas, como tráfico humano e sequestro de crianças”, disse ele. “Porque, felizmente, eu era um adulto que tinha outros adultos ao meu redor. Mas e se fosse uma criança? ‘Ei, é a mamãe. Venha me encontrar aqui. Esse é o meu maior medo.”
A mãe alertou que, se essa ameaça da IA for “deixada descontrolada, desregulada e desprotegida”, ela “reescreverá nossa compreensão e percepção do que é – e do que não é – verdade”.
Discussão sobre isso post