O Centro de Internet Segura do Reino Unido (UKSIC) disse que recebeu relatórios de escolas sobre o uso de inteligência artificial por alunos para criar fotos explícitas.
Os especialistas da organização afirmaram que essas imagens, que legalmente constituem material de abuso sexual infantil, podem ter efeitos nocivos sobre os jovens. Acrescentaram que as imagens podem ser utilizadas para abuso ou mesmo chantagem.
O UKSIC instou as escolas a garantir que seus sistemas de filtragem e monitoramento fossem capazes de bloquear eficazmente material ilegal em dispositivos para combater o aumento dessa atividade.
David Wright, diretor do UKSIC, observou que a IA pode ser usada para o bem, mas acrescentou: “Os relatórios que estamos vendo não devem ser uma surpresa.
“Os jovens nem sempre estão conscientes da seriedade do que fazem, mas esses tipos de comportamentos nocivos devem ser antecipados quando novas tecnologias se tornam acessíveis ao público.
“Embora o número de casos seja atualmente pequeno, estamos no início e precisamos ver medidas sendo tomadas agora, antes que as escolas fiquem sobrecarregadas e o problema cresça.”
Wright explicou que a intervenção é crucial para evitar que o conteúdo criminoso se espalhe ainda mais.
Em outubro, a Internet Watch Foundation, que faz parte do UKSIC, alertou que as imagens de abuso sexual infantil geradas pela IA são agora tão realistas que muitas seriam indistinguíveis das imagens reais, e milhares dessas imagens estavam online.
A IA tornou-se cada vez mais uma área de foco no debate sobre segurança online no último ano, especialmente desde o lançamento do gerador ChatGPT no ano passado.
Grupos de segurança online, governos e especialistas da indústria querem uma melhor regulamentação do setor devido ao receio de que esteja se desenvolvendo mais rapidamente do que as autoridades conseguem responder.
Discussão sobre isso post