14 de fevereiro de 2024 – 4h05 PST
WASHINGTON (Reuters) – Hackers apoiados pelo Estado da Rússia, China e Irã têm usado ferramentas da OpenAI apoiada pela Microsoft para aprimorar suas habilidades e enganar seus alvos, de acordo com um relatório publicado na quarta-feira.
Anúncio
A Microsoft (MSFT.O) disse em seu relatório que rastreou grupos de hackers afiliados à inteligência militar russa, à Guarda Revolucionária do Irã e aos governos chinês e norte-coreano enquanto tentavam aperfeiçoar suas campanhas de hackers usando grandes modelos de linguagem. Esses programas de computador, muitas vezes chamados de inteligência artificial, utilizam grandes quantidades de texto para gerar respostas que parecem humanas.
A empresa anunciou a descoberta ao implementar uma proibição geral de grupos de hackers apoiados pelo Estado que usam seus produtos de IA.
“Independentemente de haver qualquer violação da lei ou qualquer violação dos termos de serviço, simplesmente não queremos que os atores que identificamos – que rastreamos e sabemos que são atores de ameaças de vários tipos – não os queremos ter acesso a esta tecnologia”, disse o vice-presidente de segurança do cliente da Microsoft, Tom Burt, à Reuters em entrevista antes do lançamento do relatório.
Autoridades diplomáticas russas, norte-coreanas e iranianas não retornaram imediatamente mensagens solicitando comentários sobre as alegações.
O porta-voz da embaixada da China nos EUA, Liu Pengyu, disse que se opunha a “difamações e acusações infundadas contra a China” e defendia a implantação “segura, confiável e controlável” da tecnologia de IA para “melhorar o bem-estar comum de toda a humanidade”.
A alegação de que hackers apoiados pelo Estado foram apanhados a utilizar ferramentas de IA para ajudar a aumentar as suas capacidades de espionagem é susceptível de sublinhar preocupações sobre a rápida proliferação da tecnologia e o seu potencial para abusos. Altos funcionários da segurança cibernética no Ocidente têm alertado desde o ano passado que atores desonestos estavam abusando de tais ferramentas, embora os detalhes tenham sido, até agora, escassos.
“Este é um dos primeiros, se não o primeiro, caso de uma empresa de IA que se apresenta e discute publicamente como os atores de ameaças à segurança cibernética usam tecnologias de IA”, disse Bob Rotsted, que lidera a inteligência de ameaças à segurança cibernética na OpenAI.
OpenAI e Microsoft descreveram o uso de suas ferramentas de IA pelos hackers como “estágio inicial” e “incremental”. Burt disse que nenhum dos dois viu espiões cibernéticos fazerem qualquer descoberta.
“Nós realmente os vimos usando essa tecnologia como qualquer outro usuário”, disse ele.
O relatório descreveu grupos de hackers usando os grandes modelos de linguagem de forma diferente.
Hackers supostamente trabalhando em nome da agência de espionagem militar russa, amplamente conhecida como GRU, usaram os modelos para pesquisar “várias tecnologias de satélite e radar que podem pertencer a operações militares convencionais na Ucrânia”, disse a Microsoft.
A Microsoft disse que hackers norte-coreanos usaram os modelos para gerar conteúdo “que provavelmente seria usado em campanhas de spear-phishing” contra especialistas regionais. Os hackers iranianos também se apoiaram nos modelos para escrever e-mails mais convincentes, disse a Microsoft, a certa altura usando-os para redigir uma mensagem que tentava atrair “feministas proeminentes” para um site com armadilhas.
A gigante do software disse que hackers apoiados pelo Estado chinês também estavam experimentando grandes modelos de linguagem, por exemplo, para fazer perguntas sobre agências de inteligência rivais, questões de segurança cibernética e “indivíduos notáveis”.
Nem Burt nem Rotsted se interessaram pelo volume de atividade ou quantas contas foram suspensas. E Burt defendeu a proibição de tolerância zero aos grupos de hackers – que não se estende às ofertas da Microsoft, como o seu motor de busca, o Bing – apontando para a novidade da IA e a preocupação com a sua implantação.
“Esta tecnologia é nova e incrivelmente poderosa”, disse ele.
Reportagem de Raphael Satter; Reportagem adicional de Christopher Bing em Washington e Michelle Nichols nas Nações Unidas;
Discussão sobre isso post