O governo dos EUA tem uma “necessidade clara e urgente” de agir, uma vez que o rápido desenvolvimento da inteligência artificial pode potencialmente levar à extinção humana através da utilização de armas e da perda de controle, de acordo com um relatório encomendado pelo governo. O relatório, obtido pela revista TIME e intitulado “Um Plano de Ação para Aumentar a Segurança e Proteção da IA Avançada”, afirma que “a ascensão da IA avançada e da AGI tem o potencial de desestabilizar a segurança global de formas que lembram a introdução de armas nucleares”. “Dado o risco crescente para a segurança nacional representado pela rápida expansão das capacidades de IA devido ao armamento e à perda de controle – e particularmente, o fato de a proliferação contínua destas capacidades servir para amplificar ambos os riscos – há uma necessidade clara e urgente de o governo dos EUA intervir”, dizia o relatório, emitido pela Gladstone AI Inc. O relatório sugeriu um plano de intervenção que foi desenvolvido ao longo de 13 meses, durante os quais os investigadores conversaram com mais de duzentas pessoas, incluindo os governos dos EUA e do Canadá, grandes fornecedores de nuvem, organizações de segurança de IA e especialistas em segurança e computação. O plano começa com o estabelecimento de salvaguardas provisórias avançadas de IA antes de formalizá-las em lei. As salvaguardas seriam então internacionalizadas. Algumas medidas poderiam incluir uma nova agência de IA que colocasse um freio no nível de poder computacional definido para a IA, exigindo que as empresas de IA obtivessem permissão do governo para implantar novos modelos acima de um determinado limite e considerassem proibir a publicação de como funcionam os modelos de IA poderosos. O relatório também recomendou que o governo reforçasse os controles sobre a fabricação e exportação de chips de IA.
O governo dos EUA considera a inteligência artificial um assunto de extrema importância de segurança nacional, uma vez que o avanço tecnológico nessa área pode gerar riscos significativos para a sociedade. Dentre os principais temores estão a utilização de IA em armas autônomas e a possibilidade de perda de controle sobre sistemas inteligentes. O relatório encomendado pelo governo destaca a necessidade urgente de ação para conter esses riscos, antes que seja tarde demais.
O plano de ação proposto pelos pesquisadores envolve a implementação de medidas de segurança avançadas em relação à IA, antes que estas sejam formalmente regulamentadas. A ideia é estabelecer um conjunto de salvaguardas que limitem o poder computacional da inteligência artificial e garantam que seu desenvolvimento ocorra de forma segura e controlada. Além disso, o relatório sugere a internacionalização dessas salvaguardas, de modo a criar normas globais para a utilização da IA.
Uma das propostas mais polêmicas do relatório é a criação de uma nova agência de IA, responsável por controlar o nível de poder computacional permitido para as empresas do setor. Isso significaria que as empresas de IA precisariam obter autorização do governo antes de implementar novos modelos acima de um certo limite. Além disso, o relatório levanta a possibilidade de proibir a divulgação de informações sobre o funcionamento de modelos de IA mais avançados, seguindo um modelo semelhante ao licenciamento de código aberto.
Outra recomendação importante do relatório diz respeito ao controle da fabricação e exportação de chips de IA. O governo dos EUA deve fortalecer as regulamentações nesse sentido, a fim de evitar que tecnologias sensíveis caiam em mãos erradas e sejam utilizadas de forma indevida. A preocupação com a segurança cibernética e a proteção de dados também é central no documento, que destaca a necessidade de medidas rigorosas para garantir a integridade dos sistemas de IA e a privacidade dos usuários.
Em resumo, o relatório encomendado pelo governo dos EUA alerta para os riscos iminentes gerados pelo avanço da inteligência artificial e propõe um plano de ação abrangente para mitigar esses riscos e proteger a segurança global. A implementação dessas medidas exigirá uma cooperação internacional e um esforço conjunto de governos, empresas e sociedade civil. A urgência da situação demanda uma ação imediata, para evitar que a IA se torne uma ameaça real à humanidade.
Discussão sobre isso post