O chefe da empresa de inteligência artificial que fabrica o ChatGPT disse ao Congresso na terça-feira que a intervenção do governo será fundamental para mitigar os riscos de sistemas de IA cada vez mais poderosos.
“À medida que essa tecnologia avança, entendemos que as pessoas estão ansiosas sobre como isso pode mudar a maneira como vivemos. Nós também estamos”, disse o CEO da OpenAI, Sam Altman, em uma audiência no Senado.
Altman propôs a formação de uma agência americana ou global que licenciaria os sistemas de IA mais poderosos e teria autoridade para “retirar essa licença e garantir a conformidade com os padrões de segurança”.
Sua startup com sede em San Francisco disparou para a atenção do público depois que lançou o ChatGPT no final do ano passado. O ChatGPT é uma ferramenta gratuita de chatbot que responde a perguntas com respostas convincentemente humanas.
O que começou como um pânico entre os educadores sobre o uso do ChatGPT para trapacear nas tarefas de casa se expandiu para preocupações mais amplas sobre a capacidade da última safra de ferramentas de “IA generativa” de enganar as pessoas, espalhar falsidades, violar proteções de direitos autorais e derrubar alguns empregos.
E embora não haja nenhum sinal imediato de que o Congresso criará novas regras de IA abrangentes, como os legisladores europeus estão fazendo, as preocupações sociais levaram Altman e outros CEOs de tecnologia à Casa Branca no início deste mês e levaram as agências dos EUA a prometer reprimir produtos prejudiciais de IA. que violam os direitos civis existentes e as leis de proteção ao consumidor.
O senador Richard Blumenthal, o democrata de Connecticut que preside o subcomitê do Comitê Judiciário do Senado sobre privacidade, tecnologia e lei, abriu a audiência com um discurso gravado que soava como o senador, mas na verdade era um clone de voz treinado nos discursos de Blumenthal e recitando um discurso escrito pelo ChatGPT depois que ele pediu ao chatbot para redigir seus comentários iniciais.
O resultado foi impressionante, disse Blumenthal, mas acrescentou: “E se eu tivesse pedido, e se tivesse fornecido, um endosso à rendição da Ucrânia ou à liderança de Vladimir Putin (presidente russo)?”
Blumenthal disse que as empresas de IA devem ser obrigadas a testar seus sistemas e divulgar os riscos conhecidos antes de liberá-los, e expressou preocupação particular sobre como os futuros sistemas de IA podem desestabilizar o mercado de trabalho.
Pressionado por seu pior medo sobre a IA, Altman evitou detalhes específicos, exceto para dizer que a indústria poderia causar “danos significativos ao mundo” e que “se essa tecnologia der errado, pode dar muito errado”.
Mais tarde, porém, ele propôs que uma nova agência reguladora impusesse salvaguardas que bloqueariam os modelos de IA que poderiam “auto-replicar-se e auto-exfiltrar-se na natureza” – insinuando preocupações futurísticas sobre sistemas avançados de IA que poderiam manipular os humanos para ceder o controle.
Cofundada por Altman em 2015 com o apoio do bilionário tecnológico Elon Musk, a OpenAI evoluiu de um laboratório de pesquisa sem fins lucrativos com uma missão focada em segurança para um negócio. Seus outros produtos populares de IA, incluindo o criador de imagens DALL-E.
A Microsoft investiu bilhões de dólares na startup e integrou sua tecnologia em seus próprios produtos, incluindo seu mecanismo de busca Bing.
Altman também está planejando embarcar em uma turnê mundial este mês para capitais nacionais e grandes cidades em seis continentes para falar sobre a tecnologia com formuladores de políticas e o público. Na véspera de seu depoimento no Senado, ele jantou com dezenas de legisladores americanos, vários dos quais disseram à CNBC que ficaram impressionados com seus comentários.
Também testemunharam a diretora de privacidade e confiança da IBM, Christina Montgomery, e Gary Marcus, professor emérito da Universidade de Nova York que estava entre um grupo de especialistas em IA que pediu à OpenAI e outras empresas de tecnologia que interrompessem o desenvolvimento de modelos de IA mais poderosos para seis meses para dar à sociedade mais tempo para considerar os riscos.
A carta foi uma resposta ao lançamento de março do modelo mais recente da OpenAI, GPT-4, descrito como mais poderoso que o ChatGPT.
O republicano do painel, o senador Josh Hawley, do Missouri, disse que a tecnologia tem grandes implicações para eleições, empregos e segurança nacional. Ele disse que a audiência de terça-feira marcou “um primeiro passo crítico para entender o que o Congresso deve fazer”.
Vários líderes da indústria de tecnologia disseram que aceitam alguma forma de supervisão da IA, mas alertaram contra o que consideram regras excessivamente pesadas.
Altman e Marcus pediram um regulador focado em IA, de preferência internacional, com Altman citando o precedente da agência nuclear da ONU e Marcus comparando-o com a Food and Drug Administration dos EUA. Mas Montgomery, da IBM, pediu ao Congresso que adotasse uma abordagem de “regulamentação de precisão”.
“Achamos que a IA deve ser regulamentada no ponto de risco, essencialmente”, disse Montgomery, estabelecendo regras que regem a implantação de usos específicos da IA, em vez da própria tecnologia.
(Esta história não foi editada pela equipe do News18 e foi publicada a partir de um feed de agência de notícias sindicalizado)
Discussão sobre isso post