Ultima atualização: 14 de julho de 2023, 05h31 IST
Washington DC, Estados Unidos da América (EUA)
Os perigos potenciais da IA têm sido lembrados por ambos os pesquisadores de IA.
A Comissão Federal de Comércio dos EUA está investigando a OpenAI sobre informações falsas e manipulação incorreta de dados do usuário em seu aplicativo ChatGPT. OpenAI para cooperar com a sonda
A Comissão Federal de Comércio dos Estados Unidos está investigando a OpenAI para determinar se seu popular aplicativo ChatGPT prejudica os consumidores ao gerar informações falsas e se sua tecnologia manipula mal os dados do usuário. A OpenAI, apoiada pela Microsoft, foi notificada da investigação em um questionário de 20 páginas no qual a empresa é solicitada a descrever incidentes nos quais os usuários foram falsamente depreciados e compartilhar todos os esforços da empresa para garantir que isso não aconteça novamente.
A investigação do regulador dos EUA foi relatada pela primeira vez pelo The Washington Post. O lançamento do ChatGPT pela OpenAI em novembro passado surpreendeu o mundo ao exibir o poder de grandes modelos de linguagem (ou LLM), uma forma de inteligência artificial conhecida como IA generativa que pode produzir conteúdo semelhante ao humano em apenas alguns segundos.
Em meio à maravilha das capacidades da tecnologia, surgiram relatos de que os modelos também poderiam produzir conteúdo ofensivo, falso ou apenas estranho, às vezes chamado de “alucinações”.
A presidente da FTC, Lina Khan, discursou em uma audiência do comitê do Congresso na quarta-feira e, embora não tenha mencionado a investigação, ela disse aos legisladores que sua agência estava preocupada com a produção potencialmente difamatória do ChatGPT.
“Ouvimos relatos de informações confidenciais de pessoas que aparecem em resposta a uma consulta de outra pessoa”, disse Khan.
“Ouvimos falar de difamação, declarações difamatórias, coisas totalmente falsas que estão surgindo. Esse é o tipo de fraude e engano que nos preocupa”, acrescentou.
A investigação da FTC está focada principalmente em como esse aspecto pode prejudicar os usuários, de acordo com o questionário, mas também investiga o uso de dados privados pela OpenAI para construir seu modelo líder mundial.
O GPT-4 da empresa é a tecnologia fundamental por trás de seu próprio ChatGPT, bem como dezenas de outros programas de empresas que pagam uma taxa para OpenAI para acessar seu modelo para seus próprios usos.
O CEO da OpenAI, Sam Altman, disse em um tweet que lamentava que as notícias da investigação tivessem vazado para a imprensa, o que “não gera confiança”.
Ele acrescentou que “é claro” que a OpenAI funcionará com a FTC e que “é muito importante para nós que nossa tecnologia seja segura e pró-consumidor, e estamos confiantes de que seguimos a lei”.
Uma investigação da FTC não traz necessariamente novas ações e o regulador pode encerrar o caso se for satisfeito pela resposta da empresa-alvo.
Se a FTC perceber práticas ilegais ou inseguras, exigirá uma ação corretiva e possivelmente abrirá um processo judicial.
A OpenAI e a FTC não responderam a um pedido de comentário.
(Esta história não foi editada pela equipe do News18 e foi publicada a partir de um feed de agência de notícias sindicalizado – AFP)
Discussão sobre isso post