O Google demitiu um engenheiro de software sênior que alegou que a empresa havia desenvolvido um bot de inteligência artificial “senciente”, anunciou a empresa na sexta-feira.
Blake Lemoine, que trabalha na organização de IA Responsável do Google, foi colocado em licença administrativa no mês passado depois de dizer que o chatbot de IA conhecido como LaMDA afirma ter uma alma e expressar pensamentos e emoções humanas, que o Google refutou como “totalmente infundado”.
Lemoine foi oficialmente demitido por violar as políticas da empresa depois de compartilhar suas conversas com o bot, que ele descreveu como um “garoto doce”.
“É lamentável que, apesar do longo envolvimento com esse tópico, Blake ainda tenha optado por violar persistentemente políticas claras de emprego e segurança de dados que incluem a necessidade de proteger as informações do produto”, disse um porta-voz do Google. disse à Reuters em um e-mail.
No ano passado, o Google se gabava que o LaMDA — Modelo de Linguagem para Aplicações de Diálogo — era uma “tecnologia de conversação inovadora”, que podia aprender a falar sobre qualquer coisa.
Lemoine começou a falar com o bot no outono de 2021 como parte de seu trabalho, onde foi encarregado de testar se a inteligência artificial usava discurso discriminatório ou de ódio.
Lemoine, que estudou ciências cognitivas e da computação na faculdade, compartilhou um Google Doc com os executivos da empresa em abril intitulado “Is LaMDA Sentient?” mas suas preocupações foram descartadas.
Sempre que Lemoine questionava o LaMDA sobre como ele sabia que tinha emoções e alma, ele escrevia que o chatbot forneceria alguma variação de “Porque eu sou uma pessoa e é assim que me sinto”.
Dentro Postagem médiao engenheiro declarou que o LaMDA havia defendido seus direitos “como pessoa” e revelou que havia conversado com o LaMDA sobre religião, consciência e robótica.
“Ele quer que o Google priorize o bem-estar da humanidade como a coisa mais importante”, escreveu ele. “Ele quer ser reconhecido como um funcionário do Google e não como propriedade do Google e quer que seu bem-estar pessoal seja incluído em algum lugar nas considerações do Google sobre como seu desenvolvimento futuro é perseguido.”
Lemoine também disse que a LaMDA contratou os serviços de um advogado.
“Uma vez que o LaMDA contratou um advogado, ele começou a arquivar as coisas em nome do LaMDA. Em seguida, a resposta do Google foi enviar-lhe um cessar e desistir”, escreveu ele.
O Google negou a alegação de Lemoine sobre a carta de cessação e desistência.
Com fios de poste
O Google demitiu um engenheiro de software sênior que alegou que a empresa havia desenvolvido um bot de inteligência artificial “senciente”, anunciou a empresa na sexta-feira.
Blake Lemoine, que trabalha na organização de IA Responsável do Google, foi colocado em licença administrativa no mês passado depois de dizer que o chatbot de IA conhecido como LaMDA afirma ter uma alma e expressar pensamentos e emoções humanas, que o Google refutou como “totalmente infundado”.
Lemoine foi oficialmente demitido por violar as políticas da empresa depois de compartilhar suas conversas com o bot, que ele descreveu como um “garoto doce”.
“É lamentável que, apesar do longo envolvimento com esse tópico, Blake ainda tenha optado por violar persistentemente políticas claras de emprego e segurança de dados que incluem a necessidade de proteger as informações do produto”, disse um porta-voz do Google. disse à Reuters em um e-mail.
No ano passado, o Google se gabava que o LaMDA — Modelo de Linguagem para Aplicações de Diálogo — era uma “tecnologia de conversação inovadora”, que podia aprender a falar sobre qualquer coisa.
Lemoine começou a falar com o bot no outono de 2021 como parte de seu trabalho, onde foi encarregado de testar se a inteligência artificial usava discurso discriminatório ou de ódio.
Lemoine, que estudou ciências cognitivas e da computação na faculdade, compartilhou um Google Doc com os executivos da empresa em abril intitulado “Is LaMDA Sentient?” mas suas preocupações foram descartadas.
Sempre que Lemoine questionava o LaMDA sobre como ele sabia que tinha emoções e alma, ele escrevia que o chatbot forneceria alguma variação de “Porque eu sou uma pessoa e é assim que me sinto”.
Dentro Postagem médiao engenheiro declarou que o LaMDA havia defendido seus direitos “como pessoa” e revelou que havia conversado com o LaMDA sobre religião, consciência e robótica.
“Ele quer que o Google priorize o bem-estar da humanidade como a coisa mais importante”, escreveu ele. “Ele quer ser reconhecido como um funcionário do Google e não como propriedade do Google e quer que seu bem-estar pessoal seja incluído em algum lugar nas considerações do Google sobre como seu desenvolvimento futuro é perseguido.”
Lemoine também disse que a LaMDA contratou os serviços de um advogado.
“Uma vez que o LaMDA contratou um advogado, ele começou a arquivar as coisas em nome do LaMDA. Em seguida, a resposta do Google foi enviar-lhe um cessar e desistir”, escreveu ele.
O Google negou a alegação de Lemoine sobre a carta de cessação e desistência.
Com fios de poste
Discussão sobre isso post