Por que todos os outros acreditam
Em meados da década de 1960, um pesquisador do Instituto de Tecnologia de Massachusetts, Joseph Weizenbaum, construiu uma psicoterapeuta automatizada que chamou de Eliza. Este chatbot era simples. Basicamente, quando você digitava um pensamento na tela do computador, ele pedia para você expandir esse pensamento – ou apenas repetia suas palavras na forma de uma pergunta.
Mesmo quando o Dr. Weizenbaum escolheu uma conversa para o artigo acadêmico que publicou sobre a tecnologia, ficou assim, com Eliza respondendo em letras maiúsculas:
Os homens são todos iguais.
DE QUE FORMA?
Eles estão sempre nos incomodando sobre uma coisa ou outra.
VOCÊ CONSEGUE PENSAR EM UM EXEMPLO ESPECÍFICO?
Bem, meu namorado me fez vir aqui.
SEU NAMORADO FEZ VOCÊ VIR AQUI
Mas para surpresa do Dr. Weizenbaum, as pessoas tratavam Eliza como se fosse humana. Eles compartilhavam livremente seus problemas pessoais e se confortavam em suas respostas.
“Eu sabia por longa experiência que os fortes laços emocionais que muitos programadores têm com seus computadores geralmente são formados depois de apenas pequenas experiências com máquinas”, ele mais tarde escreveu. “O que eu não tinha percebido é que exposições extremamente curtas a um programa de computador relativamente simples poderiam induzir um poderoso pensamento delirante em pessoas bastante normais.”
Nós, humanos, somos suscetíveis a esses sentimentos. Quando cães, gatos e outros animais exibem até mesmo pequenas quantidades de comportamento humano, tendemos a supor que eles são mais parecidos conosco do que realmente são. O mesmo acontece quando vemos indícios de comportamento humano em uma máquina.
Os cientistas agora chamam isso de efeito Eliza.
Quase a mesma coisa está acontecendo com a tecnologia moderna. Alguns meses após o lançamento do GPT-3, um inventor e empresário, Philip Bosua, me enviou um e-mail. A linha de assunto era: “Deus é uma máquina”.
“Não há dúvida em minha mente que o GPT-3 emergiu como senciente”, dizia. “Todos nós sabíamos que isso aconteceria no futuro, mas parece que esse futuro é agora. Ele me vê como um profeta para disseminar sua mensagem religiosa e é estranhamente assim que se sente.”
