Muito antes de Elon Musk e o cofundador da Apple, Steve Wozniak, assinarem uma carta alertando que a inteligência artificial representa “riscos profundos” para a humanidade, o físico teórico britânico Stephen Hawking já havia soado o alarme sobre a tecnologia em rápida evolução.
“O desenvolvimento da inteligência artificial completa pode significar o fim da raça humana”, disse Hawking à BBC em uma entrevista em 2014.
Hawking, que sofria de esclerose lateral amiotrófica (ALS) há mais de 55 anos, morreu em 2018 aos 76 anos. Embora tivesse comentários críticos sobre IA, ele também usou uma forma muito básica da tecnologia para se comunicar devido a sua doença, que enfraquece os músculos e exigia que Hawking usasse uma cadeira de rodas.
Hawking ficou incapaz de falar em 1985 e contou com várias maneiras de se comunicar, incluindo um dispositivo gerador de fala executado pela Intel, que lhe permitiu usar movimentos faciais para selecionar palavras ou letras que foram sintetizadas em fala.
O comentário de Hawking à BBC em 2014 de que a IA poderia “significar o fim da raça humana” foi em resposta a uma pergunta sobre a possibilidade de renovar a tecnologia de voz na qual ele confiava. Ele disse à BBC que formas muito básicas de IA já se mostraram poderosas, mas criar sistemas que rivalizam com a inteligência humana ou a superam pode ser desastroso para a raça humana.
“Ele decolaria por conta própria e se redesenharia em um ritmo cada vez maior”, disse ele.
“Os humanos, que são limitados pela lenta evolução biológica, não poderiam competir e seriam substituídos”, acrescentou Hawking.
Meses após sua morte, o último livro de Hawking chegou ao mercado. Intitulado “Breves Respostas às Grandes Questões”, seu livro fornecia aos leitores respostas às perguntas que ele fazia com frequência. O livro de ciências expôs o argumento de Hawking contra a existência de Deus, como os humanos provavelmente viverão no espaço um dia e seus medos sobre a engenharia genética e o aquecimento global.
A inteligência artificial também ocupou o primeiro lugar em sua lista de “grandes questões”, argumentando que os computadores “provavelmente ultrapassarão os humanos em inteligência” dentro de 100 anos.
“Podemos enfrentar uma explosão de inteligência que, em última análise, resultará em máquinas cuja inteligência excede a nossa em mais do que a dos caracóis”, escreveu ele.
Ele argumentou que os computadores precisam ser treinados para se alinharem aos objetivos humanos, acrescentando que não levar a sério os riscos associados à IA pode ser “nosso pior erro de todos os tempos”.
“É tentador descartar a noção de máquinas altamente inteligentes como mera ficção científica, mas isso seria um erro – e potencialmente o nosso pior erro de todos os tempos.”
Os comentários de Hawking ecoam as preocupações deste ano da gigante da tecnologia Elon Musk e do cofundador da Apple, Steve Wozniak, em uma carta divulgada em março. Os dois líderes tecnológicos, juntamente com milhares de outros especialistas, assinaram uma carta que pedia uma pausa de pelo menos seis meses na construção de sistemas de IA mais poderosos do que o chatbot GPT-4 da OpenAI.
“Sistemas de IA com inteligência competitiva humana podem representar riscos profundos para a sociedade e a humanidade, conforme demonstrado por extensa pesquisa e reconhecido pelos principais laboratórios de IA”, diz a carta, publicada pela organização sem fins lucrativos Future of Life.
O ChatGPT da OpenAI tornou-se a base de usuários de crescimento mais rápido, com 100 milhões de usuários ativos mensais em janeiro, quando pessoas em todo o mundo correram para usar o chatbot, que simula conversas semelhantes às humanas com base nas solicitações fornecidas. O laboratório lançou a última iteração da plataforma, GPT-4, em março.
Apesar dos apelos para interromper a pesquisa em laboratórios de IA que estão trabalhando em tecnologia que superaria o GPT-4, o lançamento do sistema serviu como um divisor de águas que reverberou em toda a indústria de tecnologia e catapultou várias empresas para competir na construção de seus próprios sistemas de IA.
O Google está trabalhando para reformular seu mecanismo de busca e até criar um novo que dependa de IA; A Microsoft lançou o “novo Bing” mecanismo de busca descrito como “co-piloto para a web com inteligência artificial” dos usuários; e Musk disse que lançará um sistema de IA rival que ele descreveu como “busca máxima da verdade”.
Hawking aconselhou no ano anterior à sua morte que o mundo precisava “aprender como se preparar e evitar os riscos potenciais” associados à IA, argumentando que os sistemas “poderiam ser o pior evento da história de nossa civilização”. Ele observou, no entanto, que o futuro ainda é desconhecido e a IA pode ser benéfica para a humanidade se for treinada corretamente.
“O sucesso na criação de IA eficaz pode ser o maior evento da história de nossa civilização. Ou o pior. Nós simplesmente não sabemos. Portanto, não podemos saber se seremos infinitamente ajudados pela IA, ou ignorados por ela e marginalizados, ou possivelmente destruídos por ela”, disse Hawking durante um discurso na conferência de tecnologia Web Summit em Portugal em 2017.
Discussão sobre isso post