A inteligência artificial (IA) pode ter a capacidade de estar por trás de avanços que “matam muitos humanos” em apenas dois anos, de acordo com o consultor de tecnologia de Rishi Sunak.
Matt Clifford disse que, a menos que os produtores de IA sejam regulamentados em escala global, pode haver sistemas “muito poderosos” que os humanos podem ter dificuldade em controlar.
Mesmo os riscos de curto prazo eram “bastante assustadores”, disse ele à TalkTV, com a IA tendo o potencial de criar armas cibernéticas e biológicas que poderiam infligir muitas mortes.
Os comentários vêm depois que uma carta apoiada por dezenas de especialistas, incluindo pioneiros da IA, foi publicada na semana passada alertando que os riscos da tecnologia devem ser tratados com a mesma urgência que pandemias ou guerra nuclear.
Chefes seniores de empresas como Google DeepMind e Anthropic assinaram a carta junto com o chamado “padrinho da IA”, Geoffrey Hinton, que renunciou ao cargo no Google no início deste mês, dizendo que nas mãos erradas, a IA poderia ser usada para prejudicar as pessoas e significar o fim da humanidade.
LEIA MAIS: ‘Eu sabia que Holly estava zangada com Phil, mas não esperava que ela fosse tão direta’
Clifford está aconselhando o primeiro-ministro no desenvolvimento da Força-Tarefa de Modelos de Fundação do Governo do Reino Unido, que está analisando modelos de linguagem de IA, como ChatGPT e Google Bard, e também é presidente da Agência de Pesquisa e Invenção Avançada (Aria).
Ele disse à TalkTV: “Acho que existem muitos tipos diferentes de riscos com IA e, muitas vezes, na indústria, falamos sobre riscos de curto e longo prazo, e os riscos de curto prazo são realmente muito assustadores.
“Você pode usar IA hoje para criar novas receitas para armas biológicas ou lançar ataques cibernéticos em larga escala. Essas são coisas ruins.
“O tipo de risco existencial que eu acho que os autores das cartas estavam falando é… sobre o que acontece quando efetivamente criamos uma nova espécie, uma inteligência que é maior que a dos humanos.”
Embora admitisse que um prazo de dois anos para que os computadores superassem a inteligência humana estivesse no “extremo otimista do espectro”, Clifford disse que os sistemas de IA estavam se tornando “cada vez mais capazes a um ritmo cada vez maior”.
Questionado no programa First Edition na segunda-feira (5 de junho) qual chance percentual ele daria de que a humanidade pudesse ser exterminada pela IA, Clifford disse: “Acho que não é zero”.
Ele continuou: “Se voltarmos a coisas como armas biológicas ou ataques cibernéticos, você pode ter ameaças realmente muito perigosas aos humanos que podem matar muitos humanos – não todos os humanos – simplesmente de onde esperaríamos que os modelos estivessem em dois anos.
“Acho que o foco agora é como garantir que sabemos como controlar esses modelos, porque no momento não sabemos.”
O especialista em tecnologia disse que a produção de IA precisa ser regulamentada em escala global e não apenas por governos nacionais.
Aplicativos de IA se tornaram virais online, com usuários postando imagens falsas de celebridades e políticos, e estudantes usando ChatGPT e outros “modelos de aprendizado de idiomas” para gerar redações de nível universitário.
Mas a IA também pode executar tarefas que salvam vidas, como algoritmos que analisam imagens médicas, como raios-X, varreduras e ultrassonografias, ajudando os médicos a identificar e diagnosticar doenças como câncer e problemas cardíacos com mais precisão e rapidez.
Clifford disse que a IA, se aproveitada da maneira certa, pode ser uma força para o bem.
“Você pode imaginar a IA curando doenças, tornando a economia mais produtiva, ajudando-nos a chegar a uma economia neutra em carbono”, disse ele.
O Partido Trabalhista está pressionando para que os ministros impeçam os desenvolvedores de tecnologia de trabalhar em ferramentas avançadas de IA, a menos que tenham recebido uma licença.
A secretária digital da sombra, Lucy Powell, que deve falar na conferência da TechUK na terça-feira, disse ao The Guardian que a IA deve ser licenciada de maneira semelhante aos medicamentos ou à energia nuclear.
“Esse é o tipo de modelo em que devemos pensar, onde você precisa ter uma licença para construir esses modelos”, disse ela.
A inteligência artificial (IA) pode ter a capacidade de estar por trás de avanços que “matam muitos humanos” em apenas dois anos, de acordo com o consultor de tecnologia de Rishi Sunak.
Matt Clifford disse que, a menos que os produtores de IA sejam regulamentados em escala global, pode haver sistemas “muito poderosos” que os humanos podem ter dificuldade em controlar.
Mesmo os riscos de curto prazo eram “bastante assustadores”, disse ele à TalkTV, com a IA tendo o potencial de criar armas cibernéticas e biológicas que poderiam infligir muitas mortes.
Os comentários vêm depois que uma carta apoiada por dezenas de especialistas, incluindo pioneiros da IA, foi publicada na semana passada alertando que os riscos da tecnologia devem ser tratados com a mesma urgência que pandemias ou guerra nuclear.
Chefes seniores de empresas como Google DeepMind e Anthropic assinaram a carta junto com o chamado “padrinho da IA”, Geoffrey Hinton, que renunciou ao cargo no Google no início deste mês, dizendo que nas mãos erradas, a IA poderia ser usada para prejudicar as pessoas e significar o fim da humanidade.
LEIA MAIS: ‘Eu sabia que Holly estava zangada com Phil, mas não esperava que ela fosse tão direta’
Clifford está aconselhando o primeiro-ministro no desenvolvimento da Força-Tarefa de Modelos de Fundação do Governo do Reino Unido, que está analisando modelos de linguagem de IA, como ChatGPT e Google Bard, e também é presidente da Agência de Pesquisa e Invenção Avançada (Aria).
Ele disse à TalkTV: “Acho que existem muitos tipos diferentes de riscos com IA e, muitas vezes, na indústria, falamos sobre riscos de curto e longo prazo, e os riscos de curto prazo são realmente muito assustadores.
“Você pode usar IA hoje para criar novas receitas para armas biológicas ou lançar ataques cibernéticos em larga escala. Essas são coisas ruins.
“O tipo de risco existencial que eu acho que os autores das cartas estavam falando é… sobre o que acontece quando efetivamente criamos uma nova espécie, uma inteligência que é maior que a dos humanos.”
Embora admitisse que um prazo de dois anos para que os computadores superassem a inteligência humana estivesse no “extremo otimista do espectro”, Clifford disse que os sistemas de IA estavam se tornando “cada vez mais capazes a um ritmo cada vez maior”.
Questionado no programa First Edition na segunda-feira (5 de junho) qual chance percentual ele daria de que a humanidade pudesse ser exterminada pela IA, Clifford disse: “Acho que não é zero”.
Ele continuou: “Se voltarmos a coisas como armas biológicas ou ataques cibernéticos, você pode ter ameaças realmente muito perigosas aos humanos que podem matar muitos humanos – não todos os humanos – simplesmente de onde esperaríamos que os modelos estivessem em dois anos.
“Acho que o foco agora é como garantir que sabemos como controlar esses modelos, porque no momento não sabemos.”
O especialista em tecnologia disse que a produção de IA precisa ser regulamentada em escala global e não apenas por governos nacionais.
Aplicativos de IA se tornaram virais online, com usuários postando imagens falsas de celebridades e políticos, e estudantes usando ChatGPT e outros “modelos de aprendizado de idiomas” para gerar redações de nível universitário.
Mas a IA também pode executar tarefas que salvam vidas, como algoritmos que analisam imagens médicas, como raios-X, varreduras e ultrassonografias, ajudando os médicos a identificar e diagnosticar doenças como câncer e problemas cardíacos com mais precisão e rapidez.
Clifford disse que a IA, se aproveitada da maneira certa, pode ser uma força para o bem.
“Você pode imaginar a IA curando doenças, tornando a economia mais produtiva, ajudando-nos a chegar a uma economia neutra em carbono”, disse ele.
O Partido Trabalhista está pressionando para que os ministros impeçam os desenvolvedores de tecnologia de trabalhar em ferramentas avançadas de IA, a menos que tenham recebido uma licença.
A secretária digital da sombra, Lucy Powell, que deve falar na conferência da TechUK na terça-feira, disse ao The Guardian que a IA deve ser licenciada de maneira semelhante aos medicamentos ou à energia nuclear.
“Esse é o tipo de modelo em que devemos pensar, onde você precisa ter uma licença para construir esses modelos”, disse ela.
Discussão sobre isso post