É emocionante e perturbador ter uma conversa realista com um computador. Graças ao rápido avanço da inteligência artificial generativa, muitos de nós já experimentamos essa tecnologia potencialmente revolucionária com vastas implicações sobre como as pessoas vivem, trabalham e se comunicam em todo o mundo. A extensão total do potencial da IA generativa ainda está em debate, mas há poucas dúvidas de que será altamente disruptiva.
A última vez que nos deparamos com uma mudança social tão ampla provocada pela tecnologia foi no início da era da Web 2.0, em meados dos anos 2000. Empresas novas e inovadoras, como o Facebook e o Google, revolucionaram as comunicações e forneceram serviços populares para uma base de usuários em rápido crescimento.
Esses serviços inovadores, no entanto, tiveram um custo alto. O que inicialmente concebemos como serviços gratuitos foram monetizado por meio de vigilância extensiva das pessoas e empresas que os utilizam. O resultado tem sido uma economia online onde o acesso a serviços cada vez mais essenciais está condicionado ao acúmulo e venda generalizados de nossos dados pessoais.
Esses modelos de negócios levaram as empresas a desenvolver infinitamente formas invasivas de nos rastreare a Federal Trade Commission mais tarde encontraria motivos para acreditar que diversos de esses empresas tive infringiu a lei. Juntamente com estratégias agressivas para adquirir ou bloquear empresas que ameaçavam sua posição, essas táticas solidificaram o domínio de um punhado de empresas. O que começou como um conjunto revolucionário de tecnologias acabou concentrando um enorme poder privado sobre os principais serviços e bloqueando modelos de negócios que têm um custo extraordinário para nossa privacidade e segurança.
A trajetória da era da Web 2.0 não foi inevitável — em vez disso, foi moldada por uma ampla gama de escolhas políticas. E agora enfrentamos outro momento de escolha. À medida que o uso da IA se torna mais difundido, os funcionários públicos têm a responsabilidade de garantir que essa história aprendida com muito esforço não se repita.
À medida que as empresas correm para implantar e monetizar a IA, a Federal Trade Commission está analisando de perto a melhor forma de cumprir nosso duplo mandato de promover a concorrência justa e proteger os americanos de práticas injustas ou enganosas. À medida que essas tecnologias evoluem, estamos comprometidos em fazer nossa parte para manter a tradição de longa data da América de manter os mercados abertos, justos e competitivos que sustentam tanto as inovações revolucionárias quanto o sucesso econômico de nossa nação – sem tolerar modelos de negócios ou práticas que envolvam a exploração em massa de seus Usuários. Embora essas ferramentas sejam novas, elas não estão isentas das regras existentes, e a FTC aplicará vigorosamente as leis que temos a responsabilidade de administrar, mesmo nesse novo mercado.
Embora a tecnologia esteja avançando rapidamente, já podemos ver vários riscos. A adoção em expansão da IA corre o risco de bloquear ainda mais o domínio do mercado de grandes empresas de tecnologia estabelecidas. Um punhado de empresas poderosas controla o matérias-primas necessárias que start-ups e outras empresas dependem para desenvolver e implantar ferramentas de IA. Isso inclui serviços em nuvem e poder de computação, bem como vastos armazenamentos de dados.
Enforcers e reguladores devem estar vigilantes. As empresas dominantes podem usar seu controle sobre esses insumos-chave para excluir ou discriminar rivais a jusante, escolhendo vencedores e perdedores de maneiras que consolidam ainda mais seu domínio. Enquanto isso, as ferramentas de IA que as empresas usam para definir preços para tudo, desde sabão em pó até reservas de pista de boliche pode facilitar o comportamento colusivo que inflaciona injustamente os preços — bem como formas de discriminação de preços precisamente direcionada. Os executores têm a dupla responsabilidade de observar os perigos representados pelas novas tecnologias de IA, ao mesmo tempo em que promovem a concorrência justa necessária para garantir que o mercado dessas tecnologias se desenvolva legalmente. O FTC é bem equipado com jurisdição legal para lidar com as questões trazidas à tona pelo setor de IA em rápido desenvolvimento, incluindo conluio, monopolização, fusões, discriminação de preços e métodos desleais de concorrência.
E riscos generativos de IA fraude de turboalimentação. Ele pode não estar pronto para substituir escritores profissionais, mas já pode fazer um trabalho muito melhor ao criar uma mensagem aparentemente autêntica do que o vigarista comum – equipando os golpistas para gerar conteúdo de forma rápida e barata. Os chatbots já estão sendo usados para gerar e-mails de spear phishing projetados para enganar pessoas, sites falsos e avaliações falsas de consumidores – os bots estão até sendo instruídos a usar palavras ou frases direcionadas a grupos e comunidades específicas. Os golpistas, por exemplo, pode redigir e-mails de spear phishing altamente direcionados com base nas postagens de mídia social de usuários individuais. Juntamente com ferramentas que criam vídeos falsos profundos e clones de voz, essas tecnologias podem ser usadas para facilitar fraudes e extorsões em grande escala.
Ao fazer cumprir a proibição da lei sobre práticas enganosas, vamos olhar não apenas para os golpistas que usam essas ferramentas, mas também para as empresas upstream que as permitem.
Por fim, essas ferramentas de IA estão sendo treinadas em enormes quantidades de dados de maneiras que não são verificadas. Como podem ser alimentadas com informações repletas de erros e preconceitos, essas tecnologias correm o risco de automatizando a discriminação — privar injustamente as pessoas de empregos, moradia ou serviços essenciais. Essas ferramentas também podem ser treinadas em e-mails privados, bate-papos e dados confidenciais, expondo detalhes pessoais e violando a privacidade do usuário. Existir leis a proibição da discriminação será aplicada, assim como as autoridades existentes que proíbem a coleta ou uso exploratório de dados pessoais.
A história do crescimento das empresas de tecnologia há duas décadas serve como um alerta sobre como devemos pensar sobre a expansão da IA generativa. Mas a história também traz lições sobre como lidar com a disrupção tecnológica para o benefício de todos. Enfrentando o escrutínio antitruste no final dos anos 1960, o titã da computação IBM separou o software de seus sistemas de hardware, catalisando a ascensão da indústria de software americana e criando trilhões de dólares de crescimento. A ação do governo exigiu que a AT&T abrisse seu cofre de patentes e desencadeasse décadas de inovação e estimulou a expansão de inúmeras empresas jovens.
O compromisso nacional de longa data da América em promover a concorrência justa e aberta tem sido uma parte essencial do que tornou esta nação uma potência econômica e um laboratório de inovação. Mais uma vez nos encontramos em um ponto de decisão chave. Podemos continuar a ser o lar da tecnologia líder mundial sem aceitar modelos de negócios de corrida para o fundo e controle monopolista que bloqueia produtos de maior qualidade ou a próxima grande ideia? Sim – se fizermos as escolhas políticas certas.
Discussão sobre isso post