As propostas para regular algoritmos são tentadoras, mas muitos provavelmente encontrariam as mesmas barreiras da Primeira Emenda que os regulamentos de fala direta. A Primeira Emenda protege o discurso de ódio, a desinformação e muitos outros discursos prejudiciais. Regular o algoritmo não evitaria esses problemas. Os tribunais têm sustentado que as leis que restringem a distribuição de discurso protegido levantam preocupações da Primeira Emenda.
Algumas preocupações que as pessoas levantam sobre algoritmos envolvem a coleta de plataformas e o uso de dados pessoais para visar usuários com conteúdo prejudicial. O Congresso poderia tratar dessas questões mais diretamente – e sem os mesmos problemas constitucionais das restrições de expressão – por meio de uma forte lei nacional de privacidade.
Qual é o projeto de lei mais perigoso que foi proposto e qual a melhor ideia que você já teve?
É difícil escolher apenas uma nota perigosa. Estou preocupado com muitas propostas nos níveis estadual e federal para restringir a capacidade de moderação das plataformas. Os conservadores argumentaram que as plataformas os impediram injustamente de expressar suas opiniões. Mas a Primeira Emenda protege capacidade das plataformas de exercer essa discrição, por mais injusto que pareça. Estou preocupado com o Projeto de lei Klobuchar-Lujan, que, durante uma emergência de saúde pública, removeria a proteção da Seção 230 das plataformas para qualquer “desinformação de saúde” que uma plataforma promova algoritmicamente de maneira não neutra. Como o projeto de lei define “desinformação sobre saúde”? Deixa isso para orientação emitida pelo secretário de saúde e serviços humanos. Não deve ser difícil imaginar um cenário em que um secretário do HHS abusa dessa autoridade notável para suprimir as críticas ao governo. Isso chega muito perto de um Ministério da Verdade para o meu conforto.
Estou intrigado com [Stanford Law professor] De Nate Persily proposta para exigir que as plataformas forneçam aos pesquisadores externos acesso aos dados. Um dos maiores problemas com o debate atual é a falta de transparência entre as grandes empresas de mídia social. A proposta ajudaria a resolver isso e informar o debate. Mas qualquer exigência desse tipo precisaria abordar as preocupações muito reais de privacidade de fornecer acesso a tais dados. Da mesma forma, vou dar uma sugestão para uma comissão de apuração de fatos não partidária de especialistas que tenho feito propondo nos últimos anos.
Eu também gosto de alguns elementos do PACT Act. O projeto contém muitas reformas, incluindo uma isenção à Seção 230 se uma plataforma se recusar a remover o conteúdo que foi considerado difamatório em um processo judicial entre o sujeito e o autor da postagem. Coautor da Seção 230, ex-congressista Chris Cox, não pensa que a Seção 230 deve cobrir tais casos. Eu concordo.
As empresas de tecnologia terão que confiar em outras defesas como a Primeira Emenda para se proteger se a Seção 230 se desgastar? Como é o mundo pós-230?
Muitas plataformas confiaram em outras defesas nos últimos anos, especialmente porque os juízes expressaram cada vez mais seu desagrado pela Seção 230. Essas defesas geralmente envolvem investigações judiciais mais complexas do que a Seção 230, exigindo que as plataformas se envolvam em depoimentos caros, produção de documentos e outras descobertas. Uma empresa de trilhões de dólares como a Meta poderia facilmente arcar com essas despesas (e caramba, Meta está pedindo reformas na seção 230). Mas uma start-up que quer ser a próxima Meta provavelmente não poderia. Não sabemos exatamente que nível de proteção da Primeira Emenda os tribunais forneceriam às plataformas online, uma vez que a passagem da Seção 230 tornou quase desnecessário que os tribunais determinassem isso. Mas o precedente da Primeira Emenda, conforme aplicado a livrarias e outros réus pré-internet por décadas, sugere que mesmo sem a Seção 230, os reclamantes teriam um pesado fardo para persuadir os tribunais a impor responsabilidade às plataformas.
As propostas para regular algoritmos são tentadoras, mas muitos provavelmente encontrariam as mesmas barreiras da Primeira Emenda que os regulamentos de fala direta. A Primeira Emenda protege o discurso de ódio, a desinformação e muitos outros discursos prejudiciais. Regular o algoritmo não evitaria esses problemas. Os tribunais têm sustentado que as leis que restringem a distribuição de discurso protegido levantam preocupações da Primeira Emenda.
Algumas preocupações que as pessoas levantam sobre algoritmos envolvem a coleta de plataformas e o uso de dados pessoais para visar usuários com conteúdo prejudicial. O Congresso poderia tratar dessas questões mais diretamente – e sem os mesmos problemas constitucionais das restrições de expressão – por meio de uma forte lei nacional de privacidade.
Qual é o projeto de lei mais perigoso que foi proposto e qual a melhor ideia que você já teve?
É difícil escolher apenas uma nota perigosa. Estou preocupado com muitas propostas nos níveis estadual e federal para restringir a capacidade de moderação das plataformas. Os conservadores argumentaram que as plataformas os impediram injustamente de expressar suas opiniões. Mas a Primeira Emenda protege capacidade das plataformas de exercer essa discrição, por mais injusto que pareça. Estou preocupado com o Projeto de lei Klobuchar-Lujan, que, durante uma emergência de saúde pública, removeria a proteção da Seção 230 das plataformas para qualquer “desinformação de saúde” que uma plataforma promova algoritmicamente de maneira não neutra. Como o projeto de lei define “desinformação sobre saúde”? Deixa isso para orientação emitida pelo secretário de saúde e serviços humanos. Não deve ser difícil imaginar um cenário em que um secretário do HHS abusa dessa autoridade notável para suprimir as críticas ao governo. Isso chega muito perto de um Ministério da Verdade para o meu conforto.
Estou intrigado com [Stanford Law professor] De Nate Persily proposta para exigir que as plataformas forneçam aos pesquisadores externos acesso aos dados. Um dos maiores problemas com o debate atual é a falta de transparência entre as grandes empresas de mídia social. A proposta ajudaria a resolver isso e informar o debate. Mas qualquer exigência desse tipo precisaria abordar as preocupações muito reais de privacidade de fornecer acesso a tais dados. Da mesma forma, vou dar uma sugestão para uma comissão de apuração de fatos não partidária de especialistas que tenho feito propondo nos últimos anos.
Eu também gosto de alguns elementos do PACT Act. O projeto contém muitas reformas, incluindo uma isenção à Seção 230 se uma plataforma se recusar a remover o conteúdo que foi considerado difamatório em um processo judicial entre o sujeito e o autor da postagem. Coautor da Seção 230, ex-congressista Chris Cox, não pensa que a Seção 230 deve cobrir tais casos. Eu concordo.
As empresas de tecnologia terão que confiar em outras defesas como a Primeira Emenda para se proteger se a Seção 230 se desgastar? Como é o mundo pós-230?
Muitas plataformas confiaram em outras defesas nos últimos anos, especialmente porque os juízes expressaram cada vez mais seu desagrado pela Seção 230. Essas defesas geralmente envolvem investigações judiciais mais complexas do que a Seção 230, exigindo que as plataformas se envolvam em depoimentos caros, produção de documentos e outras descobertas. Uma empresa de trilhões de dólares como a Meta poderia facilmente arcar com essas despesas (e caramba, Meta está pedindo reformas na seção 230). Mas uma start-up que quer ser a próxima Meta provavelmente não poderia. Não sabemos exatamente que nível de proteção da Primeira Emenda os tribunais forneceriam às plataformas online, uma vez que a passagem da Seção 230 tornou quase desnecessário que os tribunais determinassem isso. Mas o precedente da Primeira Emenda, conforme aplicado a livrarias e outros réus pré-internet por décadas, sugere que mesmo sem a Seção 230, os reclamantes teriam um pesado fardo para persuadir os tribunais a impor responsabilidade às plataformas.
Discussão sobre isso post