Essa era parece estranha agora. Nossos feeds de mídia social estão cheios de conteúdo não solicitado e marginal, graças à adoção da mídia social de dois desenvolvimentos tecnológicos importantes: personalização, estimulada pela coleta em massa de dados do usuário por meio de cookies da web e sistemas de Big Data, e amplificação algorítmica, o uso de poderosa inteligência artificial para selecionar o conteúdo mostrado aos usuários.
A personalização e a amplificação algorítmica, por si só, tornaram, sem dúvida, possíveis novos serviços de Internet maravilhosos. Os usuários de tecnologia dão como certa nossa capacidade de personalizar aplicativos e sites com nossas equipes esportivas, músicos e hobbies favoritos. O uso de algoritmos de classificação por sites de notícias para suas seções de comentários de usuários, tradicionais fossas de spam, tem sido amplamente bem-sucedido.
Mas quando cientistas de dados e engenheiros de software combinam personalização de conteúdo e amplificação algorítmica – como fazem para produzir o Feed de notícias do Facebook, a guia For You do TikTok e o mecanismo de recomendação do YouTube – eles criam criaturas incontroláveis e sugadoras de atenção. Embora esses algoritmos, como o “ranking baseado em engajamento” do Facebook, sejam comercializados como um conteúdo “relevante” crescente, eles perpetuam preconceitos e afetam a sociedade de maneiras que são mal compreendidas por seus criadores, muito menos por usuários ou reguladores.
Em 2007, comecei a trabalhar no Facebook como cientista de dados e minha primeira tarefa foi trabalhar no algoritmo usado pelo Feed de notícias. O Facebook teve mais de 15 anos para demonstrar que feeds pessoais algorítmicos podem ser construídos com responsabilidade; se ainda não aconteceu, não vai acontecer. Como disse a Sra. Haugen, agora devem ser humanos, não computadores, “facilitando de quem podemos ouvir”.
Embora equipes insuficientes de cientistas de dados e gerentes de produto como Haugen tentem manter os piores impactos dos algoritmos sob controle, as plataformas de mídia social têm um incentivo econômico fundamental para manter os usuários engajados. Isso garante que esses feeds continuarão promovendo o conteúdo mais estimulante e estimulante, e cria uma tarefa impossível para moderadores de conteúdo, que lutam para policiar o conteúdo viral problemático em centenas de idiomas, países e contextos políticos.
Essa era parece estranha agora. Nossos feeds de mídia social estão cheios de conteúdo não solicitado e marginal, graças à adoção da mídia social de dois desenvolvimentos tecnológicos importantes: personalização, estimulada pela coleta em massa de dados do usuário por meio de cookies da web e sistemas de Big Data, e amplificação algorítmica, o uso de poderosa inteligência artificial para selecionar o conteúdo mostrado aos usuários.
A personalização e a amplificação algorítmica, por si só, tornaram, sem dúvida, possíveis novos serviços de Internet maravilhosos. Os usuários de tecnologia dão como certa nossa capacidade de personalizar aplicativos e sites com nossas equipes esportivas, músicos e hobbies favoritos. O uso de algoritmos de classificação por sites de notícias para suas seções de comentários de usuários, tradicionais fossas de spam, tem sido amplamente bem-sucedido.
Mas quando cientistas de dados e engenheiros de software combinam personalização de conteúdo e amplificação algorítmica – como fazem para produzir o Feed de notícias do Facebook, a guia For You do TikTok e o mecanismo de recomendação do YouTube – eles criam criaturas incontroláveis e sugadoras de atenção. Embora esses algoritmos, como o “ranking baseado em engajamento” do Facebook, sejam comercializados como um conteúdo “relevante” crescente, eles perpetuam preconceitos e afetam a sociedade de maneiras que são mal compreendidas por seus criadores, muito menos por usuários ou reguladores.
Em 2007, comecei a trabalhar no Facebook como cientista de dados e minha primeira tarefa foi trabalhar no algoritmo usado pelo Feed de notícias. O Facebook teve mais de 15 anos para demonstrar que feeds pessoais algorítmicos podem ser construídos com responsabilidade; se ainda não aconteceu, não vai acontecer. Como disse a Sra. Haugen, agora devem ser humanos, não computadores, “facilitando de quem podemos ouvir”.
Embora equipes insuficientes de cientistas de dados e gerentes de produto como Haugen tentem manter os piores impactos dos algoritmos sob controle, as plataformas de mídia social têm um incentivo econômico fundamental para manter os usuários engajados. Isso garante que esses feeds continuarão promovendo o conteúdo mais estimulante e estimulante, e cria uma tarefa impossível para moderadores de conteúdo, que lutam para policiar o conteúdo viral problemático em centenas de idiomas, países e contextos políticos.
Discussão sobre isso post