Algoritmos podem observar nosso comportamento e determinar o que milhões de nós vemos quando estamos logados. A nossa era tem sido rotulada de “sociedade algorítmica”
Getty Images via BBC
Os algoritmos de rede social, em sua forma comumente conhecida, já completaram 15 anos.
Eles nasceram com o surgimento de feeds de notícias personalizados e classificados no Facebook em 2009 e transformaram a forma que interagimos na internet.
Como acontece com muitos adolescentes, eles representam um desafio para os adultos que esperam conter seus excessos.
Não é por falta de tentativa. Só este ano, governos de todo o mundo tentaram limitar os impactos dos conteúdos nocivos e da desinformação nas redes sociais, efeitos que são amplificados por algoritmos.
No Brasil, o X, anteriormente conhecido como Twitter, foi banido por decisão do ministro do Supremo Tribunal Federal, Alexandre de Moraes, até que o site concordou em nomear um representante legal no país e bloquear uma lista de contas que as autoridades acusaram de questionar a legitimidade das últimas eleições.
Enquanto isso, a União Europeia introduziu novas regras que ameaçam multar as empresas de tecnologia em 6% do volume de negócios e suspendê-las se não conseguirem evitar que suas plataformas sejam utilizadas para interferência em processos eleitorais.
No Reino Unido uma nova lei de segurança online obriga os sites de redes sociais a reforçar a moderação de conteúdo.
E nos EUA uma proposta de lei pode proibir o TikTok se o aplicativo não for vendido por sua controladora chinesa.
Governos enfrentam acusações de que estão restringindo a liberdade de expressão e interferindo nos princípios da internet, tal como estabelecidos nos seus primórdios.
Num ensaio de 1996, republicado por 500 websites, o mais próximo que se podia chegar de se tornar viral naquela época, o poeta americano e criador de gado John Perry Barlow disse: “Governos do mundo industrial, gigantes cansados de carne e aço, eu venho do ciberespaço, o novo lar da mente. Em nome do futuro, peço ao passado que nos deixe em paz. Você não é bem-vindo entre nós. Você não tem soberania onde nos reunimos.”
Adam Candeub, professor de Direito e ex-conselheiro do presidente Trump, que se descreve como um absolutista da liberdade de expressão, disse à BBC que as redes sociais estão “polarizando, são turbulentas, são rudes”, uma “maneira terrível de ter discurso público”.
“Mas a alternativa, que penso que muitos governos estão defendendo, é torná-la um instrumento de controle social e político, e acho isso horrível.”
O professor Candeub acredita que, a menos que haja “um perigo claro e presente” representado pelo conteúdo, “a melhor abordagem é um mercado de ideias e abertura para diferentes pontos de vista”.
Os limites da ‘praça digital’
Esta ideia de um “mercado de ideias” alimenta a visão de que as redes sociais oferecem condições de concorrência equitativas, permitindo que todas as vozes sejam ouvidas igualmente.
Quando assumiu o Twitter (agora rebatizado como X) em 2022, Elon Musk disse que, externamente, via a plataforma como uma “praça digital”.
Mas será que isso deixa de levar em conta o papel dos algoritmos?
De acordo com Asha Rangappa, advogada e professora de assuntos globais da Universidade de Yale (EUA), Musk “ignora algumas diferenças importantes entre a praça tradicional e a online: remover todas as restrições de conteúdo sem levar em conta essas diferenças prejudicaria o debate democrático, em vez de ajudá-lo. ”
Rangappa diz que o conceito de “mercado de ideias” é baseado na “premissa de que as ideias devem competir entre si sem interferência do governo”. No entanto, afirma ela, “o problema é que plataformas de redes sociais como o Twitter não se parecem em nada com uma verdadeira praça pública”.
Em vez disso, argumenta Rangappa, “as características das plataformas de redes sociais não permitem, para começar, uma competição livre e justa de ideias… o ‘valor’ de uma ideia nas redes sociais não é um reflexo de quão boa ela é, mas é antes o produto do algoritmo da plataforma.”
A evolução dos algoritmos
‘O valor de uma ideia nas redes sociais não é reflexo de quão boa ela é, mas é antes o produto do algoritmo da plataforma’, diz Rangappa
Getty Images via BBC
Os algoritmos podem observar o nosso comportamento e determinar o que milhões de nós vemos quando estamos logados. E, para alguns, foram os algoritmos que afetaram a livre troca de ideias possível na internet quando ela foi criada.
“Nos seus primeiros dias, as redes sociais funcionavam como uma espécie de esfera pública digital, com o discurso fluindo livremente”, disseram à BBC Kai Riemer e Sandra Peter, professores da University of Sydney Business School.
No entanto, “os algoritmos nas plataformas de redes sociais remodelaram fundamentalmente a natureza da liberdade de expressão, não necessariamente restringindo o que pode ser dito, mas determinando quem pode ver qual conteúdo”, dizem os professores Riemer e Peter, cuja pesquisa analisa o porquê precisamos repensar a liberdade de expressão nas redes sociais.
“Em vez de as ideias competirem livremente pelos seus méritos, os algoritmos amplificam ou suprimem o alcance das mensagens, introduzindo uma forma de interferência sem precedentes na livre troca de ideias que é muitas vezes ignorada.”
O Facebook é um dos pioneiros em algoritmos de recomendação nas redes sociais e, com cerca de três bilhões de usuários, seu feed é indiscutivelmente um dos maiores.
Quando a plataforma lançou um algoritmo de classificação baseado nos dados dos usuários, há 15 anos, em vez de ver as postagens em ordem cronológica, as pessoas passaram a ver o que o Facebook queria que elas vissem.
Determinado pelas interações em cada postagem, isso passou a priorizar postagens sobre temas polêmicos, pois eram aqueles que geravam maior engajamento.
Moldando nosso discurso
Ao determinar o público de cada conteúdo postado, as plataformas de rede social ‘cortam a relação direta entre os emissores do discurso e seus públicos’, dizem os professores Riemer e Peter
Getty Images via BBC
Como as publicações controversas têm maior probabilidade de serem recompensadas por algoritmos, existe a possibilidade de que as periferias da opinião política não sejam contempladas nas redes sociais.
Em vez de fóruns públicos gratuitos e abertos, os críticos argumentam que as redes sociais oferecem um espelho distorcido e sensacionalista do sentimento público, que exagera a discórdia e abafa as opiniões da maioria.
“Os mecanismos de recomendação não bloqueiam conteúdo. Em vez disso, são as diretrizes da comunidade que restringem a liberdade de expressão, de acordo com a preferência da plataforma”, disse Theo Bertram, ex-vice-presidente de políticas públicas do TikTok, à BBC.
“Os mecanismos de recomendação fazem grande diferença no que vemos? Sim, absolutamente. Mas ter sucesso ou fracassar no mercado de atenção não é a mesma coisa que ter liberdade de falar.”
No entanto, a “liberdade de expressão” tem a ver apenas com o direito de falar, ou também com o direito de ser ouvido?
Arvind Narayanan, professor de Ciência da Computação na Universidade de Princeton (EUA), disse: “Quando falamos na internet, quando compartilhamos um pensamento, escrevemos um ensaio, postamos uma foto ou vídeo, quem nos ouvirá? A resposta é determinada em grande parte por algoritmos.”
Ao determinar o público de cada conteúdo postado, as plataformas “cortam a relação direta entre os emissores do discurso e seus públicos”, argumentam os professores Riemer e Peter. “A fala não é mais organizada por orador e público, mas por algoritmos.”
Isso é algo que afirmam não ser reconhecido nos debates atuais sobre a liberdade de expressão, que se concentram no “lado falante do discurso”. E, argumentam, “interfere na liberdade de expressão de formas sem precedentes”.
A sociedade algorítmica
A nossa era tem sido rotulada de “sociedade algorítmica”, uma época em que, pode-se argumentar, as plataformas de redes sociais e os motores de busca governam o discurso da mesma forma que estados-nação fizeram no passado.
Isso significa que garantias diretas de liberdade de expressão na Constituição dos EUA só chegam até certo ponto, de acordo com Jack Balkin, da Universidade de Yale (EUA): “a Primeira Emenda [sobre liberdade de expressão], como normalmente é interpretada, é simplesmente inadequada para proteger a capacidade prática de falar”.
Os professores Riemer e Peter concordam que a legislação precisa de atualização. “As plataformas desempenham um papel muito mais ativo na formação do discurso do que a lei reconhece atualmente.”
Eles afirmam também que é necessário mudar a forma como as publicações prejudiciais são monitoradas.
“Precisamos expandir a forma como pensamos sobre a regulamentação da liberdade de expressão. Os debates atuais focados na moderação de conteúdo ignoram a questão mais profunda de como os modelos de negócios das plataformas as incentivam a moldar o discurso de forma algorítmica.”
Embora o professor Candeub seja um “absolutista da liberdade de expressão”, ele também desconfia do poder concentrado nas plataformas, que podem ser guardiãs da expressão através de código de computador. “Acho que faríamos bem em tornar esses algoritmos públicos, porque, caso contrário, estaremos apenas sendo manipulados.”
No entanto, os algoritmos não vão desaparecer. Como diz Bertram: “A diferença entre a praça da cidade e as redes sociais é que existem vários bilhões de pessoas nas redes sociais. Existe o direito à liberdade de expressão online, mas não o direito de todos serem ouvidos igualmente: levaria mais do que uma vida inteira para assistir a todos os vídeos do TikTok ou ler todos os tuítes.”
Qual é a solução, então? Será que pequenos ajustes nos algoritmos poderiam cultivar conversas mais inclusivas, que se assemelhassem mais às que temos pessoalmente?
Novas plataformas de microblog, como o Bluesky, estão tentando oferecer aos usuários controle sobre o algoritmo que exibe o conteúdo e assim reviver as antigas timelines cronológicas, acreditando que oferecem uma experiência menos mediada.
Em depoimento ao Senado em 2021, a denunciante do Facebook Frances Haugen disse: “Sou uma forte defensora da classificação cronológica, ordenação por tempo… não queremos que os computadores decidam no que vamos nos concentrar, deveríamos ter software em escala humana, ou os humanos que conversam entre si, e não os computadores facilitando quem podemos ouvir.”
No entanto, como disse o professor Narayanan, “os feeds cronológicos não são neutros: estão também sujeitos aos efeitos do tipo ‘rico fica cada vez mais rico’, a preconceitos demográficos e à imprevisibilidade do que se torna viral. Infelizmente, não existe uma forma neutra de projetar mídias sociais.”
As plataformas oferecem algumas alternativas aos algoritmos, com a opção no X de as pessoas escolherem um feed apenas daqueles que seguem. E, ao filtrar grandes quantidades de conteúdo, “os motores de recomendação proporcionam maior diversidade e descoberta do que apenas seguir pessoas que já conhecemos”, argumenta Bertram.
“Isso parece o oposto de uma restrição à liberdade de expressão, é um mecanismo de descoberta.”
Terceira via
De acordo com o cientista político norte-americano Francis Fukuyama, “nem a autorregulação das plataformas, nem as formas de regulação estatal que surgirem no futuro” podem resolver “a questão da liberdade de expressão online”.
Em vez disso, ele propôs uma terceira via.
Um middleware (um software intermediário) poderia oferecer aos usuários de redes sociais mais controle sobre o que veem, com serviços independentes fornecendo uma forma de curadoria separada daquela incorporada nas plataformas.
Em vez de receber conteúdo de acordo com os algoritmos internos das plataformas, “um ecossistema competitivo de fornecedores de middleware poderia filtrar o conteúdo da plataforma de acordo com as preferências individuais do usuário”, escreve Fukuyama.
“O middleware restauraria essa liberdade de escolha aos usuários individuais, e retornaria a internet ao tipo de sistema diversificado e multiplataforma que aspirava ser na década de 1990.”
Na ausência disso, poderia haver maneiras de melhorar atualmente nossa sensação de poder de interferência ao interagir com algoritmos.
“Os usuários regulares do TikTok costumam ser muito deliberados sobre o algoritmo, dando-lhe sinais para encorajar ou desencorajar o mecanismo de recomendação ao longo de caminhos de novas descobertas”, diz Bertram.
“Eles se consideram curadores do algoritmo. Acho que esta é uma maneira útil de pensar sobre o desafio. Não precisamos desligar os algoritmos, mas como podemos garantir que os usuários tenham agenciamento, controle e escolha para que os algoritmos funcionem para eles.”
Embora, é claro, sempre exista o perigo de que, mesmo quando fazemos a curadoria de nossos próprios algoritmos, ainda possamos cair nas câmaras de eco que assolam as mídias sociais.
E os algoritmos podem não fazer o que lhes pedimos. Por exemplo, uma investigação da BBC descobriu que, quando um jovem tentou usar ferramentas no Instagram e no TikTok para dizer que não estava interessado em conteúdo violento ou misógino, ele continuou a receber essas recomendações.
Apesar disso, há sinais de que, à medida que os algoritmos das redes sociais avancem, seu futuro não poderá estar nas mãos das grandes empresas de tecnologia, nem dos políticos, mas sim nas mãos das pessoas.
De acordo com uma pesquisa recente da empresa de pesquisa de mercado Gartner, apenas 28% dos americanos dizem que gostam de documentar sua vida publicamente na internet, uma redução em relação aos 40% registrados em 2020.
Em vez disso, as pessoas estão ficando mais confortáveis em bate-papos em grupos fechados com amigos de confiança e parentes, espaços com mais responsabilização e menos recompensas por conteúdos chocantes e provocações.
A Meta diz que o número de fotos enviadas em mensagens diretas agora supera aquelas compartilhadas para que todos possam ver.
Da mesma forma que Barlow, em seu ensaio de 1996, disse aos governos que não eram bem-vindos no ciberespaço, alguns usuários das plataformas podem ter uma mensagem semelhante para transmitir aos algoritmos das redes sociais. Por enquanto, ainda existem visões conflitantes sobre o que fazer com o adolescente rebelde da internet.
‘Geração ansiosa’: transtornos mentais em crianças que vivem grudadas no celular aumentam no mundo todo
TikTok sabe que pode deixar usuários viciados e gerar ansiedade, revelam documentos internos
‘Conta de adolescente’: menores de 16 anos vão precisar de autorização dos pais para alterar configurações no Instagram a partir de 2025
Maior autoridade de saúde pública dos EUA quer que redes sociais alertem para danos mentais que podem causar a crianças e adolescentes
