Por que a Austrália quer dar aos usuários a chave para desligar o algoritmo das redes sociais

Varsha Yajman tinha 13 anos quando entrou nas redes sociais, e já se sentia desconfortável com a própria aparência. Logo o feed se encheu de vídeos de exercícios com promessas impossíveis. Meninas que ela nunca tinha visto a incentivavam a entrar em desafios perigosos de perda de calorias. Outras exibiam nos perfis altura, peso e até o número de vezes que tinham ido parar no hospital, numa competição perturbadora. Toda noite, antes de dormir, ela assistia a um desconhecido que resumia o que ele havia consumido no dia. Hoje, aos 24 anos e em recuperação de anorexia, ela diz que ainda recebe conteúdo sobre perda de peso, apesar de todas as configurações de segurança ativadas e de uma longa lista de palavras bloqueadas.

É para pessoas como ela que o governo australiano diz legislar. Na semana passada, apresentou ao Parlamento um pacote de leis para pressionar as big techs. O núcleo da proposta é uma chave do algoritmo: as plataformas seriam obrigadas a permitir que o usuário desligue o conteúdo recomendado e veja apenas as contas que segue. Outros países já testaram algo parecido, mas os controles existentes costumam ser transitórios e prejudicam o funcionamento dos aplicativos. A Austrália quer evitar isso.

Flynn Martin, de Melbourne, conhece o mecanismo por outro lado. Há cerca de quatro anos, quando tinha 20, o feed dele foi tomado por Andrew Tate e outras figuras da machosfera. Ele estava inseguro, frustrado e com problemas de saúde mental, depois diagnosticados como transtorno bipolar. Viralizou na Austrália com dois vídeos, um sobre se seria aceitável ser homem branco e hétero, outro criticando o pedido de iogurte congelado de uma pessoa com quem saiu. Só deixou esse universo após um período de psicose e uma internação. Ele descreve uma câmara de eco e diz que chegou a acreditar que vivia numa matrix criada contra ele. Hoje sente vergonha, mas também alguma empatia por aquele jovem. Martin e Yajman dizem que as redes não são as únicas culpadas, mas foram um fator fundamental.

As empresas afirmam que os riscos são exagerados e que já oferecem ferramentas eficazes. Pesquisas pelo mundo apontam outra direção: as redes ativam respostas cerebrais semelhantes às da dependência, entregam conteúdo nocivo à saúde mental sem que o usuário peça e amplificam desinformação e polarização. Processos judiciais e delatores acusam as companhias de conhecer os riscos e ignorá-los porque o engajamento gera lucro. A ativista Chanel Contos diz que os algoritmos priorizam o que provoca raiva, medo, desejo ou insegurança, porque isso mantém as pessoas rolando a tela.

Contos liderou a campanha Fix Our Feeds, que pedia o algoritmo desligado por padrão, com opção de ativá-lo. A petição reuniu mais de 15 mil assinaturas e o apoio de dois ex-primeiros-ministros, parlamentares, especialistas em segurança online e defensores da saúde mental. Em setembro, o governo anunciou uma versão da ideia, sem o desligamento automático. O primeiro-ministro Anthony Albanese disse que não se trata de dar controle ao governo, mas às pessoas, e que quem quiser rolar a tela compulsivamente que o faça.

A medida integra o projeto de lei da Obrigação de Assistência Digital, que vale para redes sociais, sites de jogos, chatbots e outros serviços, exigindo um ambiente seguro "até o máximo razoavelmente praticável". Crianças devem ser protegidas de material prejudicial, como pornografia e conteúdo que incentive distúrbios alimentares. Adultos, de material seriamente prejudicial. As multas podem chegar a 100 milhões de dólares australianos, cerca de R$ 353 milhões. A ministra das Comunicações, Anika Wells, diz que a lei transfere o ônus das vítimas para as big techs.

Meta, Snap, TikTok, X e Google não comentaram a proposta nem responderam à BBC. O chefe do Instagram, Adam Mosseri, disse em Sydney que feeds sem algoritmo mostrariam menos posts de amigos e que não considera o app viciante, embora um júri americano tenha decidido o contrário. Partidos de direita australianos e o governo Trump falam em risco de censura. Wells rebate que os adultos continuarão livres para seguir e postar o que quiserem.

O obstáculo é a execução. A proibição de redes sociais para menores ainda não saiu do papel: a maioria das crianças segue conectada e nenhuma multa foi aplicada. A experiência europeia de 2023 também pede cautela, com baixa adesão aos controles. O pesquisador Chris Zomer diz que as plataformas cumprem a lei de forma tão ruim que o usuário não aproveita a opção. No Instagram, desligar o algoritmo tira o acesso a mensagens diretas e ao perfil, e o feed curado volta ao sair do app. Só na Holanda o problema não existe, após decisão judicial contra a Meta no ano passado.

As regras ainda não entraram em vigor. O governo promete feeds de seguidos tão funcionais quanto os outros, configurações óbvias e sem reversão sem decisão explícita do usuário. Yajman duvida que o país consiga se impor às big techs, e Martin pede realismo, já que as pessoas usam as redes como entretenimento. Segundo pesquisas, dois terços da geração Z manteriam o algoritmo, mas cerca de metade dos australianos o desligaria.