Big techs lucram com nossas vulnerabilidades emocionais, diz pesquisadora

As plataformas digitais sabem mais sobre você do que seus amigos mais próximos. Sabem quando você vai casar, se está grávida, qual marca de tênis fará sucesso entre adolescentes. E, segundo a pesquisadora britânica Kaitlyn Regehr, conseguem identificar com precisão assustadora quando uma criança apresenta sinais de automutilação ou risco de suicídio. O que fazem com essa informação é o cerne de um debate que está transformando a forma como o mundo regula as grandes tecnológicas.

Regehr é autora de "Nação Smartphone" e trabalha diretamente na formulação de políticas públicas. Ela colaborou com o Online Safety Act, legislação aprovada no Reino Unido em 2023 que obriga plataformas a proteger usuários de conteúdos ilegais e nocivos, com foco especial em crianças. Nesta segunda-feira, 15 de junho, o Reino Unido anunciou que vai proibir menores de 16 anos de usar as principais redes sociais — TikTok, Facebook, Instagram e X. Crianças e adolescentes também não poderão fazer transmissões ao vivo nem conversar com estranhos em aplicativos de jogos. A regulamentação deve ser implementada até o Natal, com efeitos práticos previstos para o início de 2027.

No Brasil, o debate ganhou novo impulso em maio, quando o presidente Luiz Inácio Lula da Silva assinou dois decretos que ampliam a fiscalização sobre redes sociais e regulamentam decisões do Supremo Tribunal Federal sobre o Marco Civil da Internet. As medidas dão à Autoridade Nacional de Proteção de Dados poder para monitorar se empresas estão cumprindo obrigações, incluindo atuação proativa contra conteúdos relacionados a crimes graves como indução ao suicídio e terrorismo. A oposição, porém, afirma que os decretos abrem espaço para censura indireta e criam insegurança jurídica ao impor obrigações sem aprovação do Legislativo.

O ponto de virada no debate internacional veio em março, quando um júri na Califórnia concluiu que Meta e Google contribuíram para uma crise de saúde mental entre jovens por meio do design do Instagram e do YouTube. Uma jovem afirmou ter desenvolvido dependência das plataformas na infância e sofrido de dismorfia corporal, depressão e pensamentos suicidas. As empresas foram condenadas a pagar 6 milhões de dólares em indenização. Para Regehr, o caso representa um marco porque desloca o foco do debate sobre liberdade de expressão para o funcionamento das próprias plataformas. "Não se tratava do direito de alguém publicar sua jornada suicida, mas se a Meta tinha o direito de oferecer algoritmicamente esse conteúdo a uma criança", afirmou.

O modelo de negócios das redes sociais é estruturado para maximizar atenção — ainda que isso signifique amplificar conteúdos nocivos, polarização e vulnerabilidades emocionais. "Desinformação costuma ser mais atraente do que a verdade, e conteúdos que exploram nossas vulnerabilidades conseguem nos manter ali por mais tempo. É essa atenção extra que os anunciantes estão pagando para obter", explica Regehr. Quando pesquisadores criaram perfis falsos de jovens para testar o comportamento das plataformas, o que mais os surpreendeu foi a velocidade com que conteúdos nocivos — misoginia, discurso de ódio — eram entregues a adolescentes hipotéticos. Não se trata de um único post visto uma vez, mas do efeito de receber continuamente microdoses de conteúdo prejudicial, com os algoritmos aumentando gradualmente a intensidade de forma lenta e quase imperceptível.

A denunciante do Facebook Sarah Wynn-Williams fala sobre o conceito de "segmentação emocional". Quando trabalhava na Meta, a empresa vendia ativamente aos anunciantes essa ideia: se uma adolescente apagasse uma foto sua no Instagram, a Meta saberia que aquele era um ótimo momento para vender produtos de emagrecimento para ela. Não apenas vender produtos, mas ampliar a vulnerabilidade. Se você continua enviando imagens de pessoas extremamente magras e conteúdos relacionados à dismorfia corporal, você amplia essa vulnerabilidade — e provavelmente conseguirá vender ainda mais produtos depois. O que é novo não é a exploração de inseguranças — publicitários sempre fizeram isso — mas a capacidade de identificar vulnerabilidades de forma extremamente precisa e específica e depois ampliá-las ainda mais.

Regehr critica o foco excessivo em tempo de tela e controles parentais que frequentemente não funcionam ou são facilmente burlados. Em vez disso, propõe pensar em "nutrição digital" — a qualidade do conteúdo consumido, não apenas a quantidade. Para crianças, sua regra geral é: quanto maior a tela, melhor. Telas grandes em espaços coletivos, como assistir televisão com a família com conteúdo regulado, tendem a ser muito melhores do que uma criança sozinha num quarto rolando um feed algorítmico numa tela pequena. Também há o problema do sharenting — quando pais compartilham imagens dos filhos nas redes sociais. Estima-se que aos 13 anos uma criança já tenha tido 1.300 imagens suas compartilhadas pelos pais. O Barclays Bank afirmou que até 2030, dois terços dos casos de roubo de identidade serão cometidos contra crianças atualmente expostas online pelos próprios pais.

Regehr é crítica da ideia de que empresas de tecnologia precisam oferecer soluções para um vício que elas mesmas criaram. "É errado assumir que formas de proteção não poderiam ser implementadas. Elas poderiam, sim — se fossem obrigadas", afirmou à BBC News Brasil. O maior problema, segundo ela, é que deixamos empresas extremamente ricas ditarem o bem-estar e o desenvolvimento das nossas crianças. Muito disso é econômico: existe uma corrida tecnológica para superar outras empresas e países no aperfeiçoamento dessas tecnologias, e priorizamos crescimento econômico em detrimento dos seres humanos. Se nada mudar no atual modelo das plataformas, os impactos de longo prazo serão profundos — não apenas na saúde mental de uma geração, mas na própria estrutura da sociedade, com pessoas presas em silos informacionais extremamente individualizados, perdendo a noção de coletivo.