O racismo estrutural se tornando racismo digital
Há uma violência que não deixa marcas visíveis, mas reorganiza silenciosamente quem é visto, quem é silenciado e quem é suspeito: a violência algorítmica. No Brasil, onde desigualdades raciais e sociais já estão profundamente enraizadas, sistemas automatizados importados de contextos estrangeiros amplificam essas fraturas — transformando o racismo estrutural em racismo digital. O que está em jogo não é apenas tecnologia, mas a arquitetura invisível que decide quem pertence ao mundo e quem dele é excluído.
- Criadores de conteúdo LGBTQIA+ veem seu alcance despencar ao usar palavras como 'gay' ou 'lésbica', enquanto motoristas de aplicativo são manipulados algoritmicamente a trabalhar 14 horas seguidas sem parar para comer.
- Em 83% dos casos de reconhecimento facial equivocado que resultaram em prisão preventiva no Brasil, as vítimas eram pessoas negras — evidência de que o erro não é acidental, mas estrutural.
- O Brasil ocupa uma posição periférica na construção dessas tecnologias: importa soluções desenvolvidas para outras realidades demográficas, tornando as decisões automatizadas ainda mais enviesadas para sua população.
- Apesar de a proteção de dados ter sido elevada a direito fundamental em 2022 e da existência da LGPD, especialistas alertam que marcos legais sem letramento digital e regulação efetiva são insuficientes para conter a discriminação automatizada.
Christian Gonzatti, influenciador digital e cientista da comunicação, percebeu há uma década um padrão perturbador: sempre que usava palavras como 'gay' ou 'lésbica' nas legendas de seus posts sobre temas LGBTQIA+, o alcance despencava. Não era coincidência. Era o algoritmo trabalhando contra ele.
Esse fenômeno tem nome — violência algorítmica — e vai muito além das redes sociais. Um motorista de aplicativo em São Paulo relatou receber notificações estratégicas quando estava prestes a encerrar o turno: faltavam poucas corridas para um bônus. Ele acabava trabalhando 14 horas seguidas, sem parar para comer. Nenhuma força física o obrigava. A coerção era automatizada.
O termo emergiu no início dos anos 2020 de debates sobre discriminação digital e racismo estrutural. Daniel Trielli, professor na Universidade de Maryland, define-a como uma agressão que depende de sistemas computacionais automatizados — não apenas redes sociais, mas plataformas de vigilância e inteligência artificial — para intensificar formas tradicionais de violência e criar novas. A antropóloga Larissa Pelúcio, da Unesp, é direta: violência algorítmica acontece quando sistemas automatizados produzem, reproduzem e amplificam desigualdades sociais, decidindo quem será visto, quem será silenciado e quem será considerado suspeito.
No Brasil, o problema tem dimensões próprias. Estudos da Defensoria Pública do Rio de Janeiro revelaram que em 83% dos casos de reconhecimento facial equivocado que levaram inocentes à prisão preventiva, os encarcerados eram negros. Quando esses dados falhos alimentam novos algoritmos, o resultado é a automatização do racismo estrutural. Agrava-se o fato de o país ocupar posição periférica na construção dessas tecnologias: importa soluções desenvolvidas para outras realidades demográficas, tornando as decisões ainda mais enviesadas.
Não existe solução única. Especialistas apontam para um conjunto de medidas: educação e letramento digital para que cidadãos compreendam o que significa entregar seus dados a empresas de tecnologia, e regulação efetiva que vá além dos marcos legais já existentes. O Brasil reconheceu a proteção de dados como direito fundamental em 2022 e conta com a LGPD, mas a lei sozinha não reescreve os algoritmos — nem desfaz as desigualdades que eles aprenderam a perpetuar.
Christian Gonzatti tem 33 anos e trabalha como influenciador digital e cientista da comunicação. Há uma década, ele vem denunciando um problema que poucos conseguem nomear com precisão: a violência algorítmica. Seu projeto, rebatizado como Diversidade Nerd, trata de temas LGBTQIA+, mas as plataformas parecem trabalhar contra ele. Quando coloca palavras como "gay" ou "lésbica" nas legendas de seus posts, o alcance cai. Não é um erro ocasional. É um padrão.
O que Gonzatti experimenta é apenas uma das muitas faces de um fenômeno que atravessa toda a infraestrutura digital moderna. A violência algorítmica ocorre quando sistemas automatizados — reconhecimento facial, inteligência artificial, mecanismos de recomendação — classificam pessoas de forma pejorativa, produzem deepfakes para destruir reputações ou manipulam comportamentos humanos de maneiras que ignoram limites naturais. Um motorista de aplicativo em São Paulo, que pediu anonimato, relata receber notificações estratégicas quando está prestes a encerrar seu turno: faltam apenas algumas corridas para ganhar um bônus. Ele acaba trabalhando 14 horas seguidas, sem parar nem para comer. Os algoritmos não o forçam com violência física. Forçam através da persuasão automatizada.
O termo "violência algorítmica" começou a circular no início dos anos 2020, cunhado por acadêmicos, intelectuais e artistas preocupados com o tema. Não houve um único inventor da expressão. Ela emergiu de um campo mais amplo de debates sobre discriminação digital, racismo, colonialismo de dados e injustiça automatizada. Daniel Trielli, professor de mídia e democracia na Universidade de Maryland, define-a como um tipo de agressão que depende ou se integra a sistemas computacionais automatizados — não apenas algoritmos de redes sociais, mas também plataformas de vigilância e ferramentas de inteligência artificial. Esses meios intensificam formas tradicionais de violência e criam novas maneiras de atacar.
O cerne da questão é simples e perturbador: algoritmos não são neutros. Foram criados por pessoas, empresas e instituições que ocupam posições hegemônicas em sociedades construídas sobre racismo, sexismo e outras desigualdades estruturais. Os sistemas tendem a reproduzir esse pensamento preponderante porque as ferramentas de inteligência artificial são treinadas a partir de milhões de conteúdos e decisões oriundos da mente humana. A antropóloga Larissa Pelúcio, da Universidade Estadual Paulista, oferece uma definição abrangente: violência algorítmica acontece quando sistemas automatizados produzem, reproduzem e amplificam desigualdades sociais. Ela aparece quando uma tecnologia decide quem será visto, quem será silenciado, quem será considerado suspeito, quem terá acesso a oportunidades, crédito, emprego, circulação, reconhecimento ou proteção.
No Brasil, o problema ganha dimensões particulares. A sociedade já é marcada por formas naturalizadas de violência institucional. Há uma combinação peculiar entre intensa presença digital e profundas desigualdades sociais. Há, no panorama brasileiro, uma centralidade da violência contra populações negras, indígenas, periféricas e LGBTQIAPN+. Em 2021, o Conselho Nacional de Justiça criou um grupo de trabalho para diagnosticar problemas em processos criminais. Estudos da Defensoria Pública do Estado do Rio de Janeiro revelaram que em 83% dos casos de reconhecimento facial equivocado que levou pessoas inocentes à prisão preventiva, os encarcerados eram pessoas negras. Se dados assim forem usados para treinar algoritmos, a consequência é a automatização de falhas que prejudicam afrodescendentes. É o racismo estrutural se tornando racismo digital.
Além disso, há a questão do "pânico moral" ligado às plataformas digitais. Os algoritmos de engajamento tendem a favorecer conteúdos que provocam medo, indignação e conflito. Discursos de ódio e desinformação ganham escala e velocidade. O cenário é ainda mais complicado no Brasil pelo papel periférico que o país ocupa na construção dessas tecnologias. Como importa soluções, os dados muitas vezes não são adequados para as diferenças demográficas brasileiras, gerando decisões ainda mais enviesadas.
Não há uma solução única. Há um conjunto de medidas necessárias. A começar pela educação e letramento digital, para que as pessoas entendam e exerçam uma cidadania online consciente. O Brasil, ao menos no arcabouço jurídico, tem amparo: reconheceu explicitamente a proteção de dados pessoais como direito fundamental em emenda constitucional de 2022, e a Lei Geral de Proteção de Dados carrega o princípio da não discriminação. Mas a lei sozinha não basta. É preciso que as pessoas entendam a realidade de entregar todos os seus dados para empresas de tecnologia, e que regulação efetiva garanta que sistemas automatizados não perpetuem as desigualdades que já marcam a sociedade.
Citas Notables
Se coloco a palavra gay ou lésbica na legenda, por exemplo, o alcance é menor— Christian Gonzatti, influenciador digital e cientista da comunicação
Violência algorítmica acontece quando sistemas automatizados produzem, reproduzem e amplificam desigualdades sociais— Larissa Pelúcio, antropóloga da Universidade Estadual Paulista
La Conversación del Hearth Otra perspectiva de la historia
Por que o termo "violência algorítmica" é importante se já temos palavras como discriminação ou preconceito?
Porque a violência algorítmica não é apenas discriminação humana replicada. É discriminação amplificada, automatizada, invisível. Um gerente racista pode prejudicar algumas pessoas. Um algoritmo racista prejudica milhões simultaneamente, e ninguém consegue apontar um rosto responsável.
Mas os algoritmos são apenas ferramentas. Não têm intenção.
Exato. Não têm intenção, mas têm efeito. E esse efeito é violência. Um motorista não escolhe trabalhar 14 horas. O algoritmo o manipula através de bônus estratégicos. Não há malícia, mas há dano.
Como um sistema de reconhecimento facial acaba prendendo mais pessoas negras?
O sistema é treinado com dados históricos. Se a polícia sempre prendeu mais negros, o algoritmo aprende que negros são "suspeitos". Ele não inventa o racismo. Organiza e automatiza o racismo que já existia.
Então o problema é apenas os dados ruins?
Não. Mesmo com dados bons, há o problema de quem desenha o sistema, quem escolhe o que medir, quem lucra com isso. Tudo isso carrega viés. É estrutural, não acidental.
O Brasil tem leis para isso, certo?
Tem. A LGPD é um marco importante. Mas lei sem educação digital, sem fiscalização real, sem que as pessoas entendam o que está acontecendo, é apenas papel.
Então o que funciona?
Educação. Regulação. Transparência. E pessoas como Gonzatti falando sobre isso há dez anos, mesmo quando ninguém ouvia.