A Seção 230 deu às empresas a crença de que são intocáveis
Quase oito anos após a morte de Nohemi Gonzalez num ataque do ISIS em Paris, sua família levou à Suprema Corte americana uma questão que transcende o luto particular: podem os algoritmos de recomendação das grandes plataformas digitais ser cúmplices silenciosos da radicalização? O caso confronta a Seção 230 de 1996 — escudo legal que protege empresas de tecnologia da responsabilidade por conteúdo de terceiros — com a realidade de uma internet que seus criadores jamais imaginaram. A decisão que emergir deste julgamento poderá redesenhar os contornos da responsabilidade digital em todo o mundo.
- A família de uma jovem estudante morta pelo ISIS em Paris acusa o YouTube de ter funcionado como ferramenta ativa de recrutamento extremista ao recomendar sistematicamente vídeos do Estado Islâmico.
- O Google resiste invocando a Seção 230, lei de 1996 que protege plataformas de processos por conteúdo de usuários — e que, segundo a empresa, é o alicerce da inovação tecnológica moderna.
- Especialistas jurídicos apontam uma fissura histórica: os legisladores dos anos 1990 não podiam prever que algoritmos sofisticados amplificariam conteúdo terrorista em escala global.
- Meta, Twitter e outras gigantes já apresentaram relatórios ao tribunal alertando que uma revisão da lei abalaria os fundamentos de seus modelos de negócio.
- A Suprema Corte está diante de uma bifurcação: responsabilizar plataformas pelos conteúdos que seus algoritmos promovem — transformando a internet como a conhecemos — ou manter o escudo legal e deixar em aberto a questão da reparação para vítimas de extremismo digital.
Em novembro de 2015, atiradores do Estado Islâmico mataram Nohemi Gonzalez, estudante de 23 anos, num restaurante em Paris. Quase oito anos depois, sua família chegou à Suprema Corte americana com uma acusação que vai além da tragédia pessoal: o YouTube, ao recomendar sistematicamente vídeos do ISIS, teria funcionado como plataforma de recrutamento extremista. O caso foi ouvido em 21 de fevereiro e promete redefinir a relação entre algoritmos e responsabilidade legal.
No centro do embate está a Seção 230, lei americana de 1996 que protege empresas de tecnologia de processos por conteúdo criado por terceiros. Os advogados da família Gonzalez argumentam que essa proteção não deveria se estender às recomendações algorítmicas — uma escolha ativa da plataforma, não mera hospedagem passiva de conteúdo. O Google, que venceu em tribunais inferiores, contra-argumenta que sem a Seção 230 seria impossível entregar qualquer conteúdo útil aos usuários, e que uma decisão contrária abriria caminho para uma avalanche de ações judiciais.
A lei foi concebida quando a internet ainda engatinhava, e seus redatores não podiam antecipar como algoritmos sofisticados amplificariam conteúdo prejudicial em escala global. Hoje, sistemas de recomendação governam praticamente toda a experiência do usuário no Spotify, na Netflix, no Facebook e em dezenas de outras plataformas. Meta, Twitter e outras gigantes já juntaram relatórios ao processo alertando sobre o impacto de uma revisão da lei em seus negócios.
A decisão da Suprema Corte será um ponto de inflexão. Se as plataformas forem responsabilizadas pelo que seus algoritmos promovem, a internet mudará estruturalmente. Se a proteção da Seção 230 for mantida intacta, a pergunta sobre como responsabilizar empresas de tecnologia por danos causados por conteúdo extremista permanecerá, por ora, sem resposta.
Em novembro de 2015, atiradores do Estado Islâmico abriram fogo em um restaurante em Paris. Entre os mortos estava Nohemi Gonzalez, uma estudante de 23 anos. Quase oito anos depois, sua família entrou com uma ação na Suprema Corte americana contra o Google e o YouTube, alegando que a plataforma de vídeos funcionou como ferramenta de recrutamento para extremistas. O caso seria ouvido nesta terça-feira, 21 de fevereiro, e promete redefinir como as empresas de tecnologia respondem legalmente pelo conteúdo que seus algoritmos amplificam.
A acusação é direta: o YouTube recomendava vídeos relacionados ao Estado Islâmico de forma sistemática, alimentando a radicalização. Os advogados da família argumentam que a plataforma não deveria estar protegida de responsabilidade legal simplesmente porque o conteúdo foi criado por terceiros. Para eles, a Seção 230 — uma lei de 1996 que protege empresas de tecnologia de processos por conteúdo de usuários — transformou essas empresas em entidades intocáveis, impedindo que vítimas busquem reparação.
O Google, por sua vez, venceu em tribunais inferiores e mantém sua posição: a Seção 230 é essencial para que plataformas continuem funcionando. A empresa argumenta que sem essa proteção, seria impossível entregar conteúdo útil aos usuários — seja recomendando o próximo vídeo a assistir ou ordenando resultados de busca. Para a gigante de tecnologia, remover essa proteção significaria sufocação da inovação. Halimah DeLaine Prado, conselheira geral do Google, alertou que uma decisão contrária abriria as portas para uma avalanche de ações judiciais contra empresas de tecnologia.
A Seção 230 foi criada quando a internet ainda era jovem, quando legisladores americanos queriam garantir que a inovação no setor não fosse estrangulada por responsabilidades legais excessivas. O texto estabelece que nenhuma plataforma de tecnologia deve ser tratada como autora do conteúdo fornecido por outros provedores. Mas especialistas jurídicos apontam uma falha fundamental: os legisladores dos anos 1990 não poderiam prever como a internet moderna seria explorada — por terroristas, por exemplo — nem como algoritmos sofisticados amplificariam conteúdo prejudicial em escala global.
O que está em jogo vai muito além do Google ou do YouTube. Os algoritmos de recomendação estão em toda parte — no Spotify, na Netflix, no Facebook, no Twitter. Eles são responsáveis por praticamente todas as interações que os usuários têm nessas plataformas. Uma mudança na interpretação da Seção 230 poderia afetar fundamentalmente como essas empresas operam. Meta, Twitter e outras gigantes de tecnologia já produziram relatórios anexados ao caso explicando como seus negócios seriam impactados por uma revisão da lei.
O embate ocorre em um momento em que cresce a preocupação de que as leis que governam a internet — muitas delas criadas anos antes de plataformas como Facebook, YouTube, Twitter e TikTok existirem — simplesmente não estão preparadas para supervisionar a web moderna. A decisão da Suprema Corte pode ser um ponto de inflexão. Se a corte decidir que plataformas podem ser responsabilizadas pelo conteúdo que seus algoritmos promovem, o funcionamento da internet tal como a conhecemos mudará. Se mantiver a proteção da Seção 230, a questão de como responsabilizar empresas de tecnologia por danos causados por conteúdo extremista permanecerá em aberto.
Citações Notáveis
Uma decisão contrária abriria as portas para uma avalanche de ações judiciais contra empresas de tecnologia— Halimah DeLaine Prado, conselheira geral do Google
A Seção 230 deu às empresas de tecnologia a crença de que são intocáveis— Nitsana Darshan-Leitner, advogado da família Gonzalez
A Conversa do Hearth Outra perspectiva sobre a história
Por que esse caso é tão importante agora, depois de quase oito anos?
Porque a internet mudou completamente desde 1996, quando a Seção 230 foi escrita. Os algoritmos não existiam daquela forma. Ninguém imaginava que máquinas poderiam amplificar conteúdo extremista de forma tão eficiente e em escala global.
Mas o Google não tem um ponto? Se forem responsabilizados por cada vídeo recomendado, como conseguem operar?
Sim, é uma tensão real. Mas a família Gonzalez diz que há diferença entre hospedar conteúdo e ativamente recomendá-lo. O algoritmo não é passivo — ele escolhe o que mostrar.
E se a Suprema Corte der razão à família?
Abre-se um precedente. Outras vítimas podem processar. Plataformas podem precisar mudar radicalmente como funcionam. Ou podem sair do mercado americano.
Isso seria bom ou ruim?
Depende de quem você pergunta. Para vítimas de conteúdo extremista, seria uma vitória. Para inovação tecnológica, seria um golpe. A verdade é que ninguém sabe ao certo.
E as outras plataformas estão preocupadas?
Muito. Meta, Twitter, todas elas. Porque se o YouTube pode ser responsabilizado por recomendações, por que não o Facebook? Por que não o TikTok? Nenhuma plataforma moderna funciona sem algoritmos de recomendação.