É sempre uma corrida de gato e rato entre detector e burlador
Em meio ao avanço das leis de proteção digital para crianças e adolescentes, uma investigação jornalística revela que os sistemas automatizados de moderação do Instagram falham em bloquear conteúdo sexualmente explícito antes que ele alcance usuários menores de 16 anos. A técnica explorada — sobreposição de camadas de vídeo para confundir algoritmos de detecção — ilustra uma tensão antiga entre quem protege e quem burla, agora travada em escala algorítmica. O que está em jogo não é apenas a exposição a imagens inadequadas, mas a segurança digital de crianças em ambientes que prometem, mas ainda não garantem, proteção efetiva.
- Sete em cada dez perfis com conteúdo adulto testados passaram pelos filtros do Instagram sem qualquer bloqueio, acumulando milhões de visualizações entre menores ao longo de meses.
- A técnica de sobreposição de camadas de vídeo quebra os padrões de pixels que os algoritmos de moderação analisam, criando uma brecha sistemática e difícil de fechar.
- O risco vai além do conteúdo impróprio: links associados às publicações carregam malwares capazes de invadir dispositivos e roubar dados pessoais de crianças e adolescentes.
- O Instagram afirma ter removido proativamente mais de 90% das violações detectadas e limitado o acesso de menores a conteúdo sensível desde março, mas a investigação sugere que as brechas persistem.
- A Lei 15.211/2025 (ECA Digital) coloca a plataforma sob obrigação legal explícita, e a ANPD pode aplicar punições caso a falha no dever de proteção seja comprovada.
Uma investigação da Folha de S. Paulo expôs uma falha estrutural nos sistemas de proteção do Instagram: em testes com dez perfis que divulgavam material adulto, sete exibiram o conteúdo sem qualquer restrição para uma conta cadastrada como menor de 16 anos, acumulando milhões de visualizações ao longo de pelo menos três meses.
O mecanismo por trás da burla é sofisticado. Criadores de conteúdo ilícito empilham múltiplas camadas de vídeo umas sobre as outras, quebrando os padrões de pixels que os algoritmos de moderação utilizam para identificar material explícito. Especialistas ouvidos pela reportagem descreveram o problema como uma corrida contínua: à medida que os sistemas de proteção evoluem, quem quer escapar da moderação se adapta. O algoritmo de recomendações do Instagram agrava o cenário ao amplificar o alcance desse conteúdo mesmo para usuários que não seguem as contas de origem.
O risco não se restringe à exposição a imagens inapropriadas. Profissionais de tecnologia identificaram malwares nos links associados às publicações, expondo menores também à invasão de dispositivos e ao roubo de dados pessoais.
O Instagram respondeu afirmando que removeu proativamente mais de 90% das publicações que violavam suas políticas entre outubro e dezembro de 2025, e que desde março limita automaticamente o acesso de usuários entre 13 e 17 anos a conteúdo sensível. Os perfis apontados pela investigação foram encaminhados para moderação e removidos.
O peso legal da questão, no entanto, permanece. A Lei 15.211/2025, o ECA Digital, obriga plataformas a impedir que crianças e adolescentes acessem conteúdos ilegais e pornográficos. A Autoridade Nacional de Proteção de Dados sinalizou que falhas no cumprimento desse dever são passíveis de punição — e a investigação sugere que as brechas ainda estão abertas.
Uma investigação do jornal Folha de S. Paulo revelou uma falha significativa nos sistemas de proteção do Instagram: sete em cada dez perfis que compartilham conteúdo sexualmente explícito conseguem contornar os filtros de segurança da plataforma e atingem usuários cadastrados como menores de 16 anos. Os testes foram conduzidos com dez contas que divulgavam material adulto, e apenas três delas exibiram algum tipo de aviso de restrição para a conta de teste. O restante exibiu o conteúdo sem qualquer bloqueio, acumulando milhões de visualizações ao longo de pelo menos três meses.
O mecanismo por trás dessa burla é sofisticado. Os criadores de conteúdo ilícito utilizam técnicas de sobreposição de vídeos — empilhando múltiplas camadas de mídia umas sobre as outras — para enganar os sistemas automatizados de detecção. Arlindo Galvão, professor de inteligência artificial da Universidade Federal de Goiás, explicou à Folha que enquanto a IA consegue identificar conteúdo explícito quando ele aparece isolado, a multiplicidade de camadas cria uma confusão que dificulta o reconhecimento. Os algoritmos de moderação funcionam analisando padrões de pixels, e essa sobreposição quebra justamente esses padrões, tornando a identificação muito mais difícil.
Anderson Tavares, professor de ciência da computação da Universidade Federal do Rio Grande do Sul, descreveu o problema como uma corrida contínua entre detector e burlador: conforme os sistemas de proteção se aperfeiçoam, quem quer escapar da moderação se adapta e encontra novas formas de contorná-los. O algoritmo de recomendações do Instagram amplifica ainda mais o alcance desse conteúdo, exibindo-o até para usuários que não seguem as contas de origem, expandindo exponencialmente a exposição.
O risco não se limita à exposição a material inapropriado. Profissionais de tecnologia consultados pela reportagem identificaram malwares nos links associados às publicações. Isso significa que menores de idade não estão apenas vendo conteúdo que não deveriam ver — estão também potencialmente expostos a invasão de dispositivos e roubo de dados pessoais.
O Instagram respondeu à Folha afirmando que removeu de forma proativa 96% das publicações que violavam suas políticas contra exploração sexual infantil e 92% daquelas contendo nudez entre outubro e dezembro de 2025. A empresa também informou que, desde março, limita automaticamente o acesso de usuários entre 13 e 17 anos a conteúdo sensível. Os perfis específicos apontados pela investigação foram encaminhados para moderação e removidos em seguida, segundo a assessoria da plataforma.
O contexto legal agora pesa sobre a questão. A Lei 15.211/2025, conhecida como ECA Digital, exige que plataformas de internet ofereçam sistemas projetados especificamente para impedir que crianças e adolescentes encontrem conteúdos ilegais e pornográficos. A Autoridade Nacional de Proteção de Dados informou que, caso seja comprovada uma falha no cumprimento desse dever, a conduta é passível de punição.
O Instagram oferece ferramentas de supervisão parental que permitem aos responsáveis monitorar tempo de tela, gerenciar privacidade e restringir conteúdo sensível em contas de usuários entre 13 e 17 anos — mas o recurso exige que o adolescente aceite um convite de supervisão. Para usuários que encontrem publicações com conteúdo inapropriado, a plataforma oferece um caminho de denúncia: acessar os três pontos na publicação, selecionar "Denunciar" e escolher a opção "Nudez ou atividade sexual." A questão agora é se essas medidas serão suficientes para fechar as brechas que a investigação expôs.
Citas Notables
Conteúdo explícito é fácil de detectar se existe uma só mídia, mas quando há múltiplas mídias gera uma confusão— Arlindo Galvão, professor de inteligência artificial da Universidade Federal de Goiás
É sempre uma corrida de gato e rato: o detector se aperfeiçoa, e quem quer burlar se adapta para escapar— Anderson Tavares, professor de ciência da computação da UFRGS
La Conversación del Hearth Otra perspectiva de la historia
Como exatamente esses criadores conseguem enganar a inteligência artificial? Parece que deveria ser fácil detectar conteúdo adulto.
Parece fácil quando você pensa em uma imagem isolada. Mas quando eles sobrepõem múltiplas camadas de vídeo, criam uma confusão visual que quebra os padrões que a IA procura. É como tentar reconhecer um rosto quando alguém coloca vários rostos transparentes um sobre o outro.
E o Instagram não consegue simplesmente melhorar seus filtros para detectar isso?
Teoricamente sim, mas é uma corrida contínua. Assim que a plataforma aperfeiçoa a detecção, quem quer burlar encontra uma nova técnica. É gato e rato permanentemente.
Qual é o risco real para uma criança que encontra esse conteúdo?
Há dois riscos. O óbvio é a exposição ao material sexualmente explícito. Mas há algo mais perigoso: os links associados a essas publicações contêm malware. Então uma criança não está apenas vendo algo que não deveria — está também vulnerável a ter seu dispositivo invadido ou seus dados roubados.
O Instagram está realmente falhando, ou é um problema impossível de resolver?
Provavelmente ambos. A empresa remove a maioria do conteúdo que viola suas políticas, mas claramente não consegue pegar tudo — especialmente quando as técnicas de burla ficam mais sofisticadas. A lei agora exige que eles façam melhor, e há consequências se não conseguirem.
E os pais? Que ferramentas eles têm?
O Instagram oferece supervisão parental, mas tem uma limitação importante: o adolescente precisa aceitar o convite. Se ele recusar, o pai ou mãe fica sem visibilidade. É um ponto fraco no sistema.