Em Itapecerica da Serra, na Grande São Paulo, uma prova escolar distribuída a alunos da rede municipal carregava, entre suas mais de 25 páginas, uma ilustração gerada por inteligência artificial retratando um menino negro dentro de uma lixeira — imagem que chegou às mãos das crianças antes de ser identificada como ofensiva. O episódio expõe uma tensão crescente de nosso tempo: quando delegamos à máquina a criação, mas esquecemos que a responsabilidade moral permanece irrevogavelmente humana. A prefeitura, ao reconhecer publicamente sua falha e abrir investigação, enfrenta não apenas a busca po
Prefeitura de SP abre apuração sobre prova com imagem de IA de menino negro em lixeira
Crianças, famílias e comunidade escolar foram expostas a conteúdo racista em material pedagógico oficial.
A responsabilidade vai além da origem da ilustração
Mark
Como uma imagem assim conseguiu passar por revisão em uma prova escolar?
Mimi
Essa é a pergunta central. A prefeitura reconheceu que a responsabilidade não é só de quem gerou a IA, mas de quem selecionou, revisou e aprovou o material. Múltiplas pessoas deveriam ter visto aquilo.
Luke
Mas a gente ainda não sabe quantas pessoas viram, quem especificamente aprovou, ou se havia um processo de revisão formal. A nota fala em "etapas de elaboração", mas não detalha quais são.
Mark
E as crianças que receberam essa prova — quantas foram expostas a isso?
Mimi
A prova era bimestral, com mais de 25 páginas, aplicada aos alunos da rede municipal. Então estamos falando de potencialmente centenas de crianças.
Luke
Verdade, mas a prefeitura não divulgou números específicos. Não sabemos quantas escolas, quantas turmas, quantas crianças exatamente.
Mark
A prefeitura vai fazer algo além de investigar?
Mimi
Eles disseram que vão ouvir os profissionais envolvidos e analisar todas as etapas. Isso sugere mudanças no processo, mas ainda não há detalhes sobre o que vai mudar.
Luke
E não há informação sobre consequências para quem deixou passar. A nota é sobre desculpas e investigação, não sobre ações disciplinares ou mudanças concretas de procedimento.
O Pulso
- Uma ilustração gerada por IA, mostrando um menino negro em uma lixeira, foi incluída em prova bimestral e chegou às salas de aula antes que qualquer filtro humano a interceptasse.
- Crianças, famílias e toda a comunidade escolar foram expostas ao conteúdo racista por meio de material pedagógico oficial — o que transforma o erro técnico em ferida social.
- A administração municipal emitiu pedido público de desculpas e repudiou o racismo, mas o gesto simbólico não apaga a pergunta sobre quantas mãos e olhos deixaram a imagem passar.
- A investigação promete ouvir todos os profissionais envolvidos e mapear cada etapa do processo de elaboração da prova, buscando entender a cadeia de omissões.
- O caso pressiona educadores e gestores públicos a repensar os protocolos de uso de inteligência artificial em materiais destinados a crianças, onde a supervisão humana não pode ser opcional.
Em Itapecerica da Serra, na Grande São Paulo, uma prova escolar distribuída a alunos da rede municipal carregava, entre suas mais de 25 páginas, uma ilustração gerada por inteligência artificial retratando um menino negro dentro de uma lixeira — imagem que chegou às mãos das crianças antes de ser identificada como ofensiva. O episódio expõe uma tensão crescente de nosso tempo: quando delegamos à máquina a criação, mas esquecemos que a responsabilidade moral permanece irrevogavelmente humana. A prefeitura, ao reconhecer publicamente sua falha e abrir investigação, enfrenta não apenas a busca por culpados, mas a pergunta mais difícil — como os sistemas de cuidado que deveriam proteger as crianças deixaram de funcionar.
A Prefeitura de Itapecerica da Serra abriu uma investigação depois que uma prova escolar distribuída na rede municipal foi encontrada com uma ilustração gerada por inteligência artificial exibindo um menino negro dentro de uma lixeira. O material, uma atividade bimestral de mais de 25 páginas, já havia sido aplicado aos alunos quando a imagem ofensiva foi identificada.
A reação da administração foi imediata: uma nota pública reconheceu a gravidade do ocorrido, pediu desculpas às crianças, às famílias e à comunidade escolar, e declarou que a prefeitura repudia toda forma de racismo e discriminação racial. Mas o pedido de desculpas veio acompanhado de um reconhecimento mais incômodo — a responsabilidade não se limita à origem da imagem, mas se estende a cada etapa em que ela poderia ter sido barrada e não foi.
O que o caso revela é menos um erro pontual e mais uma falha sistêmica: a ilustração passou por pessoas e processos criados exatamente para evitar que conteúdos inadequados chegassem às mãos dos alunos. A investigação vai ouvir todos os profissionais envolvidos na elaboração da prova e examinar cada etapa do processo, com o objetivo de entender como o controle falhou — e de construir salvaguardas que impeçam repetições.
Mais do que uma questão disciplinar, o episódio coloca em debate o uso de inteligência artificial em contextos educacionais. Ferramentas de IA podem gerar conteúdo com rapidez, mas não carregam discernimento ético. Quando são incorporadas à produção de material pedagógico sem supervisão rigorosa, o risco de dano — especialmente para crianças — não desaparece com a tecnologia. Ele apenas muda de forma.
Na Grande São Paulo, a Prefeitura de Itapecerica da Serra se viu obrigada a abrir uma investigação após descobrir que uma prova escolar distribuída aos alunos da rede municipal continha uma ilustração gerada por inteligência artificial mostrando um menino negro dentro de uma lixeira. A imagem fazia parte de uma atividade bimestral com mais de 25 páginas, segundo informações da Secretaria Municipal de Educação.
O material havia sido aplicado aos estudantes antes que a ilustração ofensiva fosse identificada. A descoberta provocou reação imediata da administração municipal, que reconheceu a gravidade do ocorrido e emitiu nota pública pedindo desculpas. "A Administração Municipal repudia toda forma de racismo e discriminação racial", afirmou a Secretaria de Educação, dirigindo-se especificamente às crianças, às famílias e à comunidade escolar que foram expostas ao conteúdo.
O que torna o caso particularmente preocupante é que a imagem não foi simplesmente um erro isolado, mas parte de um processo de elaboração que envolveu múltiplas etapas. A prefeitura reconheceu que sua responsabilidade vai além da origem da ilustração — ela se estende a como o material foi selecionado, revisado e finalmente incluído no conjunto de atividades pedagógicas. Isso significa que a imagem passou por pessoas e processos que deveriam ter identificado e rejeitado o conteúdo antes de chegar às mãos dos alunos.
A administração anunciou que vai ouvir todos os profissionais envolvidos na elaboração da prova e analisar cada etapa do processo. O objetivo é entender como uma ilustração tão claramente ofensiva conseguiu passar pelas revisões e chegar ao material que seria distribuído nas escolas. A investigação busca identificar não apenas o que deu errado, mas também implementar mudanças que impeçam que situações semelhantes ocorram novamente.
O caso levanta questões importantes sobre o uso de inteligência artificial em contextos educacionais e a necessidade de supervisão cuidadosa de qualquer material que será exposto a crianças. Mesmo quando ferramentas de IA são utilizadas para gerar conteúdo, a responsabilidade humana de revisar, questionar e rejeitar o que é inadequado permanece intacta. A prefeitura, ao reconhecer essa responsabilidade em sua nota, sinaliza que a investigação não será apenas sobre encontrar culpados, mas sobre compreender como os sistemas de controle falharam.
Citações Notáveis
A Administração Municipal repudia toda forma de racismo e discriminação racial. Pede desculpas às crianças, às famílias e à comunidade escolar pela preocupação e pelo desconforto causados pela imagem— Secretaria Municipal de Educação de Itapecerica da Serra
Quer a matéria completa?
Leia o original em UOL Notícias ↗