Um levantamento da SaferNet Brasil revelou a ocorrência de casos de deepfakes sexuais — imagens e vídeos manipulados por Inteligência Artificial sem consentimento — em escolas de dez estados do país, incluindo Minas Gerais. O estudo faz parte da pesquisa “Uso indevido de IA generativa: perspectivas sobre riscos e danos centradas nas crianças”, realizada com apoio do fundo SafeOnline, administrado pela Unicef.
De acordo com o relatório, foram identificados 16 casos desde 2023 e um total de 57 agressores. A maior parte das ocorrências aconteceu em instituições particulares de ensino. Em Minas Gerais, foi registrado ao menos um caso confirmado.
As deepfakes são geradas por sistemas de IA capazes de criar imagens ou vídeos falsos a partir de fotos reais — muitas vezes sem o conhecimento ou consentimento das vítimas. O mapeamento alerta para o alto risco psicológico e social envolvido nesses casos, destacando a dificuldade de responsabilizar os autores e a rápida disseminação dos conteúdos na internet.
Segundo a SaferNet, o problema tem crescido em ambientes escolares, expondo crianças e adolescentes a situações de constrangimento, humilhação e cyberbullying. A organização abriu uma nova fase da pesquisa para ouvir vítimas e testemunhas, permitindo o envio de relatos de forma anônima por meio de um canal específico.
O levantamento reforça a necessidade de regulamentar o uso de ferramentas de Inteligência Artificial, especialmente em contextos que envolvem menores de idade. Especialistas destacam que, sem medidas legais e educacionais, o avanço da IA pode se tornar um instrumento de violação de direitos e de produção de conteúdo abusivo.
Foto: Arts Media / iStock — Fonte: O Tempo
