‘Deepfakes’ sexuais reforçam violência de gênero nas escolas
Manipulações de imagens com inteligência artificial alimentam dinâmicas de ódio e misoginia
‘Deepfakes’ sexuais reforçam violência de gênero nas escolas
Manipulações de imagens com inteligência artificial alimentam dinâmicas de ódio e misoginia
Com a popularização das ferramentas de inteligência artificial generativa e o uso crescente de imagens manipuladas (deepfakes), as formas de violência praticadas no ambiente escolar têm se ampliado, enquanto os processos de radicalização entre adolescentes se potencializam. De acordo com a organização não governamental SaferNet Brasil, 16 deepfakes sexuais foram registrados em escolas de dez estados brasileiros entre 2023 e 2025. São vídeos, áudios e imagens extremamente realistas, criados com o uso de inteligência artificial, que mostram pessoas dizendo ou fazendo coisas que, na realidade, nunca disseram ou fizeram.
Como parte de uma pesquisa apoiada pelo fundo Safe Online, do Fundo das Nações Unidas para a Infância (Unicef), a SaferNet Brasil lançou uma enquete para ouvir jovens de 16 a 21 anos sobre o uso de inteligência artificial generativa na criação de imagens sexuais. O mapeamento identificou 57 agressores, todos com menos de 18 anos na época em que os casos ocorreram. Os dados, apesar de subnotificados, já ilustram o estrago que esses deepfakes sexuais podem causar: o levantamento apurou 72 vítimas, com apenas um caso no Distrito Federal sendo responsável por dez delas. Esses conteúdos, produzidos e disseminados em plataformas com pouca moderação, como servidores fechados nos serviços de mensagens instantâneas Discord e Telegram, têm se tornado um meio de humilhação, assédio e exposição pública.
As respostas obtidas vão embasar recomendações para prevenir que outros jovens sejam vítimas e orientar ações de educação, prevenção e responsabilização diante do avanço do problema no país. Nos casos mapeados, os conteúdos mostravam imagens de nudez ou com teor sexual sem o consentimento das pessoas retratadas, violando a privacidade e a dignidade das vítimas.
A pesquisa integra um relatório que a SaferNet Brasil está produzindo com o objetivo de incentivar as autoridades a construírem respostas efetivas para o problema. “Quando esse tipo de conteúdo circula em comunidades online sem moderação, o impacto emocional nas vítimas pode ser devastador”, diz a advogada e pesquisadora Cléo Garcia, doutoranda em Educação pela Unicamp. É possível traçar uma correlação entre o uso dessas tecnologias e o fenômeno de radicalização que leva a ataques nas escolas, especialmente com conteúdos envolvendo humilhação, exposição e sexualização, diz ela. “Esses espaços virtuais acabam reforçando dinâmicas de poder, misoginia e desumanização, que são elementos recorrentes nos discursos de ódio e nas narrativas de grupos que incentivam ataques.”
Além de ampliar a violência, os deepfakes alimentam o imaginário daqueles que já estão em um processo de radicalização. Garcia acredita que a inteligência artificial pode agravar o cenário de violência extrema nas escolas e de violência contra as mulheres, pois tem potencial para amplificar discursos radicais e imagens em uma velocidade inimaginável. “O uso dessa e de outras formas de manipulação de imagens reforça a violência simbólica contra as mulheres e a objetificação, criando um ambiente de normalização da humilhação e do ódio.”
Navegando no escuro
A SaferNet Brasil ressalta que não há um monitoramento sobre a incidência desses crimes ou sobre o avanço das investigações dos casos. Isso dificulta compreender a real dimensão do problema. Desde janeiro de 2024, os crimes de bullying e cyberbullying foram incluídos no Código Penal Brasileiro – a intimidação virtual pode resultar em multa e reclusão de dois a quatro anos. Para Garcia, a inclusão serviu para reconhecer oficialmente que as práticas não são apenas “brincadeiras de internet” e causam danos reais e profundos. “Isoladamente, a lei pode até gerar medo, mas não necessariamente muda comportamentos. A violência pode continuar acontecendo, só que de forma mais escondida, como ocorre com o bullying”, diz.
Para a advogada, o verdadeiro avanço virá quando as escolas e a sociedade conseguirem tratar esse tema de forma integrada. O primeiro passo é as instituições de ensino reconhecerem o impacto emocional e social desse tipo de violência, que gera vergonha e isolamento para as vítimas. Criar protocolos e contar com pessoas preparadas para ouvir, acolher e orientar as vítimas é essencial. Por outro lado, Garcia diz que é preciso buscar intervenções socioeducativas que ajudem o adolescente agressor a compreender o dano causado. “Vejo a violência tecnológica como uma nova linguagem para velhas feridas sociais. E existem respostas educativas, não militarizadas”, aponta. “Tudo isso passa por investir na qualidade do clima escolar, no diálogo e na construção de uma cultura de cuidado. É um caminho difícil, mas é o mais eficaz para reduzir a violência, tanto a digital quanto a física.”
Máquina do caos
Os deepfakes sexuais também podem ser vistos como uma forma de tentar “cancelar” a existência das vítimas. Mestre em Ciência Política pela Universidade Federal de Minas Gerais (UFMG), a consultora de marketing político Beatriz Valle Martins entende o cancelamento como “uma prática de humilhação pública nas mídias sociais digitais, provocada por uma transgressão a uma norma social, alegada ou real, promovida por meio de variadas formas de ataque, como boicote e práticas de assédio como doxing [divulgar dados pessoais sensíveis de alguém], ciberbullying e empilhamento [acumulação de denúncias]”.
Os algoritmos são uma espécie de “máquina do caos” – termo popularizado pelo jornalista estadunidense Max Fisher – com os quais as plataformas digitais buscam atrair mais usuários e mais tempo de uso. Os algoritmos, ao privilegiar postagens com mais engajamento, favorecem o alcance de conteúdos que despertam emoções. Desta forma, a experiência online é moldada incentivando o comportamento de humilhação pública.
Os modelos de inteligência artificial, por sua vez, extraem padrões a partir de dados fornecidos pelo usuário – como discursos de ódio – que servem de base para as plataformas tentarem prever o tipo de conteúdo que cada um deseja consumir. Por isso, é fácil que um jovem em processo de radicalização, por exemplo, “treine” involuntariamente algoritmos a apresentarem conteúdos que reforcem suas crenças e comportamentos.
Sandra Ávila, professora e pesquisadora do Instituto de Computação (IC) da Unicamp, afirma que a otimização algorítmica nem sempre está alinhada com o melhor para o usuário. Em suas pesquisas, a docente busca aproveitar o potencial da inteligência artificial para identificar padrões e conteúdos visuais e treiná-los para extrair informação de uma grande quantidade de dados. Isso pode ser utilizado, por exemplo, para analisar cenas de crianças em suposta situação de abuso.
Os deepfakes nas escolas, alerta a docente, são feitos utilizando aplicativos que “desnudam” os corpos das meninas. “O que é reportado [pela SaferNet] é o que foi notificado. O número [real] é muito maior”, estima. Ela ressalta ainda que as informações e os tutoriais que ensinam a criar esses conteúdos são disponibilizados na internet sem que haja qualquer tipo de responsabilização por parte das plataformas.
Reportagem produzida por estudantes do curso de especialização em Jornalismo Científico do Laboratório de Estudos Avançados em Jornalismo (Labjor) da Unicamp, sob a supervisão do jornalista Guilherme Gorgulho