O uso de inteligência artificial (IA) para criar e divulgar imagens pornográficas falsas de adolescentes mobiliza autoridades em Belo Horizonte. O caso envolve alunas do Colégio Santa Maria Minas, onde estudantes teriam usado ferramentas digitais para manipular fotos e criar nudes falsos e, segundo relatos, até vendê-los. A denúncia é investigada pela Polícia Civil e acompanhada pelo Ministério Público de Minas Gerais (MPMG).

Diante do episódio, o advogado Tiago Rocha, especialista em crimes virtuais, esclarece não haver legislação específica para punir o uso de IA. No entanto, as práticas podem ser enquadradas na legislação já existente. “Temos aparatos legais para responsabilizar os atos ilícitos”, esclarece. O episódio em questão pode ser enquadrado no artigo 218-C do Código Penal, que prevê pena de um a cinco anos de prisão para quem “oferecer, vender ou divulgar, sem consentimento, imagens de nudez ou sexo” — ainda que falsas.

No entanto, como os supostos autores também seriam adolescentes, as medidas cabíveis seguem o Estatuto da Criança e do Adolescente (ECA), com aplicação de sanções como advertência, obrigação de participar de cursos e, em casos mais graves, internação — a critério do juiz. “Cada situação é avaliada individualmente”, pontua Rocha.

+ Adolescentes relatam medo após exposição por IA em colégio de BH e ameaçam protesto: ‘É assédio’  

Além da responsabilização penal ou socioeducativa, as vítimas podem buscar reparação por danos morais na esfera cível, com processos contra os responsáveis pelos jovens, caso eles sejam menores de 18 anos. “Há um sofrimento psíquico relevante: essas adolescentes podem ser alvo de zombarias, bullying e, em alguns casos extremos, evoluir para quadros de depressão, automutilação ou até risco de suicídio”, alerta o advogado.

Internet não é terra sem lei

O advogado reforça que, apesar de não haver uma legislação que trate especificamente desse tipo de crime cometido com uso de inteligência artificial, há leis que asseguram punição para os envolvidos. Rocha também diz que, atualmente, é possível rastrear as pessoas que praticam tais atos. “É falso o pensamento de que é difícil rastrear, que a pessoa pode se esconder em um perfil fake. Existem tecnologias para encontrar”, explica.

A responsabilização das plataformas envolvidas é outra questão, explica o advogado. Está em discussão, no Supremo Tribunal Federal (STF), um julgamento que discute a constitucionalidade do artigo 19 do Marco Civil da Internet. Esse artigo estabelece que as plataformas digitais só podem ser responsabilizadas por conteúdos ilícitos publicados por terceiros se, após ordem judicial específica, não tomarem providências para sua retirada.

Na análise do advogado, “é uma linha tênue entre responsabilizar e ferir a liberdade de expressão”. “As plataformas têm recursos para identificar um conteúdo que não é legal no sentido jurídico. Acredito que tenha que haver responsabilização com ressalvas, dependendo do tipo de conteúdo”, explica.

Falsos nudes na escola: entenda o caso

A denúncia foi encaminhada nesta quarta-feira (4), após uma influencer de Belo Horizonte publicar um vídeo de sete minutos relatando o caso no TikTok. Ive Moreira, de 21 anos, é irmã de um ex-aluno do Colégio Santa Maria e, em entrevista a O TEMPO, contou que a situação já vem se arrastando desde 2023, quando fotos das adolescentes foram vazadas pelos colegas, também menores de idade. À época, dois dos estudantes envolvidos teriam sido punidos com alguns dias de suspensão.

Entretanto, na última semana, foi descoberto que a divulgação de imagens ainda estaria ocorrendo, porém com a suspeita de comercialização de imagens de "deep fake", quando o rosto das estudantes é colocado via IA em corpos nus.

"Desde que isso aconteceu (vazamento de imagens), as meninas restringiram o o ao Instagram por alguns dos envolvidos. Porém, ele tem amigos que entram nas redes dessas meninas e pegam as fotos de biquíni, de pijama, ou até qualquer foto, e fornecem para esse menino. Aí ele transforma elas em nudes e chega a comercializar essas fotos", denunciou Ive.

Segundo adolescentes ouvidas pela reportagem, já são mais de 20 meninas com os rostos expostos em montagens inapropriadas — vítimas com idades entre 13 e 17 anos. Os supostos responsáveis também são conhecidos: seria um grupo de alunos, a maioria do 1º ano do Ensino Médio. As jovens planejam uma manifestação na sexta-feira (6 de junho), se nenhuma medida definitiva for tomada pela direção.

O que diz a escola?

Procurado, o Colégio Santa Maria lamentou o ocorrido e informou que desenvolve "sistematicamente" atividades educativas sobre o uso ético e responsável da tecnologia, o que contemplaria "medidas de prevenção e combate às diversas formas de violência que ameaçam crianças e adolescentes, no mundo concreto e no ambiente digital".

A instituição alegou ainda que já adota medidas pedagógicas e jurídicas, como: acolhida e escuta das vítimas e de seus familiares; convocação e escuta do suposto autor e seus familiares; aplicação de medidas disciplinares conforme o Regimento da Instituição; intensificação de atividades formativas nas turmas do ensino médio sobre bullying e suas consequências jurídicas; o Conselho Tutelar, Ministério Público e Delegacia de Crimes Cibernéticos serão comunicados sobre o ocorrido.

"O Colégio Santa Maria Minas lamenta o ocorrido e reafirma seu compromisso com a promoção de um ambiente escolar seguro, acolhedor e pautado pelo respeito mútuo. Todas as providências estão sendo tomadas com responsabilidade e transparência, em consonância com os valores institucionais e a legislação vigente. A instituição permanece à disposição das autoridades competentes e das famílias envolvidas para esclarecimentos e encaminhamentos necessários", concluiu.