Escolas vivem ‘epidemia’ de imagens pornográficas criadas por inteligência artificial; saiba os riscos

Basta uma imagem nítida do rosto de alguém e uma plataforma de inteligência artificial para gerar conteúdos manipulados. Com isso em mãos, fotos e vídeos falsos pornográficos podem ser criados e espalhados através das redes sociais em minutos. A notícia de que adolescentes geraram conteúdos fakes de alunas do Colégio Militar de Salvador (CMS), na Pituba, se junta a muitas outras já registradas no país.

A instituição afirma que tomou conhecimento que alunos teriam utilizado inteligência artificial para manipular imagens de alunas no dia 20 de setembro. Desde então, uma investigação interna busca identificar os envolvidos e esclarecer como os conteúdos foram feitos. Um comunicado enviado aos pais de alunos do 9º ano informou que os estudantes seriam trocados de sala temporariamente. O Colégio Militar emitiu nota sobre o assunto (veja abaixo), mas não disponibilizou porta-voz para comentar o caso.

Um caso semelhante, que aconteceu em uma escola particular de Cuiabá (MT), terminou com a expulsão de quatro alunos, entre 12 e 16 anos. Eles teriam criado imagens falsas de nudez, através de inteligência artificial, de colegas de sala e de uma professora. As imagens falsas foram divulgadas em grupos de pornografia nas redes sociais.

Para o advogado Guilherme Celestino, especializado em Direito Digital, não é exagero dizer que as escolas do país vivem uma epidemia de casos desse tipo. “Esse tipo de ilícito, que chamamos de deepfake, não é novidade, mas tem se tornado mais comum. Qualquer pessoa pode criar conteúdos falsos com facilidade com a disseminação dessas plataformas”, diz.

A advogada Ana Paula Siqueira é presidente da Associação SOS Bullying, que acompanha o caso dos alunos de Cuiabá. Para ela, é necessário um processo de conscientização nas escolas, e não somente punições. “Depois que vítima e agressores são ouvidos, é preciso abrir um processo interno dentro da escola, que deve ser documentado. Expulsar os alunos sem cuidar da conscientização desses adolescentes não resolve o problema”, afirma.

A especialista lembra ainda que a Lei 12.185 de 2015 instituiu o Programa de Combate à Intimidação Sistemática, que obriga escolas, clubes e agremiações a assegurar medidas de conscientização, prevenção e combate à violência. “Todas as vezes que as escolas não implementam programas de combate ao bullying, elas estão sendo omissas. Quando atos ilícitos ocorrem, os diretores e mantenedores têm o dever de aplicar a lei ou podem responder judicialmente pela omissão”, alerta Ana Paula Siqueira.

Em julho deste ano, um inquérito da Polícia Civil de Alagoas, responsabilizou sete adolescentes por terem feito montagens pornográficas com rosto de colegas de escolas. Eles têm entre 14 e 16 anos e foram apontados como autores de atos infracionais análogos a crimes como divulgação de imagem pornográfica de menores de idade, difamação e associação criminosa.

O advogado Guilherme Celestino explica como se dá a punição envolvendo adolescentes. Segundo ele, o tipo de pena dependerá do intuito da divulgação das fotos, podendo variar de assédio até estelionato. “O Estatuto da Criança e do Adolescente (ECA) é espelhado, na maioria das vezes, no Código Penal. Então, o que é crime para adultos, é infração para os menores de idade. Mas o julgamento é feito por uma vara especial e a punição costuma ser o envio à casa de detenção e não para a prisão”, detalha.

Exploração sexual infantil cresce

Entre 2022 e 2023, denúncias sobre a presença de imagens de abuso e exploração sexual infantil cresceram 77%. No ano passado, foram 71.867 queixas, o maior número da série histórica, iniciada em 2006. As informações são da organização não governamental (ONG) Safernet.

Para a ONG, o uso de inteligência artificial para a criação desse tipo de conteúdo, como aconteceu entre alunos do Colégio Militar de Salvador, é um dos fatores que motiva o aumento das denúncias.

O Projeto de Lei 623/2024, que está sendo analisado pelo Senado Federal, propõe a tipificação do crime de manipulação não autorizada de imagens de “nudez, ato sexual ou libidinoso de caráter íntimo”. O texto prevê pena de um a dois anos de reclusão e multa. A punição poderá ser agravada para o dobro se envolver vítima menor de 18 anos; e para o triplo se o material produzido for divulgado em redes sociais ou por aplicativos de mensagem.

Posicionamento do Colégio Militar de Salvador (CMS): 

O Comando do Colégio Militar de Salvador foi informado, no dia 20 de setembro, de uma suposta conduta irregular envolvendo alunos, que teriam utilizado inteligência artificial para manipular imagens de alunas do colégio. Os fatos estão sendo rigorosamente apurados por meio de processo administrativo, que visa esclarecer onde e como ocorreram as irregularidades, além de identificar todos os envolvidos.

Todos os alunos e familiares que procuraram o Colégio Militar de Salvador em busca de apoio estão sendo prontamente atendidos e assistidos. Desde que tomou conhecimento da situação, o Colégio Militar de Salvador tem prestado todo o apoio necessário por meio da Divisão de Ensino e da Seção Psicopedagógica, e continuará à disposição de alunos e familiares para qualquer assistência adicional.

O Colégio Militar de Salvador não coaduna com qualquer atitude dessa natureza e busca sempre conscientizar seus alunos acerca do uso correto das tecnologias, possuindo um programa de educação digital que orienta todos os seus integrantes sobre o assunto em tela.