Entenda o caso- Estudo publicado na Revista CNJ sustenta que o ECA alcança imagens manipuladas de crianças reais, mas não oferece resposta penal segura para conteúdos integralmente sintéticos.
A inteligência artificial generativa abriu uma nova frente de preocupação para o sistema de proteção da infância: a produção de imagens hiper-realistas que simulam crianças e adolescentes em situações de abuso sexual, mesmo quando nenhuma vítima real aparece diretamente no conteúdo.
Estudo publicado na Revista do Conselho Nacional de Justiça sustenta que a legislação brasileira não oferece resposta penal suficientemente clara para essa modalidade integralmente sintética. Os autores defendem a criação de um crime autônomo, a ampliação dos deveres das plataformas digitais e o desenvolvimento de mecanismos tecnológicos de prevenção e rastreabilidade.
O trabalho, intitulado “Ciberpedofilia e inteligência artificial: perspectivas jurídico-penais da pornografia infantil sintética”, foi elaborado pelo advogado e professor Rodrigo Fuziger e pela advogada Lis Vitória de Almeida Fernandes.
É importante esclarecer que se trata de artigo acadêmico divulgado pela Revista CNJ, e não de resolução, decisão do Plenário ou orientação vinculante do Conselho. A publicação, entretanto, coloca o tema na agenda institucional do Poder Judiciário e evidencia a necessidade de atualização legislativa.
Três formas de utilização da inteligência artificial
O estudo diferencia três modalidades de material de abuso sexual infantil produzido ou transformado com inteligência artificial:
- AI-assisted CSAM: a tecnologia é utilizada para melhorar, ampliar ou modificar uma imagem real de criança ou adolescente;
- AI-altered CSAM: elementos reais e artificiais são combinados, como na inserção do rosto de uma criança em conteúdo pornográfico adulto;
- AI-generated CSAM: a imagem é criada integralmente pelo sistema, retratando uma criança ou adolescente aparentemente real, mas inexistente.
Nas duas primeiras hipóteses, existe uma vítima identificável cuja fotografia, imagem ou característica pessoal foi utilizada. Além da proteção da dignidade sexual, há violação dos direitos à imagem, à honra, à privacidade e à identidade.
O maior desafio jurídico está na terceira situação. Quando o conteúdo é totalmente produzido pelo algoritmo, não existe uma criança individualmente retratada. Ainda assim, a imagem pode ser praticamente indistinguível de um registro verdadeiro de violência sexual.
Onde está a lacuna no ECA
A Lei 11.829/2008 ampliou os crimes previstos no Estatuto da Criança e do Adolescente para combater a produção, a posse e a circulação de material pornográfico infantil na internet. O artigo 241-C do ECA criminaliza a simulação da participação de criança ou adolescente em cena de sexo explícito ou pornográfica mediante adulteração, montagem ou modificação de fotografia, vídeo ou outra representação visual.
O artigo 241-E, por sua vez, estabelece que a expressão “cena de sexo explícito ou pornográfica” compreende situações reais ou simuladas envolvendo criança ou adolescente. Apesar da amplitude aparente, os pesquisadores sustentam que esses dispositivos foram construídos a partir da existência de uma criança real ou de um registro visual preexistente. A legislação de 2008 tinha como referência montagens, manipulações fotográficas e inserções realizadas sobre imagens verdadeiras.
Por isso, seria possível aplicar os dispositivos atuais aos conteúdos assistidos ou alterados por IA, nos quais permanece o vínculo com uma vítima concreta. A mesma interpretação não poderia ser transportada automaticamente para o conteúdo totalmente sintético. Se a pessoa retratada não existe, faltaria o elemento humano exigido pelo tipo penal vigente.
Legalidade impede que o Judiciário crie um novo crime
O problema não pode ser resolvido simplesmente por uma interpretação mais ampla do ECA. A Constituição estabelece que não há crime sem lei anterior que o defina nem pena sem prévia previsão legal. Em matéria penal, também é proibida a utilização de analogia para prejudicar o acusado.
Ainda que o conteúdo seja moralmente repugnante e socialmente perigoso, o Judiciário não pode ampliar um crime existente para alcançar uma conduta que não esteja claramente descrita na lei. A palavra “simulada”, presente no artigo 241-E, poderia alimentar a tese de que imagens completamente artificiais já estariam abrangidas. O estudo, contudo, adverte que essa interpretação corre o risco de ultrapassar os limites da legalidade estrita, porque o dispositivo pressupõe a participação real ou representada de uma criança ou adolescente.
A lacuna, portanto, deve ser preenchida pelo Congresso Nacional, e não pela criação judicial de uma hipótese de punição.
A inexistência de vítima identificável não elimina o dano
Um dos pontos centrais do estudo é a contestação da ideia de que o material integralmente sintético seria inofensivo por não registrar o abuso de uma criança real. Os pesquisadores argumentam que a lesão assume uma dimensão coletiva. O bem jurídico protegido deixaria de ser apenas a dignidade sexual de uma vítima determinada e passaria a compreender a dignidade sexual da infância como valor social e constitucional.
A circulação dessas imagens pode:
- normalizar a sexualização de crianças em comunidades virtuais;
- alimentar a demanda por material de abuso sexual real;
- fortalecer mercados ilícitos e redes criminosas;
- ser utilizada em práticas de aliciamento e violência sexual;
- reduzir as barreiras psicológicas para condutas abusivas;
- dificultar a identificação de vítimas verdadeiras;
- sobrecarregar os sistemas policiais de detecção;
- confundir materiais reais com conteúdos fabricados.
As imagens artificiais também podem inundar bancos de dados utilizados pelas autoridades. Quanto maior o volume de conteúdo sintético, maior a dificuldade de identificar quais arquivos registram uma violência efetivamente praticada e exigem a localização urgente da criança envolvida.
Crescimento do conteúdo produzido por IA
Dados da Internet Watch Foundation citados pelo CNJ mostram que foram confirmados 245 casos de material de abuso sexual infantil gerado por IA em 2024, contra 51 em 2023 — crescimento de 380%. Os casos corresponderam a mais de 7,6 mil imagens analisadas. Parte significativa foi classificada entre as categorias mais graves de violência sexual. No primeiro semestre de 2025, a organização identificou mais de mil vídeos ilegais produzidos com inteligência artificial.
Além do crescimento quantitativo, existe uma evolução na qualidade das imagens. Modelos de difusão, ferramentas de edição e técnicas de sincronização permitem criar fotografias e vídeos cada vez mais difíceis de distinguir de registros reais.
Os dados estão no estudo publicado pela Revista CNJ e na divulgação institucional do Conselho.
Estudo propõe novo artigo no ECA
Os pesquisadores defendem a criação de um tipo penal autônomo para alcançar conteúdos sem vínculo com uma criança real. O estudo apresenta, como contribuição acadêmica, uma proposta de artigo 241-F para o Estatuto da Criança e do Adolescente. A norma puniria a criação, produção, geração ou manipulação, por inteligência artificial, de representação visual sexual envolvendo criança ou adolescente, ainda que a pessoa retratada seja inexistente ou ficcional.
A proposta também alcançaria quem adquirisse, armazenasse, disponibilizasse, transmitisse ou divulgasse o material. A pena sugerida é de um a três anos de reclusão e multa, seguindo o parâmetro atualmente previsto para o artigo 241-C do ECA.
Não se trata de projeto de lei formalmente apresentado pelo CNJ, mas de modelo legislativo elaborado pelos autores para demonstrar como a lacuna poderia ser preenchida sem violar o princípio da legalidade.
Congresso já analisa propostas
O Congresso Nacional possui projetos relacionados à utilização de inteligência artificial em conteúdos sexuais. O PL 5.694/2023 criminaliza a manipulação de fotografias, vídeos e sons de crianças e adolescentes por IA. A ele estão apensadas outras três propostas:
- o PL 6.211/2023, sobre criação de conteúdo erótico a partir do rosto de uma vítima real;
- o PL 4.272/2024, que pretende tornar hediondos crimes envolvendo pornografia infantil produzida por IA ou deepfake;
- o PL 1.239/2025, que inclui expressamente imagens artificiais sem vínculo com pessoa ou situação real no conceito do artigo 241-E do ECA.
Entre as propostas apensadas, o PL 1.239/2025 enfrenta de maneira mais direta o problema apontado pelo estudo, porque menciona expressamente imagens que não estejam vinculadas a uma criança verdadeira.
O conjunto aguarda análise na Comissão de Previdência, Assistência Social, Infância, Adolescência e Família da Câmara. Já o PL 3.821/2024, aprovado pela Câmara e encaminhado ao Senado, tipifica a manipulação, produção ou divulgação de conteúdo falso de nudez ou ato sexual por IA. O texto prevê aumento da pena quando a vítima for criança ou adolescente.
Embora importante para o combate aos deepfakes sexuais, a redação permanece centrada na existência de uma vítima. Por isso, pode não solucionar integralmente a questão do avatar infantil completamente artificial.
Responsabilidade das plataformas digitais
O estudo sustenta que a resposta não pode se limitar à criação de novos crimes. A produção e a circulação do material passam por diferentes agentes privados:
- empresas desenvolvedoras de modelos generativos;
- plataformas que oferecem ferramentas de criação de imagens;
- serviços de armazenamento em nuvem;
- redes sociais;
- aplicativos de mensagens;
- mecanismos de busca;
- provedores de hospedagem.
Essas empresas ocupam posições diferentes na cadeia tecnológica e não podem ser responsabilizadas de maneira automática e indistinta. Ainda assim, a natureza do risco exige um dever reforçado de prevenção, detecção e cooperação.
Entre as medidas apontadas estão:
- bloqueios de comandos destinados à geração de conteúdo sexual infantil;
- auditoria dos modelos e das bases utilizadas no treinamento;
- identificação de arquivos por impressão digital, conhecida como hashing;
- aplicação de marcas d’água digitais;
- registro da origem de conteúdos produzidos por IA;
- preservação de evidências para investigação;
- canais acessíveis de denúncia;
- retirada rápida de material manifestamente ilícito;
- transparência sobre as políticas de moderação.
O artigo relaciona essa obrigação ao julgamento do STF sobre a responsabilidade civil das plataformas. A Corte reconheceu que conteúdos manifestamente ilícitos e de elevada gravidade, como material de abuso sexual infantil, podem gerar responsabilidade quando houver conhecimento inequívoco e omissão na retirada.
Isso não significa responsabilidade automática por toda publicação. Será necessário examinar o conhecimento da plataforma, os mecanismos de segurança disponíveis e a resposta adotada depois da identificação do conteúdo.
O desafio para a regulação da inteligência artificial
A discussão também alcança diretamente a futura regulação dos sistemas de IA. A proteção não pode começar apenas depois que a imagem estiver disponível em redes sociais ou grupos fechados. Os controles precisam existir desde a concepção do modelo, seguindo a lógica de segurança desde o desenvolvimento.
Isso envolve governança das bases de treinamento, testes de uso abusivo, filtros de entrada e saída, rastreabilidade, documentação técnica, auditorias independentes e mecanismos que impeçam a remoção das informações de origem.
Também é necessário distinguir os níveis de participação de cada agente. A responsabilidade de quem desenvolve o modelo não é necessariamente igual à de quem hospeda o arquivo ou compartilha deliberadamente o conteúdo em comunidades criminosas.
Uma regulação eficiente deverá estabelecer deveres proporcionais ao risco e à capacidade técnica de cada participante.
Por que isso importa
A lacuna identificada coloca o Direito Penal diante de um paradoxo: a tecnologia é capaz de produzir material visualmente idêntico ao registro de um crime, mas a inexistência de uma vítima individualizada pode impedir o enquadramento nos delitos atuais.
Ao mesmo tempo, uma interpretação penal excessivamente aberta comprometeria a legalidade e a segurança jurídica. A solução exige norma precisa, capaz de diferenciar:
- imagem real de abuso;
- manipulação da imagem de uma criança existente;
- conteúdo híbrido ou deepfake;
- representação integralmente sintética;
- produção, posse e compartilhamento deliberado;
- atividade legítima de pesquisa, investigação ou desenvolvimento de ferramentas de detecção.
Sem essas distinções, a lei pode permanecer ineficaz ou, no extremo oposto, produzir criminalização excessivamente ampla.
Vá mais fundo
O debate não deve ser reduzido à pergunta sobre a existência de uma vítima no arquivo final. Uma imagem aparentemente artificial pode ter sido treinada ou construída a partir de fotografias reais. Um conteúdo totalmente sintético pode ser utilizado para aliciamento, chantagem, aproximação com menores ou treinamento de comunidades criminosas. Também pode desviar investigadores da tarefa de localizar crianças efetivamente abusadas.
Por isso, a atualização legislativa precisa combinar quatro frentes: tipificação penal precisa, prevenção tecnológica, responsabilidade proporcional das plataformas e cooperação internacional.
A inteligência artificial alterou a forma de produção do conteúdo, mas não reduziu o dever constitucional de proteção integral da infância.
