O Fundo das Nações Unidas para a Infância (Unicef) manifestou preocupação com o aumento de imagens sexualizadas de crianças geradas por inteligência artificial (IA) e pediu medidas legais, tecnológicas e regulatórias imediatas para conter a disseminação desse tipo de conteúdo. O alerta foi divulgado em Nova Iorque, após relatos de crescimento rápido no volume de material manipulado digitalmente.

Segundo a agência, fotografias reais de crianças têm sido alteradas por ferramentas de IA para produzir conteúdo sexual explícito, prática classificada como material de abuso sexual infantil. O Unicef reforça que o dano é concreto, mesmo quando as imagens são sintéticas ou alteradas.

A organização defende que governos, empresas de tecnologia e plataformas digitais atuem de forma coordenada para prevenir, detectar e remover conteúdos abusivos, além de ampliar a proteção jurídica às vítimas.

Crescimento global de deepfakes envolvendo menores

De acordo com o Unicef, deepfakes — imagens, vídeos ou áudios criados ou modificados por IA para parecerem reais — estão sendo usados com frequência crescente para explorar crianças. Entre as práticas identificadas está a chamada “nudificação”, em que softwares removem ou alteram roupas em fotos para simular nudez.

Estudo conduzido pelo Unicef, em parceria com a rede internacional Ecpat e a Interpol, aponta que ao menos 1,2 milhão de crianças, em 11 países, relataram que suas imagens foram manipuladas em deepfakes sexualmente explícitos no último ano.

Em alguns locais analisados, o levantamento indica proporção equivalente a uma em cada 25 crianças, número que, segundo a agência, dimensiona a abrangência do problema em ambientes escolares e digitais.

Crianças relatam preocupação com uso indevido da tecnologia

O Unicef informou que as próprias crianças reconhecem os riscos associados à IA generativa. Em determinados países, até dois terços dos entrevistados declararam receio de que suas imagens sejam usadas para criar vídeos ou fotos falsas de teor sexual.

A organização observa que os níveis de preocupação variam entre regiões, mas reforçam a necessidade de ações de sensibilização, prevenção e educação digital para famílias, estudantes e profissionais da educação.

Para o órgão, a conscientização é parte essencial das estratégias de proteção, especialmente diante da rápida evolução tecnológica.

Conteúdo gerado por IA é classificado como abuso sexual infantil

Na declaração oficial, o Unicef afirmou que imagens sexualizadas produzidas ou manipuladas por IA configuram material de abuso sexual infantil (CSAM, na sigla em inglês), independentemente de terem sido criadas artificialmente.

A agência enfatizou que “abuso por deepfake é abuso”, destacando que o impacto psicológico, social e reputacional sobre as vítimas é real.

Mesmo quando não há identificação direta de uma criança específica, o Unicef alerta que o material normaliza a exploração sexual, amplia a demanda por conteúdos ilícitos e dificulta o trabalho das autoridades na proteção de menores.

Redes sociais ampliam velocidade de disseminação

O Unicef reconheceu iniciativas de alguns desenvolvedores de IA que adotam medidas de “segurança desde a concepção”, com mecanismos para bloquear usos indevidos. Ainda assim, avalia que o cenário permanece desigual.

Segundo a agência, muitos modelos de IA ainda operam sem salvaguardas suficientes, o que facilita a produção e circulação de conteúdo abusivo.

O risco se intensifica quando ferramentas de IA generativa são integradas diretamente a redes sociais, permitindo disseminação rápida e em larga escala das imagens manipuladas.

Recomendações incluem leis, tecnologia e responsabilização de empresas

Para enfrentar o problema, o Unicef recomenda que governos ampliem as definições legais de material de abuso sexual infantil para incluir conteúdos gerados por IA, além de criminalizar criação, posse, aquisição e distribuição desse material.

A agência também pede que empresas de tecnologia implementem barreiras técnicas robustas, impedindo o uso indevido das plataformas desde a fase de desenvolvimento.

Entre as medidas sugeridas às redes sociais estão reforço da moderação, investimento em sistemas de detecção automática e remoção imediata de conteúdo, evitando que a exclusão ocorra apenas após denúncias prolongadas.

*Com informações da ONU News.