À agência Lusa, o CIS salienta que a produção ilegal de conteúdo sexual de menores com IA provém de “pares ou colegas de escola, e são partilhadas através de grupos de WhatsApp e por vezes publicadas em ‘stories’ do Instagram”.

O CIS refere que este tipo de conteúdo tem sido amplificado pela IA que possibilita criar, rapidamente, ‘sites’ inteiros com diferentes tipos de conteúdo.

“Atualmente, qualquer imagem ou vídeo pode ser gerado de forma rápida, gratuita e acessível a qualquer pessoa, e em qualquer lugar. Estes conteúdos podem, ou não, ser realistas, e podem, ou não, incluir áudio”, menciona o centro.

Recentemente, um relatório da Internet Watch Foudation (IWF) revelou que o abuso sexual infantil gerado com IA aumentou 400% no primeiro semestre do ano, tendo sido detetadas 210 páginas ‘online’ com este tipo de conteúdo.

Neste sentido, o CIS afirma que “não existe, pelo menos para o grande público, uma tecnologia capaz de identificar, de forma eficaz, se um conteúdo foi gerado artificialmente no momento. Tal como aconteceu com outras tecnologias ao longo da história, ferramentas criadas com determinados fins, são rapidamente usadas para fins maliciosos, tais como gerar imagens difamatórias ou íntimas”.

O CIS explica que a partir do momento em que imagens de jovens estão disponíveis ‘online’, qualquer pessoa pode utilizá-las para gerar material sexual artificial, manipulando digitalmente a imagem, “tornando-se mais fácil criar identidades falsas para abordar crianças e jovens, facilitando processos de aliciamento ou obtenção de conteúdo sexual ilegal”.

Além disso, “já existem inúmeras plataformas cujo único objetivo é criar imagens íntimas de mulheres, uma realidade que rapidamente se estendeu ao conteúdo sexual de menores”.

Na semana passada, o Facebook encerrou um grupo italiano com quase 32.000 utilizadores no qual eram partilhadas e comentadas fotos de mulheres em momentos de intimidade, presumivelmente sem a sua permissão, após várias denúncias recebidas.

Nesta matéria, os perigos passam pela exposição de menores, manipulação de imagens, risco de aliciamento, chantagem e danos psicológicos, bem como a circulação rápida e difícil de controlar dos vários tipos de conteúdos.

As denúncias que chegam ao CIS têm origem na Linha Internet Segura (LIS), operacionalizada pela Associação Portuguesa de Apoio à Vítima (APAV), que “integra um serviço de denúncia de conteúdos ilegais ‘online’”.

O CIS é coordenado pelo Centro Nacional de Cibersegurança (CNCS) e resulta de um Consórcio que envolve a DGE – Direção-Geral da Educação, o IPDJ – Instituto Português do Desporto e Juventude, a Fundação para a Ciência e a Tecnologia (FCT), a APAV e a Microsoft Portugal.