Alerta! Imagens de crianças são usadas indevidamente para alimentar programas de IA no Brasil

Já imaginou as fotos de seus filhos publicadas em qualquer lugar por aí? Fotos pessoais de crianças e adolescentes brasileiros estão sendo utilizadas sem consentimento para treinar ferramentas de inteligência artificial (IA), alertou a Human Rights Watch. Essas imagens são coletadas da web e inseridas em grandes conjuntos de dados, usados por empresas para desenvolver suas tecnologias de IA. Ferramentas treinadas com essas imagens são, em alguns casos, utilizadas para criar deepfakes maliciosos, colocando crianças em risco de exploração.

A análise revelou que o conjunto de dados LAION-5B, usado para treinar ferramentas populares de IA, contém links para fotos identificáveis de crianças brasileiras. Em muitos casos, essas imagens incluem nomes e locais, permitindo a fácil identificação das crianças.

Uma dessas fotos mostra uma menina de 2 anos tocando a mão de sua irmã recém-nascida. As informações anexadas à imagem revelam os nomes das crianças e o hospital  onde o bebê nasceu.

A Human Rights Watch encontrou 170 fotos de crianças de pelo menos 10 estados brasileiros. Essas fotos, originalmente vistas por poucas pessoas, foram coletadas de blogs pessoais e sites de compartilhamento de fotos, muitas vezes postadas anos antes da criação do LAION-5B.

Riscos à privacidade

Quando fotos de crianças são coletadas e usadas em sistemas de IA, a privacidade delas fica em risco. Informações privadas, como fotos e registros médicos, podem ser acessadas e divulgadas. Além disso, ferramentas de IA podem criar imagens falsas e explícitas a partir de fotos normais.

Em estados como Alagoas, Minas Gerais e São Paulo, pelo menos 85 meninas relataram assédio de colegas que usaram IA para criar deepfakes sexualmente explícitos. Essas imagens falsas foram espalhadas online, causando danos duradouros.

Programas de inteligência artificial são de fácil acesso, e a criação de informações falsas é rápida e simples. Precisamos reavaliar o uso da internet e das redes sociais para entender e mitigar os riscos, especialmente para as crianças, que muitas vezes são expostas sem compreender todas as implicações.

Resposta da LAION

A LAION, organização responsável pelo LAION-5B, confirmou a presença das fotos e se comprometeu a removê-las. No entanto, a organização afirmou que os responsáveis pelas crianças devem remover suas fotos pessoais da internet para evitar uso indevido.

Ação governamental

Legisladores propuseram proibir o uso não consensual de IA para gerar imagens sexualmente explícitas. Em abril, o Conselho Nacional dos Direitos da Criança e do Adolescente (CONANDA) publicou uma resolução para desenvolver uma política nacional de proteção dos direitos das crianças no ambiente digital.

O que podemos fazer?

Compartilhar fotos com aqueles que amamos e interagir nas redes sociais é uma maneira de expressar afeto e promover alegria! No entanto, à medida que a sociedade avança tecnologicamente, os riscos também aumentam em paralelo.

Nós, do São Paulo para Crianças, compartilhamos essas preocupações com profunda tristeza, mas também como um alerta às famílias! Convocamos a todos a permanecer vigilantes em relação a esse assunto, pressionando os governantes, questionando as políticas de privacidade em contextos que envolvem crianças e, principalmente, a estarem atentos ao que compartilham.

O que o Brasil está fazendo para proteger as crianças?

Resumo da Resolução Nº 245, de 5 de abril de 2024

O Conselho Nacional dos Direitos da Criança e do Adolescente (CONANDA) estabeleceu diretrizes para proteger os direitos de crianças e adolescentes no ambiente digital. A resolução destaca que a responsabilidade pela garantia desses direitos é compartilhada entre o poder público, famílias, sociedade e empresas provedoras de serviços digitais. Os principais pontos incluem:

1. Princípios Básicos:
   • Garantia de não discriminação, prevalência do interesse superior da criança, direito à vida, desenvolvimento integral, liberdade de expressão, dignidade e imagem.
   • Promoção de um ambiente digital seguro, saudável, livre de assédio, discriminação e discurso de ódio.
   • Estímulo ao uso consciente e responsável das tecnologias digitais.
   • Proteção de dados e privacidade.
2. Acesso e inclusão digital:
   • Todas as crianças e adolescentes devem ter garantido o acesso ao ambiente digital, com conteúdos compatíveis com seus direitos.
   • Combate à exclusão digital e discriminação, garantindo inclusão e acessibilidade digital.
3. Proteção contra violações:
   • Proteção contra riscos de conteúdos violentos, cyberbullying, exploração e abuso sexual, jogos de azar, publicidade ilegal.
   • Promoção de interações pessoais e atenção especial aos efeitos da tecnologia no desenvolvimento na primeira infância.
4. Participação em políticas digitais:
   • Envolvimento de crianças e adolescentes na criação de políticas e programas sobre ambientes digitais.
5. Privacidade e proteção de dados:
   • Respeito à privacidade e tratamento seguro de dados pessoais, com informações claras e acessíveis sobre o uso dos dados.
   • Consentimento para o tratamento de dados deve ser obtido de forma livre e transparente.
6. Responsabilidades das empresas digitais:
   • Empresas são responsáveis pela implementação dos direitos de crianças e adolescentes em seus serviços e ambientes digitais.
   • Criação de mecanismos para evitar o uso inadequado de serviços digitais por crianças e adolescentes.
   • Disponibilização de canais de denúncia acessíveis para relatar conteúdos nocivos ou ilegais.
   • Mecanismos de mediação parental e verificação etária devem ser implementados.
7. Moderação de conteúdo e proteção:
   • Empresas devem moderar conteúdos para prevenir riscos à saúde mental, exposição a conteúdos nocivos, discriminação e abuso.
   • Ferramentas de controle e prevenção de violações devem ser priorizadas e continuamente aprimoradas.

Acesse na íntegra aqui!

Human Rights Watch

A Human Rights Watch é uma organização global de direitos humanos, formada por cerca de 400 membros em várias partes do mundo. Fundada em 1978, realiza investigações aprofundadas sobre violações de direitos humanos, publicando mais de 100 relatórios anuais.

fontes: Conanda, Human Rights Watch, Criança e Consumo, Instituto Alana