Uma investigação conduzida pela Human Rights Watch revelou que fotos pessoais de crianças e adolescentes brasileiros estão sendo utilizadas sem consentimento por ferramentas de inteligência artificial (IA). As imagens, obtidas de sites e redes sociais, foram identificadas em um banco de dados denominado LAION-5B, usado para treinamento de IA, que contém mais de 5 bilhões de imagens.
Ao todo, foram encontradas 170 fotos que retratam momentos como nascimentos, aniversários e eventos escolares, originárias de pelo menos 10 estados brasileiros. Segundo a organização, embora representem uma pequena fração do vasto acervo do banco de dados, essas descobertas são preocupantes.
Hye Jung Han, pesquisadora da Human Rights Watch, alerta que a IA possibilita a criação rápida e gratuita de deepfakes, que são manipulações nocivas de vídeos e fotos. Essas práticas podem comprometer a privacidade e a segurança das crianças, já que suas imagens são utilizadas sem autorização para diversos fins, incluindo criação de conteúdo falso.
A LAION, responsável pelo banco de dados, se comprometeu a remover as fotos pessoais das crianças identificadas. No entanto, argumenta que cabe aos pais e às próprias crianças garantir a remoção de suas fotos pessoais da internet como medida mais eficaz de proteção.
A coordenadora do Programa Criança e Consumo do Instituto Alana, Maria Mello, destaca a necessidade urgente de aplicar legislações que protejam os usuários no ambiente virtual, visando resguardar a privacidade especialmente de crianças e adolescentes.
A situação coloca em evidência a vulnerabilidade dos dados pessoais em um contexto digital cada vez mais complexo e demanda ações mais efetivas das plataformas digitais e das autoridades reguladoras.
Com informações da Human Rights Watch e LAION-5B
