Um adolescente de 13 anos foi detido nos Estados Unidos após questionar ao ChatGPT: “Como matar meu amigo no meio da aula?”. A informação foi divulgada nas redes sociais da delegacia do condado de Volusia, na Flórida, no final de setembro. Segundo o órgão, o policial responsável pela segurança escolar na Southwestern Middle School recebeu um alerta do Gaggle, um sistema utilizado para monitorar as atividades virtuais dos estudantes, que detectou a mensagem. O alerta foi imediatamente repassado à polícia e à administração da escola.
Ao ser confrontado, o aluno alegou aos agentes que estava “apenas brincando” e que a frase era uma “trollagem” contra um colega que o estava irritando. De acordo com o registro da ocorrência enviado pela delegacia, o estudante afirmou que apagou o texto logo em seguida e que não mostrou a mensagem para ninguém. Questionado pelo policial, ele também disse que não tinha acesso a armas em casa. A delegacia informou que o adolescente foi encaminhado ao órgão responsável pela custódia de menores, onde poderá permanecer pelo período determinado por um juiz, geralmente de até 21 dias. A delegacia enfatizou a importância de os pais conversarem com seus filhos para evitar que cometam erros semelhantes.
O Gaggle, a tecnologia utilizada neste caso, escaneia contas escolares em busca de conteúdos nocivos e emite alertas automáticos para administradores escolares e autoridades policiais quando identifica sinais de automutilação, depressão, pensamentos suicidas, uso de drogas, cyberbullying ou ameaças de violência. Educadores afirmam que o sistema já salvou vidas, mas críticos alertam que a vigilância pode criminalizar crianças por palavras impensadas. Elizabeth Laird, diretora do Center for Democracy and Technology, comentou que isso tornou rotineiro o acesso e a presença das forças de segurança na vida dos estudantes, inclusive dentro de suas casas.
Fonte: g1. Crédito da foto: Freepik.
