Um incidente alarmante ocorreu na Southwestern Middle School, em Deland, Flórida, quando um adolescente de 13 anos foi detido por uma busca chocante feita em um dispositivo escolar: ele perguntou ao ChatGPT como poderia assassinar um colega de classe. O caso gerou grande comoção e intensificou o debate sobre a segurança nas escolas americanas e o uso da inteligência artificial (IA) entre os jovens.
A prisão foi desencadeada pelo Gaggle, um sistema de monitoramento escolar que usa IA para detectar mensagens preocupantes. A ferramenta identificou imediatamente a intenção do aluno e enviou um alerta urgente ao Volusia Sheriff’s Office.
Um oficial de segurança escolar agiu rapidamente, confrontando o jovem em sala de aula. Embora o adolescente tenha alegado estar “apenas brincando” com um amigo que o havia incomodado, as autoridades trataram a ameaça com extrema seriedade. A cautela é justificada pelo histórico de violência e tiroteios em instituições de ensino nos EUA, como o trágico massacre em Parkland, em 2018.
Reação das Autoridades e o Alerta aos Pais
O menor foi detido e encaminhado à prisão do condado de Volusia. A polícia classificou o episódio como um exemplo de “brincadeiras” perigosas que criam situações de emergência desnecessárias no ambiente escolar.
Em uma declaração pública, o escritório do xerife fez um apelo direto: “Pais, por favor, conversem com seus filhos para que não cometam o mesmo erro.”
O uso do sistema Gaggle, que monitora a atividade online dos alunos para identificar riscos, também foi colocado em evidência. Apesar de sua eficácia em casos como este, a ferramenta continua a ser criticada por supostamente gerar falsos alarmes e criar um ambiente de vigilância excessiva.
O episódio na Flórida reaquece a discussão sobre o equilíbrio entre privacidade e segurança no uso de tecnologias de monitoramento de crianças e adolescentes. A preocupação é amplificada pelo conhecimento de incidentes envolvendo mortes ligadas ao ChatGPT, destacando o papel cada vez mais complexo da inteligência artificial na vida dos jovens.
