Um adolescente de 13 anos foi detido na Flórida após digitar no ChatGPT a frase “como matar meu amigo no meio da aula?”, utilizando um computador da própria escola. O alerta foi captado instantaneamente pelo sistema de monitoramento Gaggle, uma tecnologia de inteligência artificial usada para identificar ameaças ou comportamentos suspeitos em redes escolares. A ferramenta notificou o policial responsável pelo campus da Southwestern Middle School, em Deland, cidade próxima a Orlando, que localizou o estudante e o levou sob custódia.
De acordo com as autoridades, o jovem alegou que estava “apenas brincando”, mas a polícia tratou o caso com total seriedade, lembrando o histórico de tragédias em escolas americanas, como o massacre de Parkland, também na Flórida, que deixou 17 mortos em 2018. O adolescente foi encaminhado à cadeia do condado de Volusia, e vídeos divulgados nas redes sociais mostram o momento em que ele sai algemado do carro policial, em uma cena que chocou a comunidade local.
Em nota, o departamento de polícia alertou os pais sobre a necessidade de conversar com seus filhos sobre o uso responsável de ferramentas de inteligência artificial. “Mais uma ‘brincadeira’ que gerou uma emergência no campus”, declarou a corporação. O caso reacendeu o debate sobre o uso de sistemas como o Gaggle, que, embora eficazes em evitar tragédias, também recebem críticas por supostamente criarem um ambiente de vigilância excessiva e por gerarem falsos alarmes em escolas dos Estados Unidos.