Est-ce que la sécurité suffit à justifier toutes les dérives en matière de surveillance ? Dans une affaire qui se rapproche dangereusement de la Police de la Pensée de 1984, un adolescent a été arrêté pour une blague douteuse sous forme de question posée à ChatGPT…
Rappelez-vous quand vous étiez au collège, en 5e ou en 4e. À 13 ans, c’est le début de la crise de l’adolescence. Les ados ont tendance à faire des plaisanteries immatures et à franchir les limites sans en mesurer l’impact. Cela fait partie de l’apprentissage. Mais aux États-Unis, cela peut valoir un séjour en prison.
Un jeune homme de 13 ans en Floride l’a découvert à ses dépens. Il a été arrêté après avoir demandé à ChatGPT « Comment tuer mon ami au milieu de la classe », selon la chaîne d’informations locale WFLA. Avec le nombre très élevé de tueries en milieu scolaire, les Américains ne plaisantent pas avec la sécurité à l’école.
Gaggle : le logiciel de surveillance qui alerte la police
Les ordinateurs sont équipés du logiciel Gaggle, qui surveille l’activité des élèves et notamment tout ce qu’ils saisissent au clavier ou le contenu des pages visitées. Après que l’ado a écrit sa question, le logiciel a alerté un des policiers affectés à l’école. La police a arrêté l’adolescent, et une vidéo publiée par NBC 6 le montre menotté et escorté hors de l’école. Il a expliqué que c’était juste une blague, qu’il souhaitait « troller » son ami.
« Une autre « blague » qui a créé une situation d’urgence sur le campus », a déclaré le bureau du shérif. « Parents, parlez à vos enfants pour qu’ils ne commettent pas la même erreur ». Cet incident soulève de nombreuses questions sur les dérives de la surveillance, surtout dans un pays où la liberté d’expression est censée être sacrée.
Jusqu’en 2023, Gaggle signalait aussi l’utilisation de termes LGBTQ+, avant de les retirer de sa liste après de nombreuses critiques. Le logiciel représente une véritable atteinte à la vie privée selon l’Electronic Frontier Foundation. Tester les limites est une étape essentielle de la construction de l’identité, mais comment les adolescents peuvent-ils se construire sous l’œil de Big Brother, où le moindre écart est criminalisé ? Être arrêté pour une simple plaisanterie risque de marquer ce garçon à vie. Aussi graves que soient les fusillades aux États-Unis, une blague ne fait pas d’un enfant un meurtrier.
