Selon des documents judiciaires cités par plusieurs médias américains, dont le Detroit News et Cybernews, Zhou avait commencé à utiliser ChatGPT en mars 2026 pour évoquer sa rupture récente. Les échanges ont progressivement dérivé vers des menaces explicites, puis vers un plan précis : séquestrer son ex-compagne, la forcer à le conduire chez lui, avant de se retourner l'arme contre lui-même en cas d'intervention policière. C'est OpenAI elle-même qui a détecté ces échanges et transmis les journaux de conversation au FBI en mai, lesquels ont ensuite été communiqués au bureau du shérif du comté de Palm Beach. Une enquêtrice qui a examiné ces échanges a estimé qu'ils ne relevaient pas de simples débordements émotionnels, mais d'une planification réfléchie.
Une politique de surveillance qui pose ses propres questions
Ce cas illustre une politique qu'OpenAI applique depuis un moment déjà, mais qui reste largement méconnue du grand public : selon l'entreprise, une petite équipe humaine peut examiner certains échanges avec ChatGPT lorsque le système détecte qu'un utilisateur planifie de nuire à autrui, et transmettre un signalement aux autorités dans les cas les plus graves.
Cette affaire relance un débat de fond, déjà présent dans d'autres dossiers impliquant des chatbots : jusqu'où une IA conversationnelle doit-elle surveiller ce que lui confient ses utilisateurs, et à partir de quel seuil doit-elle rompre la confidentialité pour prévenir un danger réel ? Le cas Zhou penche du côté où cette surveillance a permis d'éviter un drame. Mais il rappelle aussi une réalité simple : toute conversation tenue avec un assistant conversationnel généraliste peut, dans certaines circonstances, être lue, conservée et transmise à des tiers.
Ce que cela signifie pour un outil comme Orientys
Cette affaire ne concerne pas Orientys ni ACAN, mais elle éclaire un principe de conception que la plateforme applique depuis son lancement : ne collecter et ne traiter que les informations strictement nécessaires à sa mission. Orientys n'est pas un espace de conversation libre. Elle ne recueille ni confidences personnelles, ni états émotionnels, ni récits de vie seulement les résultats scolaires d'un bachelier, utilisés pour générer une recommandation de filières universitaires.
Ce périmètre restreint a une conséquence directe : Orientys n'a pas à arbitrer les dilemmes auxquels sont aujourd'hui confrontés les grands assistants conversationnels généralistes, précisément parce qu'elle n'a jamais été conçue pour recevoir ce type de confidences. C'est une différence de nature, et pas seulement de degré, entre un outil d'orientation spécialisé et un chatbot ouvert à toute conversation.
Une leçon à retenir, au-delà de ce cas précis
L'affaire Zhou rappelle, de façon frappante, une règle que chaque utilisateur d'IA devrait garder à l'esprit : un assistant conversationnel n'est pas un espace privé au sens strict, et ce que l'on y écrit peut, dans certains cas, avoir des conséquences bien réelles. Pour les organisations qui développent des outils d'IA à destination des jeunes, cette affaire est aussi un rappel utile : plus un outil est conçu pour un usage précis et limité, moins il expose ses utilisateurs et ses concepteurs à ce type de dilemme.
