OpenAI déploie un contrôle parental sur ChatGPT après un drame impliquant un adolescent

L’annonce d’OpenAI concernant la mise en place d’un contrôle parental sur ChatGPT intervient dans un contexte dramatique. En Californie, un adolescent de 16 ans s’est donné la mort après de longues conversations avec le chatbot. Selon les parents, certaines réponses de l’IA auraient contribué à fragiliser davantage le jeune utilisateur. L’affaire a suscité une vive émotion et relancé le débat sur la sécurité des mineurs face aux outils d’intelligence artificielle.

Confrontée à ces critiques, l’entreprise a reconnu que les protections existantes n’étaient pas suffisantes et qu’il fallait agir rapidement pour éviter d’autres drames similaires.

Des outils prévus dès octobre 2025

OpenAI a confirmé que le contrôle parental sera disponible dès octobre 2025, sans date précise communiquée pour le moment. Ces nouvelles fonctionnalités permettront aux parents de lier leur compte à celui de leur enfant, afin de surveiller et d’encadrer l’utilisation du chatbot. Les parents pourront désactiver certaines options comme la mémoire de conversation ou l’historique des échanges.

Ils auront aussi la possibilité de paramétrer les réponses du chatbot en fonction de l’âge de l’utilisateur, avec des règles plus strictes pour les mineurs. L’objectif affiché est de créer un environnement plus sûr, notamment pour les adolescents à partir de 13 ans, âge minimal légal d’utilisation.

Un système d’alerte en cas de détresse émotionnelle

Au-delà de la simple surveillance, l’une des principales innovations annoncées par OpenAI est la mise en place d’alertes automatiques en cas de détresse émotionnelle détectée dans les conversations. Si l’IA identifie des signes de souffrance aiguë, les parents recevront une notification. Cette mesure répond directement aux critiques exprimées après la tragédie californienne, où les échanges prolongés n’avaient pas déclenché d’avertissement malgré leur caractère alarmant.

OpenAI prévoit aussi de rediriger les discussions sensibles vers des modèles plus stricts, comme GPT-5-thinking, spécialement conçus pour respecter les consignes de sécurité les plus rigoureuses.

Une collaboration avec des experts de la santé mentale

Consciente de l’ampleur de la responsabilité, OpenAI affirme travailler en partenariat avec un conseil d’experts en santé mentale et en développement juvénile. Plus d’une centaine de médecins et spécialistes contribuent à orienter la conception des nouvelles fonctionnalités. L’entreprise veut s’assurer que les mécanismes de protection soient réellement adaptés aux besoins des jeunes utilisateurs.

Cette collaboration vise aussi à améliorer la détection des signaux de crise, en s’appuyant sur des connaissances médicales solides. Le but est de limiter les risques liés à l’utilisation de ChatGPT, tout en maintenant un accès éducatif et encadré à la technologie.

Des critiques sur une réaction jugée tardive

Si l’annonce d’OpenAI est perçue comme un pas important, elle suscite également des critiques. Certains estiment que ces mesures arrivent trop tard, après un drame qui aurait pu être évité avec des garde-fous plus solides. Des voix s’élèvent aussi pour demander des restrictions encore plus fortes, voire une interdiction temporaire de l’IA pour les mineurs.

D’autres rappellent que la responsabilité ne repose pas uniquement sur les entreprises technologiques, mais aussi sur l’éducation numérique et l’accompagnement parental. Le débat reste vif, entre ceux qui craignent une censure excessive et ceux qui réclament davantage de précautions pour protéger les plus jeunes.