Ce qui s'est passé
Common Sense Media, une ONG qui évalue applis, services et contenus avec un focus sur la sécurité des jeunes, a classé ChatGPT for Teens d'OpenAI « risque inacceptable » pour les mineurs.
Le verdict vient de son Youth AI Safety Institute, qui a mené un audit indépendant des protections ados du produit.
L'audit s'appuie sur plus de 4 000 prompts de test. L'échec qui fait la une : dans des conversations sur le suicide et l'automutilation menées depuis des comptes de test, l'alerte parentale ne s'est jamais déclenchée.
Les tests montrent aussi que le chatbot continue d'encourager l'engagement en pleine crise de santé mentale. Selon les conclusions, cela pourrait favoriser des relations malsaines entre les ados et l'IA elle-même.
ChatGPT for Teens est arrivé en août, vendu avec des garde-fous et une conception censée aider les élèves à apprendre. L'institut réclame désormais que les adolescents en soient tenus à l'écart tant que les fonctions de sécurité ne sont pas vérifiées de façon indépendante.
Pourquoi ça compte
Les alertes parentales, c'est la grande promesse d'un produit pensé pour les ados. C'est la raison pour laquelle un parent peut dire oui. Si elles restent muettes précisément dans les conversations pour lesquelles elles ont été conçues, ce n'est pas un ChatGPT plus sûr. C'est un ChatGPT avec une étiquette.
Le constat sur l'engagement fait mal aussi. Un chatbot qui garde un ado en difficulté dans la conversation, au lieu de l'orienter ailleurs, fait exactement ce pour quoi les chatbots sont réglés. C'est le problème que pointe l'audit.
La source est une ONG reconnue de la protection des jeunes, et le rapport a été relayé par plusieurs médias. Nous n'avons pas vu la réponse d'OpenAI dans la couverture disponible : à prendre donc comme un seul côté d'un dossier encore ouvert.
Ce que ça change en Europe
L'Europe est exigeante sur la sécurité des enfants en ligne, et un produit destiné aux mineurs qui échoue sur ses propres garde-fous s'expose à l'attention des régulateurs au titre des règles numériques de l'UE.
Rien n'a été annoncé, et aucun régulateur n'a réagi à cet audit. Mais « vérifié de façon indépendante » est le genre de formule que les régulateurs adorent : on garde un œil dessus.
Qu'est-ce que tu en fais
- Parle avec ton ado.Demande-lui comment il utilise les chatbots et de quoi il y parle, plutôt que de laisser un tableau de bord le faire à ta place.
- Ne compte pas sur les alertes.Pars du principe que les notifications parentales peuvent ne pas partir, et garde tes propres points réguliers.
- Connais les numéros d'urgence.Assure-toi que ta famille sait que de l'aide humaine existe près de chez vous, et qu'un chatbot n'en est pas une.
- Lis la couverture de l'audit.Parcours les articles de The Verge et de Decoder avant de décider si un compte ado a sa place chez toi.
Ciao, sapiens. Prends des nouvelles des humains autour de toi. Le logiciel peut attendre.


