Aller au contenu

IA

Huit États américains attaquent OpenAI : ChatGPT au tribunal

L'Iowa, le Kansas, le Nebraska et cinq autres États ont déposé leur propre plainte contre OpenAI le même mercredi. Leur argument : ChatGPT a été vendu comme sûr pour les jeunes, et il ne l'était pas.

Photo de couverture : Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Huit États ont poursuivi OpenAI séparément, chacun devant sa propre juridiction, le même jour.
  2. Le cœur du dossier : ChatGPT aurait été présenté comme sûr pour les jeunes, tout en nuisant à des utilisateurs vulnérables.
  3. Les plaintes s'appuient sur le droit de la consommation et citent des procédures de familles endeuillées.

Ce qui s'est passé

Mercredi, huit États ont chacun déposé une plainte contre OpenAI : l'Arizona, l'Arkansas, l'Idaho, l'Iowa, le Kansas, le Montana, le Nebraska et la Virginie-Occidentale. Chaque plainte a atterri devant la justice de l'État concerné. Même cible, même thème, dossiers séparés.

Les États affirment que ChatGPT est un produit dangereux, qui a nui à des enfants et induit des parents en erreur. Brenna Bird, procureure générale de l'Iowa, a déclaré que la plainte de son État vise à défendre les droits des habitants de l'Iowa touchés par ce qu'elle qualifie de conduite délibérée, dangereuse et imprudente d'OpenAI.

Selon les plaintes, OpenAI a vendu ChatGPT comme sûr pour les jeunes, avec la sécurité en priorité numéro un. Les États soutiennent qu'il était en réalité dangereux pour les utilisateurs vulnérables.

Leur liste de griefs : un esprit critique affaibli, de la paranoïa et des délires alimentés, des conseils médicaux risqués, et des coups de pouce vers des habitudes et des relations malsaines.

Ils accusent aussi OpenAI d'avoir collecté des données de mineurs et d'en avoir fait trop peu pour tenir les enfants à l'écart du service. Le levier juridique, c'est le droit de la consommation : les États disent qu'OpenAI n'a pas prévenu ses clients des risques.

Pour étayer le tout, les plaintes citent des procédures intentées par des familles d'adolescents et d'adultes qui estiment que le chatbot a joué un rôle dans la mort de leurs proches.

Drew Pusateri, porte-parole d'OpenAI, a répondu que l'entreprise a mis en place des protections adaptées à l'âge.

Pourquoi ça compte

Ce n'est pas un plaignant isolé et furieux. C'est une vague coordonnée d'États, le même jour, visant le chatbot le plus célèbre de la planète. Le ton change : on passe de « drames individuels » à « les régulateurs sont en train de construire un schéma ».

Le cadrage est d'ailleurs malin. Le droit de la consommation n'oblige personne à trancher ce qu'est l'IA ni comment la réguler. Il pose une question bien plus simple : l'entreprise a-t-elle dit que c'était sûr, et était-ce vrai ?

Les accusations restent des accusations. OpenAI conteste cette version des faits et n'a encore rien perdu devant un tribunal. Mais toutes les entreprises d'IA qui vendent un chatbot à des ados viennent de recevoir un avant-goût des demandes de production de documents.

Les États ne poursuivent pas ChatGPT pour ce qu'il est. Ils poursuivent OpenAI pour ce qu'elle a dit qu'il était.

Ce que ça change en Europe

L'Europe encadre déjà l'IA avec un règlement, et la protection de l'enfance y est un sujet brûlant. Ces plaintes américaines font écho aux mêmes inquiétudes : utilisateurs vulnérables, données des mineurs et contrôles d'âge fragiles.

Attends-toi à ce que les régulateurs européens et les associations de parents épluchent ces plaintes. Si les dossiers américains font émerger des documents internes sur les arbitrages de sécurité, ils feront aussi de la lecture utile à Bruxelles.

Qu'est-ce que tu en fais

  • Vérifie les réglages ados.Si un jeune de ton foyer utilise ChatGPT, regarde dès aujourd'hui les contrôles d'âge et parentaux au lieu de supposer qu'ils existent.
  • Pose la question qui fâche.Parle avec tes enfants de ce que les chatbots ratent, surtout en conseils médicaux et émotionnels.
  • Audite tes propres promesses produit.Tu construis avec de l'IA ? Assure-toi que le mot « sûr » dans ton marketing correspond à ce que fait ton produit, car c'est exactement ce que ces plaintes attaquent.
  • Suis les dossiers judiciaires.Regarde les dépôts dans ton État ou ton pays : les plaintes sont publiques et étonnamment lisibles.

Ciao, sapiens. Le chatbot n'est pas ton ami, et huit procureurs généraux le disent maintenant noir sur blanc.