Aller au contenu

IA

La Colombie-Britannique attaque OpenAI et Altman en justice

La province affirme que l'équipe sécurité d'OpenAI avait repéré les conversations ChatGPT du tireur, sans jamais appeler la police. Ces accusations n'ont pas été testées devant un tribunal.

Photo de couverture : Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. La Colombie-Britannique a poursuivi OpenAI et Sam Altman lundi devant un tribunal fédéral de San Francisco.
  2. Selon la province, OpenAI n'a jamais prévenu la police de la préparation sur ChatGPT par la tireuse de Tumbler Ridge.
  3. Elle réclame des dommages pour financer la reconstruction, et des changements imposés par la justice dans la gestion des conversations violentes.

Ce qui s'est passé

La Colombie-Britannique a poursuivi OpenAI et son patron, Sam Altman. La plainte a été déposée lundi devant un tribunal fédéral de San Francisco.

La province soutient que la fusillade de février dans une école de Tumbler Ridge, qui a tué des enfants et d'autres personnes, aurait pu être évitée si OpenAI avait transmis aux forces de l'ordre locales ce qu'elle savait.

D'après la plainte, telle que rapportée par The Guardian, la tireuse, Jesse Van Rootselaar, a utilisé ChatGPT pour planifier l'attaque. L'équipe sécurité d'OpenAI l'aurait elle-même signalée après des conversations sur la violence armée. L'entreprise n'a pas alerté la police.

La province demande deux choses. D'abord, des dommages-intérêts pour financer les efforts de reconstruction en Colombie-Britannique. Ensuite, une ordonnance obligeant OpenAI à changer sa façon de traiter les conversations ChatGPT susceptibles de mener à la violence.

La procureure générale de la Colombie-Britannique, Niki Sharma, a déclaré que les habitants de Tumbler Ridge méritent « des réponses et des comptes ». Comme le rappelle CBC, ces accusations n'ont pas encore été testées devant un tribunal.

OpenAI aura l'occasion d'y répondre, et cette affaire pourrait définir ce que les entreprises d'IA devront signaler à la police.

Pourquoi ça compte

Le détail qui pique, c'est le signalement. L'accusation n'est pas que personne chez OpenAI ne pouvait voir le drame venir. C'est qu'un système de sécurité a bel et bien vu quelque chose, et que rien n'est arrivé jusqu'à ceux qui pouvaient agir.

Le débat flou devient soudain concret. Quand la surveillance d'un chatbot détecte un comportement inquiétant, que doit faire l'entreprise ensuite ? Noter ça discrètement, bannir le compte, ou appeler la police ?

L'accusation : le signalement existait, l'appel téléphonique, non.

Les entreprises d'IA font déjà face à une surveillance croissante sur des dégâts allant des cyberattaques et de la désinformation à la violence et aux atteintes à la santé mentale.

Un plaignant public, avec un PDG nommément visé comme co-défendeur, ce n'est pas la même catégorie de poids que la plainte individuelle habituelle. L'issue de ce dossier pourrait façonner les devoirs des labos quand leurs propres systèmes lèvent la main.

Rien de tout ça n'est prouvé. Ce sont des allégations, et OpenAI pourra y répondre.

Qu'est-ce que tu en fais

  • Lis la plainte, pas les hot takes.Le dépôt et les articles de The Guardian et de CBC sont la base solide ; le reste, c'est du commentaire.
  • Vérifie tes propres règles d'usage de l'IA.Si ton équipe déploie des chatbots, écris noir sur blanc ce qui se passe quand la conversation d'un utilisateur laisse craindre un danger pour autrui, et qui porte cette décision.
  • Connais les canaux de signalement.Les équipes confiance et sécurité doivent savoir exactement quand et comment alerter les autorités, avant qu'une mauvaise journée ne pose la question à leur place.
  • Surveille le remède demandé.Les changements ordonnés par la justice que réclame la province sont la vraie histoire à suivre, car ils pourraient devenir un modèle.

Ciao, sapiens. Les machines signalent des choses, maintenant. Un humain doit encore décrocher le téléphone.