Saltar al contenido

IA

Ocho estados de EE. UU. demandan a OpenAI por ChatGPT

Iowa, Kansas, Nebraska y otros cinco estados presentaron cada uno su demanda contra OpenAI el mismo miércoles. El argumento: ChatGPT se vendió como seguro para los menores, y no lo era.

Foto de portada: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Ocho estados demandaron a OpenAI por separado, cada uno ante su tribunal estatal, el mismo día.
  2. Acusación central: ChatGPT se promocionó como seguro para jóvenes mientras presuntamente dañaba a usuarios vulnerables.
  3. Las demandas se apoyan en la ley de protección al consumidor y citan pleitos de familias por muertes.

Qué pasó

El miércoles, ocho estados presentaron cada uno una demanda contra OpenAI: Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y West Virginia. Cada una fue a su propio tribunal estatal. Mismo objetivo, mismo tema, escritos separados.

Los estados sostienen que ChatGPT es un producto inseguro que ha dañado a menores y ha engañado a los padres. La fiscal general de Iowa, Brenna Bird, dijo que la demanda de su estado busca defender los derechos de los habitantes de Iowa afectados por lo que calificó de conducta deliberada, peligrosa e imprudente de OpenAI.

Según las demandas, OpenAI vendió ChatGPT como seguro para los jóvenes, con la seguridad como prioridad número uno. Los estados argumentan que, en realidad, era peligroso para los usuarios vulnerables.

Su lista de cargos: menor pensamiento crítico, paranoia y delirios alimentados por el chatbot, consejos médicos arriesgados y empujoncitos hacia hábitos y relaciones poco saludables.

También afirman que OpenAI recopiló datos de menores y hizo muy poco para mantener a los niños fuera del servicio. El anzuelo legal es la ley de protección al consumidor: los estados dicen que OpenAI no advirtió a sus clientes de los riesgos.

Para respaldarlo, las demandas citan pleitos de familiares de adolescentes y adultos que alegan que el chatbot tuvo un papel en la muerte de sus seres queridos.

El portavoz de OpenAI, Drew Pusateri, respondió que la compañía ha desarrollado protecciones específicas según la edad.

Por qué importa

Esto no es un demandante cabreado. Es una ola coordinada de estados, el mismo día, apuntando al chatbot más famoso del planeta. Eso cambia el tono de "casos individuales trágicos" a "los reguladores están armando un patrón".

El enfoque, además, es listo. Las reclamaciones de protección al consumidor no exigen que nadie resuelva qué es la IA ni cómo debe regularse. Plantean una pregunta más simple: ¿la empresa dijo que era seguro y era verdad?

Las acusaciones siguen siendo acusaciones. OpenAI discute el retrato que pintan y todavía no ha perdido nada ante un tribunal. Pero cualquier empresa de IA que venda un chatbot a adolescentes acaba de ver el avance de lo que le pedirán en la fase de descubrimiento de pruebas.

Los estados no demandan por lo que ChatGPT es. Demandan por lo que OpenAI dijo que era.

Qué significa para Europa

Europa ya regula la IA con un reglamento propio, y la protección de la infancia es un tema candente allí. Estas demandas estadounidenses se hacen eco de las mismas preocupaciones: usuarios vulnerables, datos de menores y controles de edad débiles.

Es de esperar que reguladores europeos y asociaciones de padres lean las demandas con lupa. Si los escritos en EE. UU. sacan a la luz documentos internos sobre los equilibrios entre seguridad y negocio, también serán lectura útil en Bruselas.

Qué hacer con esto

  • Revisa los ajustes para adolescentes.Si un joven de tu casa usa ChatGPT, mira hoy mismo los controles de edad y parentales en lugar de dar por hecho que existen.
  • Haz la pregunta incómoda.Habla con tus hijos de en qué se equivocan los chatbots, sobre todo con consejos médicos y emocionales.
  • Audita lo que prometes de tu producto.¿Construyes con IA? Asegúrate de que el "seguro" de tu marketing coincide con lo que hace tu producto, porque es justo lo que atacan estas demandas.
  • Sigue los expedientes.Mira los escritos judiciales de tu estado o país: las demandas son públicas y sorprendentemente legibles.

Ciao, sapiens. El chatbot no es tu amigo, y ahora ocho fiscales generales lo dicen por escrito.