Saltar al contenido

IA

Columbia Británica demanda a OpenAI y a Altman por un tiroteo escolar

La provincia dice que el equipo de seguridad de OpenAI marcó los chats de ChatGPT del tirador y nadie llamó a la policía. Las acusaciones aún no se han probado en un tribunal.

Foto de portada: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Columbia Británica demandó a OpenAI y a Sam Altman el lunes ante un tribunal federal de San Francisco.
  2. La provincia sostiene que OpenAI nunca avisó a la policía de que el tirador de Tumbler Ridge planeó el ataque con ChatGPT.
  3. Pide una indemnización para la recuperación y que un juez obligue a cambiar cómo ChatGPT gestiona las conversaciones violentas.

Qué pasó

Columbia Británica ha demandado a OpenAI y a su CEO, Sam Altman. La demanda se presentó el lunes en un tribunal federal de San Francisco.

La provincia argumenta que el tiroteo escolar de febrero en Tumbler Ridge, que mató a niños y a otras personas, se podría haber evitado si OpenAI hubiera contado a las fuerzas de seguridad locales lo que sabía.

Según el escrito, tal como lo recoge The Guardian, el tirador, Jesse Van Rootselaar, usó ChatGPT para planear el ataque. El propio equipo de seguridad de OpenAI la había marcado, según se informa, tras conversaciones sobre violencia con armas. La empresa no avisó a la policía.

La provincia pide dos cosas. Primero, una indemnización para financiar las labores de recuperación en Columbia Británica. Segundo, una orden que obligue a OpenAI a cambiar cómo gestiona las conversaciones de ChatGPT que podrían derivar en violencia.

La fiscal general de Columbia Británica, Niki Sharma, dijo que la gente de Tumbler Ridge merece "respuestas y responsabilidades". CBC recuerda que las acusaciones aún no se han probado en un tribunal.

OpenAI tendrá su turno para responder, y el caso podría marcar qué tienen que reportar a la policía las empresas de IA.

Por qué importa

El detalle que escuece es la alerta. La acusación no es que nadie en OpenAI pudiera verlo venir. Es que un sistema de seguridad sí vio algo, y nada llegó a quienes podían actuar.

Eso convierte un debate difuso en uno concreto. Cuando el sistema de vigilancia de un chatbot detecta una conducta preocupante, ¿qué está obligada a hacer la empresa? ¿Anotarlo en silencio, banear la cuenta o llamar a la policía?

La acusación es que la alerta existió y la llamada no.

Las empresas de IA ya soportan un escrutinio creciente por daños que van desde ciberataques y desinformación hasta violencia y problemas de salud mental.

Un demandante gubernamental, con un CEO con nombre y apellidos como codemandado, es otra categoría de peso frente a la típica denuncia individual. Cómo acabe este caso podría marcar qué deberes tienen los laboratorios cuando sus propios sistemas levantan la mano.

Nada de esto está probado todavía. Son acusaciones, y OpenAI podrá responderlas.

Qué hacer con esto

  • Lee la demanda, no las opiniones calientes.El escrito y la cobertura de The Guardian y CBC son la base firme; el resto es comentario.
  • Revisa tus propias políticas de IA.Si tu equipo despliega chatbots, deja por escrito qué pasa cuando la conversación de un usuario apunta a dañar a otros, y quién toma esa decisión.
  • Conoce los canales de aviso.El personal de confianza y seguridad debe saber exactamente cuándo y cómo escalar a las autoridades, antes de que un mal día fuerce la pregunta.
  • Sigue de cerca el remedio.Los cambios que la provincia quiere que imponga el tribunal son la historia que vigilar, porque podrían convertirse en plantilla.

Ciao, sapiens. Las máquinas ya levantan alertas. Alguien humano todavía tiene que coger el teléfono.