Qué pasó
Columbia Británica ha demandado a OpenAI y a su CEO, Sam Altman. La demanda se presentó el lunes en un tribunal federal de San Francisco.
La provincia argumenta que el tiroteo escolar de febrero en Tumbler Ridge, que mató a niños y a otras personas, se podría haber evitado si OpenAI hubiera contado a las fuerzas de seguridad locales lo que sabía.
Según el escrito, tal como lo recoge The Guardian, el tirador, Jesse Van Rootselaar, usó ChatGPT para planear el ataque. El propio equipo de seguridad de OpenAI la había marcado, según se informa, tras conversaciones sobre violencia con armas. La empresa no avisó a la policía.
La provincia pide dos cosas. Primero, una indemnización para financiar las labores de recuperación en Columbia Británica. Segundo, una orden que obligue a OpenAI a cambiar cómo gestiona las conversaciones de ChatGPT que podrían derivar en violencia.
La fiscal general de Columbia Británica, Niki Sharma, dijo que la gente de Tumbler Ridge merece "respuestas y responsabilidades". CBC recuerda que las acusaciones aún no se han probado en un tribunal.
OpenAI tendrá su turno para responder, y el caso podría marcar qué tienen que reportar a la policía las empresas de IA.
Por qué importa
El detalle que escuece es la alerta. La acusación no es que nadie en OpenAI pudiera verlo venir. Es que un sistema de seguridad sí vio algo, y nada llegó a quienes podían actuar.
Eso convierte un debate difuso en uno concreto. Cuando el sistema de vigilancia de un chatbot detecta una conducta preocupante, ¿qué está obligada a hacer la empresa? ¿Anotarlo en silencio, banear la cuenta o llamar a la policía?
La acusación es que la alerta existió y la llamada no.
Las empresas de IA ya soportan un escrutinio creciente por daños que van desde ciberataques y desinformación hasta violencia y problemas de salud mental.
Un demandante gubernamental, con un CEO con nombre y apellidos como codemandado, es otra categoría de peso frente a la típica denuncia individual. Cómo acabe este caso podría marcar qué deberes tienen los laboratorios cuando sus propios sistemas levantan la mano.
Nada de esto está probado todavía. Son acusaciones, y OpenAI podrá responderlas.
Qué hacer con esto
- Lee la demanda, no las opiniones calientes.El escrito y la cobertura de The Guardian y CBC son la base firme; el resto es comentario.
- Revisa tus propias políticas de IA.Si tu equipo despliega chatbots, deja por escrito qué pasa cuando la conversación de un usuario apunta a dañar a otros, y quién toma esa decisión.
- Conoce los canales de aviso.El personal de confianza y seguridad debe saber exactamente cuándo y cómo escalar a las autoridades, antes de que un mal día fuerce la pregunta.
- Sigue de cerca el remedio.Los cambios que la provincia quiere que imponga el tribunal son la historia que vigilar, porque podrían convertirse en plantilla.
Ciao, sapiens. Las máquinas ya levantan alertas. Alguien humano todavía tiene que coger el teléfono.


