Saltar al contenido

IA

El NYT dice que OpenAI juró no poder buscar sus datos. Y sí podía.

The New York Times y Daily News acusan a OpenAI de repetir "eso no se puede buscar" durante dos años mientras hacía sus propias búsquedas. La defensa de OpenAI: carga técnica y privacidad.

Foto de portada: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. NYT y Daily News acusan a OpenAI de falsear si puede buscar en sus datos de entrenamiento.
  2. Una declaración jurada indicaría que sus ingenieros ya habían hecho búsquedas internas de copyright.
  3. La defensa de OpenAI: rastrear los chats es una carga enorme y pone en riesgo la privacidad de los usuarios.

Qué pasó

La demanda tiene unos dos años. Los medios acusan a OpenAI de haber entrenado sus modelos generativos con contenido del Times sin permiso, y de reproducir ese periodismo en lo que ChatGPT le cuenta a los usuarios.

Para demostrarlo, los demandantes querían acceso a dos cosas: el conjunto de datos de entrenamiento y la montaña de conversaciones de ChatGPT. El objetivo es comprobar si sus artículos están ahí dentro y con qué frecuencia ChatGPT se apoya en ellos o los repite.

Según los escritos presentados, OpenAI sostuvo que no podía buscar en los datos con los que entrenó. También alegó que buscar o entregar los registros de chats sería técnicamente muy costoso. Y encima sacó la carta de la privacidad de los usuarios, porque esos registros habría que recuperarlos, procesarlos y anonimizarlos antes.

Entonces llegó una declaración jurada ordenada por el tribunal, en abril. Los demandantes afirman que Vinnie Monaco, ingeniero de privacidad de datos de OpenAI, dejó caer que la empresa ya había hecho búsquedas y evaluaciones internas de su corpus de entrenamiento, en busca de periodismo con copyright.

Si eso se sostiene, el "no podemos" empieza a parecerse mucho a un "sí lo hicimos, pero no para ustedes".

Por qué importa

La fase de pruebas (el discovery) es donde se ganan o se pierden los casos de copyright en IA. Saber si un modelo absorbió obras protegidas es una cuestión de evidencia, y la evidencia vive en los servidores del acusado.

Si una empresa puede buscar en sus datos para sus propios fines pero le dice a un tribunal que no puede hacerlo para el demandante, los jueces suelen darse cuenta. Sigue siendo una acusación de una sola parte. Pero apunta directo a la credibilidad de OpenAI en un punto factual central, en uno de los casos de copyright de IA más vigilados.

También pone bajo un foco más fuerte el argumento de la privacidad. Proteger las conversaciones de los usuarios es una preocupación legítima. Es también un escudo muy cómodo, y los tribunales sopesarán si aquí está haciendo un trabajo real.

Para todos los demás que entrenan modelos con contenido rascado de la web, la lección es clara: tus datos pueden acabar citados por un juez, y "es demasiado grande para mirarlo" es una defensa bastante frágil.

Qué hacer con esto

  • Mira al tribunal, no a la nota de prensa.Los próximos escritos y la reacción de la jueza o el juez dirán si la acusación cuaja.
  • Conoce el rastro de tus datos.Si construyes o compras IA, pregunta a los proveedores qué pueden buscar y auditar de verdad en sus datos de entrenamiento.
  • Da por hecho que tus chats son requeribles.Todo lo que tu equipo pega en un chatbot puede ser recuperado, procesado y leído algún día por desconocidos.
  • Editores, documenten todo.Si tu trabajo está en un modelo, la evidencia de reproducción en las respuestas es lo que mueve estos casos.

Ciao, sapiens. Cuando la máquina dice que no puede mirar, comprueba quién más ya miró.