Saltar al contenido

IA

OpenAI hace deberes de mates; los criptógrafos revisan sus cerraduras

OpenAI publicó resultados nuevos sobre problemas matemáticos abiertos, con pruebas en Lean en GitHub. En pocas horas, los criptógrafos ya se preguntaban qué más están tanteando estos modelos en silencio.

Foto de portada: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. OpenAI publicó resultados nuevos sobre problemas abiertos de matemáticas, obtenidos con un modelo de frontera interno, con pruebas en Lean en GitHub.
  2. Scott Aaronson dice que los laboratorios de IA han empezado en silencio a probar si sus modelos pueden romper protocolos criptográficos.
  3. Vitalik Buterin pide tomarse el riesgo en serio; una asociación de matemáticos insta a sus miembros a dejar de colaborar con OpenAI.

Qué pasó

OpenAI publicó resultados sobre problemas matemáticos abiertos, producidos por un modelo de frontera interno. La publicación incluye formalizaciones de las pruebas en Lean, compartidas en GitHub, así que una máquina puede verificarlas en lugar de aceptarlas por fe.

Eso solo ya sería una buena noticia de investigación. La reacción la hizo más grande.

Scott Aaronson, científico teórico de la computación, escribió en su blog que los laboratorios de IA han empezado en silencio a probar si sus modelos pueden romper protocolos criptográficos importantes.

Cita fuentes. Es un reporte, no una confirmación de los laboratorios, y nadie ha dicho que algún protocolo se haya roto de verdad.

Después se sumó Vitalik Buterin: dijo que los riesgos que las matemáticas aceleradas por IA suponen para la criptografía merecen atención seria. Respaldó el llamado a un "bunker mode" para la industria blockchain. Algunos investigadores de Ethereum ya aconsejan a quienes tienen cripto que se planteen mover sus fondos a direcciones nuevas.

No todo el mundo está impresionado. La Association for Human Mathematics afirmó que los documentos de matemáticas de OpenAI muestran potencia de cálculo, no erudición, e instó a los matemáticos a dejar de colaborar con la empresa.

Por qué importa

La criptografía es el candado de prácticamente todo: carteras, pagos, inicios de sesión. Cualquier cosa que haga más rápidos a los matemáticos le interesa, por definición, a la gente que fabrica y fuerza cerraduras.

La historia tiene dos capas. La primera es la capacidad: un modelo de frontera que produce pruebas verificables sobre problemas abiertos. La segunda es la intención: laboratorios que, según se informa, comprueban si esa capacidad muerde sistemas de seguridad reales.

Las pruebas verificables por máquina impresionan. Que los laboratorios toquen protocolos criptográficos es lo que hizo que la gente moviera sus fondos.

Eso sí, mantengamos las proporciones. Las advertencias hablan de riesgo y preparación, no de una rotura confirmada. La gente del blockchain pide medidas defensivas pronto, que sale más barato que hacerlo tarde.

Y la réplica académica va en serio. Si esto es erudición o solo una calculadora carísima es ahora una pelea abierta y pública, con una asociación de matemáticos diciéndoles a sus colegas que se vayan.

Qué significa para Europa

Europa funciona con la misma criptografía que el resto: banca, identidad digital, protección de datos. Si las matemáticas aceleradas por IA empiezan a amenazar esos cimientos, pasa a ser una cuestión regulatoria sobre salvaguardas de seguridad, no solo un ataque de pánico en el Twitter cripto.

Para las empresas de la UE que manejan datos sensibles, la lectura práctica es sencilla: la resiliencia criptográfica acaba de pasar de casilla administrativa de trastienda a tema digno de una conversación en el consejo de administración.

Qué hacer con esto

  • Lee las pruebas.Las formalizaciones en Lean están en GitHub, así que los sapiens con inclinación matemática pueden comprobar el trabajo en lugar de fiarse de los titulares.
  • Ordena tu setup cripto.Si tienes fondos on-chain, mira lo que sugieren los investigadores de Ethereum, incluido pasarse a direcciones nuevas, y decide con calma.
  • Hazle una pregunta a tu equipo de seguridad.¿Qué sistemas nuestros dependen de criptografía que nunca hemos revisado? Exige una respuesta de verdad.
  • Fíjate en las afirmaciones, no en el ambiente.El reporte de Aaronson tiene fuentes, pero los laboratorios no lo han confirmado; espera a tener resultados sólidos antes de entrar en pánico.

Ciao, sapiens. Cambia las cerraduras antes de que las mates se aceleren más.