Salta al contenuto

IA

OpenAI fa i compiti di mate, i crittografi controllano i lucchetti

OpenAI ha pubblicato nuovi risultati su problemi matematici aperti, con tanto di dimostrazioni Lean su GitHub. Dopo poche ore, i crittografi si chiedevano cos'altro stiano testando questi modelli.

Foto di copertina: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. OpenAI ha pubblicato nuovi risultati su problemi aperti di matematica, ottenuti da un modello di frontiera interno, con dimostrazioni Lean su GitHub.
  2. Secondo Scott Aaronson, i laboratori di IA hanno iniziato in silenzio a testare se i modelli riescono a rompere protocolli crittografici.
  3. Vitalik Buterin chiede di prendere il rischio sul serio; un gruppo di matematici invita i colleghi a smettere di collaborare con OpenAI.

Cosa è successo

OpenAI ha pubblicato risultati su problemi matematici aperti, prodotti da un modello di frontiera interno. Insieme ci sono le formalizzazioni delle dimostrazioni in Lean, condivise su GitHub: le prove si possono far verificare a una macchina, invece di fidarsi sulla parola.

Già così sarebbe una bella storia di ricerca. Le reazioni l'hanno resa più grossa.

Scott Aaronson, informatico teorico, ha scritto sul suo blog che i laboratori di IA hanno cominciato in silenzio a testare se i loro modelli possano rompere importanti protocolli crittografici.

Cita delle fonti. È una segnalazione, non una conferma dei laboratori, e nessuno ha detto che un protocollo si sia davvero rotto.

Poi è intervenuto Vitalik Buterin: i rischi per la crittografia derivanti dalla matematica accelerata dall'IA meritano seria attenzione. Ha appoggiato l'appello alla "bunker mode" per l'industria blockchain. Alcuni ricercatori di Ethereum ora consigliano a chi possiede crypto di valutare lo spostamento dei fondi su indirizzi nuovi di zecca.

Non tutti sono entusiasti. L'Association for Human Mathematics ha dichiarato che i documenti matematici di OpenAI mostrano potenza di calcolo più che scholarship, e ha esortato i matematici a smettere di collaborare con l'azienda.

Perché conta

La crittografia è il lucchetto di praticamente tutto: portafogli, pagamenti, login. Qualsiasi cosa renda i matematici più veloci interessa, per definizione, a chi i lucchetti li costruisce e a chi li scassina.

La storia ha due livelli. Il primo è la capacità: un modello di frontiera che produce dimostrazioni verificabili su problemi aperti. Il secondo è l'intento: laboratori che, stando alle fonti, controllano se quella capacità morde sui sistemi di sicurezza reali.

Le dimostrazioni verificabili da una macchina fanno impressione. I laboratori che sondano i protocolli crittografici sono la parte che ha fatto spostare i fondi a qualcuno.

Teniamo però le proporzioni. Gli avvertimenti riguardano rischio e preparazione, non una rottura confermata. Il mondo blockchain chiede misure difensive in anticipo, che costano meno che farle in ritardo.

E la reazione accademica è concreta. Scholarship o semplice calcolatrice costosissima? Ora è uno scontro aperto, in pubblico, con un gruppo di matematici che dice ai colleghi di andarsene.

Cosa cambia in Europa

L'Europa gira sulla stessa crittografia di tutti gli altri: banche, identità digitale, protezione dei dati. Se la matematica accelerata dall'IA iniziasse a minacciare quelle fondamenta, diventerebbe una questione regolatoria sulle garanzie di sicurezza, non solo un attacco di panico su crypto-Twitter.

Per le aziende UE che trattano dati sensibili, la lettura pratica è semplice: la resilienza crittografica passa da casella da spuntare nel backoffice a tema da portare in consiglio di amministrazione.

Cosa farne

  • Leggi le dimostrazioni.Le formalizzazioni Lean sono su GitHub: i sapiens con inclinazioni matematiche possono verificare il lavoro invece di fidarsi dei titoli.
  • Riordina la tua configurazione crypto.Se tieni fondi on-chain, guarda cosa suggeriscono i ricercatori di Ethereum, compreso il passaggio a indirizzi nuovi, e decidi con calma.
  • Fai una domanda al tuo team di sicurezza.Quali dei nostri sistemi dipendono da una crittografia che non abbiamo mai rivisto? Pretendi una risposta vera.
  • Guarda le notizie, non l'atmosfera.Il report di Aaronson ha delle fonti ma non è confermato dai laboratori: aspetta risultati solidi prima di andare nel panico.

Ciao, sapiens. Cambia i lucchetti prima che la matematica diventi ancora più veloce.