Salta al contenuto

IA

I boss rivali dell'IA concordano: rallentate

Amodei scrive un saggio per frenare la frontiera. Altman, Musk e Hassabis lo appoggiano, e OpenAI ammette di parlare di sicurezza con Anthropic e Google DeepMind da settimane.

Foto di copertina: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Dario Amodei di Anthropic ha pubblicato un saggio che chiede uno sviluppo dell'IA di frontiera più lento e sotto stretto controllo.
  2. Altman, Musk e Hassabis lo sostengono in pubblico; OpenAI dice che inserirà valutatori terzi.
  3. OpenAI conferma settimane di colloqui sulla sicurezza con Anthropic e Google DeepMind, antitrust incluso.

Cosa è successo

Dario Amodei, CEO di Anthropic, ha pubblicato un saggio intitolato "We Must Pace the Frontier". La tesi: l'IA può portare benefici enormi, ma i rischi sono seri, e una corsa al ribasso guidata dagli incentivi commerciali li peggiora.

Nella sua lista ci sono la perdita di controllo dei sistemi di IA, l'uso improprio per attacchi informatici e bioterrorismo, e gravi sconvolgimenti economici.

La richiesta, secondo la BBC: rallentare il ritmo di sviluppo dei modelli e monitorarlo da vicino, così aziende e governi hanno il tempo di gestire i rischi. Costruire IA, in sé, non è in discussione.

Poi sono arrivati i rivali. Sam Altman di OpenAI ed Elon Musk hanno detto di essere d'accordo con Amodei, e TechCrunch riporta che anche Demis Hassabis di Google ha appoggiato l'appello. Altman ha detto che OpenAI si unirà ad Anthropic nell'inserire valutatori terzi all'interno dell'azienda per monitorare la sicurezza.

Martedì Chris Lehane, responsabile globale delle politiche di OpenAI, ha dichiarato ai giornalisti che OpenAI lavora da settimane con Anthropic e Google DeepMind sulla sicurezza dell'IA, come ha riportato per primo Bloomberg. Lehane sarebbe a Washington a lavorare con i legislatori statunitensi sui rischi catastrofici.

I tre laboratori parlavano già prima che il saggio uscisse.

Perché conta

I laboratori di frontiera di solito concordano su due cose: il loro modello è il migliore, e quello dell'altro è un po' sospetto. Una posizione condivisa sul rallentare è insolita, e indica un'industria che prova ad autoregolarsi.

C'è un però. Altman e altri hanno fatto notare che questo tipo di coordinamento rischia di violare le leggi antitrust se si ritiene che soffochi la concorrenza. Il saggio di Amodei propone una deroga governativa mirata che permetta il coordinamento sulla sicurezza.

Il pezzo della BBC ha anche una nota più cupa. Jacob Coxon, ricercatore che ha lasciato Anthropic, ha detto alla BBC che le persone nelle aziende di IA sono "genuinely frightened", cioè davvero spaventate. È la sua affermazione, non un consenso, ma dà il clima.

Va detto anche questo: una promessa non è una pausa. Nessuno ha annunciato un calendario di rallentamento, e i fatti finora sono un saggio, degli endorsement, dei colloqui e un impegno sui valutatori. Giudica i fatti che seguiranno, non le vibrazioni.

Cosa farne

  • Tieni d'occhio i valutatori.Scopri chi sono i valutatori terzi e quale accesso ottengono davvero in OpenAI e Anthropic.
  • Segui la deroga.Controlla se i legislatori raccolgono la deroga antitrust proposta da Amodei: decide se i laboratori possono coordinarsi legalmente.
  • Leggi il saggio.È pubblico sul sito di Amodei, quindi fatti un'opinione tua invece di affidarti agli hot take.
  • Non pianificare intorno a una pausa.Continua a costruire e a fare budget come se i modelli continuassero a uscire, finché qualcuno non annuncia il contrario.

Ciao, sapiens. Quando i concorrenti iniziano a scambiarsi gli appunti, leggi bene gli appunti.