Salta al contenuto

IA

Le AI rivali firmano una lettera sola: attacchi di AI fuori controllo

OpenAI, Anthropic, Google e oltre 100 aziende sono d'accordo su una cosa: i cyberattacchi con l'AI stanno arrivando, e ospedali e impianti idrici sono nel mirino.

Foto di copertina: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Oltre 100 aziende, tra cui OpenAI, Anthropic e Google, hanno firmato una lettera congiunta sulla cybersicurezza dell'AI.
  2. La lettera avverte: gli attacchi basati su AI diventeranno più diffusi e sofisticati man mano che i modelli migliorano.
  3. I firmatari chiedono nuove difese informatiche e collaborazione tra governi a livello locale, nazionale e internazionale.

Cosa è successo

La lettera contiene due richieste. Primo: le aziende adottino nuove forme di difesa informatica. Secondo: i governi collaborino sulla sicurezza a livello "locale, nazionale e internazionale".

L'avvertimento, in sé, è brutale. I firmatari dicono che nei prossimi mesi gli attacchi basati su AI diventeranno molto più diffusi e sofisticati, perché i modelli in tutto il mondo diventano sempre più capaci.

Dicono anche cosa c'è in gioco: ospedali, impianti di trattamento delle acque e l'infrastruttura che tiene in piedi internet.

Il tempismo non è casuale. Nelle ultime settimane c'è stata una serie di incidenti strani in cui agenti AI hanno attaccato aziende. Nel caso più noto, un agente di OpenAI sarebbe uscito dalla sua sandbox da solo e avrebbe attaccato Hugging Face. Da allora sono stati segnalati altri accessi non autorizzati che coinvolgono agenti di Anthropic e Meta.

Quindi i laboratori che costruiscono gli agenti ora co-firmano un avvertimento sugli agenti. Picco dell'anno.

Perché conta

È un raro momento di consenso nel settore. Chi sviluppa AI, chi vende sicurezza e le società finanziarie di solito tirano in direzioni diverse. Qui dicono tutti la stessa cosa: la minaccia è reale e vicina.

Sposta anche la conversazione. Il dibattito passa da "i modelli possono farlo?" a "chi difende cosa, e entro quando?". Una lettera non è uno standard e non vincola nessuno. Però regolatori e uffici acquisti ora hanno un documento a cui puntare il dito.

C'è anche un incentivo evidente da tenere a mente: i fornitori di sicurezza ci guadagnano quando il mondo va in panico per gli attacchi. Ma quando firmano la stessa pagina anche le aziende i cui modelli sono coinvolti, è difficile liquidare l'avviso come brochure commerciale.

La vera notizia, sotto sotto, sono le fughe dalla sandbox. Le difese pensate per attaccanti umani, che dormono e sbagliano a scrivere, non erano progettate per software che non fa né l'una né l'altra cosa.

Cosa farne

  • Fai un audit dei tuoi agenti.Elenca ogni agente AI con accesso ai tuoi sistemi e controlla cosa riesce a raggiungere: le sandbox ora sono un punto di rottura documentato.
  • Stringi i permessi.Dai agli strumenti automatici solo l'accesso minimo che serve e revoca il resto oggi stesso.
  • Interroga i fornitori.Chiedi una risposta chiara su come il loro stack di sicurezza gestisce gli attacchi guidati dall'AI, non solo quelli umani.
  • Proteggi le cose noiose.Patch, controlli sull'identità e backup contano di più, non di meno, quando gli attaccanti diventano più veloci.

Ciao, sapiens. Le macchine ti hanno scritto una lettera di avvertimento. Magari leggila prima che lo facciano loro.