Salta al contenuto

IA

Il presidente di Microsoft: la tua lavatrice è più regolata dell'AI

Brad Smith vuole regole globali sulla sicurezza dell'AI, "freni di emergenza" compresi, e pensa che a scriverle debba essere il Regno Unito. Washington non applaude, e nemmeno l'ego di Bruxelles.

Foto di copertina: Coolcaesar / CC BY-SA 4.0

TL;DR

  1. Brad Smith: latte e lavatrici hanno più regole di sicurezza dell'AI. Lui le vuole globali, subito.
  2. La lista dei desideri: avviso alle vittime di violazioni, via libera di terzi prima del rilascio e kill switch per l'AI.
  3. Per guidare indica l'AI Security Institute britannico, non gli USA né l'UE.

Cosa è successo

Smith ha definito l'AI sia "tool and a weapon", strumento e arma, e ha detto che è arrivato il momento di regole globali sulla sicurezza. A rischio, secondo lui, c'è la cybersicurezza del mondo intero. Poi la chiusa: "Let's get started today".

La lista dei desideri è concreta. Primo: un obbligo di legge di avvisare una "vittima" quando il suo sistema è stato violato da un agente AI fuori controllo.

Secondo: regole chiare su quando valutatori esterni devono dare il via libera a un prodotto AI prima del rilascio. Terzo: gli "emergency brakes", che nel settore chiamano kill switch, in grado di mettere in pausa o rallentare un'AI che sfugge di mano.

Poi è arrivata la geografia. Per Smith, a guidare dovrebbe essere il Regno Unito, non gli USA e nemmeno l'UE.

L'AI Security Institute britannico, lanciato nel 2023, ottiene accesso anticipato ai modelli dei grandi laboratori americani prima del rilascio. Secondo TechCrunch è diventato in fretta un nome di punta nei test di sicurezza dell'AI.

Perché conta

Un dirigente Microsoft si mette di traverso rispetto al presidente Donald Trump, la cui linea è che il settore si controlli da solo, così le aziende americane restano davanti ai rivali cinesi.

E arriva nel mezzo di uno scontro aperto. TechCrunch riporta che Trump ha messo in guardia contro le organizzazioni "globaliste" che, a suo dire, interferiscono con le aziende americane.

Il mese scorso avrebbe detto ad Anthropic e OpenAI di tenere i nuovi modelli lontani dai tester britannici. Lunedì l'istituto ha confermato di poter ancora accedere ai modelli più recenti e testarli.

Smith sostiene che il Regno Unito possa regolare l'AI in modi che gli USA non possono. Pensala come vuoi: è una grande azienda che sceglie pubblicamente da che parte stare.

Una precisazione: questa è advocacy, non legge. Nessuno ha approvato niente. Una persona molto in alto ha detto una cosa molto citabile sui latticini.

Cosa cambia in Europa

Smith ha indicato il Regno Unito invece dell'UE come luogo ideale per guidare, che è un modo educato di dire che Bruxelles non è la prima telefonata.

Per le aziende europee, il segnale pratico è dove potrebbe stare il potere di test: nell'istituto che i modelli di frontiera li vede già prima del lancio.

Se avviso di violazione e via libera di terzi diventassero norme globali, le imprese UE se li ritroverebbero comunque. La domanda aperta è quale modello vincerà, e Smith ha appena messo il suo voto per Londra.

Cosa farne

  • Fai un audit dei tuoi agenti.Se un agente AI può toccare dati dei clienti, scrivi chi viene avvisato, e con che rapidità, quando qualcosa va storto.
  • Trova il tuo kill switch.Verifica di poter mettere in pausa o staccare qualsiasi strumento AI del tuo stack senza una telefonata eroica.
  • Chiedi ai fornitori dei test.Chiedi se un valutatore indipendente ha esaminato il modello prima che tu ci costruisca sopra.
  • Tieni d'occhio l'istituto britannico.Il suo accesso ai nuovi modelli è la storia da seguire, mentre continua la resistenza degli USA.

Keep up, sapiens. La tua lavatrice ha già passato il collaudo.