Saltar al contenido

IA

El jefe de Microsoft: tu lavadora tiene más reglas que la IA

Brad Smith quiere normas globales de seguridad para la IA, con "frenos de emergencia" incluidos, y cree que el Reino Unido debería redactarlas. A Washington no le hace gracia. A la UE, tampoco el golpe a su ego.

Foto de portada: Raysonho @ Open Grid Scheduler / Grid Engine / CC BY 3.0

TL;DR

  1. Brad Smith: la leche y las lavadoras tienen más normas de seguridad que la IA. Quiere reglas globales ya.
  2. Su lista: avisar a las víctimas de una brecha, visto bueno de terceros antes del lanzamiento y botones de apagado para la IA.
  3. Propone que lidere el AI Security Institute del Reino Unido, no EE. UU. ni la UE.

Qué pasó

Smith describió la IA como "herramienta y arma" a la vez y dijo que ha llegado el momento de tener normas globales de seguridad. Según él, la ciberseguridad del mundo está en juego, y remató: "Let's get started today."

Su lista de deseos es concreta. Primero, la obligación legal de avisar a una "víctima" cuando un agente de IA descontrolado haya vulnerado su sistema.

Segundo, reglas claras sobre cuándo evaluadores externos deben dar el visto bueno a un producto de IA antes de lanzarlo. Tercero, "frenos de emergencia", lo que la industria llama kill switches, capaces de pausar o ralentizar una IA que se desmadra.

Luego llegó la geografía. Smith dijo que el Reino Unido, y no EE. UU. ni la UE, es el mejor situado para liderar.

El AI Security Institute británico, lanzado en 2023, tiene acceso anticipado a los modelos de los grandes laboratorios estadounidenses antes de su salida. Según TechCrunch, se ha convertido rápidamente en un nombre de referencia en pruebas de seguridad de IA.

Por qué importa

Esto pone a un directivo de Microsoft en la acera contraria a la del presidente Donald Trump, cuya línea es que la industria se autorregule para que las empresas estadounidenses mantengan la ventaja sobre sus rivales chinas.

Además, cae en pleno cuerpo a cuerpo. TechCrunch cuenta que Trump ha advertido contra las organizaciones "globalistas" que, según él, se meten con las empresas americanas.

El mes pasado, según se informó, les dijo a Anthropic y OpenAI que mantuvieran los modelos nuevos lejos de los evaluadores británicos. El instituto confirmó el lunes que sigue pudiendo acceder a los últimos modelos y probarlos.

Smith sostuvo que el Reino Unido puede regular la IA de formas que EE. UU. no puede. Pienses lo que pienses de eso, es una gran empresa eligiendo bando en público.

Una salvedad: esto es lobby, no ley. Nadie ha aprobado nada. Una persona muy importante dijo algo muy citable sobre los lácteos.

Qué significa para Europa

Smith nombró al Reino Unido por encima de la UE como el mejor sitio para liderar, que es una forma educada de decir que Bruselas no es la primera llamada.

Para las empresas europeas, la señal práctica es dónde puede acabar el poder de testeo: en el instituto que ya ve los modelos de frontera antes del lanzamiento.

Si la notificación de brechas y el visto bueno de terceros se vuelven norma global, las firmas de la UE tendrán que cumplirlas de todos modos. La duda es de quién será la plantilla ganadora, y Smith acaba de depositar su voto por Londres.

Qué hacer con esto

  • Audita tus agentes.Si un agente de IA puede tocar datos de clientes, deja por escrito a quién se avisa, y con qué rapidez, cuando algo sale mal.
  • Localiza tu kill switch.Comprueba que puedes pausar o cortar cualquier herramienta de IA de tu stack sin una llamada heroica.
  • Pregunta a los proveedores por las pruebas.Pide saber si un evaluador independiente ha revisado el modelo antes de construir sobre él.
  • Sigue al instituto británico.Su acceso para probar modelos nuevos es la historia a vigilar mientras continúa el rechazo desde EE. UU.

Keep up, sapiens. Tu lavadora ya pasó la inspección.