Pular para o conteúdo

IA

Presidente da Microsoft: sua máquina de lavar é mais regulada que a IA

Brad Smith quer regras globais de segurança para IA, "freios de emergência" incluídos, e acha que o Reino Unido deve escrevê-las. Washington não gostou, e o ego da UE também não.

TL;DR

  1. Brad Smith: leite e máquina de lavar têm mais regras de segurança que a IA. Ele quer regras globais já.
  2. A lista dele: aviso às vítimas de invasão, aval de terceiros antes do lançamento e botões de desligar para IA.
  3. Ele escolhe o AI Security Institute do Reino Unido para liderar, não os EUA nem a UE.

O que aconteceu

Smith chamou a IA de "ferramenta e arma" ao mesmo tempo e disse que chegou a hora de ter regras globais de segurança. Segundo ele, a cibersegurança do mundo está em risco. E completou: "Vamos começar hoje."

A lista de desejos é concreta. Primeiro, um dever legal de avisar a "vítima" quando o sistema dela for invadido por um agente de IA fora de controle.

Segundo, regras claras sobre quando avaliadores externos precisam dar o aval a um produto de IA antes do lançamento. Terceiro, "freios de emergência", o que a indústria chama de kill switch, capazes de pausar ou frear uma IA que saiu do controle.

Aí veio a geografia. Smith disse que o Reino Unido, e não os EUA ou a UE, é quem está mais bem posicionado para liderar.

O AI Security Institute britânico, criado em 2023, tem acesso antecipado aos modelos dos grandes laboratórios americanos antes do lançamento. Segundo o TechCrunch, ele virou rapidamente um dos nomes de referência em testes de segurança de IA.

Por que importa

Isso coloca um executivo da Microsoft na contramão do presidente Donald Trump, cuja linha é que a indústria deve se autopoliciar, para que as empresas americanas mantenham a dianteira sobre as rivais chinesas.

Também cai no meio de uma briga ao vivo. O TechCrunch relata que Trump alertou contra organizações "globalistas" que, segundo ele, atrapalham as empresas americanas.

No mês passado, ele teria dito à Anthropic e à OpenAI para manter novos modelos longe dos testadores britânicos. O instituto confirmou na segunda-feira que ainda pode acessar e testar os modelos mais recentes.

Smith argumentou que o Reino Unido consegue regular a IA de maneiras que os EUA não conseguem. Pense o que quiser disso, mas é uma big tech escolhendo lado em público.

Um porém: isso é lobby, não lei. Ninguém aprovou nada. Uma pessoa importantíssima disse uma frase muito citável sobre laticínios.

O que isso muda na Europa

Smith citou o Reino Unido em vez da UE como melhor lugar para liderar, que é um jeito educado de dizer que Bruxelas não é a primeira ligação.

Para as empresas europeias, o sinal prático é onde o poder de teste pode ficar: com o instituto que já vê os modelos de fronteira antes do lançamento.

Se aviso de violação e aval de terceiros virarem normas globais, as empresas da UE vão ter que cumprir de qualquer jeito. A dúvida é de quem será o modelo vencedor, e Smith acaba de votar em Londres.

O que fazer com isso

  • Audite seus agentes.Se um agente de IA pode mexer em dados de clientes, anote quem é avisado, e com que rapidez, quando algo der errado.
  • Ache seu botão de desligar.Confira se você consegue pausar ou cortar qualquer ferramenta de IA da sua stack sem uma ligação heroica.
  • Pergunte aos fornecedores sobre testes.Peça para saber se um avaliador independente analisou o modelo antes de você construir em cima dele.
  • Fique de olho no instituto do Reino Unido.O acesso dele para testar novos modelos é a história a acompanhar enquanto a pressão dos EUA continua.

Keep up, sapiens. Sua máquina de lavar já passou na inspeção.