Pular para o conteúdo

IA

Os chefões rivais da IA concordam: pisem no freio

Amodei escreveu um ensaio pedindo que a indústria desacelere a fronteira. Altman, Musk e Hassabis apoiaram, e a OpenAI admite que conversa sobre segurança com Anthropic e Google DeepMind há semanas.

Foto de capa: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Dario Amodei, da Anthropic, publicou um ensaio pedindo um desenvolvimento de IA de fronteira mais lento e monitorado de perto.
  2. Altman, Musk e Hassabis apoiaram em público; a OpenAI diz que vai embutir avaliadores independentes na empresa.
  3. A OpenAI confirmou semanas de conversas sobre segurança com Anthropic e Google DeepMind, com preocupação antitruste no pacote.

O que aconteceu

Dario Amodei, CEO da Anthropic, publicou um ensaio chamado "We Must Pace the Frontier". O argumento: a IA pode trazer benefícios enormes, mas os riscos são sérios, e uma corrida ladeira abaixo movida por incentivos comerciais só piora tudo.

Na lista dele entram perda de controle sobre sistemas de IA, uso indevido em ciberataques e bioterrorismo, e uma disrupção econômica séria.

O pedido, segundo a BBC: reduzir o ritmo de desenvolvimento dos modelos e monitorar tudo de perto, para dar tempo a empresas e governos de lidar com os riscos. Construir IA, em si, não está em questão.

Aí os rivais apareceram. Sam Altman, da OpenAI, e Elon Musk disseram concordar com Amodei, e o TechCrunch conta que Demis Hassabis, do Google, também apoiou o chamado. Altman afirmou que a OpenAI vai acompanhar a Anthropic e embutir avaliadores independentes dentro da empresa para monitorar a segurança.

Na terça-feira, Chris Lehane, chefe global de políticas da OpenAI, disse a jornalistas que a OpenAI trabalha com Anthropic e Google DeepMind em segurança de IA há semanas, como a Bloomberg noticiou primeiro. Lehane estaria em Washington, conversando com legisladores americanos sobre riscos catastróficos.

Os três laboratórios já estavam conversando antes de o ensaio sair.

Por que importa

Os laboratórios de fronteira costumam concordar em duas coisas: o modelo deles é o melhor, e o modelo do vizinho é meio suspeito. Uma posição comum sobre desacelerar é incomum e aponta para uma indústria tentando se autorregular.

Tem pegadinha. Altman e outros notaram que esse tipo de coordenação pode violar a lei antitruste se for considerado supressão de concorrência. O ensaio de Amodei propõe uma isenção governamental estreita que permitiria coordenação em segurança.

A matéria da BBC também traz uma nota mais sombria. Jacob Coxon, pesquisador que deixou a Anthropic, disse à BBC que o pessoal das empresas de IA está "genuinamente assustado". É a afirmação dele, não um consenso, mas dá o clima.

Vale lembrar: promessa não é pausa. Ninguém anunciou cronograma de desaceleração, e os fatos até agora são um ensaio, apoios, conversas e um compromisso com avaliadores. Julgue a execução, não a vibe.

O que fazer com isso

  • Fique de olho nos avaliadores.Descubra quem são os avaliadores independentes e que tipo de acesso eles realmente têm na OpenAI e na Anthropic.
  • Acompanhe a isenção.Veja se os legisladores levam adiante a isenção antitruste proposta por Amodei, porque é ela que decide se os laboratórios podem se coordenar legalmente.
  • Leia o ensaio.Ele é público no site de Amodei. Forme sua opinião em vez de depender de hot take.
  • Não planeje em cima de uma pausa.Continue construindo e orçando como se os modelos seguissem saindo até alguém anunciar o contrário.

Ciao, sapiens. Quando os concorrentes começam a trocar anotações, preste atenção nas anotações.