Pular para o conteúdo

IA

Colúmbia Britânica processa OpenAI e Altman por tiroteio em escola

A província diz que a equipe de segurança da OpenAI sinalizou as conversas do atirador no ChatGPT e nunca ligou para a polícia. As alegações ainda não foram testadas na Justiça.

Foto de capa: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. A Colúmbia Britânica processou a OpenAI e Sam Altman na Justiça federal de San Francisco na segunda-feira.
  2. A província alega que a OpenAI nunca avisou a polícia sobre o planejamento do atirador de Tumbler Ridge no ChatGPT.
  3. Ela pede indenização para a recuperação local e mudanças, por ordem judicial, no tratamento de conversas violentas no ChatGPT.

O que aconteceu

A Colúmbia Britânica processou a OpenAI e seu CEO, Sam Altman. A ação foi protocolada na segunda-feira na Justiça federal de San Francisco.

A província argumenta que o tiroteio em uma escola de Tumbler Ridge, em fevereiro, que matou crianças e outras pessoas, poderia ter sido evitado se a OpenAI tivesse contado à polícia local o que sabia.

Segundo a petição, como relatado pelo The Guardian, a atiradora, Jesse Van Rootselaar, usou o ChatGPT para planejar o ataque. A própria equipe de segurança da OpenAI teria sinalizado o caso dela depois de conversas sobre violência armada. A empresa não avisou a polícia.

A província quer duas coisas. Primeiro, indenização para financiar a recuperação na Colúmbia Britânica. Segundo, uma ordem judicial que obrigue a OpenAI a mudar como lida com conversas no ChatGPT que possam levar à violência.

A procuradora-geral da Colúmbia Britânica, Niki Sharma, disse que o povo de Tumbler Ridge merece "respostas e responsabilização". A CBC lembra que as alegações ainda não foram testadas em tribunal.

A OpenAI vai ter a chance de responder, e o caso pode definir o que as empresas de IA são obrigadas a reportar à polícia.

Por que importa

O detalhe que dói é o alerta. A acusação não é que ninguém na OpenAI poderia prever isso. É que um sistema de segurança viu alguma coisa, e nada chegou a quem podia agir.

Isso transforma um debate vago em um debate concreto. Quando o monitoramento de um chatbot pega um comportamento preocupante, o que a empresa é obrigada a fazer depois? Anotar em silêncio, banir a conta ou ligar para a polícia?

A alegação é que o alerta existiu e a ligação, não.

As empresas de IA já enfrentam um escrutínio crescente por danos que vão de ataques cibernéticos e desinformação a violência e prejuízos à saúde mental.

Um governo como autor, com um CEO nominalmente citado como corréu, é outra categoria de peso em relação à queixa individual de sempre. O rumo deste caso pode definir quais deveres os laboratórios têm quando seus próprios sistemas levantam a mão.

Nada disso está provado ainda. São alegações, e a OpenAI vai poder respondê-las.

O que fazer com isso

  • Leia a petição, não as opiniões inflamadas.O documento e a cobertura do The Guardian e da CBC são o chão firme; o resto é comentário.
  • Revise as políticas de IA da sua empresa.Se o seu time usa chatbots, escreva o que acontece quando uma conversa de usuário sinaliza risco para terceiros e quem é o dono dessa decisão.
  • Conheça os canais de denúncia.O pessoal de confiança e segurança precisa saber exatamente quando e como acionar as autoridades, antes que um dia ruim force a pergunta.
  • Acompanhe o remédio pedido.As mudanças por ordem judicial que a província busca são a história real a monitorar, porque podem virar modelo.

Ciao, sapiens. As máquinas agora sinalizam coisas. Alguém humano ainda precisa atender o telefone.