Pular para o conteúdo

IA

Oito estados dos EUA vão à Justiça contra o ChatGPT

Iowa, Kansas, Nebraska e outros cinco estados processaram a OpenAI na mesma quarta-feira. O argumento: o ChatGPT foi vendido como seguro para crianças, e não era.

Foto de capa: HaeB / CC BY-SA 4.0

TL;DR

  1. Oito estados processaram a OpenAI separadamente, cada um na sua Justiça estadual, no mesmo dia.
  2. Alegação central: o ChatGPT foi vendido como seguro para jovens, mas teria prejudicado usuários vulneráveis.
  3. As ações se apoiam em leis de defesa do consumidor e citam processos de famílias por mortes.

O que aconteceu

Na quarta-feira, oito estados entraram, cada um por conta própria, com uma ação contra a OpenAI: Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska e West Virginia. Cada processo foi parar na Justiça do respectivo estado. Mesmo alvo, mesmo tema, petições separadas.

Os estados afirmam que o ChatGPT é um produto inseguro, que prejudicou crianças e enganou pais. A procuradora-geral de Iowa, Brenna Bird, disse que a ação do estado busca defender os direitos dos iowanos atingidos pelo que ela chamou de conduta deliberada, perigosa e imprudente da OpenAI.

Segundo as petições, a OpenAI vendeu o ChatGPT como seguro para jovens, com a segurança como prioridade número um. Os estados argumentam que, na prática, ele era perigoso para usuários vulneráveis.

A lista de acusações: pensamento crítico enfraquecido, paranoia e delírios alimentados, conselhos médicos arriscados e empurrõezinhos para hábitos e relações pouco saudáveis.

Eles também dizem que a OpenAI coletou dados de menores e fez pouco para manter crianças longe do serviço. O gancho jurídico é a lei de defesa do consumidor: os estados alegam que a OpenAI não avisou os clientes sobre os riscos.

Para sustentar isso, as petições citam processos de famílias de adolescentes e adultos que afirmam que o chatbot teve participação na morte de seus entes queridos.

O porta-voz da OpenAI, Drew Pusateri, respondeu que a empresa criou proteções específicas por faixa etária.

Por que importa

Não é um único autor irritado. É uma onda coordenada de estados, no mesmo dia, mirando o chatbot mais famoso do planeta. Isso muda o tom de "casos individuais trágicos" para "reguladores montando um padrão".

O enquadramento também é esperto. Alegações de defesa do consumidor não exigem que ninguém resolva o que é IA nem como ela deve ser regulada. Elas fazem uma pergunta mais simples: a empresa disse que era seguro, e isso era verdade?

As acusações continuam sendo acusações. A OpenAI contesta o retrato e ainda não perdeu nada no tribunal. Mas toda empresa de IA que vende chatbot para adolescente acaba de ganhar uma prévia dos pedidos de produção de provas.

Os estados não estão processando pelo que o ChatGPT é. Estão processando pelo que a OpenAI disse que ele era.

O que isso muda na Europa

A Europa já regula a IA com um livro de regras, e a proteção de crianças é tema quente por lá. Os processos americanos ecoam as mesmas preocupações: usuários vulneráveis, dados de menores e verificação de idade fraca.

Espere que reguladores europeus e associações de pais leiam as petições com lupa. Se as ações nos EUA trouxerem à tona documentos internos sobre concessões em segurança, a leitura vai ser útil em Bruxelas também.

O que fazer com isso

  • Confira as configurações para adolescentes.Se um jovem na sua casa usa o ChatGPT, veja hoje os controles de idade e parentais em vez de presumir que existem.
  • Faça a pergunta chata.Converse com seus filhos sobre onde os chatbots erram, principalmente em conselhos médicos e emocionais.
  • Audite as promessas do seu próprio produto.Está construindo algo com IA? Garanta que o "seguro" do seu marketing bata com o que o produto faz, porque é exatamente isso que essas ações atacam.
  • Acompanhe os processos.Siga as petições no seu estado ou país: elas são públicas e surpreendentemente fáceis de ler.

Ciao, sapiens. O chatbot não é seu amigo, e agora oito procuradores-gerais estão dizendo isso por escrito.