Salta al contenuto

IA

La British Columbia fa causa a OpenAI e Altman per una strage

Secondo la provincia, il team sicurezza di OpenAI aveva segnalato le chat ChatGPT dell'autrice della sparatoria a scuola, ma la polizia non è mai stata avvisata. Accuse non ancora vagliate in tribunale.

Foto di copertina: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Lunedì la British Columbia ha citato in giudizio OpenAI e Sam Altman davanti al tribunale federale di San Francisco.
  2. Secondo la provincia, OpenAI non avrebbe mai avvisato la polizia dei piani preparati con ChatGPT dall'autrice della sparatoria di Tumbler Ridge.
  3. Chiede un risarcimento per la ripresa e cambiamenti, imposti dal tribunale, nella gestione delle conversazioni violente su ChatGPT.

Cosa è successo

La British Columbia ha fatto causa a OpenAI e al suo CEO, Sam Altman. L'atto è stato depositato lunedì presso il tribunale federale di San Francisco.

La tesi della provincia: la sparatoria di febbraio nella scuola di Tumbler Ridge, che ha ucciso bambini e altre persone, si poteva evitare se OpenAI avesse detto alle forze dell'ordine locali quello che sapeva.

Stando all'atto, come riportato dal Guardian, l'autrice della sparatoria, Jesse Van Rootselaar, avrebbe usato ChatGPT per pianificare l'attacco. Il team sicurezza di OpenAI l'avrebbe segnalata dopo alcune conversazioni sulla violenza armata. L'azienda non ha avvisato la polizia.

La provincia chiede due cose. Primo, un risarcimento per finanziare la ripresa in British Columbia. Secondo, un ordine che obblighi OpenAI a cambiare il modo in cui gestisce le conversazioni su ChatGPT che possono sfociare in violenza.

Niki Sharma, procuratrice generale della British Columbia, ha detto che le persone di Tumbler Ridge meritano "risposte e responsabilità". La CBC precisa che le accuse non sono ancora state vagliate in tribunale.

OpenAI avrà modo di rispondere, e il caso potrebbe stabilire che cosa le aziende di AI devono segnalare alla polizia.

Perché conta

Il dettaglio che fa male è la segnalazione. L'accusa non è che in OpenAI nessuno potesse immaginarlo. È che un sistema di sicurezza qualcosa l'ha visto, e non è arrivato nulla a chi poteva intervenire.

Così un dibattito vago diventa concreto. Quando il monitoraggio di un chatbot intercetta un comportamento preoccupante, che cosa deve fare l'azienda? Annotarlo in silenzio, bannare l'account o chiamare la polizia?

L'accusa è che la segnalazione esisteva e la telefonata no.

Le aziende di AI sono già sotto una lente sempre più grande, tra attacchi informatici, disinformazione, violenza e danni alla salute mentale.

Un querelante pubblico, con un CEO citato come co-imputato, è un'altra categoria di peso rispetto alla solita causa individuale. L'esito potrebbe definire quali obblighi hanno i laboratori quando sono i loro stessi sistemi ad alzare la mano.

Niente di tutto questo è provato. Sono accuse, e OpenAI potrà rispondere.

Cosa farne

  • Leggi l'atto, non i commenti a caldo.Il testo della causa e le cronache di The Guardian e CBC sono la base; il resto è opinione.
  • Controlla le tue policy sull'AI.Se il tuo team usa chatbot, scrivi nero su bianco cosa succede quando una conversazione segnala un danno a terzi, e chi decide.
  • Conosci i canali di segnalazione.Chi si occupa di trust e safety deve sapere esattamente quando e come rivolgersi alle autorità, prima che sia una brutta giornata a imporre la domanda.
  • Tieni d'occhio il rimedio.I cambiamenti imposti dal tribunale che la provincia chiede sono la vera storia da seguire, perché potrebbero diventare un modello.

Ciao, sapiens. Ormai le macchine segnalano. Qualcuno di umano deve ancora alzare il telefono.