Cosa è successo
La British Columbia ha fatto causa a OpenAI e al suo CEO, Sam Altman. L'atto è stato depositato lunedì presso il tribunale federale di San Francisco.
La tesi della provincia: la sparatoria di febbraio nella scuola di Tumbler Ridge, che ha ucciso bambini e altre persone, si poteva evitare se OpenAI avesse detto alle forze dell'ordine locali quello che sapeva.
Stando all'atto, come riportato dal Guardian, l'autrice della sparatoria, Jesse Van Rootselaar, avrebbe usato ChatGPT per pianificare l'attacco. Il team sicurezza di OpenAI l'avrebbe segnalata dopo alcune conversazioni sulla violenza armata. L'azienda non ha avvisato la polizia.
La provincia chiede due cose. Primo, un risarcimento per finanziare la ripresa in British Columbia. Secondo, un ordine che obblighi OpenAI a cambiare il modo in cui gestisce le conversazioni su ChatGPT che possono sfociare in violenza.
Niki Sharma, procuratrice generale della British Columbia, ha detto che le persone di Tumbler Ridge meritano "risposte e responsabilità". La CBC precisa che le accuse non sono ancora state vagliate in tribunale.
OpenAI avrà modo di rispondere, e il caso potrebbe stabilire che cosa le aziende di AI devono segnalare alla polizia.
Perché conta
Il dettaglio che fa male è la segnalazione. L'accusa non è che in OpenAI nessuno potesse immaginarlo. È che un sistema di sicurezza qualcosa l'ha visto, e non è arrivato nulla a chi poteva intervenire.
Così un dibattito vago diventa concreto. Quando il monitoraggio di un chatbot intercetta un comportamento preoccupante, che cosa deve fare l'azienda? Annotarlo in silenzio, bannare l'account o chiamare la polizia?
L'accusa è che la segnalazione esisteva e la telefonata no.
Le aziende di AI sono già sotto una lente sempre più grande, tra attacchi informatici, disinformazione, violenza e danni alla salute mentale.
Un querelante pubblico, con un CEO citato come co-imputato, è un'altra categoria di peso rispetto alla solita causa individuale. L'esito potrebbe definire quali obblighi hanno i laboratori quando sono i loro stessi sistemi ad alzare la mano.
Niente di tutto questo è provato. Sono accuse, e OpenAI potrà rispondere.
Cosa farne
- Leggi l'atto, non i commenti a caldo.Il testo della causa e le cronache di The Guardian e CBC sono la base; il resto è opinione.
- Controlla le tue policy sull'AI.Se il tuo team usa chatbot, scrivi nero su bianco cosa succede quando una conversazione segnala un danno a terzi, e chi decide.
- Conosci i canali di segnalazione.Chi si occupa di trust e safety deve sapere esattamente quando e come rivolgersi alle autorità, prima che sia una brutta giornata a imporre la domanda.
- Tieni d'occhio il rimedio.I cambiamenti imposti dal tribunale che la provincia chiede sono la vera storia da seguire, perché potrebbero diventare un modello.
Ciao, sapiens. Ormai le macchine segnalano. Qualcuno di umano deve ancora alzare il telefono.


