Zum Inhalt springen

KI

British Columbia verklagt OpenAI und Altman nach Schulmassaker

Die Provinz sagt: OpenAIs Safety-Team hat die ChatGPT-Chats der Täterin markiert, die Polizei erfuhr nichts. Die Vorwürfe sind vor Gericht noch nicht geprüft.

Titelfoto: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. British Columbia hat OpenAI und Sam Altman am Montag vor einem Bundesgericht in San Francisco verklagt.
  2. Der Vorwurf: OpenAI warnte die Polizei nicht vor den ChatGPT-Planungen der Täterin von Tumbler Ridge.
  3. Die Provinz fordert Schadenersatz für die Aufarbeitung und gerichtlich angeordnete Änderungen im Umgang mit gewalttätigen ChatGPT-Gesprächen.

Was passiert ist

British Columbia hat OpenAI und dessen CEO Sam Altman verklagt. Die Klage wurde am Montag vor einem Bundesgericht in San Francisco eingereicht.

Die Provinz argumentiert, der Schulmassaker-Anschlag im Februar in Tumbler Ridge, bei dem Kinder und andere Menschen starben, hätte verhindert werden können, wenn OpenAI die örtlichen Behörden über sein Wissen informiert hätte.

Laut der Klageschrift, wie The Guardian berichtet, nutzte die Täterin Jesse Van Rootselaar ChatGPT, um den Angriff zu planen. OpenAIs eigenes Safety-Team soll sie nach Gesprächen über Waffengewalt markiert haben. Die Polizei alarmierte das Unternehmen nicht.

Die Provinz will zweierlei. Erstens Schadenersatz, um Hilfsmaßnahmen in British Columbia zu finanzieren. Zweitens eine gerichtliche Anordnung, die OpenAI zwingt, den Umgang mit ChatGPT-Gesprächen zu ändern, die in Gewalt münden könnten.

Niki Sharma, Generalstaatsanwältin von British Columbia, sagte, die Menschen in Tumbler Ridge verdienten "Antworten und Verantwortung". CBC weist darauf hin, dass die Vorwürfe vor Gericht noch nicht geprüft wurden.

OpenAI bekommt die Gelegenheit zu antworten. Der Fall könnte mitbestimmen, was KI-Firmen künftig der Polizei melden müssen.

Warum es zählt

Das Detail, das wehtut, ist die Markierung. Der Vorwurf lautet nicht, dass bei OpenAI niemand das hätte ahnen können. Er lautet, dass ein Sicherheitssystem etwas gesehen hat und nichts bei den Menschen ankam, die hätten handeln können.

Damit wird aus einer schwammigen Debatte eine ganz konkrete. Wenn die Überwachung eines Chatbots auf beunruhigendes Verhalten stößt: Was muss die Firma dann tun? Still notieren, den Account sperren oder die Polizei rufen?

Der Vorwurf: Die Markierung gab es. Den Anruf nicht.

KI-Unternehmen stehen ohnehin zunehmend unter Beobachtung, von Cyberangriffen und Desinformation bis zu Gewalt und psychischen Schäden.

Eine staatliche Klägerin, mit einem namentlich genannten CEO als Mitbeklagtem, spielt in einer anderen Gewichtsklasse als die übliche Einzelklage. Der Ausgang könnte prägen, welche Pflichten Labs haben, wenn ihre eigenen Systeme die Hand heben.

Bewiesen ist davon noch nichts. Das sind Vorwürfe, und OpenAI darf darauf antworten.

Was du damit machst

  • Lies die Klage, nicht die Hot Takes.Die Klageschrift und die Berichte von The Guardian und CBC sind die Grundlage. Der Rest ist Kommentar.
  • Check deine eigenen KI-Regeln.Wenn dein Team Chatbots einsetzt, halte schriftlich fest, was passiert, wenn ein Gespräch auf Gefahr für andere hindeutet, und wer das entscheidet.
  • Kenne die Meldewege.Trust-and-Safety-Leute sollten genau wissen, wann und wie sie Behörden einschalten, bevor ein schlimmer Tag die Frage erzwingt.
  • Behalte die Auflagen im Blick.Die gerichtlich angeordneten Änderungen, die die Provinz fordert, sind die eigentliche Story, denn sie könnten zur Blaupause werden.

Ciao, sapiens. Die Maschinen markieren jetzt Dinge. Ans Telefon gehen muss trotzdem noch ein Mensch.