Zum Inhalt springen

KI

Acht US-Staaten verklagen OpenAI wegen ChatGPT

Iowa, Kansas, Nebraska und fünf weitere Staaten haben am selben Mittwoch eigene Klagen gegen OpenAI eingereicht. Der Vorwurf: ChatGPT wurde als sicher für Kinder verkauft. War es nicht.

Titelfoto: Jernej Furman from Slovenia / CC BY 2.0

TL;DR

  1. Acht Staaten haben OpenAI am selben Tag verklagt, jeder vor seinem eigenen Staatsgericht.
  2. Kernvorwurf: ChatGPT wurde als sicher für Jugendliche vermarktet, soll aber verletzliche Nutzer geschädigt haben.
  3. Die Klagen stützen sich auf Verbraucherschutzrecht und zitieren Klagen von Familien nach Todesfällen.

Was passiert ist

Am Mittwoch haben acht Staaten jeweils eine Klage gegen OpenAI eingereicht: Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska und West Virginia. Jede landete vor dem eigenen Staatsgericht. Gleiches Ziel, gleiches Thema, getrennte Schriftsätze.

Die Staaten sagen, ChatGPT sei ein unsicheres Produkt, das Kindern geschadet und Eltern in die Irre geführt habe. Iowas Generalstaatsanwältin Brenna Bird erklärte, die Klage ihres Staates solle die Rechte der Menschen in Iowa durchsetzen, die unter dem aus ihrer Sicht vorsätzlichen, gefährlichen und rücksichtslosen Verhalten von OpenAI gelitten hätten.

Laut den Klageschriften hat OpenAI ChatGPT als sicher für junge Menschen verkauft, Sicherheit als oberste Priorität. Tatsächlich, so die Staaten, sei es für verletzliche Nutzer gefährlich gewesen.

Die Anklageliste: schwächeres kritisches Denken, genährte Paranoia und Wahnvorstellungen, riskante medizinische Ratschläge und Anstöße zu ungesunden Gewohnheiten und Beziehungen.

Außerdem soll OpenAI Daten von Minderjährigen gesammelt und zu wenig getan haben, um Kinder vom Dienst fernzuhalten. Der rechtliche Hebel ist das Verbraucherschutzrecht: Die Staaten werfen OpenAI vor, Kunden nicht vor den Risiken gewarnt zu haben.

Zur Untermauerung zitieren die Klagen Verfahren von Familien von Jugendlichen und Erwachsenen, die behaupten, der Chatbot habe beim Tod ihrer Angehörigen eine Rolle gespielt.

OpenAI-Sprecher Drew Pusateri entgegnete, das Unternehmen habe altersspezifische Schutzmaßnahmen entwickelt.

Warum es zählt

Das hier ist kein einzelner wütender Kläger. Es ist eine koordinierte Welle von Staaten am selben Tag, gerichtet gegen den berühmtesten Chatbot der Welt. Damit kippt der Ton von "tragische Einzelfälle" zu "Aufsichtsbehörden bauen ein Muster".

Auch der Zuschnitt ist clever. Verbraucherschutzklagen verlangen nicht, dass irgendwer klärt, was KI ist oder wie man sie regulieren sollte. Sie stellen eine simplere Frage: Hat die Firma gesagt, es sei sicher, und stimmte das?

Die Vorwürfe bleiben Vorwürfe. OpenAI bestreitet das Bild und hat vor Gericht noch nichts verloren. Aber jede KI-Firma, die Teenagern einen Chatbot verkauft, hat gerade eine Vorschau auf die kommenden Auskunfts- und Herausgabeverlangen bekommen.

Die Staaten klagen nicht darüber, was ChatGPT ist. Sie klagen darüber, was OpenAI behauptet hat.

Was das für Europa heißt

Europa reguliert KI bereits mit einem Regelwerk, und Kinderschutz ist dort ein heißes Thema. Die amerikanischen Klagen greifen dieselben Sorgen auf: verletzliche Nutzer, Daten Minderjähriger und schwache Alterskontrollen.

Rechne damit, dass europäische Aufsichtsbehörden und Elterninitiativen die Klageschriften genau lesen. Sollten die US-Verfahren interne Dokumente über Sicherheitsabwägungen ans Licht bringen, ist das auch in Brüssel nützliche Lektüre.

Was du damit machst

  • Check die Teen-Einstellungen.Wenn bei dir zu Hause ein junger Mensch ChatGPT nutzt, schau heute in die Alters- und Jugendschutzeinstellungen, statt zu glauben, dass es sie gibt.
  • Stell die unbequeme Frage.Sprich mit deinen Kindern darüber, wo Chatbots danebenliegen, besonders bei medizinischen und emotionalen Ratschlägen.
  • Prüf deine eigenen Produktversprechen.Du baust etwas mit KI? Stell sicher, dass "sicher" in deinem Marketing zu dem passt, was dein Produkt tut. Genau das greifen diese Klagen an.
  • Verfolg die Akten.Schau dir die Schriftsätze in deinem Bundesstaat oder Land an. Die Klagen sind öffentlich und überraschend gut lesbar.

Ciao, sapiens. Der Chatbot ist nicht dein Freund, und jetzt sagen es acht Generalstaatsanwälte schriftlich.