Zum Inhalt springen

KI

KI-Rivalen sind sich einig: Bitte mal langsamer

Amodei fordert in einem Essay, die KI-Spitze zu drosseln. Altman, Musk und Hassabis stimmen zu, und OpenAI gibt zu: Mit Anthropic und Google DeepMind redet man schon seit Wochen über Sicherheit.

Titelfoto: HaeB / CC BY-SA 4.0

TL;DR

  1. Anthropic-Chef Dario Amodei fordert in einem Essay eine langsamere, eng überwachte Entwicklung der Frontier-KI.
  2. Altman, Musk und Hassabis unterstützen ihn öffentlich; OpenAI will externe Prüfer ins Haus holen.
  3. OpenAI bestätigt wochenlange Sicherheitsgespräche mit Anthropic und Google DeepMind, Kartellsorgen inklusive.

Was passiert ist

Dario Amodei, CEO von Anthropic, hat einen Essay veröffentlicht: "We Must Pace the Frontier". Seine These: KI kann enormen Nutzen bringen, die Risiken sind aber ernst, und ein von kommerziellen Anreizen getriebenes Wettrennen nach unten macht alles schlimmer.

Er nennt den Kontrollverlust über KI-Systeme, den Missbrauch für Cyberangriffe und Bioterrorismus sowie gravierende wirtschaftliche Verwerfungen.

Die Forderung laut BBC: Die Entwicklung neuer Modelle soll langsamer laufen und eng überwacht werden, damit Unternehmen und Regierungen Zeit bekommen, die Risiken in den Griff zu kriegen. KI zu bauen, stellt er gar nicht infrage.

Dann tauchten die Rivalen auf. Sam Altman von OpenAI und Elon Musk sagten, sie sehen es wie Amodei, und laut TechCrunch stellte sich auch Googles Demis Hassabis hinter den Aufruf. Altman erklärte, OpenAI werde wie Anthropic externe Prüfer ins Unternehmen holen, die auf Sicherheit achten.

Am Dienstag sagte OpenAIs globaler Politikchef Chris Lehane vor Reportern, OpenAI arbeite seit Wochen mit Anthropic und Google DeepMind an KI-Sicherheit. Bloomberg hatte zuerst darüber berichtet. Lehane soll derzeit in Washington mit US-Abgeordneten über katastrophale Risiken sprechen.

Die drei Labs haben schon geredet, bevor der Essay online ging.

Warum es zählt

Frontier-Labs sind sich normalerweise in zwei Punkten einig: Das eigene Modell ist das beste, und das Modell der anderen ist ein bisschen verdächtig. Eine gemeinsame Linie zum Bremsen ist da ungewöhnlich. Sie deutet darauf hin, dass die Branche versucht, sich selbst zu regulieren.

Einen Haken gibt es. Altman und andere haben darauf hingewiesen, dass solche Absprachen gegen das Kartellrecht verstoßen könnten, wenn sie als Wettbewerbsbremse gelten. Amodeis Essay schlägt deshalb eine eng gefasste staatliche Ausnahmegenehmigung vor, die Abstimmung bei der Sicherheit erlauben würde.

Der BBC-Bericht hat auch eine düsterere Note. Jacob Coxon, ein ehemaliger Anthropic-Forscher, sagte der BBC, die Leute bei KI-Firmen seien "genuinely frightened". Das ist seine Aussage, kein Konsens, aber sie setzt den Ton.

Außerdem gilt: Ein Versprechen ist keine Pause. Einen Zeitplan fürs Bremsen hat niemand verkündet. Bisher gibt es einen Essay, Zustimmung, Gespräche und die Zusage für externe Prüfer. Miss die Umsetzung, nicht die Stimmung.

Was du damit machst

  • Behalte die Prüfer im Blick.Schau, wer die externen Prüfer sind und welchen Zugang sie bei OpenAI und Anthropic tatsächlich bekommen.
  • Verfolge die Ausnahmegenehmigung.Beobachte, ob Abgeordnete Amodeis Kartellausnahme aufgreifen, denn davon hängt ab, ob die Labs sich legal abstimmen dürfen.
  • Lies den Essay selbst.Er steht öffentlich auf Amodeis Seite, bilde dir also eine eigene Meinung, statt Hot Takes zu glauben.
  • Plane nicht mit einer Pause.Bau und budgetiere weiter so, als kämen neue Modelle weiter raus, bis jemand etwas anderes ankündigt.

Ciao, sapiens. Wenn Konkurrenten anfangen, Notizen auszutauschen, lies die Notizen.