Zum Inhalt springen

KI

Inkling: 975 Mrd. Parameter, aber nur 41 Mrd. arbeiten

Thinking Machines Lab bringt mit Inkling sein erstes Modell raus und legt die Gewichte gleich mit dazu. Von 975 Milliarden Parametern machen die meisten Pause, rund 41 Milliarden erledigen den Job.

Titelfoto: traveljunction / CC BY-SA 2.0

TL;DR

  1. Inkling ist open-weight: 975 Milliarden Parameter insgesamt, rund 41 Milliarden aktiv pro Aufgabe.
  2. Trainiert auf 45 Billionen Tokens aus Text, Bild, Audio und Video; ausgegeben wird vorerst nur Text.
  3. Thinking Machines Lab, gegründet von Ex-OpenAI-CTO Mira Murati, sagt, das Modell denke über alle vier Modalitäten hinweg.

Was passiert ist

Thinking Machines Lab, das Startup der ehemaligen OpenAI-CTO Mira Murati, hat sein erstes eigenes Modell veröffentlicht. Es heißt Inkling und ist an einem Mittwochmorgen gelandet.

Die Schlagzeilen-Zahl ist die Größe. Inkling setzt auf ein Mixture-of-Experts-Design mit insgesamt 975 Milliarden Parametern. Pro Aufgabe weckt es davon nur etwa 41 Milliarden auf. Ein verbreiteter Kniff, damit Riesenmodelle schneller und billiger laufen.

Laut Unternehmen denkt Inkling nativ über Text, Bild, Audio und Video hinweg. Was hinten rauskommt, ist vorerst schmaler: nur Text, also Code, gestaltete Artefakte und strukturierte Daten. Das Modell schluckt das ganze Sinnesbuffet, antwortet aber per schlichtem Tippen. Bild- und Tongenerierung stehen noch nicht auf der Karte.

Dazu kommt eine lange Phase leiser Infrastrukturarbeit. Eine Research-Preview im Mai zeigte „Interaction Models": KI, die zuhört, spricht und sogar dazwischenredet, statt wie ein typischer Chatbot brav zu warten. Inkling ist der erste öffentliche Beleg dieser Arbeit.

Warum es zählt

Die Flaggschiff-Modelle von OpenAI, Anthropic und Google sind geschlossen. Inkling ist open-weight: Entwickler und Firmen können es herunterladen und direkt anpassen. Das ist ein anderer Deal, als eine API zu mieten und zu hoffen, dass die Bedingungen freundlich bleiben.

Ein gut finanziertes Startup mit prominenter Gründerin setzt auf offene Gewichte. Damit gibt es am oberen Ende der Größenskala eine weitere ernsthafte Option. Mehr Auswahl heißt mehr Druck auf alle, die pro Token abrechnen.

Die Einschränkungen, wir haben schließlich Standards: Größe, Trainingsdaten und multimodales Denken stammen allesamt aus den eigenen Release-Unterlagen des Unternehmens. Unabhängige Benchmark-Zahlen haben wir hier nicht. „Wie gut ist es wirklich?" bleibt also offen, bis die ersten Leute ordentlich darin herumstochern.

Open Weights heißt: Du kannst das Ding untersuchen und verändern, statt es nur zu mieten.

Mixture-of-Experts zählt auch ganz praktisch. Ein Modell, das pro Aufgabe nur etwa 41 Milliarden Parameter nutzt, ist im Betrieb etwas völlig anderes als eines, das jedes Mal alle 975 Milliarden bemüht.

Was du damit machst

  • Gewichte checken.Wenn du Modelle selbst betreibst, such den offiziellen Release und schau nach, welche Hardware die vollen 975 Milliarden Parameter verlangen, bevor du dich freust.
  • Mit eigener Arbeit testen.Lass Inkling auf deine echten Prompts, deinen Code und deine Dokumente los, denn Herstellerversprechen sind nicht dein Workload.
  • Output-Grenzen beachten.Es denkt über Bilder, Audio und Video, antwortet aber nur in Text. Plane deine Pipelines entsprechend.
  • Interaction Models im Blick behalten.Die Mai-Preview der KI, die dazwischenreden kann, deutet an, wohin Thinking Machines will.

Keep up, sapiens. Die Open-Weight-Roboter haben gerade einen sehr großen neuen Mitbewohner bekommen.