IBM stellt Granite 4.2 unter Apache 2.0: drei Modellgrößen zum Selbstbetreiben

IBM hat am 25. August 2026 die Modellfamilie Granite 4.2 veröffentlicht. Sie umfasst drei Sprachmodelle mit 3, 8 und 30 Milliarden Parametern sowie ein neues Modell für Spracherkennung. Die Gewichte stehen unter der Apache-2.0-Lizenz und lassen sich über Hugging Face, Ollama, GitHub, LM Studio, OpenRouter und weitere Anbieter beziehen.

Für Unternehmen ist an dieser Ankündigung weniger die Modellgeneration interessant als die Kombination aus Lizenz und Größe. Apache 2.0 erlaubt es, ein Modell herunterzuladen, anzupassen und produktiv zu betreiben, ohne dass eine Nutzungsvereinbarung mit dem Anbieter dazwischensteht. Und ein Modell mit 3 oder 8 Milliarden Parametern läuft auf Hardware, die viele Betriebe ohnehin im Haus haben.

Was die Lizenz konkret bedeutet

Apache 2.0 ist eine klassische Open-Source-Lizenz ohne Feldbeschränkung. Es gibt keine Klausel, die eine kommerzielle Nutzung ab einer bestimmten Nutzerzahl ausschließt, keine Pflicht, abgeleitete Modelle wieder zu veröffentlichen, und keine Meldepflicht gegenüber IBM. Das unterscheidet Granite von einem Teil der Modelle, die zwar als offen bezeichnet werden, aber unter eigenen Lizenzen des Anbieters stehen.

Praktisch heißt das: Der Betrieb findet in der eigenen Umgebung statt, in der Cloud, im eigenen Rechenzentrum oder auf einem Gerät vor Ort. Es fließen keine Eingaben an einen externen Dienst, es entsteht keine Auftragsverarbeitung und es gibt keinen Drittlandtransfer, der geprüft werden müsste. Wer Personaldaten, Mandantenunterlagen oder Konstruktionsdaten verarbeitet, spart sich damit einen Teil der Vertrags- und Dokumentationsarbeit, die beim Einsatz einer APIAPI (Programmierschnittstelle)Schnittstelle, über die Programme Daten und Funktionen austauschen.Im Glossar ansehen → anfällt.

Eine Einschränkung gibt es innerhalb der Familie: Von dem neuen SprachmodellLLM (Large Language Model)Ein großes KI-Sprachmodell, das Texte versteht und erzeugt.Im Glossar ansehen → Granite Speech 5.0 Turbo CTC gibt es neben der Apache-Variante auch eine mit dem Zusatz NC für nicht-kommerzielle Nutzung. Wer die Spracherkennung geschäftlich einsetzen will, muss beim Herunterladen also auf die Variante achten.

Trainiert in echten Umgebungen statt nur an Texten

Der technisch auffälligste Teil der Veröffentlichung betrifft die beiden größeren Modelle. IBM hat sie nach dem üblichen überwachten FeintuningFine-TuningEin vortrainiertes Modell mit eigenen Daten nachschärfen.Im Glossar ansehen → durch eine zusätzliche Trainingsphase geschickt, die das Unternehmen agentic RL nennt: bestärkendes Lernen in Umgebungen, in denen das Modell tatsächlich etwas tut.

Drei Umgebungen kamen dabei zum Einsatz. In der ersten bearbeitete das Modell echte Software-Repositorien über das OpenHands-Harness. In der zweiten arbeitete es in einer laufenden Shell mit bis zu 64 Zügen pro Durchlauf. In der dritten beantwortete es mehrstufige Fragen über tatsächliche Websuchen. IBM begründet den Aufwand mit der Struktur betrieblicher Aufgaben.

In Unternehmensabläufen sind Aufgaben oft mehrdeutig und erfordern viele Schritte. Ein KI-Modell muss komplexen Anweisungen folgen, die richtigen Informationen abrufen, die passenden Werkzeuge auswählen, in der richtigen Reihenfolge handeln und das Ergebnis überprüfen.

Werkzeugaufrufe erfolgen im Format, das OpenAI etabliert hat. Bestehende Integrationen lassen sich damit meist ohne Umbau weiterverwenden. Als Laufzeitumgebung nennt IBM vLLM und SGLang.

Dazu kommt ein umschaltbarer Denkmodus. Über das Chat-Template stehen drei Betriebsarten zur Verfügung: vollständige GedankenketteReasoning-ModellEin Modell, das vor der Antwort schrittweise „nachdenkt".Im Glossar ansehen →, direkte Antwort ohne Zwischenschritte und eine Sparvariante für einfache Anfragen. Da jeder Denkschritt Rechenzeit kostet, ist das im Eigenbetrieb ein direkter Kostenhebel.

Die Zahlen aus IBMs Messungen

IBM nennt für die drei Modelle unter anderem folgende Werte. Alle stammen aus eigenen Messungen und sind bislang nicht unabhängig überprüft.

• SWE-Bench Verified, also das Lösen echter Programmieraufgaben: 57,00 für das 30B-Modell, 47,67 für das 8B-Modell
• Terminal-Bench 2.1, Aufgaben in der Kommandozeile: 29,24 und 20,56
• AIME25, Mathematikwettbewerb: 89,17 für 30B, 86,67 für 8B, 78,33 für 3B
• GPQA, naturwissenschaftliche Fragen auf Promotionsniveau: 66,41, 64,14 und 54,80
• RULER bei 128.000 TokenTokenKleinste Texteinheit, in der KI-Modelle rechnen und abgerechnet werden.Im Glossar ansehen → Kontext: 81,38, 71,41 und 55,30

Die Modelle wurden in fünf Phasen auf rund 15 Billionen Token vortrainiert, darunter eine Billion Token synthetischer Code aus IBMs CodeAlchemy-Pipeline. Das KontextfensterKontextfensterWie viel Text ein Modell gleichzeitig berücksichtigen kann.Im Glossar ansehen → reicht bis 512.000 Token. Trainiert wurde auf einem GB200-NVL72-Cluster von Nvidia bei CoreWeave.

Für den Betrieb auf kleinerer Hardware stellt IBM quantisierte Fassungen bereit: FP8, NVFP4, MXFP4 sowie vierzehn GGUF-Varianten. Damit lassen sich die kleineren Modelle auch auf einer einzelnen Grafikkarte oder auf CPU-Systemen betreiben.

Das Spracherkennungsmodell Granite Speech 5.0 Turbo CTC kommt mit 470 Millionen Parametern aus und verzichtet auf ein Sprachmodell als Rückgrat. Stattdessen ordnet es Audio direkt über CTC zu, ein Verfahren, das ohne Zwischenschritt Zeitabschnitte auf Zeichen abbildet. IBM misst auf einer einzelnen H200-Grafikkarte einen RTFx-Durchsatz von rund 12.600 gegenüber etwa 6.000 bei den bisherigen Spitzenwerten der Open-ASR-Rangliste.

Was das für Ihr Unternehmen heißt

• Die Rechnung Eigenbetrieb gegen API ändert sich mit der Modellgröße. Ein 3B- oder 8B-Modell auf einer vorhandenen Grafikkarte hat andere Betriebskosten als dasselbe Volumen über eine API. Rechnen Sie mit Ihrem tatsächlichen Anfragevolumen, nicht mit dem Listenpreis pro Million Token.
• Nicht jede Aufgabe braucht das größte Modell. IBM selbst schreibt, kleinere Modelle könnten agentische Aufgaben mit hohem Durchsatz effizient erledigen, während größere für tiefere Schlussfolgerungen und komplexe Programmierabläufe reserviert bleiben. Eine Aufteilung nach Aufgabentyp senkt die Kosten spürbar.
• Der Lizenztext gehört in die Prüfung, nicht nur das Benchmark-Ergebnis. Offen ist nicht gleich offen. Prüfen Sie bei jedem Modell, ob eine Feldbeschränkung, eine Nutzerobergrenze oder eine NC-Variante im Spiel ist, bevor Sie es in einen produktiven Ablauf einbauen.
• Werkzeugaufrufe im OpenAI-Format senken die Wechselkosten. Wer seine Automatisierungen gegen dieses Format gebaut hat, kann ein Modell testweise austauschen, ohne die Integration neu zu schreiben. Das ist ein Argument dafür, die Schnittstelle bewusst austauschbar zu halten.
• Eigene Messungen schlagen fremde Benchmarks. Die genannten Werte stammen von IBM. Aussagekräftig für Ihren Fall ist ein Testlauf mit zwanzig bis fünfzig echten Vorgängen aus Ihrem Haus, ausgewertet nach Trefferquote und Nacharbeit.

Einordnung für die Praxis

Granite 4.2 markiert keinen Sprung an die Spitze der Ranglisten. Die Werte liegen unterhalb der großen Frontier-Modelle, und das ist erkennbar auch nicht der Anspruch. Der Punkt liegt woanders: Es gibt inzwischen eine Reihe von Modellen, die gut genug für abgegrenzte betriebliche Aufgaben sind, unter einer Lizenz ohne Beschränkungen stehen und auf Hardware laufen, die nicht aus einem Rechenzentrumsvertrag stammen muss.

Für Unternehmen verschiebt das die Ausgangsfrage. Sie lautet weniger, welches Modell insgesamt das beste ist, sondern welche Aufgaben sich mit einem selbst betriebenen Modell erledigen lassen und wo der Weg über eine externe Schnittstelle weiterhin sinnvoll bleibt. Wenn Sie diese Abgrenzung für Ihre eigenen Abläufe einmal sauber ziehen möchten, sehen wir uns das gern gemeinsam an.