IBM-Chef: Offene Modelle leisten 90 Prozent für ein Zehntel
IBM-Chef Arvind Krishna hält Open-Weight-Modelle inzwischen für fast so gut wie die Spitzenmodelle, bei einem Bruchteil der Kosten. Gleichzeitig warnt Forrester, dass viele Firmen ihre KI-Renditeziele verfehlen. Was das für die Modellwahl im Unternehmen bedeutet.
Muss es für jede Aufgabe das teuerste KI-Modell sein? IBM-Chef Arvind Krishna sagt klar nein. In der Telefonkonferenz zu IBMs drittem Quartal am 21. Oktober 2026 erklärte er, offene Modelle seien inzwischen gut und günstig genug für die meisten Aufgaben in Unternehmen. Am selben Tag legte das Analysehaus Forrester seine Prognosen für 2027 vor, mit einer deutlichen Warnung zur Rendite von KI-Projekten. The Register hat beides aufgegriffen.
Was Krishna sagt
Krishna beschreibt, wie schnell die offenen Modelle aufgeholt haben. 2024 habe ein Spitzenmodell in Benchmarks etwa 70 Punkte erreicht, ein offenes Modell 20 oder 30. Ende 2025 habe der Abstand nur noch bei 70 zu 50 gelegen. Heute seien Open-Weight-Modelle zu etwa 90 Prozent so leistungsfähig, kosteten aber nur 10 bis 25 Prozent der Token-Preise der Spitzenmodelle. Seine Frage an die Kunden:
„Would you like something that's 10 percent of the cost if it's 90 percent as good as the best“
Für die große Mehrheit der Aufgaben reiche die günstige Lösung, so Krishna: eine E-Mail zusammenfassen, einen Vertrag prüfen, einen Kundenanruf beantworten, eine E-Mail schreiben. Für den Eigenbetrieb brauche ein typisches Großunternehmen zwei bis drei Server-Racks. Das eigentliche Problem sieht er beim Personal: Es fehlten Fachleute, die sich um Kernel, Netzwerk und Betrieb kümmern.
Dabei ist zu bedenken, wer hier spricht. IBM verkauft eigene offene Modelle, Red Hat als Plattform für den Eigenbetrieb und Beratung. Die Zahlen sind Krishnas Einschätzung, keine unabhängige Messung.
Forrester: viel Geld, wenig Rendite
Forrester erwartet, dass KI 2027 rund 20 Prozent aller Technologieausgaben von Unternehmen ausmacht. Gleichzeitig wachse der Druck auf IT-Verantwortliche, Erträge nachzuweisen. Nach den Zahlen, die The Register aus einer Forrester-Umfrage zitiert, berichten nur 22 Prozent der KI-Entscheider von einem positiven Effekt auf das operative Ergebnis in den vergangenen zwölf Monaten. 45 Prozent brauchen eine positive Rendite innerhalb eines Jahres, damit sie ihre Investition als Erfolg werten. Mehr als die Hälfte der CIOs dürfte ihre Renditeziele 2027 verfehlen.
Passend zu Krishna sagt Forrester laut The Register voraus, dass offene Modelle die Hälfte aller KI-Tokens verarbeiten werden, aber nur fünf Prozent der Ausgaben verursachen. Ähnliches zeigen Nutzungsdaten, die der Hosting-Anbieter Vercel Mitte Oktober veröffentlicht hat: Dort lief im September bereits die Mehrheit der Tokens über Modelle mit offenen Gewichten.
Was das für Ihr Unternehmen heißt
- Aufgaben sortieren: Nicht jede Anfrage braucht das Spitzenmodell. Zusammenfassen, Klassifizieren, Daten auslesen und Standardantworten schaffen oft auch kleinere oder offene Modelle, ähnlich wie bei spezialisierten Entscheidungsmodellen.
- Selbst testen: Benchmarks sagen wenig über die eigenen Daten. Ein Vergleich mit 50 bis 100 echten Fällen zeigt schnell, ob das günstige Modell reicht.
- Ehrlich rechnen: Eigenbetrieb spart Token-Kosten, kostet aber Hardware, Strom und vor allem Personal. Für viele Mittelständler ist ein europäischer Anbieter, der offene Modelle hostet, der realistischere Weg.
- Datenhoheit als Pluspunkt: Ein offenes Modell im eigenen Rechenzentrum oder in einer EU-Cloud vereinfacht die Datenschutzfrage erheblich, gerade bei Personal-, Kunden- oder Mandantendaten.
- Flexibel bleiben: Wer seine Anwendung so baut, dass sich das Modell austauschen lässt, kann jederzeit zum günstigeren oder besseren Angebot wechseln.
Fazit
Die Zeit, in der nur die großen Anbieter brauchbare KI lieferten, ist vorbei. Krishnas Zahlen sind interessengeleitet, die Richtung bestätigen aber auch Forrester und die Nutzungsdaten. Wer KI-Kosten im Griff behalten will, sollte für jede Aufgabe das passende Modell wählen statt pauschal das teuerste. Wenn Sie wissen möchten, welche Aufgaben in Ihrem Unternehmen mit einem günstigeren oder selbst betriebenen Modell laufen könnten, sprechen Sie mich gern an.
