Nvidia-Modell transkribiert Deutsch auf eigener Hardware
Nvidia hat am 28. Oktober 2026 Nemotron 3.5 Transcribe veröffentlicht: ein offenes Modell, das Aufnahmen in 40 Sprachen verschriftlicht, Sprecher unterscheidet und kommerziell genutzt werden darf. Warum das für Besprechungsprotokolle und Datenschutz interessant ist und wo die Grenzen liegen.
Besprechungen automatisch mitschreiben lassen ist eine der beliebtesten KI-Anwendungen im Büro. Der Haken: Meist landet die Aufnahme dafür bei einem Cloud-Dienst, oft in den USA. Nvidia bietet seit dem 28. Oktober 2026 eine Alternative für alle, die das lieber im eigenen Haus erledigen. Das Modell Nemotron 3.5 Transcribe ist kostenlos, die Gewichte sind offen, und es darf ausdrücklich auch kommerziell eingesetzt werden.
Was das Modell kann
Laut Modellkarte und Nvidia-Angaben bringt Nemotron 3.5 Transcribe Folgendes mit:
- 40 Sprachen, Deutsch eingeschlossen, dazu Übersetzung von und nach Englisch (laut Nvidia 31 Sprachen).
- Lange Aufnahmen bis zu einer Stunde am Stück.
- Mehrere Sprecher: Das Modell markiert, wer spricht. Nvidia nennt bis zu acht Sprecher. Die Kennzeichnung unterscheidet nur Stimmen innerhalb einer Aufnahme, Namen kennt das Modell nicht.
- Zeitstempel pro Wort, optional.
- Lizenz OpenMDW-1.1: Die Nutzung ist laut Modellkarte auch kommerziell erlaubt.
Die Fehlerquote für Deutsch gibt Nvidia mit 2,73 Prozent auf dem Testdatensatz FLEURS und 2,98 Prozent auf CoVoST2 an. Das sind Herstellerwerte auf Standard-Benchmarks. In echten Besprechungen mit Fachbegriffen, Dialekt und schlechtem Mikrofon fallen die Ergebnisse erfahrungsgemäß schlechter aus.
„This model is ready for commercial or non-commercial use.“
Welche Hardware nötig ist
Der Name verrät die Bauweise: 30B-A4B. Laut Modellkarte hat das Modell insgesamt 34 Milliarden Parameter einschließlich der Audio-Bausteine, von denen pro Rechenschritt aber nur rund 4,3 Milliarden aktiv sind. Das macht es vergleichsweise sparsam. Als Referenz nennt Nvidia eine einzelne H100 mit 80 GB, unterstützt werden aber auch kleinere Karten wie die RTX 5090 oder die RTX PRO 6000, je nach Rechengenauigkeit. Betrieben werden kann es unter anderem mit vLLM, SGLang und Hugging Face Transformers.
Für ein mittelständisches Unternehmen heißt das: Ein einzelner gut ausgestatteter Rechner im eigenen Serverraum oder ein gemieteter GPU-Server in einem deutschen Rechenzentrum reicht für den Betrieb. Die Audiodaten verlassen dann nicht mehr die eigene Infrastruktur.
Die Grenzen
Nemotron 3.5 Transcribe arbeitet nur mit fertigen Aufnahmen, nicht mit Livestreams. Für Untertitel in Echtzeit oder Sprachagenten am Telefon ist es nicht gedacht. Dafür gibt es andere Modelle, etwa Mistral Voxtral 3. Außerdem liefert das Modell nur den Text. Eine Zusammenfassung, Aufgabenliste oder ein Protokoll entsteht erst, wenn ein zweites Sprachmodell den Text weiterverarbeitet. Und der Betrieb einer GPU will gewartet werden, mit Updates, Monitoring und Zugriffsschutz.
Zusammen mit dem Modell hat Nvidia die zweite Version seines offenen Sprachdatensatzes Granary veröffentlicht. Mit dem Werkzeug NeMo Speech lassen sich Modelle damit auf das Fachvokabular einer Branche anpassen, laut TechCrunch zielt Nvidia ausdrücklich auf Geschäftsbesprechungen und medizinische Transkription.
Was das für Ihr Unternehmen heißt
- Datenschutz vereinfachen: Wer Besprechungen lokal transkribiert, braucht keinen Auftragsverarbeitungsvertrag mit einem Cloud-Anbieter und keine Prüfung von Drittlandübermittlungen für diesen Schritt. Information und Einwilligung der Teilnehmenden bleiben trotzdem Pflicht.
- Sensible Bereiche erschließen: Mandantengespräche, Personalgespräche oder Gespräche mit Gesundheitsdaten, bei denen Cloud-Dienste bisher tabu waren, werden für die Transkription zugänglich.
- Kosten vergleichen: Bei vielen Stunden Audio im Monat kann ein eigener GPU-Server günstiger sein als Minutenpreise in der Cloud. Bei wenigen Stunden lohnt er sich eher nicht.
- Mit eigenen Aufnahmen testen: Die Benchmark-Werte sind gut, entscheidend ist aber, wie das Modell mit Ihren Räumen, Mikrofonen und Fachbegriffen zurechtkommt.
- Ganze Kette planen: Transkription, Zusammenfassung und Ablage sollten zusammen gedacht werden. Wie offene Modelle insgesamt die Kosten drücken, zeigt der Beitrag zu offenen Modellen für ein Zehntel des Preises.
Wer lieber bei einem fertigen Dienst bleibt, findet mit DeepL Voice einen europäischen Anbieter für mehrsprachige Meetings.
Fazit
Nemotron 3.5 Transcribe ist kein Produkt zum Einschalten, sondern ein Baustein. Für Unternehmen, die Besprechungen, Diktate oder Interviews verschriftlichen wollen, ohne Audio aus der Hand zu geben, ist es aber eine ernsthafte Option mit klarer Lizenz und guter Unterstützung für Deutsch. Wenn Sie prüfen möchten, ob sich eine lokale Transkription für Ihre Abläufe lohnt, sprechen Sie mich gern an.
