Mistral Voxtral 3: Sprachagenten mit EU-Hosting
Mistral bringt mit Voxtral 3 Spracherkennung, Sprachausgabe und eine Voice-Agent-API mit Telefonanbindung. Die Transkription kostet laut Hersteller ab 0,35 US-Cent pro Minute, gehostet wird auf Wunsch in der EU oder im eigenen Rechenzentrum.
Telefon-Hotlines, Terminvereinbarung, Protokolle von Besprechungen: Sprache ist für viele Unternehmen das naheliegendste Einsatzfeld für KI. Bisher kamen die meisten Lösungen dafür aus den USA. Der französische Anbieter Mistral hat am 20. Oktober Voxtral 3 vorgestellt, eine ganze Modellfamilie für gesprochene Sprache. Die Fachseite The Decoder hat am selben Tag darüber berichtet.
Was Voxtral 3 umfasst
Voxtral 3 besteht aus mehreren Bausteinen, die sich einzeln oder zusammen nutzen lassen. Alle Preise sind Herstellerangaben:
- Voxtral Small Transcribe 3: Spracherkennung für 0,004 Dollar pro Minute
- Voxtral Mini Transcribe 3: Stapelverarbeitung für 0,0035 Dollar pro Minute
- Voxtral Mini Transcribe Realtime 3: Live-Transkription mit unter 500 Millisekunden Verzögerung für 0,008 Dollar pro Minute
- Sprachausgabe (TTS): 13 Dollar pro Million Zeichen
- Voice-Agent-API: 0,04 Dollar pro Minute mit Mistral Small 4, 0,08 Dollar mit einem größeren Modell
Die Transkription versteht laut Mistral mehr als 50 Sprachen, darunter alle 24 Amtssprachen der EU. Die Sprachausgabe deckt über 35 Sprachen und mehr als 50 Dialekte ab. Ein kompletter Gesprächszug des Agenten, also zuhören, verstehen und antworten, soll in unter einer Sekunde erledigt sein.
Gebaut für Telefon und Web
Für eigene Sprachagenten liefert Mistral ein SDK auf Basis des Open-Source-Projekts LiveKit. Es spricht SIP für Telefonanlagen und WebRTC für Browser und Apps. Ein Agent kann also echte Anrufe annehmen oder als Sprachassistent auf der Website sitzen. Mistral setzt dabei auf eine Kette einzelner Modelle statt auf ein großes Gesamtmodell:
„Each stage is a separate model, so you can change the LLM, the voice, or the language without rewriting the agent“
Für Unternehmen ist das praktisch: Wer später ein besseres oder günstigeres Sprachmodell einsetzen will, muss nicht den ganzen Agenten neu bauen.
Der Unterschied liegt beim Hosting
Technisch ist Voxtral 3 nicht der einzige Kandidat. OpenAI bietet mit GPT Live eine eigene Telefon-API, DeepL übersetzt Meetings inzwischen in der Stimme der Sprechenden. Mistrals stärkstes Argument ist der Standort: Die API läuft auf Wunsch in der EU, außerdem lassen sich die Modelle selbst betreiben, auf Anfrage auch im eigenen Rechenzentrum oder in einer privaten Cloud. Gerade bei Anrufen, in denen Kundinnen und Kunden Namen, Adressen oder Vertragsdaten nennen, erleichtert das die Datenschutzprüfung deutlich. Ob die Modellgewichte frei verfügbar sind, sagt Mistral nicht. Von offenen Modellen sollte man daher nicht ausgehen.
Was das für Ihr Unternehmen heißt
- Kosten realistisch einschätzen: Eine Stunde Transkription kostet laut Preisliste rund 21 bis 24 US-Cent, eine Agenten-Minute 4 bis 8 US-Cent. Dazu kommen Telefonie und Entwicklung.
- Mit einem klaren Fall starten: Rückrufwünsche, Terminbuchung oder Öffnungszeiten eignen sich besser als ein Agent, der alles können soll.
- Datenschutz von Anfang an klären: EU-Hosting oder Eigenbetrieb wählen, Aufzeichnung und Speicherdauer festlegen und Anrufende informieren, dass sie mit einer KI sprechen.
- Deutsch selbst testen: Herstellerangaben zu Sprachen und Latenz mit echten Aufnahmen aus dem eigenen Alltag prüfen, inklusive Dialekt und Hintergrundgeräuschen.
- Übergabe an Menschen einplanen: Ein guter Sprachagent erkennt, wann er an eine Mitarbeiterin oder einen Mitarbeiter weiterleiten muss.
Fazit
Mit Voxtral 3 gibt es eine europäische Option für Sprachagenten, die preislich mithalten kann und beim Datenstandort einen echten Vorteil bietet. Für Unternehmen, die bisher an der Datenschutzfrage gescheitert sind, lohnt sich ein neuer Blick. Wenn Sie einen Telefon- oder Sprachassistenten für Ihr Unternehmen planen, sprechen Sie mich gern an.
