Sprach-KI bewegt sich vom Demo- in den Produktionsbetrieb, und das bedeutet, dass API-Gateways mehr als nur einfache HTTP-Anfragen verarbeiten müssen. OctaFuse 2.4.0 adressiert dies durch einheitliches Routing für die Spracherkennungs- (ASR) und Sprachsynthese-Dienste (TTS) von DashScope. Das Update unterstützt synchrone Konvertierung, asynchrone Aufgaben, vollständige Audioantworten, kontinuierliche Audiostreams und bidirektionale WebSocket-Kommunikation für Echtzeit-Sprache. Für Entwickler bedeutet dies, dass eine Gateway-Konfiguration verschiedene Sprachinteraktionsmuster ohne benutzerdefinierten Klebecode verwalten kann. Das Release zeigt einen breiteren Branchentrend: Da Sprache zur Standard-Schnittstelle wird, muss sich die Infrastruktur an ihre besonderen Anforderungen anpassen – Latenzempfindlichkeit, Streaming-Daten und gemischte Transportprotokolle.
OctaFuse 2.4.0 bietet Unified Routing für DashScopes ASR- und TTS-Dienste mit Unterstützung für synchrone, asynchrone, Streaming- und WebSocket-Modi. Ein Zeichen für die Evolution von API-Gateways hin zu komplexen Sprach-KI-Workloads.