Python
Snelle inferentie instellen voor spraak- en multimodale modellen met SGLang-Omni
SGLang-Omni biedt een gespecialiseerde runtime voor meerfasige inferentie van spraak- en multimodale modellen, met afhandeling van de complexe pipeline van audio-encoding tot spraaksynthese.