feat(voxtral): STT-Satellit (Profil) + 2-Karten-GPU-Pinning

Neuer xtts/voxtral-Container (RVS<->vLLM-Realtime-WS, adaptiver Endpointer), hinter Compose-Profil 'voxtral' (braucht >=16GB VRAM, startet nicht im Default). Bestehende Satelliten auf die zwei 3060 gepinnt: whisper->GPU0, f5tts->GPU1, llama-swap->GPU0. Co-Authored-By: Claude Opus 4.8 <noreply@anthropic.com>
2026-08-15 01:21:43 +02:00
parent fd6ba73f59
commit 174d6d643d
5 changed files with 639 additions and 3 deletions
@@ -0,0 +1,5 @@
+# Voxtral-Bridge ist reine CPU-Glue (RVS-WS <-> vLLM-Realtime-WS). Das Modell
+# selbst laeuft im separaten voxtral-vllm-Container (GPU). Deshalb hier KEIN
+# torch/vllm — nur der WebSocket-Client + numpy fuer die RMS-Energiemessung.
+websockets>=12.0
+numpy>=1.24