duffyduckandClaude Opus 4.7
a61ce9ea95
Root cause der langen Render-Zeiten und /tts_stream 400-Errors: daswer123 default ist apiManual/api-Mode — Modell wird pro Request gefetched/reloaded, Streaming unsupported. Fix in xtts/docker-compose.yml: command: ['--listen', '-p', '8020', '-t', 'http://0.0.0.0:8020', '-ms', 'local', '-o', '/app/output', '-mf', '/app/xtts_models', '-sf', '/voices'] -ms local: - Modell dauerhaft im GPU-VRAM (~2GB, passt auf RTX 3060 mit 12GB) - Render startet sofort, kein per-Request-Load mehr - /tts_stream unterstuetzt → echtes progressive streaming - time-to-first-audio ~500ms statt 8-11s xtts/bridge.js: /tts_stream primary, /tts_to_audio/ als Fallback wenn Stream fehlt. Robust: wenn User spaeter den Mode wieder umstellt, fallback greift. Erste Ladung nach dem Wechsel dauert einmalig laenger (Modell ins VRAM laden). Danach: schnell + streaming. Co-Authored-By: Claude Opus 4.7 (1M context) <noreply@anthropic.com>
66 lines
2.4 KiB
YAML
66 lines
2.4 KiB
YAML
# ════════════════════════════════════════════════
|
|
# ARIA XTTS v2 — GPU TTS Server
|
|
# Laeuft auf dem Gaming-PC (RTX 3060)
|
|
# Verbindet sich zum RVS fuer TTS-Requests
|
|
# ════════════════════════════════════════════════
|
|
#
|
|
# Voraussetzungen:
|
|
# - Docker Desktop mit WSL2
|
|
# - NVIDIA Container Toolkit
|
|
# - .env mit RVS-Verbindungsdaten
|
|
#
|
|
# Start: docker compose up -d
|
|
# Test: curl http://localhost:8000/docs
|
|
# ════════════════════════════════════════════════
|
|
|
|
services:
|
|
|
|
# ─── XTTS v2 API Server (GPU) ─────────────────
|
|
xtts:
|
|
image: daswer123/xtts-api-server:latest
|
|
container_name: aria-xtts
|
|
deploy:
|
|
resources:
|
|
reservations:
|
|
devices:
|
|
- driver: nvidia
|
|
count: 1
|
|
capabilities: [gpu]
|
|
ports:
|
|
- "8000:8020"
|
|
volumes:
|
|
- xtts-models:/app/xtts_models # Model-Cache (~2GB)
|
|
- ./voices:/voices # Custom Voice Samples
|
|
environment:
|
|
- COQUI_TOS_AGREED=1
|
|
# Local-Modus: Modell bleibt dauerhaft im GPU-VRAM (~2GB). Vorteile:
|
|
# - Render startet sofort (kein reload pro Request)
|
|
# - /tts_stream funktioniert → echtes Streaming mit ~500ms time-to-first-audio
|
|
# Ohne diesen command: apiManual-Modus, jede Anfrage lädt Modell neu, kein Streaming.
|
|
command: ["--listen", "-p", "8020", "-t", "http://0.0.0.0:8020",
|
|
"-ms", "local",
|
|
"-o", "/app/output",
|
|
"-mf", "/app/xtts_models",
|
|
"-sf", "/voices"]
|
|
restart: unless-stopped
|
|
|
|
# ─── XTTS Bridge (verbindet zu RVS) ───────────
|
|
xtts-bridge:
|
|
build: .
|
|
container_name: aria-xtts-bridge
|
|
depends_on:
|
|
- xtts
|
|
volumes:
|
|
- ./voices:/voices # Shared mit XTTS-Server
|
|
environment:
|
|
- XTTS_API_URL=http://xtts:8020
|
|
- RVS_HOST=${RVS_HOST}
|
|
- RVS_PORT=${RVS_PORT:-443}
|
|
- RVS_TLS=${RVS_TLS:-true}
|
|
- RVS_TLS_FALLBACK=${RVS_TLS_FALLBACK:-true}
|
|
- RVS_TOKEN=${RVS_TOKEN}
|
|
restart: unless-stopped
|
|
|
|
volumes:
|
|
xtts-models:
|