LiteLLM
Proxy unificado para proveedores de modelos LLM, con configuración en config.yaml, proveedor local en codex_provider.py y PostgreSQL para persistencia.
Requisitos
- Docker Compose
- Red externa
proxy - Un archivo
.envlocal con las claves de proveedores, claves maestras de LiteLLM y credenciales PostgreSQL - El archivo de autenticación de Codex montado en la ruta definida por el Compose
- Enrutamiento dinámico de Traefik configurado fuera de esta aplicación
Despliegue
cd litellm
docker compose --env-file .env config
docker compose --env-file .env up -d
Operación
docker compose --env-file .env ps
docker compose --env-file .env logs -f litellm
La API se autentica con LITELLM_MASTER_KEY; no publiques esa clave ni el .env.