Eduardo David Paredes Vara
29 lines
797 B
Markdown
29 lines
797 B
Markdown
# LiteLLM
|
|
|
|
Proxy unificado para proveedores de modelos LLM, con configuración en `config.yaml`, proveedor local en `codex_provider.py` y PostgreSQL para persistencia.
|
|
|
|
## Requisitos
|
|
|
|
- Docker Compose
|
|
- Red externa `proxy`
|
|
- Un archivo `.env` local con las claves de proveedores, claves maestras de LiteLLM y credenciales PostgreSQL
|
|
- El archivo de autenticación de Codex montado en la ruta definida por el Compose
|
|
- Enrutamiento dinámico de Traefik configurado fuera de esta aplicación
|
|
|
|
## Despliegue
|
|
|
|
```bash
|
|
cd litellm
|
|
docker compose --env-file .env config
|
|
docker compose --env-file .env up -d
|
|
```
|
|
|
|
## Operación
|
|
|
|
```bash
|
|
docker compose --env-file .env ps
|
|
docker compose --env-file .env logs -f litellm
|
|
```
|
|
|
|
La API se autentica con `LITELLM_MASTER_KEY`; no publiques esa clave ni el `.env`.
|