Aplicaciones › Desarrollo

LiteLLM

Una sola API para más de 100 proveedores de modelos de IA

BerriAI

LiteLLM en Colombia: tu gateway de modelos de IA, en tu servidor

Un gateway de código abierto que pone más de 100 proveedores de modelos detrás de una sola API, con el formato de OpenAI. Claves virtuales, presupuestos y control del gasto, en tu servidor cloud en Colombia. Lo instalas tú con Docker, o te lo instalamos gratis.

Ver servidores cloud · Desde $41.930/mes

Precio regular: $59.900/mes−30% primer período

Al contratar 1 mes · clientes nuevos

Ver el catálogo
ProyectoActivaúltimo cambio 16 oct 2026
LicenciaMITMIT, salvo la carpeta enterprise, con licencia aparte
DóndeServidor clouda mano con root, o te la instalamos gratis
CategoríaDesarrollover sus aplicaciones

Qué es LiteLLM y qué hace

LiteLLM es un gateway de IA de código abierto, hecho por BerriAI. Le hablas con el formato de OpenAI y él llama al proveedor que elijas: OpenAI, Anthropic, Gemini, Mistral, modelos propios con Ollama o vLLM, y así hasta más de cien.

Viene en dos formas: una librería de Python para tu código, o un servidor —el proxy— que pones en el centro para todo tu equipo. Esta página es la del servidor: un solo punto de entrada, con sus claves, sus límites y su panel.

Cambiar de proveedor deja de ser reescribir código. Tus aplicaciones siguen hablando la misma API, y el cambio lo haces en el gateway.

Qué puedes hacer con LiteLLM

Para qué se pone un gateway delante de los modelos.

Una sola puerta para todo

Tus aplicaciones llaman a una URL con el formato de OpenAI, y el gateway las lleva al modelo que toque.

Saber cuánto gasta cada quien

Gasto por clave, por usuario y por proyecto, con presupuestos y límites de uso.

No repartir tus claves de proveedor

A cada app o persona le das una clave virtual. Las de tus proveedores se quedan en el servidor.

Que una falla no te pare

Reintentos y respaldo entre despliegues: si uno falla, la llamada pasa a otro.

Cómo desplegar LiteLLM en Conexcol

LiteLLM corre como un servicio en Linux, con su base de datos, no como una aplicación PHP: no cabe en el hosting con cPanel. Va en un servidor cloud, y lo instalas tú con Docker o te lo instalamos gratis.

La instalas tú con root, o te la instalamos gratis

Un servidor cloud a tu nombre, con root. La aplicación la instalas tú siguiendo los pasos de abajo, o la instalamos nosotros, gratis: pídela por ticket cuando contrates el servidor.

Cuándo elegir esta vía. Cuando la aplicación no es un sitio web ni llega preinstalada, o quieres una versión o una configuración concretas.

Dificultad: Administración de sistemas, o ninguna si la instalamos nosotros · Tiempo: Lo que tarde la aplicación

La master key es la llave del gateway: trátala como la contraseña de root, no la subas a un repositorio y cámbiala si se filtra. Y guarda el .env: si regeneras la salt key, las claves de proveedor guardadas dejan de poder leerse.

  • Contrata el servidor cloud — Linux, con root. Su guía de producción pide, como piso, 1 vCPU y 4 GB de memoria por cada proceso del gateway, y la base Postgres va aparte: el de 6 vCPU y 8 GB. ¿Prefieres que lo instalemos nosotros? Pídelo por ticket: es gratis.
  • Descarga el compose y genera las claves — Con Docker instalado, entra por SSH y, en una carpeta nueva: curl -sSLO https://github.com/BerriAI/litellm/raw/main/docker/docker-compose.quickstart.yml. Luego crea la master key y la salt key: printf 'LITELLM_MASTER_KEY=sk-%s\nLITELLM_SALT_KEY=sk-%s\n' "$(openssl rand -hex 32)" "$(openssl rand -hex 32)" > .env
  • Arráncalo — docker compose -f docker-compose.quickstart.yml up -d. Levanta el gateway en el puerto 4000 y una base Postgres que guarda tus modelos, tus claves y el registro de gasto.
  • Entra al panel y agrega un modelo — Abre http://IP-de-tu-servidor:4000/ui. El usuario es admin y la contraseña, tu LITELLM_MASTER_KEY. En Models + Endpoints eliges el proveedor y pegas su clave.
  • Crea una clave virtual — En Virtual Keys, + Create New Key. Esa es la que le das a cada aplicación, no la maestra; se muestra una sola vez. Tus apps apuntan a http://IP-de-tu-servidor:4000 con cualquier SDK de OpenAI.
  • Fija la versión y cierra el puerto — Para producción, cambia latest por una versión fija en el compose. Si sólo lo usan aplicaciones del mismo servidor, añade LITELLM_BIND=127.0.0.1: al .env, vuelve a correr el up -d y escuchará sólo en la máquina.

Si la instalamos nosotros, te entregamos el acceso y queda a tu nombre. Desde ahí, el soporte de Conexcol cubre el servidor —que encienda, que tenga red, que responda—; la aplicación y sus datos son tuyos.

Precio regular: $59.900/mes−30% primer período

Al contratar 1 mes · clientes nuevos

Lo que más se usa de LiteLLM

Lo que trae la parte libre, según su propia documentación.

Más de 100 proveedores

Chat, embeddings, imágenes, audio, lotes y reordenamiento, todo con la API de OpenAI.

Claves virtuales

Cada una con su presupuesto, sus límites de uso y los modelos a los que puede llamar.

Panel de administración

En /ui agregas modelos, creas claves, ves el gasto y pruebas en el Playground, sin ficheros de configuración.

Balanceo de carga

Reparte las llamadas entre varios despliegues del mismo modelo, con reintentos y respaldo.

Guardrails y MCP

Controles sobre lo que entra y sale del modelo, y un gateway MCP para darle herramientas a cualquier modelo.

Registro donde quieras

Envía cada llamada a herramientas de observabilidad como Langfuse o MLflow.

Quién usa LiteLLM

Quien usa varios modelos y quiere orden en las claves y en la cuenta.

Equipos de plataforma

Un servicio central que da acceso a los modelos, con autenticación, límites y gasto por proyecto y por usuario.

Desarrolladores

Cambian de proveedor o de modelo sin tocar el código de la aplicación.

Empresas con varias apps de IA

Cada aplicación con su clave y su presupuesto, y el gasto de todas en un mismo panel.

LiteLLM en cifras

El proyecto, en su repositorio.

61.000

estrellas en GitHub Repositorio de LiteLLM en GitHub · consultado el 2026-10-16

Dónde seguir a LiteLLM

Enlaces al proyecto, no a nosotros. LiteLLM es software de terceros: quien decide su rumbo es BerriAI.

Sitio oficial

La fuente de verdad del proyecto: descargas, novedades y versiones.

www.litellm.ai

Documentación

El manual del fabricante. Si esta ficha y el manual discrepan, manda el manual.

docs.litellm.ai

Código fuente

El repositorio público: el ritmo del proyecto y dónde se reportan fallos.

github.com

Comunidad y foro

Donde pregunta quien ya lo usa. Suele responder antes que cualquier soporte.

discord.gg

Preguntas frecuentes sobre LiteLLM

¿Lo tengo que instalar yo?

No. Te lo instalamos gratis: pídelo por ticket cuando contrates tu servidor cloud. Si prefieres hacerlo tú, son los pasos de esta página.

Su guía de producción pide, como piso, 1 vCPU y 4 GB de memoria por cada proceso del gateway, y además corre Postgres. Por eso, el de 6 vCPU y 8 GB.

El núcleo, sí: licencia MIT. Lo que está en la carpeta enterprise del repositorio tiene licencia comercial de BerriAI, y usarlo en producción exige su licencia. Según su documentación, las claves virtuales, los presupuestos, el panel, el balanceo y los guardrails son de la parte libre; el SSO es gratis hasta cinco usuarios; más allá, requiere licencia.

Los de más de cien proveedores, y también modelos que corras tú con Ollama o vLLM. El consumo lo pagas a cada proveedor, con tu clave; Conexcol no revende modelos.

Lo que mandes a un modelo va a su proveedor: eso depende de cuál elijas. Las claves, los modelos configurados y el registro de gasto se quedan en la base Postgres de tu servidor en Colombia.

Si buscas algo parecido

Sus vecinos: Langfuse, para ver cada llamada que pasa por el gateway, y Ollama, para sumar modelos que corren en tu propio servidor.

  • LangfuseObservabilidad y evaluación para tus aplicaciones con IA
  • OllamaModelos de IA abiertos, corriendo en tu servidor
  • CoolifyDespliegue autoalojado
  • LaravelFramework PHP · software libre
  • BootstrapFramework CSS · el más usado del mundo
  • CodeIgniterFramework PHP ligero
Ver las 384 aplicaciones ›

Todos tus modelos, detrás de una sola puerta

Contrata el servidor cloud y pídenos LiteLLM: te lo instalamos gratis. O instálalo tú con Docker siguiendo los pasos de arriba.

Precio regular: $59.900/mes−30% primer período

Al contratar 1 mes · clientes nuevos

LiteLLM es software de terceros (BerriAI, MIT, salvo la carpeta enterprise, con licencia aparte). Conexcol Cloud Colombia S.A.S. actúa como proveedor de infraestructura: no otorga ni comercializa licencias de ese software, ni lo representa. Los nombres y logotipos pertenecen a sus titulares. Términos y Condiciones.