IA local y RAG
LLM local: ejecutar un modelo abierto en tu equipo con Ollama
Ollama descarga un modelo y lo ejecuta en tu ordenador, sin clave de API. El quickstart usa gemma4:e2b, unos 7,2 GB, y recomienda 8 GB de VRAM. El uso local no tiene suscripción.
| Herramientas | Ollama (principal)Clauden8n |
|---|---|
| Qué necesitas |
|
| Coste aprox. | 0 € de suscripción por ejecutar modelos en tu hardware: la página de precios lo marca ilimitado. La nube es otro producto (Pro, 20 USD/mes, 17,88 € al cambio del BCE del 13 oct 2026) y no hace falta para esta ficha. |
| Tiempo de montaje | 40 min (primera vez) |
| Nivel | Media |
| Plan gratis | Puede bastar para pruebas |
Prompt listo para usar
Responde en español, solo con el texto que te pego a continuación y con nada que tengas que suponer. Texto: [TEXTO] Quiero esta salida y no otra: [SALIDA]. Si el texto no trae un dato, escribe «no consta». No completes cifras, nombres ni fechas. No envíes este texto a ningún servicio externo. No envíes ni borres nada sin pedirme confirmación.
| Variable | Qué poner | Ejemplo |
|---|---|---|
[TEXTO] | El documento o el fragmento que sí puede usar el modelo | Horario: lunes a viernes, 9 a 14. Recogida en el local. No hay envíos. |
[SALIDA] | Formato concreto de la respuesta | tres viñetas: horario, cómo se recoge el pedido, qué no ofrecemos |
Se pega en el chat local (`ollama run`) o como mensaje de usuario contra localhost. No envíes ni borres nada sin pedirme confirmación.
Cómo funciona
- Instala la aplicación, no la nube. En ollama.com/download, macOS, Windows o Linux. En Linux el comando publicado es curl -fsSL https://ollama.com/install.sh | sh. Al abrir, el quickstart dice: inicia sesión para modelos de nube, o elige un modelo local. Para esta ficha, elige local.
- Descarga el modelo del quickstart. ollama pull gemma4:e2b. La documentación cifra la descarga en unos 7,2 GB y recomienda 8 GB de VRAM o memoria unificada. Una ventana de contexto más larga pide más memoria.
- Habla con el modelo en la terminal. ollama run gemma4:e2b abre el chat en el equipo. /bye sale. No hace falta clave. El servidor local, si no está ya en marcha, se arranca en Linux con ollama serve.
- O llama al puerto local desde otro programa. El quickstart enseña un POST a http://localhost:11434/api/chat con el modelo gemma4:e2b, sin cabecera de autorización. La misma ruta existe en /v1/chat/completions, compatible con el cliente de OpenAI.
- No firmes la nube si el requisito es que el texto no salga. Los modelos :cloud corren en servidores de Ollama. La página de precios dice que allí el prompt no se registra ni se usa para entrenar, y que el cómputo está sobre todo en Estados Unidos, con posible ruta a Europa. Eso ya no es local.
Qué resultado esperar
Un chat o una respuesta HTTP del modelo en tu máquina, sin suscripción de Ollama. El quickstart no publica una velocidad ni un ahorro: avisa de que, con menos VRAM de la recomendada, la respuesta puede ir más lenta porque tira de RAM del sistema.
- Qué se hizo
- El quickstart oficial no cuenta un cliente. Documenta la instalación, la descarga de gemma4:e2b y un chat en el propio equipo, más una llamada HTTP a localhost sin clave.
- Cómo fue
- La página de descarga separa las dos vías: local, cuya velocidad depende del hardware, y nube, cuyos nombres acaban en :cloud. Pide leer la doc de GPU antes de elegir. Si no hay plan de pago y se usa la nube, el texto de instalación señala gemma4:cloud como modelo del plan Free.
- A tener en cuenta
- La portada dice que los prompts no se almacenan ni se usan para entrenar. La página de precios precisa ese punto para el servicio de nube (no se registran ni se entrena con ellos) y sitúa el cómputo sobre todo en Estados Unidos. En local el proceso está en tu máquina. Esta ficha no está probada en un equipo concreto: no se afirma una velocidad.
Límites y precauciones
- 7,2 GB de disco para ese modelo concreto, más la aplicación. Otros modelos pesan más. Esta ficha no lista el catálogo.
- 8 GB de VRAM recomendados para gemma4:e2b. No es un mínimo publicado como bloqueo: con menos, la documentación dice que puede funcionar más lento.
- El plan Free de la nube incluye uso de arranque para un grupo pequeño de modelos y gemma4:cloud en el texto de descarga. Eso gasta el cupo de la nube, no es la ficha local.
- Pro de la nube son 20 USD al mes (17,88 € al cambio del 13 oct 2026) e incluye 60 USD de uso. No se necesita para ollama run en local.
- Local significa el proceso en tu equipo. Si el mismo prompt se pega en Claude o ChatGPT de la nube, ya ha salido del equipo. El prompt de la ficha lo prohíbe, pero el programa no lo impide.
- Un modelo local también se equivoca. «No consta» hay que comprobarlo: puede afirmar un dato que no estaba en el texto.
- No expongas el puerto 11434 a internet. El quickstart lo usa en localhost.
Variantes
- claude: En macOS, Ollama puede conectarse a Claude Desktop desde Apps para usar modelos de Ollama dentro de Claude. El quickstart lo describe aparte del chat local. Revisa qué se queda en el equipo y qué sigue yendo a Anthropic.
- n8n: El nodo AI Agent de n8n puede usar el modelo local como chat model. La licencia de n8n Community es 0 €. El flujo sigue siendo tuyo.
Un LLM local es un modelo que corre en el ordenador donde estás, no en la cuenta de un proveedor. Ollama es quien documenta ese arranque con tres páginas que se pueden seguir sin interpretación: la descarga, el quickstart y la de precios. No hay en esas páginas un negocio con nombre ni una cifra de horas. Hay un procedimiento y un precio: cero dólares de suscripción mientras el modelo no salga de tu hardware.
La descarga está en ollama.com/download, para macOS, Windows y Linux. En Linux publican el comando curl contra install.sh. Al abrir la aplicación, el quickstart distingue el inicio de sesión, que hace falta para los modelos de nube, y la elección de un modelo local. Esta ficha se queda en la segunda. El modelo que el quickstart usa de ejemplo es gemma4:e2b. Lo bajas con ollama pull gemma4:e2b. El tamaño que escriben es de unos 7,2 GB. La memoria que recomiendan es de unos 8 GB de VRAM, o la memoria unificada de un Mac. Si pides una ventana de contexto más larga, hace falta más memoria. Si tienes menos VRAM, Ollama puede apoyarse en la RAM del sistema y la respuesta va más lenta. No dicen que se niegue a arrancar.
El chat es ollama run gemma4:e2b. Se escribe en la terminal y se sale con /bye. En Linux, si el servicio no está levantado, ollama serve lo arranca. Para otro programa, el quickstart enseña un POST a http://localhost:11434/api/chat, con el nombre del modelo y un mensaje, sin clave. La misma máquina expone /v1/chat/completions, el formato de OpenAI, también sin autorización. La respuesta se lee en message.content o en choices[0].message.content, según la ruta. Eso permite enchufar el modelo a una herramienta que ya hable el dialecto de OpenAI, siempre que apunte a localhost y no a la URL de la nube.
La nube es el otro producto y conviene no mezclarla cuando el motivo de instalar en local es que un texto no viaje. Los nombres de nube acaban en :cloud. Van a servidores de Ollama. La página de precios dice que esos prompts no se registran y no se usan para entrenar, que el cómputo está sobre todo en Estados Unidos y que pueden enrutar a Europa si hace falta capacidad. La portada resume la misma idea de privacidad para el producto en conjunto. Es un compromiso del proveedor, no la definición de local. Local es el proceso en tu máquina. Pro, en la nube, son 20 USD al mes e incluyen 60 USD de uso. Al tipo del BCE del 13 de octubre de 2026, 1,1188 dólares por euro, son 17,88 euros. No entran en el coste de esta ficha, que es 0.
El prompt de arriba está pensado para el chat local: un texto entre corchetes y un formato de salida. Pide «no consta» cuando el dato no está. Un modelo pequeño también rellena huecos. Hay que leer la respuesta al lado del texto original, igual que se haría con un modelo de pago. Y el puerto 11434 se queda en localhost. Publicarlo en la red del local convierte el modelo en un servicio, que ya no es el quickstart.
Quien quiera usar ese modelo como pieza de un flujo, y no como chat, tiene la ficha del nodo AI Agent de n8n. Quien no quiera instalar nada y acepte la nube de Anthropic, con sus límites de plan, tiene la ficha de agentes de IA gratis. Son tres sitios distintos. Este es solo el modelo en el equipo.
Preguntas frecuentes
¿Hay que pagar una suscripción?
No para el uso local. La página de precios dice que ejecutar modelos en tu propio hardware es siempre ilimitado, también en el plan Free de 0 USD.
¿Qué modelo instalo primero?
El quickstart usa gemma4:e2b. Cifra la descarga en unos 7,2 GB y recomienda 8 GB de VRAM o memoria unificada en Mac.
¿Hace falta una clave?
No en local. La clave es para los modelos de la nube de Ollama. El ejemplo de localhost no lleva cabecera Authorization.
¿Los textos salen del equipo?
No si llamas a localhost o usas ollama run. Si eliges un modelo acabado en :cloud, la petición va a los servidores de Ollama, mayoritariamente en Estados Unidos.
¿Puedo usarlo como cerebro de un flujo?
Sí, como modelo de chat de un nodo. En esta web el flujo está en la ficha de n8n. Ollama no trae solo el conector con tus hojas: eso es el flujo.
Telegram. Suscríbete al canal de Telegram para no perderte nada y estar al loro de todo lo nuevo en automatización y agentes de IA.Unirme al canal