Para quién es: Personas con interés técnico y equipos que valoran la privacidad o el trabajo sin conexión y quieren probar modelos abiertos.

Qué significa «en local»

Cuando usas un chatbot en la web, el modelo se ejecuta en los servidores del proveedor. Ejecutarlo en local significa descargar el modelo y hacerlo funcionar en tu propio ordenador o móvil. Solo es posible con modelos de pesos abiertos, es decir, aquellos cuyo creador publica los parámetros para que cualquiera pueda usarlos según su licencia.

Ventajas

Los motivos más habituales para trabajar en local son:

  • Privacidad: los textos y archivos no salen de tu equipo.
  • Trabajo sin conexión: útil en viajes o entornos sin red.
  • Control: eliges la versión del modelo y no cambia sin avisar.
  • Experimentación: puedes probar distintos modelos abiertos y compararlos.

Inconvenientes

Los modelos más capaces son enormes. Reflection, por ejemplo, publicó en octubre de 2026 Beam, un modelo abierto de 501.000 millones de parámetros: activa 23.000 millones por token, pero alojarlo exige mucha memoria, fuera del alcance de un portátil. En la práctica, en un ordenador personal se usan modelos pequeños o versiones cuantizadas, que ocupan menos a cambio de algo de calidad. También eres responsable de actualizar y proteger tu instalación.

Empezar con Ollama

Ollama es una de las herramientas más usadas para ejecutar modelos en local. Según su guía de inicio rápido, se descarga para macOS, Windows o Linux, y al abrir la aplicación o ejecutar el comando ollama en la terminal se siguen unas indicaciones de configuración. Puedes elegir un modelo local o iniciar sesión para usar modelos en la nube de Ollama.

En macOS, la documentación explica que puedes conectar Ollama a aplicaciones de escritorio como Claude o ChatGPT desde el apartado Apps, y elegir qué modelos de Ollama usar en ellas. IARADIA no ha ejecutado estos pasos para esta guía; sigue la documentación oficial, que se actualiza con cada versión.

Otras opciones locales

No todo son chatbots. EmbeddingGemma 2, de Google, es un modelo abierto de 740 millones de parámetros para buscar por significado en textos, imágenes, audio y vídeo directamente en el dispositivo. Según Google, en su versión cuantizada necesita unos 191 MB de memoria para solo texto en un Pixel 11 Pro. Es un ejemplo de modelo pequeño pensado para el móvil.

Cómo elegir un modelo para tu equipo

Antes de descargar, comprueba:

  • La licencia: si permite uso comercial y en qué condiciones.
  • El tamaño y la memoria que necesita, que suele indicar la ficha del modelo.
  • El idioma: no todos los modelos pequeños funcionan igual de bien en español.
  • La tarea: conversación, programación, resumen o búsqueda semántica.

Caso práctico: consultar tus apuntes sin conexión

Un estudiante quiere hacer preguntas sobre sus apuntes durante un viaje sin internet. Una combinación posible es un modelo pequeño de conversación para responder y un modelo de embeddings para encontrar los fragmentos relevantes de los apuntes, como en un sistema RAG. Ambos funcionan en el portátil, y los apuntes no salen del equipo. El resultado será menos brillante que el de un gran modelo en la nube, pero suficiente para repasar conceptos.

Preguntas frecuentes

¿Necesito una tarjeta gráfica? No siempre: los modelos pequeños funcionan en muchos ordenadores recientes, aunque más despacio. ¿Es gratis? El software suele serlo y los modelos abiertos se descargan sin pagar, pero consumes electricidad y espacio en disco. ¿Puedo usarlo en mi empresa? Depende de la licencia de cada modelo; revísala antes.

Límites

Un modelo local pequeño suele ser menos capaz que los grandes modelos en la nube, sobre todo en razonamiento complejo. Y ejecutarlo en tu equipo reduce el envío de datos, pero no hace segura automáticamente una aplicación: revisa qué guarda en disco y quién tiene acceso al ordenador.

Fuentes y fecha

Guía original firmada por Ivan Quiros Mortera y redactada con ayuda de IA a partir de la documentación oficial enlazada, leída el 24 de octubre de 2026. No se atribuye revisión humana ni pruebas propias de los productos citados. Si detectas un error, escríbenos.

Cómo elaboramos y actualizamos este contenido