Un administrador Linux usa Tailscale para acceder a su modelo local de lenguaje (LLM) desde cualquier dispositivo, eliminando la necesidad de ChatGPT Plus.
Korbin Brown, administrador de sistemas Linux, logró acceder a su modelo local de lenguaje (LLM) desde cualquier dispositivo usando Tailscale, una VPN basada en WireGuard. Esto le permitió dejar de pagar la suscripción de ChatGPT Plus, manteniendo la privacidad y el control total sobre sus datos.
Por qué importa: Esta solución combina la potencia de modelos locales con la flexibilidad de acceso remoto seguro, sin depender de servicios en la nube ni costos recurrentes.
Lo esencial
Korbin ejecuta un LLM local en un escritorio reutilizado con Ollama y Open WebUI.
Tailscale crea una red privada que conecta todos sus dispositivos sin exponer el servidor a Internet público.
El acceso remoto se realiza vía HTTPS gracias a Tailscale Serve, que emite certificados TLS automáticamente.
Imagen de referencia: XDA Developers.
Implementación del LLM local
El servidor local corre Ollama como servicio en segundo plano, que aloja modelos como Qwen2.5-Coder, capaces de tareas cotidianas con rendimiento comparable a modelos en la nube. Open WebUI ofrece una interfaz web con historial, búsqueda y carga de archivos, similar a ChatGPT.
Uso de Tailscale para acceso remoto
Tailscale, basado en WireGuard, crea una red privada entre dispositivos sin necesidad de configurar reenvío de puertos ni exponer servicios. Al instalar Tailscale en el servidor, laptop y teléfono, todos los dispositivos se vuelven accesibles mutuamente mediante nombres DNS mágicos, como "home-ai" para el servidor.
Imagen de referencia: XDA Developers.
Seguridad y experiencia de usuario
El acceso inicial era por HTTP, lo que generaba advertencias en navegadores. Tailscale Serve resuelve esto emitiendo certificados TLS para el dominio tailnet, permitiendo conexiones seguras HTTPS sin configuraciones complejas. Así, la experiencia es fluida y segura desde cualquier lugar.
Preguntas frecuentes sobre Tailscale y LLM local
¿Qué modelos puede ejecutar el servidor local?
El hardware usado soporta modelos de hasta 14 mil millones de parámetros, adecuados para tareas diarias con tiempos de respuesta razonables.
Imagen de referencia: XDA Developers.
¿Es necesario abrir puertos en el router para acceder remotamente?
No, Tailscale evita la necesidad de reenvío de puertos al crear una red privada segura entre dispositivos.