Despliegue de un modelo local

Puedes conectar Mystilink a un servicio de modelos compatible que se ejecute en esta máquina. El modelo local hay que instalarlo, descargarlo y ejecutarlo por tu cuenta; Mystilink guarda la configuración de conexión y no instala el modelo ni prepara el entorno de GPU por ti.

Distinguir primero local, LAN y nube

localhost o 127.0.0.1 designan el ordenador donde se ejecuta Mystilink. Una dirección de LAN apunta a otra máquina y no es procesamiento dentro del mismo dispositivo. Algunas herramientas de modelos locales ofrecen también modelos en la nube; usar ese nombre de herramienta no significa que la inferencia ocurra en esta máquina.

Para mantener la inferencia en local hay que confirmar a la vez que el modelo elegido se ejecuta aquí, que la dirección apunta al servicio local y que el respaldo en la nube está desactivado o eliminado. Las funciones en línea como cuenta y licencia mantienen sus propios requisitos de red.

Ollama

Instala y arranca el servicio según la guía oficial de Ollama y descarga antes un modelo adecuado para esta máquina y que admita las capacidades de herramientas necesarias. Usa el ID que el servicio muestre realmente, sin copiar la etiqueta de modelo de otra persona.

En Mystilink crea un Provider personalizado; en la interfaz, la «familia de protocolo API» usa openai-compatible. El ejemplo de dirección local por defecto es http://localhost:11434/v1; si cambiaste la dirección o el puerto, escribe tus valores reales. El ejemplo de la interfaz local compatible de Ollama usa la clave de marcador ollama, que no es la contraseña de la cuenta Mystilink ni un control de acceso de seguridad.

Prueba la conexión, añade el ID de modelo exacto, guarda y define el modelo principal. Tras conectar, valida además una conversación real y un flujo que requiera herramientas.

LM Studio

Carga en LM Studio un modelo adecuado para el equipo y arranca el servidor local; consulta la documentación oficial de la interfaz compatible para la dirección y el identificador del modelo.

Si el puerto es 1234, el ejemplo de prefijo compatible es http://localhost:1234/v1; el puerto no es un requisito fijo. Rellena la clave según la autenticación actual del servidor y no des por hecho que todos los servicios locales no requieren autenticación.

Añádelo en Mystilink con el flujo de Provider personalizado, escribe el ID de modelo real y prueba la conversación. Si solo descargaste el modelo sin arrancar el servidor, el escritorio no podrá conectar.

Comprobar antes de guardar

Comprobación	Motivo
El servicio está en marcha y la dirección es accesible	Tener abierta la interfaz de la herramienta no significa que la API esté activa
El modelo está cargado y el ID es correcto	Nombre de archivo, nombre visible e ID de API pueden diferir
Tiene la capacidad de llamada a herramientas necesaria	Que el chat normal funcione no garantiza completar el flujo de herramientas del Agent
El contexto admite la tarea actual	El historial, la carta y la salida de herramientas ocupan contexto
Modelo principal y respaldo bien configurados	Evita pasar automáticamente a la nube si falla lo local

Rendimiento y fallos

El rendimiento local depende del tamaño del modelo, la cuantización, el contexto y el hardware disponible; no hay una cifra fija de memoria válida para todos los modelos. Elige primero un modelo ejecutable según la guía de la herramienta; si las conversaciones largas van lentas, reduce el alcance o abre una conversación nueva.

• Conexión rechazada: comprueba que el servidor está arrancado, el puerto correcto y que localhost apunta a la máquina esperada.
• Modelo no encontrado: copia el ID de la lista actual del servicio y confirma que está descargado o cargado.
• El chat funciona pero las herramientas fallan: revisa la compatibilidad de llamada a herramientas del modelo y la interfaz, sin cambiar la clave repetidamente.
• Falla tras cambiar de ordenador: el modelo y el servidor del equipo anterior no se trasladan con el espacio de trabajo de Mystilink.

No expongas un servicio sin autenticación a la red pública para diagnosticar. Si necesitas un despliegue en LAN, configura autenticación y alcance de acceso en el servicio que gestionas y comprueba la ruta de transmisión.

Guías relacionadas: Modelos grandes y proveedores, Proveedores compatibles, Problemas de conexión, Nota de privacidad.