Parta Runtime Lite / Guía / Instalar y ejecutar en Linux
Instalar y ejecutar en Linux
Parta Runtime Lite es un único ejecutable portátil. No hay instalador, ni servicio en segundo plano ni cuenta. Esta página cubre todo, desde la descarga hasta su primera solicitud en Linux.
La compilación Linux se compila en Ubuntu 26.04. Es un binario Linux nativo y se ejecuta de la misma manera en Linux sin sistema operativo, pero si encuentra algo específico de la distribución, háganoslo saber a través del formulario de errores y comentarios Formulario de errores y retroalimentación, nos ayuda a realizar pruebas en entornos reales.
1. Descargar
Consigue la versión actual desde la Sección de descarga y verificación de la página principal. La descarga es un archivo zip que contiene el ejecutable, un archivo de configuración de ejemplo y avisos de licencia de terceros.
2. Verificar la suma de comprobación
Antes de ejecutar cualquier cosa, verifique la suma de verificación SHA256 del archivo con el valor publicado junto a la descarga:
sha256sum parta-runtime-lite-linux-cuda.zip
Compara la salida con el hash publicado. Si no coinciden, no ejecutes el archivo, descárgalo de nuevo.
3. Extraer el archivo
Descomprima el archivo en cualquier lugar del disco, una carpeta local, una unidad externa o un recurso compartido de red. No se requiere acceso a root y no se escribe nada fuera de la carpeta en la que extrae.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Configurar
Abre el archivo lite.toml en la carpeta extraída y en set model.path a un archivo de modelo GGUF que ya tienes:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Fija el valor gpu_layers = 0 para funcionar solo con CPU. Salir server.host como 127.0.0.1 para mantener el servidor accesible solo desde tu propia máquina, o configúralo en 0.0.0.0 para aceptar conexiones de otros dispositivos de tu red.
5. Ejecutar el programa
Marque el ejecutable binario y luego ejecútelo:
chmod +x parta-runtime-lite ./parta-runtime-lite
Al inicio, imprime el modelo cargado y la dirección en la que está escuchando. Deje el terminal abierto o ejecútelo en tmux/screen/nohup si desea que siga ejecutándose después de desconectarse. El servidor se ejecuta mientras se ejecuta el proceso.
6. Enviar una solicitud
El servidor habla de formatos de finalización de chat compatibles con OpenAI y Anthropic. Todo lo que ya se construye contra esos API funciona aquí apuntando a tu dirección local:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
¿Algo que no funciona?
Consulte el formulario de comentarios y errores Formulario de errores y retroalimentación en la página de inicio, o úselo para indicarnos su distribución, versión del kernel, controlador GPU y el modelo que está usando; esa es la forma más rápida de ayudarnos a rastrear cualquier cosa específica de Linux.