Parta Runtime Lite / Guía / Instalar y ejecutar
Instalar y ejecutar
Parta Runtime Lite es un único ejecutable portátil. No hay instalador, ni servicio en segundo plano, ni cuenta. Esta página cubre todo, desde la descarga hasta tu primera petición.
1. Descargar
Consigue la versión actual desde la Sección de descarga y verificación de la página principal. La descarga es un archivo zip que contiene el ejecutable, un archivo de configuración de ejemplo y avisos de licencia de terceros.
2. Verificar la suma de comprobación
Antes de ejecutar cualquier cosa, comprueba la suma de comprobación SHA256 del archivo con el valor publicado junto a la descarga. En Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Compara la salida con el hash publicado. Si no coinciden, no ejecutes el archivo, descárgalo de nuevo.
3. Extraer el archivo
Descomprime el archivo en cualquier parte del disco, una carpeta local, un disco externo o un recurso compartido de red. No se requieren derechos de administrador y nada se escribe fuera de la carpeta a la que extraes.
4. Configurar
Abre el archivo lite.toml en la carpeta extraída y en set model.path a un archivo de modelo GGUF que ya tienes:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Fija el valor gpu_layers = 0 para funcionar solo con CPU. Salir server.host como 127.0.0.1 para mantener el servidor accesible solo desde tu propia máquina, o configúralo en 0.0.0.0 para aceptar conexiones de otros dispositivos de tu red.
5. Ejecutar el programa
Ejecuta el programa parta-runtime-lite.exe. Al arrancar imprime el modelo cargado y la dirección en la que está escuchando. Deja la ventana abierta, el servidor funciona mientras el proceso esté en marcha.
6. Enviar una solicitud
El servidor habla de formatos de finalización de chat compatibles con OpenAI y Anthropic. Todo lo que ya se construye contra esos API funciona aquí apuntando a tu dirección local:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
¿Algo que no funciona?
Revisa el Formulario de errores y retroalimentación en la página principal, o envía un correo directo support(at)parta.app con tu versión de compilación, GPU/OS y el modelo que estás usando.