Parta Runtime Lite / Vejledning / Installer og kør på Linux
Installer og kør på Linux
Parta Runtime Lite er en enkelt bærbar eksekverbar. Der er ingen installationsprogram, ingen baggrundstjeneste og ingen konto. Denne side dækker alt fra download til din første anmodning på Linux.
Linux build er kompileret under Ubuntu 26.04. Det er en native Linux binær og kører på samme måde på bare-metal Linux, men hvis du rammer noget distro-specifikt, så lad os det vide gennem Fejl- og feedbackformular, det hjælper os med at teste mod virkelige miljøer.
1. Download
Få den nuværende build fra Download og verificér sektionen på forsiden. Downloadet er en zip-fil, der indeholder den eksekverbare fil, en eksempelkonfigurationsfil og tredjepartslicensmeddelelser.
2. Verificér checksummen
Før du kører noget, skal du kontrollere filens SHA256 kontrolsum mod værdien offentliggjort ved siden af download:
sha256sum parta-runtime-lite-linux-cuda.zip
Sammenlign outputtet med den publicerede hash. Hvis de ikke matcher, så kør ikke filen, download den igen.
3. Udtræk arkivet
Udpak arkivet hvor som helst på disken, en lokal mappe, et eksternt drev eller en netværksshare. Der kræves ingen root-adgang, og intet er skrevet uden for den mappe, du udpakker til.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Konfigurér
Åbn filen lite.toml i den udpakkede mappe og sættet model.path til en GGUF modelfil, du allerede har:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Sæt værdien gpu_layers = 0 At køre kun på CPU. Gå server.host som 127.0.0.1 at holde serveren tilgængelig kun fra din egen maskine, eller sæt den til 0.0.0.0 for at acceptere forbindelser fra andre enheder på dit netværk.
5. Kør programmet
Marker den binære eksekverbare, og kør den derefter:
chmod +x parta-runtime-lite ./parta-runtime-lite
Ved opstart udskriver den den indlæste model og den adresse, den lytter til. Lad terminalen være åben, eller kør den under tmux/screen/nohup, hvis du ønsker, at den skal blive ved med at køre, efter du har afbrudt forbindelsen. Serveren kører, så længe processen kører.
6. Send en anmodning
Serveren har OpenAI-kompatible og Anthropic-kompatible chat-fuldførelsesformater. Alt, der allerede er bygget op imod disse API, fungerer her ved at pege på din lokale adresse i stedet:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
Noget virker ikke?
Tjek Fejl- og feedbackformular på hjemmesiden, eller brug den til at fortælle os din distro, kerneversion, GPU-driver og den model du bruger, det er den hurtigste måde at hjælpe os med at spore noget Linux-specifikt.