Parta Runtime Lite / Gids / Installeer en voer uit op Linux
Installeer en voer uit op Linux
Parta Runtime Lite is een enkel draagbaar uitvoerbaar bestand. Er is geen installatieprogramma, geen achtergrondservice en geen account. Deze pagina behandelt alles, van downloaden tot uw eerste verzoek op Linux.
De Linux-build is gecompileerd onder Ubuntu 26.04. Het is een native Linux binair bestand en werkt op dezelfde manier op bare-metal Linux, maar als je iets distro-specifiek tegenkomt, laat het ons dan weten via de Bug- en feedbackformulier, het helpt ons te testen in echte omgevingen.
1. Download
Haal de huidige build van de Sectie downloaden en verifiëren van de homepage. De download is een zipbestand met het uitvoerbare bestand, een voorbeeldconfiguratiebestand en meldingen van derdepartijlicenties.
2. Controleer de checksum
Voordat u iets uitvoert, controleert u de SHA256-controlesom van het bestand met de waarde die naast de download is gepubliceerd:
sha256sum parta-runtime-lite-linux-cuda.zip
Vergelijk de output met de gepubliceerde hash. Als ze niet overeenkomen, start het bestand dan niet, download het opnieuw.
3. Pak het archief uit
Pak het archief ergens op de schijf, een lokale map, een externe schijf of een netwerkshare uit. Er is geen root-toegang vereist en er wordt niets geschreven buiten de map waarnaar u uitpakt.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Configureer
Open lite.toml in de uitgepakte map en stel model.path in op een GGUF-modelbestand dat je al hebt:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Stel de waarde in gpu_layers = 0 om alleen op CPU te draaien. Vertrek server.host als 127.0.0.1 om de server alleen bereikbaar te houden vanaf je eigen machine, of stel hem in op 0.0.0.0 om verbindingen van andere apparaten op je netwerk te accepteren.
5. Het programma uitvoeren
Markeer het binaire uitvoerbare bestand en voer het vervolgens uit:
chmod +x parta-runtime-lite ./parta-runtime-lite
Bij het opstarten drukt het het geladen model af en het adres waarnaar het luistert. Laat de terminal open of voer deze uit onder tmux/screen/nohup als u wilt dat deze blijft werken nadat u de verbinding hebt verbroken. De server blijft actief zolang het proces actief is.
6. Stuur een verzoek
De server spreekt OpenAI-compatibele en Anthropic-compatibele chatvoltooiingsformaten. Alles wat al tegen die APIs is gebouwd, werkt hier door het op je lokale adres te richten:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
Werkt er iets niet?
Controleer het Bug- en feedbackformulier op de startpagina, of gebruik het om ons uw distro, kernelversie, GPU-stuurprogramma en het model dat u gebruikt te vertellen. Dat is de snelste manier om ons te helpen alles wat Linux-specifiek is op te sporen.