Parta Runtime Lite / Gids / Installeren en uitvoeren
Installeren en uitvoeren
Parta Runtime Lite is één enkel draagbaar uitvoerbaar bestand. Er is geen installateur, geen achtergronddienst en geen account. Deze pagina behandelt alles van download tot je eerste aanvraag.
1. Download
Haal de huidige build van de Sectie downloaden en verifiëren van de homepage. De download is een zipbestand met het uitvoerbare bestand, een voorbeeldconfiguratiebestand en meldingen van derdepartijlicenties.
2. Controleer de checksum
Controleer voordat je iets uitvoert, de SHA256 checksum van het bestand tegen de waarde die naast de download wordt gepubliceerd. Over Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Vergelijk de output met de gepubliceerde hash. Als ze niet overeenkomen, start het bestand dan niet, download het opnieuw.
3. Pak het archief uit
Pak het archief ergens uit op schijf, in een lokale map, op een externe schijf of op een netwerkdeel. Er zijn geen beheerdersrechten vereist en er wordt niets buiten de map geschreven waar je naartoe hebt geextraheerd.
4. Configureer
Open lite.toml in de uitgepakte map en stel model.path in op een GGUF-modelbestand dat je al hebt:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Stel de waarde in gpu_layers = 0 om alleen op CPU te draaien. Vertrek server.host als 127.0.0.1 om de server alleen bereikbaar te houden vanaf je eigen machine, of stel hem in op 0.0.0.0 om verbindingen van andere apparaten op je netwerk te accepteren.
5. Het programma uitvoeren
Start het programma parta-runtime-lite.exe. Bij het opstarten print het het geladen model en het adres waarop het luistert. Laat het venster open, de server draait zolang het proces draait.
6. Stuur een verzoek
De server spreekt OpenAI-compatibele en Anthropic-compatibele chatvoltooiingsformaten. Alles wat al tegen die APIs is gebouwd, werkt hier door het op je lokale adres te richten:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Werkt er iets niet?
Controleer de Bug- en feedbackformulier op de homepage, of mail support(at)parta.app direct met je buildversie, GPU/OS en het model dat je gebruikt.