Parta Runtime Lite / Guide / Installer og kør
Installer og kør
Parta Runtime Lite er en enkelt bærbar eksekverbar fil. Der er ingen installatør, ingen baggrundstjeneste og ingen konto. Denne side dækker alt fra download til din første anmodning.
1. Download
Få den nuværende build fra Download og verificér sektionen på forsiden. Downloadet er en zip-fil, der indeholder den eksekverbare fil, en eksempelkonfigurationsfil og tredjepartslicensmeddelelser.
2. Verificér checksummen
Før du kører noget, skal du tjekke filens SHA256 checksum mod den værdi, der er offentliggjort ved siden af downloadet. Om Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Sammenlign outputtet med den publicerede hash. Hvis de ikke matcher, så kør ikke filen, download den igen.
3. Udtræk arkivet
Pak arkivet ud hvor som helst på disk, i en lokal mappe, på et eksternt drev eller på et netværksdeling. Der kræves ingen administratorrettigheder, og intet skrives uden for den mappe, du udpakker til.
4. Konfigurér
Åbn filen lite.toml i den udpakkede mappe og sættet model.path til en GGUF modelfil, du allerede har:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Sæt værdien gpu_layers = 0 At køre kun på CPU. Gå server.host som 127.0.0.1 at holde serveren tilgængelig kun fra din egen maskine, eller sæt den til 0.0.0.0 for at acceptere forbindelser fra andre enheder på dit netværk.
5. Kør programmet
Kør programmet parta-runtime-lite.exe. Ved opstart printer den den indlæste model og adressen, den lytter på. Lad vinduet være åbent, serveren kører så længe processen kører.
6. Send en anmodning
Serveren har OpenAI-kompatible og Anthropic-kompatible chat-fuldførelsesformater. Alt, der allerede er bygget op imod disse API, fungerer her ved at pege på din lokale adresse i stedet:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Noget virker ikke?
Tjek Fejl- og feedbackformular på forsiden, eller send support(at)parta.app direkte til din build-version, GPU/OS og den model, du bruger.