Parta Runtime Lite / Guide / Installera och kör
Installera och kör
Parta Runtime Lite är en enda portabel exekverbar fil. Det finns ingen installatör, ingen bakgrundstjänst och inget konto. Den här sidan täcker allt från nedladdning till din första förfrågan.
1. Ladda ner
Hämta den nuvarande versionen från Nedladdnings- och verifieringssektionen på hemsidan. Nedladdningen är en zip-fil som innehåller den körbara filen, en exempelkonfigurationsfil och tredjepartslicensmeddelanden.
2. Verifiera kontrollsumman
Innan du kör något, kontrollera filens SHA256 kontrollsumma mot värdet som publicerats bredvid nedladdningen. Om Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Jämför utdata med den publicerade hashen. Om de inte matchar, kör inte filen, ladda ner den igen.
3. Extrahera arkivet
Packa upp arkivet var som helst på disk, i en lokal mapp, på en extern enhet eller på en nätverksdelning. Inga administratörsrättigheter krävs och inget skrivs utanför mappen du extraherar till.
4. Konfigurera
Öppna filen lite.toml i den extraherade mappen och uppsättningen model.path till en GGUF modellfil du redan har:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Sätt värdet gpu_layers = 0 Att drivas på CPU enast. Gå server.host som 127.0.0.1 för att hålla servern tillgänglig endast från din egen maskin, eller ställ in den till 0.0.0.0 Att acceptera anslutningar från andra enheter i ditt nätverk.
5. Kör programmet
Kör programmet parta-runtime-lite.exe. Vid uppstart skriver den ut den laddade modellen och adressen den lyssnar på. Låt fönstret vara öppet, servern körs så länge processen körs.
6. Skicka en förfrågan
Servern talar OpenAI-kompatibla och Anthropic-kompatibla chattfullföljdsformat. Allt som redan är byggt mot dessa API fungerar här genom att peka på din lokala adress istället:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Något fungerar inte?
Kolla Bugg- och återkopplingsformulär på startsidan, eller mejla support(at)parta.app direkt med din byggversion, GPU/OS och modellen du använder.