Parta Runtime Lite / Ghid / Instalează și rulează
Instalează și rulează
Parta Runtime Lite este un singur executabil portabil. Nu există instalator, niciun serviciu de fundal și niciun cont. Această pagină acoperă totul, de la descărcare până la prima ta cerere.
1. Descarcă
Ia build-ul curent de la Secțiunea de descărcare și verificare de pe pagina principală. Descărcarea este un fișier zip care conține executabilul, un fișier de configurare exemplu și notificări de licență de la terți.
2. Verifică suma de control
Înainte de a rula orice, verifică suma de verificare a SHA256 fișierului față de valoarea publicată lângă descărcare. Pe Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Compară ieșirea cu hash-ul publicat. Dacă nu se potrivesc, nu rula fișierul, descarcă-l din nou.
3. Extrage arhiva
Decomprimă arhiva oriunde pe disc, într-un folder local, pe un hard disk extern sau pe o partajare de rețea. Nu sunt necesare drepturi de administrator și nimic nu este scris în afara folderului în care extragi.
4. Configurare
Deschide fișierul lite.toml în folderul extras și setat model.path către un fișier model GGUF pe care îl ai deja:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Setează valoarea gpu_layers = 0 să ruleze doar pe CPU. Pleacă server.host ca 127.0.0.1 pentru a menține serverul accesibil doar de pe propria ta mașină sau pentru a-l seta pe 0.0.0.0 să accepte conexiuni de pe alte dispozitive din rețeaua ta.
5. Rulează programul
Rulează programul parta-runtime-lite.exe. La pornire, afișează modelul încărcat și adresa pe care ascultă. Lasă fereastra deschisă, serverul rulează atât timp cât procesul rulează.
6. Trimite o cerere
Serverul vorbește formate de completare a chatului compatibile OpenAI și Anthropic. Orice este deja construit împotriva acelor API funcționează aici, îndreptându-l către adresa ta locală:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Ceva nu funcționează?
Verifică Formular de eroare și feedback pe pagina principală sau trimite-support(at)parta.app email direct cu versiunea de build, GPU/OS și modelul pe care îl folosești.