Parta Runtime Lite / Útmutató / Telepítés és futtatás Linuxon
Telepítés és futtatás Linuxon
Az Parta Runtime Lite egyetlen hordozható végrehajtható fájl. Nincs telepítő, nincs háttérszolgáltatás és nincs fiók. Ez az oldal mindent lefed a letöltéstől az Linux első kéréséig.
Az Linux build az Ubuntu 26.04 alatt van lefordítva. Ez egy natív Linux bináris, és ugyanúgy fut a csupasz fém Linux-en, de ha valami disztróspecifikusat találsz, tudasd velünk az Hiba és visszacsatolás forma visszajelzési űrlapon keresztül, ez segít tesztelni a valós környezetben.
1. Letöltés
Szerezd meg a jelenlegi verziót a Letöltés és ellenőrzés szekció a kezdőlapról. A letöltés egy zip fájl, amely tartalmazza a futtatható fájlt, egy mintakonfigurációs fájlt és harmadik fél licencértesítéseit.
2. Ellenőrizd az ellenőrző összeget
Mielőtt bármit futtatna, ellenőrizze a fájl SHA256 ellenőrző összegét a letöltés mellett közzétett értékkel:
sha256sum parta-runtime-lite-linux-cuda.zip
Hasonlítsd össze a kimenetet a közzétett hash-tel. Ha nem egyeznek, ne futtasd le a fájlt, töltsd le újra.
3. Az archívum kibontása
Csomagolja ki az archívumot bárhol a lemezen, helyi mappában, külső meghajtón vagy hálózati megosztáson. Nincs szükség root hozzáférésre, és semmi sem íródik a kicsomagolt mappán kívülre.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Konfigurálás
Nyisd ki a fájlt lite.toml a kicsomagolt mappában és a beállításban model.path egy GGUF modellfájlhoz, ami már megvan:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Állítsd be az értéket gpu_layers = 0 Csak CPU futásra. Távozz server.host mint 127.0.0.1 hogy a szerver csak a saját gépedről legyen elérhető, vagy állítsd be 0.0.0.0 Hogy más eszközökről is fogadj kapcsolatokat a hálózaton.
5. Indítsd el a programot
Jelölje ki a bináris végrehajtható fájlt, majd futtassa:
chmod +x parta-runtime-lite ./parta-runtime-lite
Indításkor kiírja a betöltött modellt és a hallgatott címet. Hagyja nyitva a terminált, vagy futtassa az tmux/screen/nohup alatt, ha azt szeretné, hogy a kapcsolat leválasztása után is működjön. A szerver addig fut, amíg a folyamat fut.
6. Küldj kérést
A szerver OpenAI-kompatibilis és Anthropic-kompatibilis csevegési formátumokat használ. Bármi, ami már ezekhez a API ellen épült, működik, ha inkább a helyi címedre irányítod:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
Valami nem működik?
Tekintse meg az Hiba és visszacsatolás forma a kezdőlapon, vagy használja a disztribúció, a kernelverzió, az GPU illesztőprogram és az Ön által használt modell megjelölésére. Ez a leggyorsabb módja annak, hogy minden Linux-specifikus dolgot felderítsünk.