Parta Runtime Lite / Útmutató / Telepítés és futtatás
Telepítés és futtatás
Parta Runtime Lite egyetlen hordozható futtatható fájl. Nincs telepítő, nincs háttérszolgáltatás és fiók. Ez az oldal mindent lefed a letöltéstől az első kérésedig.
1. Letöltés
Szerezd meg a jelenlegi verziót a Letöltés és ellenőrzés szekció a kezdőlapról. A letöltés egy zip fájl, amely tartalmazza a futtatható fájlt, egy mintakonfigurációs fájlt és harmadik fél licencértesítéseit.
2. Ellenőrizd az ellenőrző összeget
Mielőtt bármit futtatnál, ellenőrizd a fájl SHA256 ellenőrzőösszegét a letöltés mellett megjelent érték ellen. Windows-ről:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Hasonlítsd össze a kimenetet a közzétett hash-tel. Ha nem egyeznek, ne futtasd le a fájlt, töltsd le újra.
3. Az archívum kibontása
Oldd ki az archívumot bárhol a lemezen, egy helyi mappán, külső meghajtón vagy hálózati megosztáson. Admin jogokra nincs szükség, és semmi sem írt azon a mappán kívül, ahová kibontasz.
4. Konfigurálás
Nyisd ki a fájlt lite.toml a kicsomagolt mappában és a beállításban model.path egy GGUF modellfájlhoz, ami már megvan:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Állítsd be az értéket gpu_layers = 0 Csak CPU futásra. Távozz server.host mint 127.0.0.1 hogy a szerver csak a saját gépedről legyen elérhető, vagy állítsd be 0.0.0.0 Hogy más eszközökről is fogadj kapcsolatokat a hálózaton.
5. Indítsd el a programot
Indítsd el a programot parta-runtime-lite.exe. Indításkor kinyomtatja a betöltött modellt és a hallgatott címet. Hagyd nyitva az ablakot, a szerver addig fut, amíg a folyamat fut.
6. Küldj kérést
A szerver OpenAI-kompatibilis és Anthropic-kompatibilis csevegési formátumokat használ. Bármi, ami már ezekhez a API ellen épült, működik, ha inkább a helyi címedre irányítod:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Valami nem működik?
Nézd meg a Hiba és visszacsatolás forma a kezdőlapon, vagy közvetlenül írj support(at)parta.app e-mailben a build verzióddal, GPU/OS-szel és a használt modelljel.