Parta Runtime Lite / Przewodnik / Instalacja i uruchomienie
Instalacja i uruchomienie
Parta Runtime Lite jest pojedynczym przenośnym plikiem wykonywalnym. Nie ma instalatora, nie ma usługi w tle ani konta. Ta strona obejmuje wszystko, od pobrania po pierwsze zgłoszenie.
1. Pobierz
Pobierz aktualną wersję z Sekcja pobierania i weryfikacji strony głównej. Pobrany plik to plik zip zawierający plik wykonywalny, przykładowy plik konfiguracyjny oraz powiadomienia licencyjne od stron trzecich.
2. Weryfikacja sumy kontrolnej
Przed uruchomieniem czegokolwiek sprawdź sumę kontrolną SHA256 pliku z wartością opublikowaną obok pobrania. O Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Porównaj wynik z opublikowanym skrótem. Jeśli się nie zgadzają, nie uruchamiaj pliku, pobierz go ponownie.
3. Rozpakuj archiwum
Rozpakuj archiwum w dowolnym miejscu na dysku, lokalnym folderze, dysku zewnętrznym lub w udostępnieniu sieciowym. Nie są wymagane żadne uprawnienia administratora i nic nie jest zapisywane poza folderem, do którego się rozpakuje.
4. Konfiguruj
Otwórz plik lite.toml w folderze wyodrębnionym i zestawu model.path do pliku GGUF modelu, który już posiadasz:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Ustaw wartość gpu_layers = 0 Do uruchomienia tylko na CPU. Odejdź server.host jako 127.0.0.1 aby serwer był dostępny tylko z własnego komputera lub ustaw go na 0.0.0.0 Akceptować połączenia z innymi urządzeniami w Twojej sieci.
5. Uruchom program
Uruchom program parta-runtime-lite.exe. Przy starcie drukuje załadowany model oraz adres, na którym słucha. Zostaw okno otwarte, serwer działa tak długo, jak proces trwa.
6. Wyślij prośbę
Serwer mówi OpenAI kompatybilnych i Anthropic formatach dokończenia czatu. Wszystko, co już jest zbudowane przeciwko tym API, działa tutaj, kierując je na twój lokalny adres:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Coś nie działa?
Sprawdź Formularz błędów i opinii Na stronie głównej lub mailowo support(at)parta.app bezpośrednio z wersją buildu, GPU/OS i modelem, którego używasz.