Parta Runtime Lite / Ръководство / Инсталирай и стартирай
Инсталирай и стартирай
Parta Runtime Lite е един преносим изпълним файл. Няма инсталатор, няма фонова услуга и няма акаунт. Тази страница обхваща всичко – от изтеглянето до първата ви заявка.
1. Изтегляне
Вземи текущата версия от Разделът за изтегляне и проверка на началната страница. Изтеглянето е zip файл, съдържащ изпълним файл, примерен конфигурационен файл и лицензионни уведомления от трети страни.
2. Проверете контролната сума
Преди да стартирате каквото и да било, проверете контролната сума SHA256 файла спрямо стойността, публикувана до изтеглянето. На Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Сравнете изхода с публикувания хеш. Ако не съвпадат, не пускай файла, а го сваляй отново.
3. Извлечете архива
Разархивирайте архива навсякъде на диска, локална папка, външен диск или мрежов сподел. Не са необходими администраторски права и нищо не се пише извън папката, в която се извлича.
4. Конфигуриране
Отвори файла lite.toml в извлечената папка и set model.path към GGUF модел файл, който вече имате:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Задайте стойността gpu_layers = 0 да се движи само на CPU. Тръгвай server.host като 127.0.0.1 За да поддържате сървъра достъпен само от вашата собствена машина, или да го настроите на 0.0.0.0 За да приемат връзки от други устройства във вашата мрежа.
5. Стартирайте програмата
Стартирай програмата parta-runtime-lite.exe. При стартиране отпечатва заредения модел и адреса, на който слуша. Оставете прозореца отворен, сървърът работи, докато процесът върви.
6. Изпратете заявка
Сървърът използва формати за завършване на чатове съвместими с OpenAI и Anthropic. Всичко, което вече е изградено срещу тези API, работи тук, като го насочите към вашия местен адрес:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Нещо не работи?
Провери Формуляр за бъгове и обратна връзка на началната страница или изпратете support(at)parta.app имейл директно с версията на вашия билд, GPU/OS и модела, който използвате.