Parta Runtime Lite / Ръководство / Инсталирайте и стартирайте на Linux
Инсталирайте и стартирайте на Linux
Parta Runtime Lite е един преносим изпълним файл. Няма инсталатор, няма фонова услуга и няма акаунт. Тази страница обхваща всичко от изтеглянето до първата ви заявка на Linux.
Компилацията Linux е компилирана под Ubuntu 26.04. Това е оригинален двоичен файл на Linux и работи по същия начин на голи метални Linux, но ако откриете нещо специфично за дистрибуцията, уведомете ни чрез Формуляр за бъгове и обратна връзка, това ни помага да тестваме в реални среди.
1. Изтегляне
Вземи текущата версия от Разделът за изтегляне и проверка на началната страница. Изтеглянето е zip файл, съдържащ изпълним файл, примерен конфигурационен файл и лицензионни уведомления от трети страни.
2. Проверете контролната сума
Преди да стартирате каквото и да било, проверете контролната сума на файла SHA256 спрямо стойността, публикувана до изтеглянето:
sha256sum parta-runtime-lite-linux-cuda.zip
Сравнете изхода с публикувания хеш. Ако не съвпадат, не пускай файла, а го сваляй отново.
3. Извлечете архива
Разархивирайте архива където и да е на диска, локална папка, външно устройство или мрежово споделяне. Не се изисква достъп до root и нищо не се записва извън папката, в която извличате.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Конфигуриране
Отвори файла lite.toml в извлечената папка и set model.path към GGUF модел файл, който вече имате:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Задайте стойността gpu_layers = 0 да се движи само на CPU. Тръгвай server.host като 127.0.0.1 За да поддържате сървъра достъпен само от вашата собствена машина, или да го настроите на 0.0.0.0 За да приемат връзки от други устройства във вашата мрежа.
5. Стартирайте програмата
Маркирайте двоичния изпълним файл, след което го стартирайте:
chmod +x parta-runtime-lite ./parta-runtime-lite
При стартиране той отпечатва заредения модел и адреса, който слуша. Оставете терминала отворен или го стартирайте под tmux/screen/nohup, ако искате да продължи да работи, след като прекъснете връзката. Сървърът работи толкова дълго, колкото се изпълнява процесът.
6. Изпратете заявка
Сървърът използва формати за завършване на чатове съвместими с OpenAI и Anthropic. Всичко, което вече е изградено срещу тези API, работи тук, като го насочите към вашия местен адрес:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
Нещо не работи?
Проверете Формуляр за бъгове и обратна връзка на началната страница или го използвайте, за да ни кажете вашата дистрибуция, версия на ядрото, GPU драйвер и модела, който използвате, това е най-бързият начин да ни помогнете да проследим всичко, специфично за Linux.