Parta Runtime Lite / Guider / Installer et exécuter sur Linux
Installer et exécuter sur Linux
Parta Runtime Lite est un exécutable portable unique. Il n'y a pas d'installateur, pas de service en arrière-plan et pas de compte. Cette page couvre tout, du téléchargement à votre première demande sur Linux.
La version Linux est compilée sous Ubuntu 26.04. Il s'agit d'un binaire Linux natif et fonctionne de la même manière sur Linux nu, mais si vous rencontrez quelque chose de spécifique à la distribution, faites-le nous savoir via le bug Formulaire de bogue et de retour d’information, cela nous aide à tester sur des environnements réels.
1. Téléchargement
Obtenez la version actuelle depuis le Section Télécharger et Vérifier de la page d’accueil. Le téléchargement est un fichier zip contenant l’exécutable, un fichier de configuration d’exemple et des notifications de licence tierces.
2. Vérifier la somme de contrôle
Avant d'exécuter quoi que ce soit, vérifiez la somme de contrôle SHA256 du fichier par rapport à la valeur publiée à côté du téléchargement :
sha256sum parta-runtime-lite-linux-cuda.zip
Comparez la sortie au hachage publié. Si elles ne correspondent pas, ne lancez pas le fichier, téléchargez-le à nouveau.
3. Extraire l’archive
Décompressez l'archive n'importe où sur le disque, un dossier local, un lecteur externe ou un partage réseau. Aucun accès root n'est requis et rien n'est écrit en dehors du dossier dans lequel vous extrayez.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Configurer
Ouvre le fichier lite.toml dans le dossier extrait et ensemble model.path à un fichier modèle GGUF que vous possédez déjà :
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Fixer la valeur gpu_layers = 0 pour fonctionner uniquement CPU. Partez server.host comme 127.0.0.1 pour garder le serveur accessible uniquement depuis votre propre machine, ou le régler sur 0.0.0.0 pour accepter les connexions depuis d’autres appareils de votre réseau.
5. Lancer le programme
Marquez l'exécutable binaire, puis exécutez-le :
chmod +x parta-runtime-lite ./parta-runtime-lite
Au démarrage, il imprime le modèle chargé et l'adresse sur laquelle il écoute. Laissez le terminal ouvert ou exécutez-le sous tmux/screen/nohup si vous souhaitez qu'il continue de fonctionner après votre déconnexion. Le serveur fonctionne aussi longtemps que le processus est en cours d'exécution.
6. Envoyer une demande
Le serveur parle des formats de complétion de chat compatibles OpenAI et Anthropic. Tout ce qui est déjà construit contre ces API fonctionne ici en pointant vers votre adresse locale :
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
Quelque chose ne marche pas ?
Consultez le bug Formulaire de bogue et de retour d’information sur la page d'accueil, ou utilisez-le pour nous indiquer votre distribution, la version du noyau, le pilote GPU et le modèle que vous utilisez, c'est le moyen le plus rapide de nous aider à retrouver tout ce qui est spécifique à Linux.