Parta Runtime Lite / Guide / Installer et faire fonctionner
Installer et faire fonctionner
Parta Runtime Lite est un exécutable portable unique. Il n’y a ni installateur, ni service de gestion des comptes, ni compte. Cette page couvre tout, du téléchargement à votre première demande.
1. Téléchargement
Obtenez la version actuelle depuis le Section Télécharger et Vérifier de la page d’accueil. Le téléchargement est un fichier zip contenant l’exécutable, un fichier de configuration d’exemple et des notifications de licence tierces.
2. Vérifier la somme de contrôle
Avant d’exécuter quoi que ce soit, vérifiez la somme de contrôle SHA256 du fichier par rapport à la valeur publiée à côté du téléchargement. À Windows :
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Comparez la sortie au hachage publié. Si elles ne correspondent pas, ne lancez pas le fichier, téléchargez-le à nouveau.
3. Extraire l’archive
Décompressez l’archive n’importe où sur le disque, un dossier local, un disque externe ou un partage réseau. Aucun droit d’administrateur n’est requis et rien n’est écrit en dehors du dossier où vous extrais.
4. Configurer
Ouvre le fichier lite.toml dans le dossier extrait et ensemble model.path à un fichier modèle GGUF que vous possédez déjà :
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Fixer la valeur gpu_layers = 0 pour fonctionner uniquement CPU. Partez server.host comme 127.0.0.1 pour garder le serveur accessible uniquement depuis votre propre machine, ou le régler sur 0.0.0.0 pour accepter les connexions depuis d’autres appareils de votre réseau.
5. Lancer le programme
Exécutez le programme parta-runtime-lite.exe. Au démarrage, il affiche le modèle chargé et l’adresse sur laquelle il écoute. Laissez la fenêtre ouverte, le serveur fonctionne aussi longtemps que le processus est en marche.
6. Envoyer une demande
Le serveur parle des formats de complétion de chat compatibles OpenAI et Anthropic. Tout ce qui est déjà construit contre ces API fonctionne ici en pointant vers votre adresse locale :
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Quelque chose ne marche pas ?
Vérifiez le Formulaire de bogue et de retour d’information sur la page d’accueil, ou envoyez-support(at)parta.app un mail direct avec votre version de compilation, GPU/OS, et le modèle que vous utilisez.