Parta Runtime Lite / Führer / Installieren und ausführen
Installieren und ausführen
Parta Runtime Lite ist eine einzelne portable ausführbare Datei. Es gibt keinen Installationsinstallateur, keinen Hintergrunddienst und kein Konto. Diese Seite behandelt alles vom Download bis zu Ihrer ersten Anfrage.
1. Herunterladen
Hol dir den aktuellen Build von der Abschnitt Herunterladen und Überprüfen auf der Homepage. Der Download ist eine Zip-Datei, die die ausführbare Datei, eine Beispielkonfigurationsdatei und Lizenzhinweise von Drittanbietern enthält.
2. Überprüfung der Prüfsumme
Bevor Sie etwas ausführen, vergleichen Sie die SHA256 Kontrollsumme der Datei mit dem neben dem Download veröffentlichten Wert. Zum Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Vergleichen Sie die Ausgabe mit dem veröffentlichten Hash. Wenn sie nicht übereinstimmen, starte die Datei nicht und lade sie erneut herunter.
3. Archiv extrahieren
Entpacken Sie das Archiv überall auf der Festplatte, einem lokalen Ordner, einem externen Laufwerk oder einer Netzwerkfreigabe. Es sind keine Adminrechte erforderlich, und es wird nichts außerhalb des Ordners geschrieben, in den du entpackst.
4. Konfigurieren
Öffnen Sie die Datei lite.toml im entpackten Ordner und setzen Sie model.path auf eine bereits vorhandene GGUF-Modelldatei:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Setzen Sie den Wert gpu_layers = 0 nur auf CPU laufen. Gehen Sie server.host als 127.0.0.1 den Server nur von deinem eigenen Rechner aus erreichbar zu halten, oder stell ihn auf 0.0.0.0 Verbindungen von anderen Geräten in deinem Netzwerk zu akzeptieren.
5. Das Programm ausführen
Führe das Programm aus parta-runtime-lite.exe. Beim Start wird das geladene Modell und die Adresse, auf der es abgehört, gedruckt. Lass das Fenster offen, der Server läuft, solange der Prozess läuft.
6. Eine Anfrage senden
Der Server verwendet OpenAI-kompatible und Anthropic-kompatible Chat-Abschlussformate. Alles, was bereits gegen diese API basiert, funktioniert hier, indem man es stattdessen auf deine lokale Adresse verweist:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Funktioniert etwas, das nicht funktioniert?
Überprüfen Sie die Bug- und Rückmeldungsformular auf der Startseite oder support(at)parta.app direkt mit deiner Build-Version, GPU/OS und dem verwendeten Modell per E-Mail kontaktieren.