Parta Runtime Lite / Οδηγός / Εγκατάσταση και εκτέλεση σε Linux
Εγκατάσταση και εκτέλεση σε Linux
Το Parta Runtime Lite είναι ένα μόνο φορητό εκτελέσιμο αρχείο. Δεν υπάρχει πρόγραμμα εγκατάστασης, υπηρεσία παρασκηνίου και λογαριασμός. Αυτή η σελίδα καλύπτει τα πάντα, από τη λήψη μέχρι το πρώτο σας αίτημα στο Linux.
Η έκδοση Linux μεταγλωττίζεται στο Ubuntu 26.04. Είναι ένα εγγενές δυαδικό αρχείο Linux και εκτελείται με τον ίδιο τρόπο σε γυμνό μέταλλο Linux, αλλά αν πετύχετε κάτι συγκεκριμένο για διασπορά, ενημερώστε μας μέσω του Φόρμα σφαλμάτων και σχολίων, μας βοηθά να δοκιμάσουμε σε πραγματικά περιβάλλοντα.
1. Λήψη
Αποκτήστε την τρέχουσα έκδοση από το Ενότητα λήψης και επαλήθευσης της αρχικής σελίδας. Η λήψη είναι ένα αρχείο zip που περιέχει το εκτελέσιμο αρχείο, ένα δείγμα αρχείου διαμόρφωσης και ειδοποιήσεις άδειας χρήσης τρίτων.
2. Επαληθεύστε το άθροισμα ελέγχου
Πριν εκτελέσετε οτιδήποτε, ελέγξτε το άθροισμα ελέγχου SHA256 του αρχείου σε σχέση με την τιμή που δημοσιεύεται δίπλα στη λήψη:
sha256sum parta-runtime-lite-linux-cuda.zip
Συγκρίνετε την έξοδο με τον δημοσιευμένο κατακερματισμό. Εάν δεν ταιριάζουν, μην εκτελέσετε το αρχείο, κατεβάστε το ξανά.
3. Εξαγάγετε το αρχείο
Αποσυμπιέστε το αρχείο οπουδήποτε στο δίσκο, έναν τοπικό φάκελο, μια εξωτερική μονάδα δίσκου ή ένα κοινόχρηστο στοιχείο δικτύου. Δεν απαιτείται πρόσβαση root και τίποτα δεν είναι γραμμένο έξω από το φάκελο στον οποίο κάνετε εξαγωγή.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Διαμορφώστε
Ανοίξτε το αρχείο lite.toml στον φάκελο που έχει εξαχθεί και ορίστε model.path σε ένα αρχείο μοντέλου GGUF που έχετε ήδη:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Ορίστε την τιμή gpu_layers = 0 για εκτέλεση μόνο σε CPU. Αποχώρηση server.host Όπως 127.0.0.1 για να διατηρήσετε τον διακομιστή προσβάσιμο μόνο από το δικό σας μηχάνημα ή να τον ορίσετε σε 0.0.0.0 για να αποδεχτείτε συνδέσεις από άλλες συσκευές στο δίκτυό σας.
5. Εκτελέστε το πρόγραμμα
Σημειώστε το δυαδικό εκτελέσιμο αρχείο και, στη συνέχεια, εκτελέστε το:
chmod +x parta-runtime-lite ./parta-runtime-lite
Κατά την εκκίνηση, εκτυπώνει το μοντέλο που έχει φορτωθεί και τη διεύθυνση στην οποία ακούει. Αφήστε το τερματικό ανοιχτό ή εκτελέστε το στο tmux/screen/nohup εάν θέλετε να συνεχίσει να λειτουργεί μετά την αποσύνδεσή του. Ο διακομιστής λειτουργεί για όσο διάστημα εκτελείται η διαδικασία.
6. Στείλτε ένα αίτημα
Ο διακομιστής μιλά για μορφές ολοκλήρωσης συνομιλίας συμβατές με OpenAI και συμβατές με Anthropic. Οτιδήποτε έχει ήδη κατασκευαστεί σε σχέση με αυτές API λειτουργεί εδώ, δείχνοντάς το στην τοπική σας διεύθυνση:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
Κάτι δεν λειτουργεί;
Ελέγξτε το Φόρμα σφαλμάτων και σχολίων στην αρχική σελίδα ή χρησιμοποιήστε το για να μας πείτε τη διανομή, την έκδοση πυρήνα, το πρόγραμμα οδήγησης GPU και το μοντέλο που χρησιμοποιείτε, αυτός είναι ο πιο γρήγορος τρόπος για να μας βοηθήσετε να εντοπίσουμε οτιδήποτε αφορά το Linux.