Parta Runtime
Τοπικός διακομιστής συμπερασμάτων. Τέσσερα επίπεδα
Εκτελέστε την τοπική συμπεράσματα GGUF χωρίς να συναρμολογήσετε ένα Python ή ένα container stack. Ξεκινήστε με μια δωρεάν φορητή κατασκευή, στη συνέχεια προχωρήστε στην παραγωγή όπου τα αιτήματα μπορούν να επαληθευτούν πριν από υπολογισμό, τον έλεγχο του περιβάλλοντος εκτέλεσης και τα καθορισμένα γεγονότα που καταγράφονται με την προέλευση που υποστηρίζεται από ταυτότητα.
Μετακινηθείτε προς τα κάτω
Εάν ο αποθηκευτικός χώρος ή η μνήμη RAM είναι ο περιοριστικός σας παράγοντας, όχι η GPU
Το ίδιο rack.
Περισσότερη χωρητικότητα.
Αυτό ισχύει όταν η μνήμη RAM αποθήκευσης ή συστήματος, αντί της μνήμης GPU, περιορίζει το ποσό που μπορεί να εκτελεστεί ανά host. Το ίδιο υλικό παρέχει περίπου το διπλάσιο της χρησιμοποιήσιμης χωρητικότητας, είτε εξυπηρετεί περισσότερους πληρωμένους tenant είτε περισσότερους εσωτερικούς φόρτους εργασίας και τμήματα.
Ο μικρότερος αδερφός
Parta Runtime,
χωρίς την πλατφόρμα.
Parta Assist εκτελείται σε μια πλήρη στοίβα: εφαρμογή, backend και Parta Runtime, η μηχανή συμπερασμάτων, συνδεδεμένη με την ταυτότητα, τις διαδρομές ελέγχου και τον έλεγχο πολιτικής για ρυθμιζόμενες βιομηχανίες. Το Runtime Lite είναι η ίδια μηχανή συμπερασμάτων, απογυμνωμένη από οτιδήποτε άλλο.
Χωρίς επίπεδο ταυτότητας / Χωρίς αλυσίδα ελέγχου / Χωρίς μηχανή πολιτικής
Συμβατό από το σχεδιασμό
Εκφωνεί τις μορφές
που χρησιμοποιείτε ήδη.
OpenAI συμβατά και συμβατά με Anthropic τελικά σημεία ολοκλήρωσης συνομιλίας, επομένως οτιδήποτε έχει ήδη κατασκευαστεί σε σχέση με αυτά API λειτουργεί ενάντια στον δικό σας τοπικό διακομιστή. Η υποστήριξη όρασης περιλαμβάνεται για μοντέλα που δέχονται εισόδους εικόνας.
Συμβατό με OpenAI / Συμβατό με Anthropic / Περιλαμβάνεται όραση
Αντιγράψτε το οπουδήποτε
Κατεβάστε και εξαγάγετε το αρχείο,
Εκτελέστε το πρόγραμμα.
Ένα στατικά συνδεδεμένο εκτελέσιμο αρχείο και ένα αρχείο ρυθμίσεων. Χωρίς δικαιώματα διαχειριστή, χωρίς πρόγραμμα εγκατάστασης, χωρίς υπηρεσία παρασκηνίου για διαχείριση. Στρέψτε τη διαμόρφωση σε ένα αρχείο μοντέλου GGUF που υπάρχει ήδη στο μηχάνημά σας.
Φέρτε το δικό σας μοντέλο / Χωρίς λογαριασμό / Χωρίς παρακολούθηση
Οδικός Χάρτης
Windows και Linux. Ακολουθεί το Vulkan.
Οι εκδόσεις CUDA είναι διαθέσιμες τόσο για το Windows όσο και για το Linux. Το Vulkan βρίσκεται στον οδικό χάρτη για υλικό εκτός του NVIDIA.
Windows CUDA / Linux CUDA / Vulkan (σύντομα)
Δύο επίπεδα, προσωπική έως εμπορική
Lite Free.
Lite.
Οι ομάδες παραγωγής μπορεί να χρειάζονται περισσότερα από ένα τοπικό τελικό σημείο. Το Runtime έχει σχεδιαστεί για την επαλήθευση της προέλευσης, της συνεδρίασης και της εξουσίας εκτέλεσης πριν από την κατανομή προστατευμένων πόρων συμπεράσματος.
Τα αρχεία Runtime καθορίζουν τα γεγονότα εκτέλεσης, τις εξόδους και την προέλευση για μεταγενέστερη αναθεώρηση, ενώ το Runtime Pro επεκτείνει αυτό το μοντέλο με επαλήθευση που υποστηρίζεται από ταυτότητα σε όλο τον πλέγμα των κόμβων και των υπηρεσιών.
Επαραληπτική επαλήθευση προκαταβολής / Ελεγχόμενα προσαρμοστικά και πλαίσιο / Καταγραφές εκτέλεσης / Αρχιτεκτονική που εκκρεμεί δίπλωμα ευρεσιτεχνίας
Δωρεάν. Διαθέσιμο τώρα
Lite Free
Εμπορική. Επικοινωνήστε μαζί μας
Lite
Δύο επίπεδα, ελεγμένα με βάση την ταυτότητα
Runtime.
Runtime Pro.
Όταν ένα σύστημα AI χειρίζεται ρυθμιζόμενα δεδομένα, η εμπιστοσύνη από μόνη της δεν αρκεί για τη συμμόρφωση. Το Runtime καταγράφει τι τρέχει και πότε, χωρίς να απαιτεί από εσάς να δημιουργήσετε αυτήν την υποδομή.
Είναι το επίπεδο αποδεικτικών στοιχείων κάτω από τη διαδικασία διακυβέρνησής σας, όχι μια αντικατάστασή του. Διατηρείτε την κυριότητα των αξιολογήσεων κινδύνου και των πολιτικών αναθεώρησης. Το Runtime διασφαλίζει ότι οι εγγραφές στις οποίες εξαρτώνται δεν μπορούν να επεξεργαστούν αθόρυβα στη συνέχεια.
Υπογεγραμμένα τελικά σημεία / αρχεία καταγραφής με προφανή παραβίαση / Αρχιτεκτονική σε εκκρεμότητα διπλωμάτων ευρεσιτεχνίας
Εμπορική. Επικοινωνήστε μαζί μας
Runtime
Εμπορική. Επικοινωνήστε μαζί μας
Runtime Pro
Κατεβάστε το Runtime Lite Free και επαληθεύστε.
CUDA · v0.1.0 · Προσωπική, εκπαιδευτική και αξιολογική χρήση
Απαιτεί GPU NVIDIA με πρόγραμμα οδήγησης συμβατό με CUDA 13. Μια έκδοση Vulkan για άλλο υλικό βρίσκεται σε εξέλιξη.
Κάντε λήψη του αρχείου και επαληθεύστε το άθροισμα ελέγχου SHA256 με την παρακάτω τιμή πριν το εκτελέσετε.
Ερωτήσεις
Πριν ρωτήσετε
Τι είναι Parta Runtime Lite;
Ένα ενιαίο, φορητό εκτελέσιμο αρχείο που εκτελεί έναν τοπικό διακομιστή συμπερασμάτων AI στον δικό σας υπολογιστή. Είναι μια απογυμνωμένη έκδοση του Parta Runtime, της μηχανής συμπερασμάτων πίσω από το Parta Assist, με το επίπεδο ταυτότητας, την αλυσίδα ελέγχου και τη μηχανή πολιτικής να έχουν αφαιρεθεί.
Ποιες API μορφές υποστηρίζει;
OpenAI συμβατές και συμβατές με Anthropic μορφές ολοκλήρωσης συνομιλίας, επομένως τα εργαλεία που έχουν ήδη κατασκευαστεί σε αυτές τις API λειτουργούν ενάντια σε έναν τοπικό διακομιστή χωρίς τροποποίηση. Η υποστήριξη όρασης περιλαμβάνεται για μοντέλα που δέχονται εισόδους εικόνας.
Περιλαμβάνει χαρακτηριστικά ταυτότητας, ελέγχου ή πολιτικής;
Όχι. Το Runtime Lite απογυμνώνεται σκόπιμα από όλα όσα συνθέτουν Parta Runtime παραγωγής. Είναι μόνο ένας απλός διακομιστής συμπερασμάτων.
Τι υλικό απαιτεί;
Οι εκδόσεις CUDA είναι διαθέσιμες για τα Windows και Linux, που απαιτούν ένα NVIDIA GPU με λειτουργικό πρόγραμμα οδήγησης. Το Vulkan βρίσκεται στον οδικό χάρτη για άλλο υλικό.
Πώς μπορώ να εκτελέσω το πρόγραμμα;
Κατεβάστε το zip, εξαγάγετε το οπουδήποτε στο δίσκο, τοποθετήστε το συμπεριλαμβανόμενο αρχείο διαμόρφωσης σε ένα αρχείο μοντέλου GGUF που έχετε ήδη και εκτελέστε το εκτελέσιμο αρχείο. Χωρίς πρόγραμμα εγκατάστασης, χωρίς δικαιώματα διαχειριστή, χωρίς υπηρεσία παρασκηνίου.
Το λογισμικό μεταδίδει δεδομένα;
Όχι. Εκτελείται εξ ολοκλήρου στη δική σας συσκευή και δεν μεταδίδει προτροπές, απαντήσεις ή δεδομένα χρήσης στην Parta ή σε οποιονδήποτε άλλο.
Ποια είναι η διαφορά μεταξύ των Runtime Lite Free, Lite, Runtime και Runtime Pro;
Το Runtime Lite Free είναι το δωρεάν download για προσωπική, εκπαιδευτική και αξιολόγηση χρήση. Το Runtime Lite είναι ο ίδιος κινητήρας συμπερασμάτων και τα ίδια τελικά σημεία βάσει εμπορικής άδειας για χρήση στην παραγωγή. Το Runtime προσθέτει την αλυσίδα ελέγχου πρωτοκόλλου Parta. Το Runtime Pro προσθέτει προέλευση που υποστηρίζεται από την ταυτότητα. Οι εμπορικές βαθμίδες είναι διαθέσιμες κατόπιν αιτήματος μέσω της φόρμας επικοινωνίας.
Επισκόπηση
Δείτε πόσο πραγματικά σας κοστίζει ο διακομιστής συμπερασμού σας.
Αφιερώστε τριάντα δευτερόλεπτα για να συστηθείτε και θα σας δώσουμε πρόσβαση στο έγγραφο. Χωρίς κλήση πωλήσεων και χωρίς επακόλουθη επικοινωνία.
Σφάλματα και σχόλια
Επικοινωνήστε μαζί μας
Διαβάζουμε κάθε μήνυμα.
Για μια εμπορική αξιολόγηση, πείτε μας το σχεδιασμένο φορτίο εργασίας, το υλικό, τη μορφή ενσωμάτωσης, τις απαιτήσεις προσαρμογής και γνώσεων, καθώς και τι πρέπει να επαληθευτεί πριν και μετά την συμπερίληψη.