Parta Runtime
Server di inferenza locale. Quattro livelli
Esegui l'inferenza GGUF locale senza assemblare uno stack Python o di container. Inizia con una build portatile gratuita, quindi passa alla produzione, dove le richieste possono essere verificate prima del calcolo, il contesto di esecuzione può essere controllato e gli eventi definiti registrati con provenienza basata sull'identità.
Scorri verso il basso
Se lo spazio di archiviazione o la RAM sono il tuo fattore limitante, non la GPU
Stesso rack.
Più capacità.
Ciò si applica quando l'archiviazione o la RAM di sistema, anziché la memoria della GPU, limita la quantità di esecuzione possibile per host. Lo stesso hardware fornisce circa il doppio della capacità utilizzabile, sia che serva tenant più paganti o più carichi di lavoro e dipartimenti interni.
Il fratello minore
Parta Runtime,
senza la piattaforma.
Parta Assist utilizza uno stack completo: applicazione, backend e Parta Runtime, il motore di inferenza integrato con identità, registri di audit e controllo delle policy per i settori regolamentati. Runtime Lite è lo stesso motore di inferenza, senza tutti gli altri componenti della piattaforma.
Nessun livello di identità / Nessuna catena di audit / Nessun motore di policy
Compatibile per scelta progettuale
Supporta i formati
che usi già.
Endpoint per il completamento delle chat compatibili con OpenAI e Anthropic: gli strumenti già sviluppati per queste API funzionano con il tuo server locale. Il supporto per la visione è incluso per i modelli che accettano immagini in input.
Compatibile con OpenAI / Compatibile con Anthropic / Supporto per la visione incluso
Copialo ovunque
Scarica, estrai
e avvia.
Un eseguibile con collegamento statico e un file di configurazione. Non servono privilegi di amministratore o programmi di installazione e non ci sono servizi in background da gestire. Imposta nella configurazione un file di modello GGUF già presente sul computer.
Porta il tuo modello / Nessun account / Nessun tracciamento
Tabella di marcia
Windows e Linux. Vulkan sarà il prossimo.
Le build CUDA sono disponibili sia per Windows che per Linux. Vulkan è sulla tabella di marcia per l'hardware esterno a NVIDIA.
Verifica pre-inferenza / Adattatori e contesto controllati / Registri di esecuzione / Architettura in attesa di brevetto
Due livelli, dall'uso personale a quello commerciale
Lite Free.
Lite.
I team di produzione possono aver bisogno di più di un endpoint locale. Runtime è progettato per verificare origine, sessione e autorità di esecuzione prima di allocare risorse di inferenza protette. Le distribuzioni governate possono ricevere dalla più ampia piattaforma Parta il contesto risolto del modello, la conoscenza autorizzata, gli adattatori circoscritti all'esecuzione e i seed controllati.
Runtime registra gli eventi di esecuzione definiti, gli output e la provenienza per una revisione successiva, mentre Runtime Pro estende questo modello con una verifica basata sull'identità tra nodi e servizi. Questi controlli favoriscono la governance e la ricostruzione; non sostituiscono la valutazione del rischio, la revisione professionale o gli obblighi di conformità.
Verifica pre-inferenza / Adattatori e contesto controllati / Registri di esecuzione / Architettura in attesa di brevetto
Gratuito · Disponibile ora
Lite Free
Commerciale · Contattaci
Lite
Due livelli, dall'audit alla provenienza basata sull'identità
Runtime.
Runtime Pro.
Quando un sistema di intelligenza artificiale gestisce dati regolamentati, la sola fiducia non è sufficiente per garantire la conformità. Runtime registra cosa è stato eseguito e quando, senza richiedere la creazione di tale infrastruttura.
È lo strato di prova al di sotto del processo di governance, non un suo sostituto. Mantieni la proprietà delle valutazioni del rischio e delle politiche di revisione; Runtime garantisce che i record da cui dipendono non possano essere modificati silenziosamente in seguito.
Endpoint firmati/Log anti-manomissione/Architettura in attesa di brevetto
Commerciale. Contattaci
Runtime
Commerciale. Contattaci
Runtime Pro
Scarica Runtime Lite Free e verifica.
CUDA · v0.1.0 · Uso personale, educativo e valutativo
Richiede una GPU NVIDIA con un driver compatibile con CUDA 13. È in corso una build Vulkan per altro hardware.
Scarica l'archivio e verifica il checksum SHA256 rispetto al valore riportato di seguito prima di eseguirlo.
Domande
Domande frequenti
Cos'è Parta Runtime Lite?
Un unico eseguibile portatile che avvia un server di inferenza AI locale sul tuo computer. È una versione essenziale di Parta Runtime, il motore di inferenza alla base di Parta Assist, priva del livello di identità, della catena di audit e del motore di policy.
Quali formati API supporta?
Formati per il completamento delle chat compatibili con OpenAI e Anthropic, quindi gli strumenti già sviluppati per queste API funzionano con il server locale senza modifiche. Il supporto per la visione è incluso per i modelli che accettano immagini in input.
Include funzionalità di identità, audit o gestione delle policy?
No. Runtime Lite è intenzionalmente privo dei componenti che caratterizzano Parta Runtime in produzione. È esclusivamente un server di inferenza.
Che hardware richiede?
Le build CUDA sono disponibili per Windows e Linux, che richiedono un NVIDIA GPU con un driver funzionante. Vulkan è sulla tabella di marcia per altro hardware.
Come posso eseguire il programma?
Scarica il file ZIP, estrailo in una cartella qualsiasi, imposta nel file di configurazione incluso un modello GGUF già disponibile ed esegui il programma. Non servono programmi di installazione o privilegi di amministratore e non vengono avviati servizi in background.
Il software trasmette qualche dato?
No. Funziona interamente sul tuo dispositivo e non trasmette prompt, risposte o dati di utilizzo a Parta o a nessun altro.
Qual è la differenza tra Runtime Lite Free, Lite, Runtime e Runtime Pro?
Runtime Lite Free è il download gratuito per uso personale, didattico e di valutazione. Runtime Lite è lo stesso motore di inferenza ed endpoint con una licenza commerciale per uso di produzione. Runtime aggiunge la catena di audit del protocollo Parta. Runtime Pro aggiunge la provenienza supportata dall'identità. I livelli commerciali sono disponibili su richiesta tramite il modulo di contatto.
Panoramica
Scopri quanto ti costa realmente il tuo server di inferenza.
Bastano trenta secondi per presentarti e ti daremo accesso al documento. Nessuna chiamata commerciale, nessun ricontatto.
Bug e feedback
Contattaci
Leggiamo ogni messaggio.
Per una valutazione commerciale, indicaci il carico di lavoro previsto, l'hardware, il formato di integrazione, i requisiti relativi ad adattatori e conoscenze e ciò che deve essere verificato prima e dopo l'inferenza. Lo stesso modulo consente di contattare l'assistenza tecnica per problemi di installazione, compatibilità dei modelli, bug e prestazioni.