Parta Runtime
Server de inferență local. Patru niveluri
Fă inferența locală GGUF fără a asambla un Python sau un container stack. Începe cu o construcție portabilă gratuită, apoi trece la producție, unde cererile pot fi verificate înainte de calcul, contextul de executare controlat și evenimentele definite înregistrate cu provenire susținută de identitate.
Derulează în jos
Dacă stocarea sau RAM este factorul dvs. limitativ, nu GPU
Același rack.
Capacitate mai mare.
Acest lucru se aplică atunci când stocarea sau RAM de sistem, mai degrabă decât memoria GPU, limitează cât de mult poate rula pe host. Același hardware oferă aproximativ de două ori mai multă capacitate utilizabilă, indiferent dacă aceasta servește mai mult tenant plătitor sau mai multe sarcini interne și departamente.
Fratele mai mic
Parta Runtime,
fără platformă.
Parta Assist rulează pe un stack complet: app, backend și Parta Runtime, motorul de inferență, conectat la identitate, audit trails și controlul politicilor pentru industriile reglementate. Runtime Lite este același motor de inferență, lipsit de tot restul.
Fără strat de identitate / Fără lanț de audit / Fără motor de politici
Compatibil prin design
Vorbește formatele
Deja folosești.
Endpoint-uri de completare a chatului compatibile OpenAI și compatibile Anthropic, deci orice este deja construit împotriva acelor API funcționează împotriva propriului tău server local. Suportul pentru viziune este inclus pentru modelele care acceptă intrări de imagine.
Compatibil OpenAI / compatibil Anthropic / Vision inclus
Copiază oriunde
Descarcă și extrage arhiva,
Rulează programul.
Un executabil legat static și un fișier de configurare. Fără drepturi de administrator, fără instalator, fără serviciu de fundal de gestionat. Îndreaptă configurația către un fișier de model GGUF deja pe calculatorul tău.
Adu-ți propriul model / Fără cont / Fără urmărire
Foaia de parcurs
Windows și Linux. Urmează Vulkan.
Versiunile CUDA sunt disponibile atât pentru Windows, cât și pentru Linux. Vulkan este pe foaia de parcurs pentru hardware din afara lui NVIDIA.
Windows CUDA / Linux CUDA / Vulkan (în curând)
Două niveluri, personal până la comercial
Lite Free.
Lite.
Echipele de producție pot avea nevoie de mai mult de un punct de sfârșit local. Runtime este conceput pentru a verifica originea, sesiunea și autoritatea de executare înainte de a fi alocate resursele de inferență protejate.
Înregistrările de timp de rulare au definit evenimentele de executare, rezultatele și provenirea pentru revizuirea ulterioară, în timp ce Runtime Pro extinde modelul cu verificare cu identitate în noduri și servicii. Aceste controale sprijină guvernanța și reconstrucția; acestea nu înlocuiesc evaluarea riscurilor, revizuirea profesională sau obligațiile de conformitate.
Verificarea pre-inferență / Adaptatorii controlati și context / Înregistrări de executare / Arhitectura în curs de executare
Gratuit. Disponibil acum
Lite Free
Comercial. Contactați-ne
Lite
Două niveluri, auditate la identitate susținută
Runtime.
Runtime Pro.
Când un sistem AI gestionează date reglementate, încrederea nu este suficientă pentru conformitate. Runtime înregistrează ce a rulat și când, fără a fi necesar să construiți acea infrastructură.
Este stratul de dovezi de sub procesul dumneavoastră de guvernare, nu un înlocuitor al acestuia. Vă păstrați proprietatea asupra evaluărilor de risc și a politicilor de revizuire; Runtime se asigură că înregistrările de care depind nu pot fi editate în liniște ulterior.
Puncte finale semnate / Jurnale de falsificare / Arhitectură în curs de brevet
Comercial. Contactați-ne
Runtime
Comercial. Contactați-ne
Runtime Pro
Descărcați Runtime Lite Free și verificați.
CUDA · v0.1.0 · Utilizare personală, educațională și de evaluare
Necesită un GPU NVIDIA cu un driver compatibil CUDA 13. O versiune Vulkan pentru alt hardware este în curs de desfășurare.
Descărcați arhiva și verificați suma de verificare SHA256 față de valoarea de mai jos înainte de a o rula.
Întrebări
Înainte să întrebi
Ce este Parta Runtime Lite?
Un singur executabil portabil, care rulează un server local de inferență AI pe propria ta mașină. Este o versiune simplificată a Parta Runtime, motorul de inferență din spatele Parta Assist, cu stratul de identitate, lanțul de audit și motorul de politici eliminate.
Ce formate API suportă?
Formate de completare a chatului compatibile OpenAI și Anthropic compatibile, deci uneltele deja construite împotriva acestor API funcționează împotriva unui server local fără modificări. Suportul pentru viziune este inclus pentru modelele care acceptă intrări de imagine.
Include ea caracteristici de identitate, audit sau polițe?
Nu. Runtime Lite este intenționat lipsit de tot ce compune Parta Runtime producție. Este doar un server de inferență simplă.
Ce hardware are nevoie?
Compilările CUDA sunt disponibile pentru Windows și Linux, necesitând un NVIDIA GPU cu un driver funcțional. Vulkan este pe foaia de parcurs pentru alt hardware.
Cum pot executa programul?
Descarcă zip-ul, extrage-l oriunde pe disc, îndreaptă fișierul de configurare inclus către un GGUF model pe care îl ai deja și rulează executabilul. Fără instalator, fără drepturi de administrator, fără serviciu de fundal.
Software-ul transmite date?
Nu. Rulează complet pe propriul tău dispozitiv și nu transmite comenzi, răspunsuri sau date de utilizare către Parta sau către altcineva.
Care este diferența dintre Runtime Lite Free, Lite, Runtime și Runtime Pro?
Runtime Lite Free este descărcarea gratuită pentru uz personal, educațional și de evaluare. Runtime Lite este același motor de inferență și aceleași puncte finale sub o licență comercială pentru utilizare în producție. Runtime adaugă lanțul de audit al protocolului Parta. Runtime Pro adaugă proveniența susținută de identitate. Nivelurile comerciale sunt disponibile la cerere prin formularul de contact.
Prezentare generală
Aflați cât vă costă de fapt serverul de inferență.
Prezentați-vă în treizeci de secunde și vă vom oferi acces la document. Fără apeluri de vânzări și fără mesaje ulterioare.
Bug-uri și feedback
Ia legătura cu noi
Citim fiecare mesaj.
Pentru o evaluare comercială, spune-ne cariera de lucru prevăzută, hardware-ul, formatul de integrare, cerințele de adaptare și cunoștințe, precum și ceea ce trebuie verificat înainte și după inferență.