Parta Runtime

Lokal inferensserver. Fire lag

Kjør lokal GGUF-inferens uten å sette sammen en Python- eller containerstakk. Start med en gratis portabel versjon, og gå deretter til produksjon, der forespørsler kan verifiseres før beregning, utføringskonteksten kontrolleres og definerte hendelser registreres med identitetsbasert proveniens.

Bla nedover

Hvis lagring eller RAM er din begrensende faktor, ikke GPU

Samme rack.
Mer kapasitet.

73 MB
sammenlignet med 8-20 GB for en typisk Python/CUDA inference stack
~15 GB
frigjort per instance, ofte plass til en hel ekstra arbeidsmengde
200 → 400
distribuerbar instances i samme 200-node rack, uten ny maskinvare

Dette gjelder når lagring eller system-RAM, i stedet for GPU-minne, begrenser hvor mye som kan kjøres per host. Den samme maskinvaren gir omtrent dobbelt så stor brukbar kapasitet, enten det tjener mer betalende tenant eller flere interne arbeidsbelastninger og avdelinger.

Den yngre broren

Parta Runtime,
uten plattformen.

Parta Assist kjører på en fullstack: app, backend og Parta Runtime, inferensmotoren, koblet til identitet, revisjonsspor og policykontroll for regulerte bransjer. Runtime Lite er den samme inferensmotoren, strippet for alt annet.

Ingen identitetslag / Ingen revisjonskjede / Ingen policymotor

Kompatibel etter design

Snakker formatene
Du bruker allerede.

OpenAI-kompatible og Anthropic-kompatible chatfullføringsendepunkter, så alt som allerede er bygget mot disse API fungerer mot din egen lokale server. Synsstøtte er inkludert for modeller som aksepterer bildeinput.

OpenAI-kompatibel / Anthropic-kompatibel / Vision inkludert

Kopier det hvor som helst

Last ned og pakk ut arkivet,
kjør programmet.

Én statisk lenket kjørbar fil og én konfigurasjonsfil. Ingen administratorrettigheter, ingen installasjonsprogram, ingen bakgrunnstjeneste å administrere. Pek konfigurasjonen mot en GGUF modellfil som allerede ligger på maskinen din.

Ta med din egen modell / Ingen konto / Ingen sporing

Veikart

Windows og Linux.
Vulkan neste.

CUDA-bygg er tilgjengelige for både Windows og Linux. Vulkan er på veikartet for maskinvare utenfor NVIDIA.

Verifisering før inferens  /  Kontrollerte adaptere og kontekst  /  Utføringslogger  /  Patentsøkt arkitektur

To nivåer, personlig til kommersiell

Lite Free.
Lite.

Produksjonsteam kan trenge mer enn et lokalt endepunkt. Runtime er utformet for å verifisere opprinnelse, økt og utføringsmyndighet før beskyttede inferensressurser tildeles. Styrte utrullinger kan motta avklart modellkontekst, autorisert kunnskap, utføringsavgrensede adaptere og kontrollerte seeds fra den bredere Parta-plattformen.

Runtime registrerer definerte utføringshendelser, resultater og proveniens for senere gjennomgang, mens Runtime Pro utvider modellen med identitetsbasert verifisering på tvers av noder og tjenester. Disse kontrollene støtter styring og rekonstruksjon; de erstatter ikke risikovurdering, faglig gjennomgang eller etterlevelsesforpliktelser.

Verifisering før inferens  /  Kontrollerte adaptere og kontekst  /  Utføringslogger  /  Patentsøkt arkitektur

Gratis. Tilgjengelig nå

Lite Free

LisensPersonlig og evaluering
Standard slutning✓
Revisjonskjede✗
Identitets herkomst✗

Kommersiell. Kontakt oss

Lite

LisensKommersiell, på forespørsel
Standard slutning✓
Revisjonskjede✗
Identitets herkomst✗

To nivåer, revidert til identitetsstøttet

Runtime.
Runtime Pro.

Når et AI-system håndterer regulerte data, er ikke tillit alene nok for samsvar. Runtime registrerer hva som kjørte og når, uten at du trenger å bygge den infrastrukturen.

Det er bevislaget under styringsprosessen din, ikke en erstatning for den. Du beholder eierskapet til risikovurderinger og gjennomgår retningslinjer; Runtime sikrer at postene de er avhengige av ikke kan redigeres stille etterpå.

Signerte endepunkter / manipulasjonssikre logger / patentsøkt arkitektur

Kommersiell. Kontakt oss

Runtime

LisensKommersiell, på forespørsel
Standard slutning✓
Revisjonskjede✓
Identitets herkomst✗

Kommersiell. Kontakt oss

Runtime Pro

LisensKommersiell, på forespørsel
Standard slutning✓
Revisjonskjede✓
Identitets herkomst✓

Last ned Runtime Lite Free og bekreft.

CUDA · v0.1.0 · Personlig, pedagogisk og evalueringsbruk

Krever en NVIDIA GPU med en CUDA 13-kompatibel driver. En Vulkan-bygging for annen maskinvare pågår.

Last ned arkivet og kontroller SHA256-sjekksummen mot verdien nedenfor før du kjører det.

Windows

Linux

Spørsmål

Før du spør

Hva er Parta Runtime Lite?

En enkelt, bærbar kjørbar fil som kjører en lokal AI-inferensserver på din egen maskin. Det er en nedstrippet versjon av Parta Runtime, inferensmotoren bak Parta Assist, med identitetslaget, revisjonskjeden og policymotoren fjernet.

Hvilke API formater støtter den?

OpenAI-kompatible og Anthropic-kompatible chatfullføringsformater, så verktøy som allerede er bygget mot disse API fungerer mot en lokal server uten endringer. Synsstøtte er inkludert for modeller som aksepterer bildeinput.

Inkluderer det identitet, revisjon eller policyfunksjoner?

Nei. Runtime Lite er bevisst fjernet alt som utgjør produksjonsParta Runtime. Det er kun en enkel inferensserver.

Hvilket utstyr krever det?

CUDA-bygg er tilgjengelige for Windows og Linux, og krever en NVIDIA GPU med en fungerende driver. Vulkan er på veikartet for annen maskinvare.

Hvordan gjennomfører jeg programmet?

Last ned zip-filen, pakk den ut hvor som helst på disken, pek den medfølgende konfigurasjonsfilen til en GGUF modellfil du allerede har, og kjør kjørbar fil. Ingen installasjonsprogram, ingen administratorrettigheter, ingen bakgrunnstjeneste.

Sender programvaren noen data?

Nei. Den kjører helt på din egen enhet og sender ikke prompts, svar eller bruksdata til Parta eller noen andre.

Hva er forskjellen mellom Runtime Lite Free, Lite, Runtime og Runtime Pro?

Runtime Lite Free er gratis nedlasting for personlig, pedagogisk og evalueringsbruk. Runtime Lite er den samme inferensmotoren og endepunktene under en kommersiell lisens for produksjonsbruk. Runtime legger til Parta-protokollens revisjonskjede. Runtime Pro legger til identitetsstøttet herkomst. Kommersielle nivåer er tilgjengelige ved forespørsel via kontaktskjemaet.

Oversikt

Se hva inferensserveren din faktisk koster deg.

Bruk tretti sekunder på å presentere deg, så gir vi deg tilgang til dokumentet. Ingen salgssamtale, ingen oppfølging.

Feil og tilbakemeldinger

Ta kontakt

Vi leser hver melding.

For en kommersiell evaluering ber vi deg oppgi tiltenkt arbeidsbelastning, maskinvare, integrasjonsformat, adapter- og kunnskapskrav samt hva som må verifiseres før og etter inferens. Det samme skjemaet går også til teknisk støtte ved installasjonsproblemer, modellkompatibilitet, feil og ytelsesspørsmål.