Parta Runtime

Lokal inferensserver. Fire etager

Kør lokal GGUF-inferens uden at sammensætte en Python- eller containerstak. Start med en gratis bærbar version, og gå derefter til produktion, hvor anmodninger kan verificeres før beregning, udførelseskonteksten kontrolleres, og definerede hændelser registreres med identitetsunderstøttet proveniens.

Scroll ned

Hvis lagerplads eller RAM er din begrænsende faktor, ikke GPU

Samme rack.
Mere kapacitet.

73 MB
sammenlignet med 8-20 GB for en typisk Python/CUDA inference stack
~15 GB
frigivet pr. instance, ofte plads til en hel ekstra arbejdsbyrde
200 → 400
implementerbare instances i den samme 200-node rack uden ny hardware

Dette gælder, når lager- eller system-RAM i stedet for GPU-hukommelse begrænser, hvor meget der kan køre pr. host. Den samme hardware giver omtrent dobbelt så stor brugbar kapacitet, uanset om det tjener mere betalende tenant eller flere interne arbejdsbelastninger og afdelinger.

Den yngre bror

Parta Runtime,
uden platformen.

Parta Assist kører på en full stack: app, backend og Parta Runtime, inferensmotoren, forbundet med identitet, audittrails og policykontrol for regulerede brancher. Runtime Lite er den samme inferensmotor, frataget alt andet.

Ingen identitetslag / Ingen revisionskæde / Ingen politikmotor

Kompatibel af design

Taler formaterne
Du bruger allerede.

OpenAI-kompatible og Anthropic-kompatible chat-fuldførelsesendepunkter, så alt, der allerede er bygget mod disse API, virker mod din egen lokale server. Visionsunderstøttelse er inkluderet for modeller, der accepterer billedinput.

OpenAI-kompatibel / Anthropic-kompatibel / Vision inkluderet

Kopier det hvor som helst

Download og udtræk arkivet,
Kør programmet.

En statisk sammenkædet eksekverbar fil og én konfigurationsfil. Ingen administratorrettigheder, ingen installationsprogram, ingen baggrundsservice at administrere. Peg konfigurationen mod en GGUF modelfil, der allerede ligger på din maskine.

Medbring din egen model / Ingen konto / Ingen sporing

Køreplan

Windows og Linux.
Vulkan næste.

CUDA builds er tilgængelige til både Windows og Linux. Vulkan er på køreplanen for hardware uden for NVIDIA.

Verifikation før inferens  /  Kontrollerede adaptere og kontekst  /  Udførelsesregistre  /  Patentanmeldt arkitektur

To niveauer, personlig til kommerciel

Lite Free.
Lite.

Produktionsteams kan have brug for mere end et lokalt endpoint. Runtime er udviklet til at verificere oprindelse, session og udførelsesbeføjelse, før beskyttede inferensressourcer tildeles. Styrede installationer kan modtage afklaret modelkontekst, autoriseret viden, udførelsesafgrænsede adaptere og kontrollerede seeds fra den bredere Parta-platform.

Runtime registrerer definerede udførelseshændelser, resultater og proveniens til senere gennemgang, mens Runtime Pro udvider modellen med identitetsunderstøttet verifikation på tværs af noder og tjenester. Disse kontroller understøtter styring og rekonstruktion; de erstatter ikke risikovurdering, faglig gennemgang eller complianceforpligtelser.

Verifikation før inferens  /  Kontrollerede adaptere og kontekst  /  Udførelsesregistre  /  Patentanmeldt arkitektur

Gratis. Tilgængelig nu

Lite Free

LicensPersonlig og evaluering
Standard slutning✓
Revisionskæde✗
Identitets herkomst✗

Kommerciel. Kontakt os

Lite

LicensKommerciel, på forespørgsel
Standard slutning✓
Revisionskæde✗
Identitets herkomst✗

To niveauer, revideret til identitetsstøttet

Runtime.
Runtime Pro.

Når et AI-system håndterer regulerede data, er tillid alene ikke nok til overholdelse. Runtime registrerer, hvad der kørte og hvornår, uden at du behøver at bygge den infrastruktur.

Det er bevislaget under din styringsproces, ikke en erstatning for det. Du bevarer ejerskabet til risikovurderinger og gennemgår politikker; Runtime sikrer, at de poster, de er afhængige af, ikke kan redigeres stille og roligt bagefter.

Signerede endepunkter / manipulationssikre logfiler / patentanmeldt arkitektur

Kommerciel. Kontakt os

Runtime

LicensKommerciel, på forespørgsel
Standard slutning✓
Revisionskæde✓
Identitets herkomst✗

Kommerciel. Kontakt os

Runtime Pro

LicensKommerciel, på forespørgsel
Standard slutning✓
Revisionskæde✓
Identitets herkomst✓

Download Runtime Lite Free og bekræft.

CUDA · v0.1.0 · Personlig, pædagogisk og evalueringsbrug

Kræver en NVIDIA GPU med en CUDA 13-kompatibel driver. En Vulkan-build til anden hardware er i gang.

Download arkivet, og bekræft dets SHA256-kontrolsum mod værdien nedenfor, før du kører det.

Windows

Linux

Spørgsmål

Før du spørger

Hvad er Parta Runtime Lite?

En enkelt, bærbar eksekverbar fil, der kører en lokal AI-inferensserver på din egen maskine. Det er en nedbarberet version af Parta Runtime, inferensmotoren bag Parta Assist, hvor identitetslaget, revisionskæden og policymotoren er fjernet.

Hvilke API formater understøtter den?

OpenAI-kompatible og Anthropic-kompatible chat-fuldførelsesformater, så værktøjer, der allerede er bygget mod disse API, fungerer mod en lokal server uden ændringer. Visionsunderstøttelse er inkluderet for modeller, der accepterer billedinput.

Indeholder det identitets-, revisions- eller politikfunktioner?

Nej. Runtime Lite er bevidst fjernet for alt, hvad der udgør produktionsproduktionen Parta Runtime. Det er kun en simpel inferensserver.

Hvilket hardware kræver det?

CUDA builds er tilgængelige til Windows og Linux, der kræver en NVIDIA GPU med en fungerende driver. Vulkan er på køreplanen for anden hardware.

Hvordan udfører jeg programmet?

Download zip-filen, pak den ud hvor som helst på disken, peg den medfølgende konfigurationsfil på en GGUF modelfil, du allerede har, og kør eksekverbare filen. Ingen installatør, ingen administratorrettigheder, ingen baggrundsservice.

Overfører softwaren nogen data?

Nej. Det kører udelukkende på din egen enhed og sender ikke prompts, svar eller brugsdata til Parta eller andre.

Hvad er forskellen mellem Runtime Lite Free, Lite, Runtime og Runtime Pro?

Runtime Lite Free er den gratis download til personlig, uddannelsesmæssig og evalueringsbrug. Runtime Lite er den samme inferensmotor og endepunkter under en kommerciel licens til produktionsbrug. Runtime tilføjer Parta-protokollens revisionskæde. Runtime Pro tilføjer identitetsstøttet herkomst. Kommercielle niveauer er tilgængelige ved forespørgsel via kontaktformularen.

Oversigt

Se, hvad din inferensserver faktisk koster dig.

Brug tredive sekunder på at præsentere dig selv, så giver vi dig adgang til dokumentet. Ingen salgssamtale, ingen opfølgning.

Fejl og feedback

Kontakt os

Vi læser hver besked.

Ved en kommerciel evaluering bedes du oplyse den tilsigtede arbejdsbelastning, hardware, integrationsformat, adapter- og videnskrav samt hvad der skal verificeres før og efter inferens. Samme formular går også til teknisk support ved installationsproblemer, modelkompatibilitet, fejl og spørgsmål om ydeevne.