Lokal inferensserver. Fire etager
Kør lokal GGUF-inferens uden at sammensætte en Python- eller containerstak. Start med en gratis bærbar version, og gå derefter til produktion, hvor anmodninger kan verificeres før beregning, udførelseskonteksten kontrolleres, og definerede hændelser registreres med identitetsunderstøttet proveniens.
Scroll ned
Hvis lagerplads eller RAM er din begrænsende faktor, ikke GPU
Dette gælder, når lager- eller system-RAM i stedet for GPU-hukommelse begrænser, hvor meget der kan køre pr. host. Den samme hardware giver omtrent dobbelt så stor brugbar kapacitet, uanset om det tjener mere betalende tenant eller flere interne arbejdsbelastninger og afdelinger.
Den yngre bror
Parta Assist kører på en full stack: app, backend og Parta Runtime, inferensmotoren, forbundet med identitet, audittrails og policykontrol for regulerede brancher. Runtime Lite er den samme inferensmotor, frataget alt andet.
Ingen identitetslag / Ingen revisionskæde / Ingen politikmotor
Kompatibel af design
OpenAI-kompatible og Anthropic-kompatible chat-fuldførelsesendepunkter, så alt, der allerede er bygget mod disse API, virker mod din egen lokale server. Visionsunderstøttelse er inkluderet for modeller, der accepterer billedinput.
OpenAI-kompatibel / Anthropic-kompatibel / Vision inkluderet
Kopier det hvor som helst
En statisk sammenkædet eksekverbar fil og én konfigurationsfil. Ingen administratorrettigheder, ingen installationsprogram, ingen baggrundsservice at administrere. Peg konfigurationen mod en GGUF modelfil, der allerede ligger på din maskine.
Medbring din egen model / Ingen konto / Ingen sporing
Køreplan
CUDA builds er tilgængelige til både Windows og Linux. Vulkan er på køreplanen for hardware uden for NVIDIA.
Verifikation før inferens / Kontrollerede adaptere og kontekst / Udførelsesregistre / Patentanmeldt arkitektur
To niveauer, personlig til kommerciel
Produktionsteams kan have brug for mere end et lokalt endpoint. Runtime er udviklet til at verificere oprindelse, session og udførelsesbeføjelse, før beskyttede inferensressourcer tildeles. Styrede installationer kan modtage afklaret modelkontekst, autoriseret viden, udførelsesafgrænsede adaptere og kontrollerede seeds fra den bredere Parta-platform.
Runtime registrerer definerede udførelseshændelser, resultater og proveniens til senere gennemgang, mens Runtime Pro udvider modellen med identitetsunderstøttet verifikation på tværs af noder og tjenester. Disse kontroller understøtter styring og rekonstruktion; de erstatter ikke risikovurdering, faglig gennemgang eller complianceforpligtelser.
Verifikation før inferens / Kontrollerede adaptere og kontekst / Udførelsesregistre / Patentanmeldt arkitektur
Gratis. Tilgængelig nu
Kommerciel. Kontakt os
To niveauer, revideret til identitetsstøttet
Når et AI-system håndterer regulerede data, er tillid alene ikke nok til overholdelse. Runtime registrerer, hvad der kørte og hvornår, uden at du behøver at bygge den infrastruktur.
Det er bevislaget under din styringsproces, ikke en erstatning for det. Du bevarer ejerskabet til risikovurderinger og gennemgår politikker; Runtime sikrer, at de poster, de er afhængige af, ikke kan redigeres stille og roligt bagefter.
Signerede endepunkter / manipulationssikre logfiler / patentanmeldt arkitektur
Kommerciel. Kontakt os
Kommerciel. Kontakt os
CUDA · v0.1.0 · Personlig, pædagogisk og evalueringsbrug
Kræver en NVIDIA GPU med en CUDA 13-kompatibel driver. En Vulkan-build til anden hardware er i gang.
Download arkivet, og bekræft dets SHA256-kontrolsum mod værdien nedenfor, før du kører det.
Spørgsmål
En enkelt, bærbar eksekverbar fil, der kører en lokal AI-inferensserver på din egen maskine. Det er en nedbarberet version af Parta Runtime, inferensmotoren bag Parta Assist, hvor identitetslaget, revisionskæden og policymotoren er fjernet.
OpenAI-kompatible og Anthropic-kompatible chat-fuldførelsesformater, så værktøjer, der allerede er bygget mod disse API, fungerer mod en lokal server uden ændringer. Visionsunderstøttelse er inkluderet for modeller, der accepterer billedinput.
Nej. Runtime Lite er bevidst fjernet for alt, hvad der udgør produktionsproduktionen Parta Runtime. Det er kun en simpel inferensserver.
CUDA builds er tilgængelige til Windows og Linux, der kræver en NVIDIA GPU med en fungerende driver. Vulkan er på køreplanen for anden hardware.
Download zip-filen, pak den ud hvor som helst på disken, peg den medfølgende konfigurationsfil på en GGUF modelfil, du allerede har, og kør eksekverbare filen. Ingen installatør, ingen administratorrettigheder, ingen baggrundsservice.
Nej. Det kører udelukkende på din egen enhed og sender ikke prompts, svar eller brugsdata til Parta eller andre.
Runtime Lite Free er den gratis download til personlig, uddannelsesmæssig og evalueringsbrug. Runtime Lite er den samme inferensmotor og endepunkter under en kommerciel licens til produktionsbrug. Runtime tilføjer Parta-protokollens revisionskæde. Runtime Pro tilføjer identitetsstøttet herkomst. Kommercielle niveauer er tilgængelige ved forespørgsel via kontaktformularen.
Oversigt
Brug tredive sekunder på at præsentere dig selv, så giver vi dig adgang til dokumentet. Ingen salgssamtale, ingen opfølgning.
Fejl og feedback
Vi læser hver besked.
Ved en kommerciel evaluering bedes du oplyse den tilsigtede arbejdsbelastning, hardware, integrationsformat, adapter- og videnskrav samt hvad der skal verificeres før og efter inferens. Samme formular går også til teknisk support ved installationsproblemer, modelkompatibilitet, fejl og spørgsmål om ydeevne.