Lokal inferensserver. Fire lag
Kjør lokal GGUF-inferens uten å sette sammen en Python- eller containerstakk. Start med en gratis portabel versjon, og gå deretter til produksjon, der forespørsler kan verifiseres før beregning, utføringskonteksten kontrolleres og definerte hendelser registreres med identitetsbasert proveniens.
Bla nedover
Hvis lagring eller RAM er din begrensende faktor, ikke GPU
Dette gjelder når lagring eller system-RAM, i stedet for GPU-minne, begrenser hvor mye som kan kjøres per host. Den samme maskinvaren gir omtrent dobbelt så stor brukbar kapasitet, enten det tjener mer betalende tenant eller flere interne arbeidsbelastninger og avdelinger.
Den yngre broren
Parta Assist kjører på en fullstack: app, backend og Parta Runtime, inferensmotoren, koblet til identitet, revisjonsspor og policykontroll for regulerte bransjer. Runtime Lite er den samme inferensmotoren, strippet for alt annet.
Ingen identitetslag / Ingen revisjonskjede / Ingen policymotor
Kompatibel etter design
OpenAI-kompatible og Anthropic-kompatible chatfullføringsendepunkter, så alt som allerede er bygget mot disse API fungerer mot din egen lokale server. Synsstøtte er inkludert for modeller som aksepterer bildeinput.
OpenAI-kompatibel / Anthropic-kompatibel / Vision inkludert
Kopier det hvor som helst
Én statisk lenket kjørbar fil og én konfigurasjonsfil. Ingen administratorrettigheter, ingen installasjonsprogram, ingen bakgrunnstjeneste å administrere. Pek konfigurasjonen mot en GGUF modellfil som allerede ligger på maskinen din.
Ta med din egen modell / Ingen konto / Ingen sporing
Veikart
CUDA-bygg er tilgjengelige for både Windows og Linux. Vulkan er på veikartet for maskinvare utenfor NVIDIA.
Verifisering før inferens / Kontrollerte adaptere og kontekst / Utføringslogger / Patentsøkt arkitektur
To nivåer, personlig til kommersiell
Produksjonsteam kan trenge mer enn et lokalt endepunkt. Runtime er utformet for å verifisere opprinnelse, økt og utføringsmyndighet før beskyttede inferensressurser tildeles. Styrte utrullinger kan motta avklart modellkontekst, autorisert kunnskap, utføringsavgrensede adaptere og kontrollerte seeds fra den bredere Parta-plattformen.
Runtime registrerer definerte utføringshendelser, resultater og proveniens for senere gjennomgang, mens Runtime Pro utvider modellen med identitetsbasert verifisering på tvers av noder og tjenester. Disse kontrollene støtter styring og rekonstruksjon; de erstatter ikke risikovurdering, faglig gjennomgang eller etterlevelsesforpliktelser.
Verifisering før inferens / Kontrollerte adaptere og kontekst / Utføringslogger / Patentsøkt arkitektur
Gratis. Tilgjengelig nå
Kommersiell. Kontakt oss
To nivåer, revidert til identitetsstøttet
Når et AI-system håndterer regulerte data, er ikke tillit alene nok for samsvar. Runtime registrerer hva som kjørte og når, uten at du trenger å bygge den infrastrukturen.
Det er bevislaget under styringsprosessen din, ikke en erstatning for den. Du beholder eierskapet til risikovurderinger og gjennomgår retningslinjer; Runtime sikrer at postene de er avhengige av ikke kan redigeres stille etterpå.
Signerte endepunkter / manipulasjonssikre logger / patentsøkt arkitektur
Kommersiell. Kontakt oss
Kommersiell. Kontakt oss
CUDA · v0.1.0 · Personlig, pedagogisk og evalueringsbruk
Krever en NVIDIA GPU med en CUDA 13-kompatibel driver. En Vulkan-bygging for annen maskinvare pågår.
Last ned arkivet og kontroller SHA256-sjekksummen mot verdien nedenfor før du kjører det.
Spørsmål
En enkelt, bærbar kjørbar fil som kjører en lokal AI-inferensserver på din egen maskin. Det er en nedstrippet versjon av Parta Runtime, inferensmotoren bak Parta Assist, med identitetslaget, revisjonskjeden og policymotoren fjernet.
OpenAI-kompatible og Anthropic-kompatible chatfullføringsformater, så verktøy som allerede er bygget mot disse API fungerer mot en lokal server uten endringer. Synsstøtte er inkludert for modeller som aksepterer bildeinput.
Nei. Runtime Lite er bevisst fjernet alt som utgjør produksjonsParta Runtime. Det er kun en enkel inferensserver.
CUDA-bygg er tilgjengelige for Windows og Linux, og krever en NVIDIA GPU med en fungerende driver. Vulkan er på veikartet for annen maskinvare.
Last ned zip-filen, pakk den ut hvor som helst på disken, pek den medfølgende konfigurasjonsfilen til en GGUF modellfil du allerede har, og kjør kjørbar fil. Ingen installasjonsprogram, ingen administratorrettigheter, ingen bakgrunnstjeneste.
Nei. Den kjører helt på din egen enhet og sender ikke prompts, svar eller bruksdata til Parta eller noen andre.
Runtime Lite Free er gratis nedlasting for personlig, pedagogisk og evalueringsbruk. Runtime Lite er den samme inferensmotoren og endepunktene under en kommersiell lisens for produksjonsbruk. Runtime legger til Parta-protokollens revisjonskjede. Runtime Pro legger til identitetsstøttet herkomst. Kommersielle nivåer er tilgjengelige ved forespørsel via kontaktskjemaet.
Oversikt
Bruk tretti sekunder på å presentere deg, så gir vi deg tilgang til dokumentet. Ingen salgssamtale, ingen oppfølging.
Feil og tilbakemeldinger
Vi leser hver melding.
For en kommersiell evaluering ber vi deg oppgi tiltenkt arbeidsbelastning, maskinvare, integrasjonsformat, adapter- og kunnskapskrav samt hva som må verifiseres før og etter inferens. Det samme skjemaet går også til teknisk støtte ved installasjonsproblemer, modellkompatibilitet, feil og ytelsesspørsmål.