Parta Runtime
Lokal slutledningsserver. Fyra nivåer
Kör lokal GGUF-inferens utan att bygga en Python- eller containerstack. Börja med en kostnadsfri portabel version och gå sedan över till produktion, där förfrågningar kan verifieras före beräkning, körningskontexten kontrolleras och definierade händelser registreras med identitetsbaserad proveniens.
Scrolla ner
Om lagring eller RAM är din begränsande faktor, inte GPU
Samma rack.
Mer kapacitet.
Detta gäller när lagring eller system-RAM, snarare än GPU-minne, begränsar hur mycket som kan köras per host. Samma hårdvara ger ungefär dubbelt så mycket användbar kapacitet, oavsett om det tjänar mer betalande tenant eller fler interna arbetsbelastningar och avdelningar.
Den yngre brodern
Parta Runtime,
utan plattformen.
Parta Assist körs på en fullstack: app, backend och Parta Runtime, inferensmotorn, kopplad till identitet, revisionsspår och policykontroll för reglerade branscher. Runtime Lite är samma inferensmotor, befriad från allt annat.
Ingen identitetslager / Ingen revisionskedja / Ingen policymotor
Kompatibel av design
Talar formaten
Du använder redan.
OpenAI-kompatibla och Anthropic-kompatibla chattfullbordande-endpoints, så allt som redan är byggt mot dessa API fungerar mot din egen lokala server. Visionstöd ingår för modeller som accepterar bildinmatningar.
OpenAI-kompatibel / Anthropic-kompatibel / Vision inkluderad
Kopiera det var som helst
Ladda ner och extrahera arkivet,
Kör programmet.
En statiskt länkad körbar fil och en konfigurationsfil. Inga administratörsrättigheter, ingen installatör, ingen bakgrundstjänst att hantera. Peka konfigurationen mot en GGUF modellfil som redan finns på din dator.
Ta med din egen modell / Inget konto / Ingen spårning
Färdkarta
Windows och Linux.
Vulkan nästa.
CUDA-byggen är tillgängliga för både Windows och Linux. Vulkan är på färdplanen för hårdvara utanför NVIDIA.
Windows CUDA / Linux CUDA / Vulkan (snart)
Två nivåer, personligt till kommersiellt
Lite Free.
Lite.
Produktionsteam kan behöva mer än en lokal slutpunkt. Runtime är utformat för att verifiera ursprung, session och körningsbehörighet innan skyddade inferensresurser tilldelas. Styrda driftsättningar kan ta emot fastställd modellkontext, behörig kunskap, körningsavgränsade adaptrar och kontrollerade seed-värden från den bredare Parta-plattformen.
Runtime registrerar definierade körningshändelser, resultat och proveniens för senare granskning, medan Runtime Pro utökar modellen med identitetsbaserad verifiering mellan noder och tjänster. Kontrollerna stöder styrning och rekonstruktion, men ersätter inte riskbedömning, professionell granskning eller efterlevnadsskyldigheter.
Verifiering före inferens / Kontrollerade adaptrar och kontext / Körningsposter / Patentsökt arkitektur
Gratis. Tillgänglig nu
Lite Free
Kommersiellt. Kontakta oss
Lite
Två nivåer, granskade till identitetsstödda
Runtime.
Runtime Pro.
När ett AI-system hanterar reglerad data räcker det inte med förtroende enbart för efterlevnad. Runtime registrerar vad som kördes och när, utan att du behöver bygga den infrastrukturen.
Det är bevisskiktet under din förvaltningsprocess, inte en ersättning för den. Du behåller äganderätten till riskbedömningar och granskar policyer; Runtime säkerställer att de poster de är beroende av inte kan redigeras tyst efteråt.
Signerade ändpunkter / manipuleringssäkra loggar / patentsökt arkitektur
Kommersiellt. Kontakta oss
Runtime
Kommersiellt. Kontakta oss
Runtime Pro
Ladda ner Runtime Lite Free och verifiera.
CUDA · v0.1.0 · Personlig, pedagogisk och utvärderingsanvändning
Kräver en NVIDIA GPU med en CUDA 13-kompatibel drivrutin. En Vulkan-byggnad för annan hårdvara pågår.
Ladda ner arkivet och verifiera dess SHA256-kontrollsumma mot värdet nedan innan du kör det.
Frågor
Innan du frågar
Vad är Parta Runtime Lite?
En enda, portabel körbar fil som kör en lokal AI-inferensserver på din egen maskin. Det är en avskalad version av Parta Runtime, inferensmotorn bakom Parta Assist, där identitetslagret, revisionskedjan och policymotorn tagits bort.
Vilka API format stöds det?
OpenAI-kompatibla och Anthropic-kompatibla chattfullföljdsformat, så verktyg som redan är byggda mot dessa API fungerar mot en lokal server utan modifiering. Visionstöd ingår för modeller som accepterar bildinmatningar.
Inkluderar det identitet, revision eller policyfunktioner?
Nej. Runtime Lite är medvetet borttaget från allt som ingår i produktions Parta Runtime. Det är en ren inferensserver.
Vilken hårdvara krävs det?
CUDA-byggen är tillgängliga för Windows och Linux, vilket kräver en NVIDIA GPU med en fungerande drivrutin. Vulkan är på vägkartan för annan hårdvara.
Hur genomför jag programmet?
Ladda ner zip-filen, packa ut den var som helst på disken, peka den medföljande konfigurationsfilen till en GGUF modellfil du redan har och kör körfilen själv. Ingen installatör, inga administratörsrättigheter, ingen bakgrundstjänst.
Överför mjukvaran någon data?
Nej. Den körs helt på din egen enhet och skickar inte prompts, svar eller användningsdata till Parta eller någon annan.
Vad är skillnaden mellan Runtime Lite Free, Lite, Runtime och Runtime Pro?
Runtime Lite Free är gratis nedladdning för personlig, pedagogisk och utvärderingsbruk. Runtime Lite är samma inferensmotor och slutpunkter under en kommersiell licens för produktionsanvändning. Runtime lägger till Parta-protokollets revisionskedja. Runtime Pro lägger till identitetsstödd härkomst. Kommersiella nivåer är tillgängliga vid förfrågan via kontaktformuläret.
Översikt
Se vad din inferensserver faktiskt kostar dig.
Ta trettio sekunder för att presentera dig, så ger vi dig tillgång till dokumentet. Inget säljsamtal, ingen uppföljning.
Buggar och återkoppling
Hör av dig
Vi läser varje meddelande.
För en kommersiell utvärdering, berätta om avsedd arbetsbelastning, maskinvara, integrationsformat, krav på adaptrar och kunskap samt vad som måste verifieras före och efter inferens. Samma formulär når även teknisk support för installationsproblem, modellkompatibilitet, fel och prestandafrågor.