Parta Runtime

Lokale inferentieserver. Vier niveaus

Voer lokale GGUF-inferentie uit zonder een Python- of containerstack samen te stellen. Begin met een gratis draagbare versie en stap daarna over op productie, waar verzoeken vóór de berekening kunnen worden geverifieerd, de uitvoeringscontext wordt beheerst en vastgelegde gebeurtenissen met aan identiteit gekoppelde herkomst worden geregistreerd.

Scroll naar beneden

Als opslag of RAM uw beperkende factor is, niet GPU

Zelfde rack.
Meer capaciteit.

73 MB
vergeleken met 8-20 GB voor een typische Python/CUDA inference stack
~15 GB
vrijgemaakt per instance, vaak ruimte voor een hele extra werklast
200 → 400
inzetbare instances in dezelfde rack met 200 knooppunten, zonder nieuwe hardware

Dit is van toepassing wanneer opslag- of systeem-RAM, in plaats van GPU-geheugen, beperkt hoeveel er per host kan worden uitgevoerd. Dezelfde hardware biedt grofweg twee keer zoveel bruikbare capaciteit, of dat nu meer betalende tenant is of meer interne werklasten en afdelingen.

De jongere broer

Parta Runtime,
Zonder het platform.

Parta Assist draait op een full stack: app, backend en Parta Runtime, de inferentiemotor, bekabeld naar identiteit, auditsporen en beleidscontrole voor gereguleerde sectoren. Runtime Lite is diezelfde inferentiemotor, maar dan van alles wat er verder is.

Geen identiteitslaag / Geen auditketen / Geen beleidsengine

Compatibel door ontwerp

Spreekt de formaten
Je gebruikt het al.

OpenAI-compatibele en Anthropic-compatibele chatvoltooiingseindpunten, dus alles wat al tegen die APIs is gebouwd werkt tegen je eigen lokale server. Visuele ondersteuning is inbegrepen voor modellen die beeldinvoer accepteren.

OpenAI-compatibel / Anthropic-compatibel / Vision inbegrepen

Overal kopiëren

Download en haal het archief uit,
Voer het programma uit.

Eén statisch gekoppeld uitvoerbaar bestand en één configuratiebestand. Geen beheerdersrechten, geen installer, geen achtergronddienst om te beheren. Wijs de configuratie naar een GGUF modelbestand dat al op je machine staat.

Breng je eigen model mee / Geen account / Geen tracking

Routekaart

Windows en Linux. Vulkan volgt.

CUDA-builds zijn beschikbaar voor zowel Windows als Linux. Vulkan staat op de roadmap voor hardware buiten NVIDIA.

Verificatie vóór inferentie  /  Gecontroleerde adapters en context  /  Uitvoeringsregistraties  /  Octrooi aangevraagd voor de architectuur

Twee niveaus, van persoonlijk tot commercieel

Lite Free.
Lite.

Productieteams hebben mogelijk meer nodig dan een lokaal eindpunt. Runtime is ontworpen om oorsprong, sessie en uitvoeringsbevoegdheid te verifiëren voordat beschermde inferentiebronnen worden toegewezen. Beheerste implementaties kunnen van het bredere Parta-platform een opgeloste modelcontext, geautoriseerde kennis, uitvoeringsgebonden adapters en gecontroleerde seeds ontvangen.

Runtime registreert vastgelegde uitvoeringsgebeurtenissen, uitvoer en herkomst voor latere beoordeling, terwijl Runtime Pro dit model uitbreidt met identiteitsgebonden verificatie tussen knooppunten en diensten. Deze controles ondersteunen governance en reconstructie; ze vervangen geen risicobeoordeling, professionele toetsing of nalevingsverplichtingen.

Verificatie vóór inferentie  /  Gecontroleerde adapters en context  /  Uitvoeringsregistraties  /  Octrooi aangevraagd voor de architectuur

Gratis. Nu beschikbaar

Lite Free

LicentiePersoonlijk en evaluatie
Standaard gevolgtrekking✓
Controleketen✗
Identiteit herkomst✗

Commercieel. Neem contact met ons op

Lite

LicentieCommercieel, op aanvraag
Standaard gevolgtrekking✓
Controleketen✗
Identiteit herkomst✗

Twee niveaus, gecontroleerd tot op identiteit gebaseerd

Runtime.
Runtime Pro.

Wanneer een AI-systeem gereguleerde gegevens verwerkt, is vertrouwen alleen niet voldoende voor naleving. Runtime registreert wat er wanneer is uitgevoerd, zonder dat u die infrastructuur hoeft te bouwen.

Het is de bewijslaag onder uw bestuursproces, en geen vervanging ervan. Je behoudt de verantwoordelijkheid voor risicobeoordelingen en reviewbeleid; Runtime zorgt ervoor dat de records waarvan ze afhankelijk zijn, niet achteraf stilletjes kunnen worden bewerkt.

Ondertekende eindpunten / Fraudebestendige logboeken / Architectuur waarvoor patent is aangevraagd

Commercieel. Neem contact met ons op

Runtime

LicentieCommercieel, op aanvraag
Standaard gevolgtrekking✓
Controleketen✓
Identiteit herkomst✗

Commercieel. Neem contact met ons op

Runtime Pro

LicentieCommercieel, op aanvraag
Standaard gevolgtrekking✓
Controleketen✓
Identiteit herkomst✓

Download Runtime Lite Free en verifieer.

CUDA · v0.1.0 · Persoonlijk, educatief en evaluatiegebruik

Vereist een NVIDIA GPU met een CUDA 13-compatibel stuurprogramma. Er wordt gewerkt aan een Vulkan-build voor andere hardware.

Download het archief en verifieer de SHA256-controlesom met de onderstaande waarde voordat u het uitvoert.

Windows

Linux

Vragen

Voordat je het vraagt

Wat is Parta Runtime Lite?

Een enkele, draagbare uitvoerbare map die een lokale AI-inferentieserver op je eigen machine draait. Het is een uitgeklede versie van Parta Runtime, de inferentiemotor achter Parta Assist, waarbij de identiteitslaag, auditketen en beleidsmotor zijn verwijderd.

Welke API formaten ondersteunt het?

OpenAI-compatibele en Anthropic-compatibele chatvoltooiingsformaten, dus tools die al APIdaarvoor zijn gebouwd werken zonder aanpassing tegen een lokale server. Visuele ondersteuning is inbegrepen voor modellen die beeldinvoer accepteren.

Bevat het kenmerken van identiteit, audit of beleid?

Nee. Runtime Lite is bewust ontdaan van alles wat de productie Parta Runtime vormt. Het is alleen een eenvoudige inferentieserver.

Welke hardware is daarvoor nodig?

CUDA-builds zijn beschikbaar voor Windows en Linux, waarvoor een NVIDIA GPU met een werkende driver vereist is. Vulkan staat op de roadmap voor andere hardware.

Hoe voer ik het programma uit?

Download de zip, pak het ergens op de schijf uit, wijs het bijgevoegde configuratiebestand naar een GGUF modelbestand dat je al hebt, en start het uitvoerbare bestand. Geen installer, geen beheerdersrechten, geen achtergrondservice.

Verzendt de software data?

Nee. Het draait volledig op je eigen apparaat en stuurt geen prompts, antwoorden of gebruiksgegevens naar Parta of iemand anders.

Wat is het verschil tussen Runtime Lite Free, Lite, Runtime en Runtime Pro?

Runtime Lite Free is de gratis download voor persoonlijk, educatief en evaluatiegebruik. Runtime Lite is dezelfde inferentie-engine en eindpunten onder een commerciële licentie voor productiegebruik. Runtime voegt de auditketen van het Parta-protocol toe. Runtime Pro voegt door identiteit ondersteunde herkomst toe. Commerciële niveaus zijn beschikbaar op aanvraag via het contactformulier.

Overzicht

Ontdek wat uw inferentieserver u werkelijk kost.

Stel uzelf in dertig seconden voor en we geven u toegang tot het document. Geen verkoopgesprek, geen opvolging.

Bugs en feedback

Neem contact op

Wij lezen elk bericht.

Vertel ons voor een commerciële evaluatie over de beoogde werklast, hardware, integratievorm, adapter- en kennisvereisten en wat vóór en na inferentie moet worden geverifieerd. Via hetzelfde formulier bereikt u ook technische ondersteuning voor installatieproblemen, modelcompatibiliteit, fouten en prestatievragen.