Lokale inferentieserver. Vier niveaus
Voer lokale GGUF-inferentie uit zonder een Python- of containerstack samen te stellen. Begin met een gratis draagbare versie en stap daarna over op productie, waar verzoeken vóór de berekening kunnen worden geverifieerd, de uitvoeringscontext wordt beheerst en vastgelegde gebeurtenissen met aan identiteit gekoppelde herkomst worden geregistreerd.
Scroll naar beneden
Als opslag of RAM uw beperkende factor is, niet GPU
Dit is van toepassing wanneer opslag- of systeem-RAM, in plaats van GPU-geheugen, beperkt hoeveel er per host kan worden uitgevoerd. Dezelfde hardware biedt grofweg twee keer zoveel bruikbare capaciteit, of dat nu meer betalende tenant is of meer interne werklasten en afdelingen.
De jongere broer
Parta Assist draait op een full stack: app, backend en Parta Runtime, de inferentiemotor, bekabeld naar identiteit, auditsporen en beleidscontrole voor gereguleerde sectoren. Runtime Lite is diezelfde inferentiemotor, maar dan van alles wat er verder is.
Geen identiteitslaag / Geen auditketen / Geen beleidsengine
Compatibel door ontwerp
OpenAI-compatibele en Anthropic-compatibele chatvoltooiingseindpunten, dus alles wat al tegen die APIs is gebouwd werkt tegen je eigen lokale server. Visuele ondersteuning is inbegrepen voor modellen die beeldinvoer accepteren.
OpenAI-compatibel / Anthropic-compatibel / Vision inbegrepen
Overal kopiëren
Eén statisch gekoppeld uitvoerbaar bestand en één configuratiebestand. Geen beheerdersrechten, geen installer, geen achtergronddienst om te beheren. Wijs de configuratie naar een GGUF modelbestand dat al op je machine staat.
Breng je eigen model mee / Geen account / Geen tracking
Routekaart
CUDA-builds zijn beschikbaar voor zowel Windows als Linux. Vulkan staat op de roadmap voor hardware buiten NVIDIA.
Verificatie vóór inferentie / Gecontroleerde adapters en context / Uitvoeringsregistraties / Octrooi aangevraagd voor de architectuur
Twee niveaus, van persoonlijk tot commercieel
Productieteams hebben mogelijk meer nodig dan een lokaal eindpunt. Runtime is ontworpen om oorsprong, sessie en uitvoeringsbevoegdheid te verifiëren voordat beschermde inferentiebronnen worden toegewezen. Beheerste implementaties kunnen van het bredere Parta-platform een opgeloste modelcontext, geautoriseerde kennis, uitvoeringsgebonden adapters en gecontroleerde seeds ontvangen.
Runtime registreert vastgelegde uitvoeringsgebeurtenissen, uitvoer en herkomst voor latere beoordeling, terwijl Runtime Pro dit model uitbreidt met identiteitsgebonden verificatie tussen knooppunten en diensten. Deze controles ondersteunen governance en reconstructie; ze vervangen geen risicobeoordeling, professionele toetsing of nalevingsverplichtingen.
Verificatie vóór inferentie / Gecontroleerde adapters en context / Uitvoeringsregistraties / Octrooi aangevraagd voor de architectuur
Gratis. Nu beschikbaar
Commercieel. Neem contact met ons op
Twee niveaus, gecontroleerd tot op identiteit gebaseerd
Wanneer een AI-systeem gereguleerde gegevens verwerkt, is vertrouwen alleen niet voldoende voor naleving. Runtime registreert wat er wanneer is uitgevoerd, zonder dat u die infrastructuur hoeft te bouwen.
Het is de bewijslaag onder uw bestuursproces, en geen vervanging ervan. Je behoudt de verantwoordelijkheid voor risicobeoordelingen en reviewbeleid; Runtime zorgt ervoor dat de records waarvan ze afhankelijk zijn, niet achteraf stilletjes kunnen worden bewerkt.
Ondertekende eindpunten / Fraudebestendige logboeken / Architectuur waarvoor patent is aangevraagd
Commercieel. Neem contact met ons op
Commercieel. Neem contact met ons op
CUDA · v0.1.0 · Persoonlijk, educatief en evaluatiegebruik
Vereist een NVIDIA GPU met een CUDA 13-compatibel stuurprogramma. Er wordt gewerkt aan een Vulkan-build voor andere hardware.
Download het archief en verifieer de SHA256-controlesom met de onderstaande waarde voordat u het uitvoert.
Vragen
Een enkele, draagbare uitvoerbare map die een lokale AI-inferentieserver op je eigen machine draait. Het is een uitgeklede versie van Parta Runtime, de inferentiemotor achter Parta Assist, waarbij de identiteitslaag, auditketen en beleidsmotor zijn verwijderd.
OpenAI-compatibele en Anthropic-compatibele chatvoltooiingsformaten, dus tools die al APIdaarvoor zijn gebouwd werken zonder aanpassing tegen een lokale server. Visuele ondersteuning is inbegrepen voor modellen die beeldinvoer accepteren.
Nee. Runtime Lite is bewust ontdaan van alles wat de productie Parta Runtime vormt. Het is alleen een eenvoudige inferentieserver.
CUDA-builds zijn beschikbaar voor Windows en Linux, waarvoor een NVIDIA GPU met een werkende driver vereist is. Vulkan staat op de roadmap voor andere hardware.
Download de zip, pak het ergens op de schijf uit, wijs het bijgevoegde configuratiebestand naar een GGUF modelbestand dat je al hebt, en start het uitvoerbare bestand. Geen installer, geen beheerdersrechten, geen achtergrondservice.
Nee. Het draait volledig op je eigen apparaat en stuurt geen prompts, antwoorden of gebruiksgegevens naar Parta of iemand anders.
Runtime Lite Free is de gratis download voor persoonlijk, educatief en evaluatiegebruik. Runtime Lite is dezelfde inferentie-engine en eindpunten onder een commerciële licentie voor productiegebruik. Runtime voegt de auditketen van het Parta-protocol toe. Runtime Pro voegt door identiteit ondersteunde herkomst toe. Commerciële niveaus zijn beschikbaar op aanvraag via het contactformulier.
Overzicht
Stel uzelf in dertig seconden voor en we geven u toegang tot het document. Geen verkoopgesprek, geen opvolging.
Bugs en feedback
Wij lezen elk bericht.
Vertel ons voor een commerciële evaluatie over de beoogde werklast, hardware, integratievorm, adapter- en kennisvereisten en wat vóór en na inferentie moet worden geverifieerd. Via hetzelfde formulier bereikt u ook technische ondersteuning voor installatieproblemen, modelcompatibiliteit, fouten en prestatievragen.