Parta Runtime
Lokaler Inferenzserver. Vier Ebenen
Führen Sie lokale GGUF-Abschlüsse aus, ohne einen Python- oder Containerstack zu montieren. Beginnen Sie mit einem kostenlosen tragbaren Build, dann wechseln Sie zu einer Produktion, in der Anfragen vor der Berechnung überprüft werden können, der Ausführungskontext kontrolliert und definierte Ereignisse mit identitätsgestütztem Ursprung aufgezeichnet werden.
Scrollen Sie nach unten
Wenn Speicher oder RAM Ihr limitierender Faktor sind, nicht die GPU
Gleiches rack.
Mehr Kapazität.
Dies gilt, wenn der Speicher oder der System-RAM anstelle des GPU-Speichers die Ausführungskapazität pro host begrenzt. Die gleiche Hardware bietet ungefähr die doppelte nutzbare Kapazität, unabhängig davon, ob sie mehr zahlende tenant oder mehr interne Arbeitslasten und Abteilungen bedient.
Der jüngere Bruder
Parta Runtime,
Ohne die Plattform.
Parta Assist läuft auf einem Full Stack: App, Backend und Parta Runtime, die Inferenz-Engine, die mit der Identität verbunden ist, Audittrails und Richtlinienkontrolle für regulierte Branchen. Runtime Lite ist dieselbe Inferenz-Engine, aber von allem anderen beraubt.
Keine Identitätsschicht / Keine Auditkette / Keine Policy-Engine
Kompatibilität durch Design
Spricht die Formate
Du benutzt es bereits.
OpenAI-kompatible und Anthropic-kompatible Chat-Abschluss-Endpunkte, sodass alles, was bereits darauf basiert API, auch auf deinem eigenen lokalen Server funktioniert. Vision-Unterstützung ist für Modelle enthalten, die Bildeingaben akzeptieren.
OpenAI-kompatibel / Anthropic-kompatibel / Vision enthalten
Kopieren Sie es irgendwohin.
Das Archiv herunterladen und extrahieren,
Führe das Programm aus.
Eine statisch verknüpfte ausführbare Datei und eine Konfigurationsdatei. Keine Administratorrechte, kein Installationsprogramm, kein Hintergrunddienst zum Verwalten. Richte die Konfiguration auf eine GGUF Modelldatei, die bereits auf deinem Rechner liegt.
Bring dein eigenes Modell mit / Kein Konto / Kein Tracking
Roadmap
Windows und Linux.
Vulkan als nächstes.
CUDA-Builds sind sowohl für Windows als auch für Linux verfügbar. Vulkan steht auf der Roadmap für Hardware außerhalb von NVIDIA.
Vor-Inferenz-Verifizierung / Kontrollierte Adapter und Kontext / Ausführungsunterlagen / Patentgebundene Architektur
Zwei Ebenen, privat bis kommerziell
Lite Free.
Lite.
Produktionsteams benötigen möglicherweise mehr als einen lokalen Endpunkt. Runtime ist so konzipiert, dass Ursprung, Session und Ausführungsbefugnis überprüft werden, bevor geschützte Ableitungsressourcen zugewiesen werden. Regulierte Bereitstellungen können aus der breiteren Parta-Plattform gelöste Modellkontext, autorisiertes Wissen, ausführungsorientierte Adapter und kontrollierte Samen erhalten.
Runtime-Daten definieren Ausführungsereignisse, Ausgänge und Herkunft für spätere Überprüfung, während Runtime Pro dieses Modell mit Identitätssicherung über Knoten und Dienste hinweg erweitert. Diese Kontrollen unterstützen Governance und Rekonstruktion; sie ersetzen keine Risikobewertung, professionelle Überprüfung oder Compliance-Verpflichtungen.
Vor-Inferenz-Verifizierung / Kontrollierte Adapter und Kontext / Ausführungsunterlagen / Patentgebundene Architektur
Kostenlos. Jetzt verfügbar
Lite Free
Kommerziell. Kontaktieren Sie uns
Lite
Zwei Stufen, identitätsgesichert geprüft
Runtime.
Runtime Pro.
Wenn ein KI-System regulierte Daten verarbeitet, reicht Vertrauen allein nicht aus, um die Compliance zu gewährleisten. Runtime zeichnet auf, was wann ausgeführt wurde, ohne dass Sie diese Infrastruktur aufbauen müssen.
Es ist die Beweisschicht unter Ihrem Governance-Prozess und kein Ersatz dafür. Sie behalten das Eigentum an Risikobewertungen und Überprüfungsrichtlinien. Runtime stellt sicher, dass die Datensätze, von denen sie abhängen, im Nachhinein nicht unbemerkt bearbeitet werden können.
Signierte Endpunkte / Manipulationssichere Protokolle / Zum Patent angemeldete Architektur
Kommerziell. Kontaktieren Sie uns
Runtime
Kommerziell. Kontaktieren Sie uns
Runtime Pro
Laden Sie Runtime Lite Free herunter und überprüfen Sie es.
CUDA · v0.1.0 · Persönlicher, pädagogischer und evaluativer Gebrauch
Erfordert eine NVIDIA-GPU mit einem CUDA 13-kompatiblen Treiber. Ein Vulkan-Build für andere Hardware ist in Arbeit.
Laden Sie das Archiv herunter und überprüfen Sie seine SHA256-Prüfsumme anhand des untenstehenden Werts, bevor Sie es ausführen.
Fragen
Bevor du fragst
Was ist Parta Runtime Lite?
Eine einzige, portable ausführbare Datei, die einen lokalen KI-Inferenzserver auf deinem eigenen Rechner betreibt. Es handelt sich um eine abgespeckte Version von Parta Runtime, der Schlussfolgerungsmaschine hinter Parta Assist, wobei die Identitätsschicht, die Auditkette und die Policy-Engine entfernt wurden.
Welche API Formate wird unterstützt?
OpenAI-kompatible und Anthropic-kompatible Chat-Abschlussformate, sodass bereits dafür entwickelte APITools gegen einen lokalen Server ohne Modifikation funktionieren. Vision-Unterstützung ist für Modelle enthalten, die Bildeingaben akzeptieren.
Beinhaltet sie Identitäts-, Audit- oder Richtlinienmerkmale?
Nein. Runtime Lite ist absichtlich von allem befreit, was die Produktions-Parta Runtime ausmacht. Es handelt sich ausschließlich um einen einfachen Inferenzserver.
Welche Hardware benötigt es?
CUDA-Builds sind für Windows und Linux verfügbar und erfordern einen NVIDIA GPU mit einem funktionierenden Treiber. Vulkan steht auf der Roadmap für andere Hardware.
Wie führe ich das Programm aus?
Lade die Zip-Datei herunter, entpacke sie irgendwo auf der Festplatte, verweise die beiliegende Konfigurationsdatei auf eine bereits vorhandene GGUF-Modelldatei und starte die ausführbare Datei. Kein Installateur, keine Admin-Rechte, kein Hintergrundservice.
Übermittelt die Software irgendwelche Daten?
Nein. Es läuft vollständig auf Ihrem eigenen Gerät und sendet keine Eingabeaufforderungen, Antworten oder Nutzungsdaten an Parta oder sonst jemanden.
Was ist der Unterschied zwischen Runtime Lite Free, Lite, Runtime und Runtime Pro?
Runtime Lite Free ist der kostenlose Download für den persönlichen Gebrauch, für Bildungszwecke und für Evaluierungszwecke. Runtime Lite ist die gleiche Inferenz-Engine und die gleichen Endpunkte unter einer kommerziellen Lizenz für den Produktionsgebrauch. Runtime fügt die Parta-Protokoll-Prüfkette hinzu. Runtime Pro fügt identitätsgestützte Herkunft hinzu. Kommerzielle Stufen sind auf Anfrage über das Kontaktformular erhältlich.
Übersicht
Erfahren Sie, was Ihr Inferenzserver Sie tatsächlich kostet.
Stellen Sie sich in dreißig Sekunden vor, und wir geben Ihnen Zugriff auf das Dokument. Kein Verkaufsgespräch, keine Nachfassaktion.
Bugs und Rückmeldungen
Nehmen Sie Kontakt auf
Wir lesen jede Nachricht.
Für eine kommerzielle Bewertung, sagen Sie uns Ihre beabsichtigte Arbeitslast, Hardware, Integrationsformat, Adapter und Kenntnisanforderungen, und was vor und nach der Schlussfolgerung überprüft werden muss.