Parta Runtime
Lokální inferenční server. Čtyři patra
Spouštějte lokální inferenci GGUF bez sestavování Pythonu či kontejnerového řešení. Začněte bezplatnou přenosnou verzí a přejděte k produkci, kde lze požadavky ověřit před výpočtem, řídit kontext provádění a zaznamenávat definované události s původem podloženým identitou.
Sjeďte dolů
Pokud je vaším limitujícím faktorem úložiště nebo RAM, ne GPU
To samé rack.
Větší kapacita.
To platí, když úložiště nebo systémová RAM, spíše než paměť GPU, omezuje, kolik lze spustit na host. Stejný hardware poskytuje zhruba dvojnásobek využitelné kapacity, ať už slouží více platícím tenant nebo většímu internímu pracovnímu zatížení a oddělením.
Mladší bratr
Parta Runtime,
Bez platformy.
Parta Assist běží na plnohodnotném stacku: aplikaci, backend a Parta Runtime, inferenční engine, propojený s identitou, auditními stopami a řízením politik pro regulovaná odvětví. Runtime Lite je ten samý inferenční engine, zbavený všeho ostatního.
Žádná vrstva identity / Žádný auditní řetězec / Žádný engine politik
Kompatibilní podle designu
Mluví formáty
Už používáš.
OpenAI kompatibilní a Anthropic-kompatibilní endpointy pro dokončení chatu, takže cokoli, co už je postaveno proti těmto API, funguje i na vašem vlastním lokálním serveru. Podpora vidění je zahrnuta pro modely, které přijímají vstupy obrazu.
OpenAI-kompatibilní / Anthropic-kompatibilní / Vision zahrnut
Zkopírujte to kamkoliv
Stáhněte a rozbalte archiv,
Spusť program.
Jeden staticky propojený spustitelný soubor a jeden konfigurační soubor. Žádná administrátorská práva, žádný instalátor, žádná služba na pozadí k řízení. Nastavte konfiguraci na GGUF modelový soubor, který už máte na svém počítači.
Přineste si vlastní model / Žádný účet / Žádné sledování
Cestovní mapa
Windows a Linux. Vulkan bude následovat.
Sestavení CUDA jsou k dispozici pro Windows i Linux. Vulkan je na plánu pro hardware mimo NVIDIA.
Windows CUDA / Linux CUDA / Vulkan (brzy)
Dvě úrovně, osobní až komerční
Lite Free.
Lite.
Produkční týmy mohou potřebovat více než lokální endpoint. Runtime ověřuje původ, relaci a oprávnění před přidělením chráněných prostředků. Řízená nasazení mohou z platformy Parta přijímat vyřešený kontext modelu, autorizované znalosti, adaptéry vymezené prováděním a řízené seedy.
Runtime zaznamenává definované události, výstupy a původ pro pozdější kontrolu; Runtime Pro přidává ověření identity napříč uzly a službami. Tyto prvky podporují správu a rekonstrukci, nenahrazují však posouzení rizik, odbornou kontrolu ani povinnosti souladu.
Ověření před inferencí / Řízené adaptéry a kontext / Záznamy provádění / Patentovaná architektura v řízení
Zdarma. K dispozici nyní
Lite Free
Komerční. Kontaktujte nás
Lite
Dvě úrovně, auditované na podporu identity
Runtime.
Runtime Pro.
Když systém umělé inteligence zpracovává regulovaná data, samotná důvěra ke shodě nestačí. Runtime zaznamenává, co a kdy běželo, aniž byste museli budovat tuto infrastrukturu.
Je to důkazní vrstva pod vaším procesem správy, nikoli její náhrada. Zůstáváte vlastnictvím hodnocení rizik a zásad revize; Runtime zajišťuje, že záznamy, na kterých závisí, nemohou být poté tiše upravovány.
Podepsané koncové body / protokoly evidující neoprávněnou manipulaci / architektura čekající na patentování
Komerční. Kontaktujte nás
Runtime
Komerční. Kontaktujte nás
Runtime Pro
Stáhněte si Runtime Lite Free a ověřte.
CUDA · v0.1.0 · Osobní, vzdělávací a hodnotící využití
Vyžaduje GPU NVIDIA s ovladačem kompatibilním s CUDA 13. Probíhá sestavení Vulkanu pro další hardware.
Před spuštěním archiv stáhněte a ověřte jeho kontrolní součet SHA256 oproti hodnotě níže.
Otázky
Než se zeptáš
Co je Parta Runtime Lite?
Jeden přenosný spustitelný soubor, který spouští lokální AI inferenční server na vašem vlastním počítači. Jedná se o zjednodušenou verzi Parta Runtime, inferenčního jádra Parta Assist, s odstraněnou vrstvou identity, auditním řetězcem a politickým jádrem.
Které API formáty podporuje?
OpenAI kompatibilní a Anthropic kompatibilní formáty chatu, takže nástroje již vytvořené proti těmto API fungují na lokálním serveru bez úprav. Podpora vidění je zahrnuta pro modely, které přijímají vstupy obrazu.
Zahrnuje to prvky identity, auditu nebo politiky?
Ne. Runtime Lite je záměrně zbaven všeho, co tvoří produkční Parta Runtime. Je to pouze obyčejný inferenční server.
Jaký hardware to vyžaduje?
Sestavení CUDA jsou k dispozici pro Windows a Linux, které vyžadují NVIDIA GPU s funkčním ovladačem. Vulkan je na plánu pro další hardware.
Jak mám program spustit?
Stáhni zip, rozbal ho kdekoli na disku, zaměř přiložený konfigurační soubor na GGUF model, který už máš, a spustitelný soubor spustitelný. Žádný instalátor, žádná administrátorská práva, žádná služba na pozadí.
Přenáší software nějaká data?
Ne. Běží zcela na vašem vlastním zařízení a nepřenáší výzvy, odpovědi ani údaje o používání Partě ani nikomu jinému.
Jaký je rozdíl mezi Runtime Lite Free, Lite, Runtime a Runtime Pro?
Runtime Lite Free je bezplatné stažení pro osobní, vzdělávací a hodnotící použití. Runtime Lite je stejný inferenční stroj a koncové body pod komerční licencí pro produkční použití. Runtime přidává řetězec auditu protokolu Parta. Runtime Pro přidává původ podpořený identitou. Obchodní úrovně jsou dostupné na základě poptávky prostřednictvím kontaktního formuláře.
Přehled
Zjistěte, kolik vás váš inferenční server skutečně stojí.
Stačí třicet sekund na představení a zpřístupníme vám dokument. Žádný prodejní hovor ani další kontakt.
Chyby a zpětná vazba
Kontaktujte nás
Čteme každou zprávu.
Pro komerční hodnocení nám sdělte zamýšlenou zátěž, hardware, integrační formát, požadavky na adaptéry a znalosti a co se má ověřovat před inferencí a po ní. Stejný formulář slouží technické podpoře pro instalaci, kompatibilitu modelů, chyby a výkon.