Parta Runtime
Локален сървър за изводи. Четири нива
Използвайте локално GGUF заключение, без да събирате Python или контейнерен стейк. Започнете с безплатна преносима конструкция, след което преминете към производство, където исканията могат да бъдат проверени преди изчисляване, контекст на изпълнението контролиран и определени събития, записани с идентично подкрепяно произход.
Превъртете надолу
Ако паметта или RAM са вашият ограничаващ фактор, а не GPU
Същото rack.
Повече капацитет.
Това се прилага, когато паметта за съхранение или системната RAM, а не GPU паметта, ограничава колко може да се изпълнява на host. Същият хардуер осигурява приблизително два пъти по-голям използваем капацитет, независимо дали обслужва повече плащащи tenant или повече вътрешни натоварвания и отдели.
По-малкият брат
Parta Runtime,
без платформата.
Parta Assist работи на пълен стек: приложение, бекенд и Parta Runtime, двигател за изводи, свързан с идентификация, одитни следи и контрол на политики за регулирани индустрии. Runtime Lite е същият енджин за изводи, лишен от всичко останало.
Няма слой идентичност / Няма одиторска верига / Няма енджин за политики
Съвместими по дизайн
Говори по форматите
Вече използваш.
OpenAI-съвместими и Anthropic-съвместими крайни точки за завършване на чатове, така че всичко, което вече е изградено върху тези API, работи срещу вашия локален сървър. Поддръжка на зрение е включена за модели, които приемат входни изображения.
OpenAI-съвместими / съвместими с Anthropic / включен Vision
Копирай го навсякъде
Изтеглете и извлечете архива,
Стартирайте програмата.
Един статично свързан изпълним файл и един конфигурационен файл. Няма администраторски права, няма инсталатор, няма фонова услуга за управление. Насочи конфигурацията към GGUF модел файл, който вече е на твоята машина.
Донеси свой собствен модел / Без акаунт / Без проследяване
Пътна карта
Windows и Linux. Следва Vulkan.
Компилациите на CUDA са налични както за Windows, така и за Linux. Vulkan е в пътната карта за хардуер извън NVIDIA.
Windows CUDA / Linux CUDA / Vulkan (скоро)
Две нива, персонални към търговски
Lite Free.
Lite.
Производствените екипи могат да се нуждаят от повече от локална крайна точка. Runtime е предназначен за проверка на произхода, сесията и изпълнителния орган, преди да бъдат разпределени защитени ресурси за заключение.
Рекордите за време на изпълнение определят събитията на изпълнение, изхода и произхода за по-късен преглед, докато Runtime Pro разширява този модел с верификация, подкрепена от идентичност, в рамките на възли и услуги. Тези контроли поддържат управлението и реконструкцията; те не заменят оценката на риска, професионалното преразглеждане или задълженията за съответствие.
Пре-инферентна проверка / Контролирани адаптери и контекст / Записи за изпълнение / Архитектура, подлежаща на патент
безплатно. Наличен сега
Lite Free
Търговски. Свържете се с нас
Lite
Две нива, одитирани за защита на самоличността
Runtime.
Runtime Pro.
Когато AI система обработва регулирани данни, доверието само по себе си не е достатъчно за съответствие. Runtime записва какво се изпълнява и кога, без да изисква от вас да изграждате тази инфраструктура.
Това е доказателственият слой под вашия процес на управление, а не негов заместител. Вие запазвате собствеността върху оценките на риска и политиките за преглед; Runtime гарантира, че записите, от които зависят, не могат да бъдат редактирани тихо след това.
Подписани крайни точки / Дневници, които са доказани за фалшифициране / Патентована архитектура
Търговски. Свържете се с нас
Runtime
Търговски. Свържете се с нас
Runtime Pro
Изтеглете Runtime Lite Free и проверете.
CUDA · v0.1.0 · Лична, образователна и оценъчна употреба
Изисква NVIDIA GPU с CUDA 13-съвместим драйвер. Извършва се изграждане на Vulkan за друг хардуер.
Изтеглете архива и проверете неговата контролна сума SHA256 спрямо стойността по-долу, преди да го стартирате.
Въпроси
Преди да попитате
Какво е Parta Runtime Lite?
Един преносим изпълним файл, който изпълнява локален AI инференциен сървър на вашата собствена машина. Това е опростена версия на Parta Runtime, двигателят за изводи зад Parta Assist, като идентичностният слой, одитната верига и механизмът за политики са премахнати.
Кои API формати поддържа?
OpenAI-съвместими и Anthropic-съвместими формати за завършване на чатове, така че инструментите, вече изградени срещу тези API, работят срещу локален сървър без модификации. Поддръжка на зрение е включена за модели, които приемат входни изображения.
Включва ли това функции за идентичност, одит или политика?
Не. Runtime Lite умишлено е лишен от всичко, което съставлява продукционния Parta Runtime. Това е само сървър за чисти изводи.
Какъв хардуер е необходим?
CUDA компилации са налични за Windows и Linux, изискващи NVIDIA GPU с работещ драйвер. Vulkan е в пътната карта за друг хардуер.
Как да изпълня програмата?
Изтегли zip-а, разархивирай го навсякъде на диска, насочи включения конфигурационен файл към GGUF модел, който вече имаш, и стартирай изпълнимия файл. Няма инсталатор, няма администраторски права, няма фонова услуга.
Предава ли софтуерът някакви данни?
Не. Той работи изцяло на вашето собствено устройство и не предава подсказки, отговори или данни за използване на Парта или на когото и да било друг.
Каква е разликата между Runtime Lite Free, Lite, Runtime и Runtime Pro?
Runtime Lite Free е безплатно изтегляне за лична, образователна и оценъчна употреба. Runtime Lite е същата машина за изводи и крайни точки под търговски лиценз за производствена употреба. Runtime добавя веригата за одит на протокол Parta. Runtime Pro добавя произход, подкрепен от идентичност. Търговските нива са достъпни чрез запитване чрез формата за контакт.
Общ преглед
Вижте колко всъщност ви струва вашият сървър за изводи.
Тридесет секунди, за да се представите, и ще ви дадем достъп до документа. Без търговски разговор и без последващи обаждания.
Бъгове и обратна връзка
Свържете се с нас
Четем всяко съобщение.
За търговска оценка, кажете ни планираното работно натоварване, хардуера, интеграционния формат, изискванията за адаптер и знания, както и това, което трябва да се провери преди и след заключението.