Parta Runtime
Servidor de inferencia local. Cuatro niveles
ejecuta la inferencia GGUF local sin montar una pila de Python o contenedores. Comience con una construcción portátil gratuita, luego pasa a la producción donde se pueden verificar las solicitudes antes de calcular, controlar el contexto de ejecución y eventos definidos registrados con procedencia respaldada por identidad.
Desplázate hacia abajo
Si el almacenamiento o la RAM es su factor limitante, no la GPU
Lo mismo rack.
Más capacidad.
Esto se aplica cuando el almacenamiento o la RAM del sistema, en lugar de la memoria de la GPU, limita la cantidad que se puede ejecutar por host. El mismo hardware proporciona aproximadamente el doble de capacidad utilizable, ya sea para más tenant de pago o para más cargas de trabajo y departamentos internos.
El hermano menor
Parta Runtime,
sin la plataforma.
Parta Assist funciona en una pila completa: app, backend y Parta Runtime, el motor de inferencia, conectado a identidad, auditorías y control de políticas para industrias reguladas. Runtime Lite es ese mismo motor de inferencia, despojado de todo lo demás.
Sin capa de identidad / Sin cadena de auditoría / Sin motor de políticas
Compatible por diseño
Habla los formatos
Ya usas.
Endpoints de finalización de chat compatibles con OpenAI y Anthropic, así que cualquier cosa ya construida contra esos API funciona contra tu propio servidor local. Se incluye soporte visual para modelos que aceptan entradas de imagen.
Compatible OpenAI / compatible Anthropic / Vision incluida
Cópialo a cualquier sitio
Descarga y extrae el archivo,
Ejecuta el programa.
Un ejecutable vinculado estáticamente y otro archivo de configuración. Sin derechos de administrador, sin instalador, sin servicio en segundo plano que gestionar. Apunta la configuración a un archivo de modelo GGUF que ya esté en tu máquina.
Lleva tu propio modelo / Sin cuenta / Sin seguimiento
Hoja de ruta
Windows y Linux.
Vulkan a continuación.
Las compilaciones CUDA están disponibles tanto para Windows como para Linux. Vulkan está en la hoja de ruta para hardware fuera de NVIDIA.
Windows CUDA / Linux CUDA / Vulkan (próximamente)
Dos niveles, personal a comercial
Lite Free.
Lite.
Los equipos de producción pueden necesitar más de un punto final local. Runtime está diseñado para verificar el origen, la sesión y la autoridad de ejecución antes de asignar recursos de inferencia protegidos.
Los registros de tiempo de ejecución definen los eventos de ejecución, las salidas y la procedencia para una revisión posterior, mientras que Runtime Pro extiende ese modelo con verificación respaldada por identidad a través de nodos y servicios. Estos controles apoyan la gobernanza y la reconstrucción; no reemplazan la evaluación de riesgos, la revisión profesional o las obligaciones de cumplimiento.
Verificación previa a la inferencia / Adaptadores controlados y contexto / Registros de ejecución / Arquitectura pendiente de patente
Gratis. Disponible ahora
Lite Free
Comercial. Contáctenos
Lite
Dos niveles, auditados con respaldo de identidad
Runtime.
Runtime Pro.
Cuando un sistema de IA maneja datos regulados, la confianza por sí sola no es suficiente para el cumplimiento. Runtime registra qué se ejecutó y cuándo, sin necesidad de crear esa infraestructura.
Es la capa de evidencia que subyace a su proceso de gobernanza, no un reemplazo del mismo. Usted conserva la propiedad de las evaluaciones de riesgos y revisa las políticas; Runtime garantiza que los registros de los que dependen no se puedan editar silenciosamente después.
Puntos finales firmados/registros a prueba de manipulaciones/arquitectura pendiente de patente
Comercial. Contáctenos
Runtime
Comercial. Contáctenos
Runtime Pro
Descargue Runtime Lite Free y verifique.
CUDA · v0.1.0 · Uso personal, educativo y de evaluación.
Requiere una GPU NVIDIA con un controlador compatible con CUDA 13. Se está realizando una compilación de Vulkan para otro hardware.
Descargue el archivo y verifique su suma de comprobación SHA256 con el valor siguiente antes de ejecutarlo.
Preguntas
Antes de que preguntes
¿Qué es Parta Runtime Lite?
Un único ejecutable portátil que ejecute un servidor local de inferencia de IA en tu propia máquina. Es una versión simplificada de Parta Runtime, el motor de inferencia detrás de Parta Assist, eliminando la capa de identidad, la cadena de auditoría y el motor de políticas.
¿Qué formatos API soporta?
Formatos de finalización de chat compatibles con OpenAI y Anthropic, así que las herramientas ya construidas contra esos API funcionan contra un servidor local sin modificaciones. Se incluye soporte visual para modelos que aceptan entradas de imagen.
¿Incluye características de identidad, auditoría o pólizas?
No. Runtime Lite está intencionadamente despojado de todo lo que compone la producción Parta Runtime. Es un servidor de inferencia simple únicamente.
¿Qué hardware requiere?
Las compilaciones CUDA están disponibles para Windows y Linux y requieren un NVIDIA GPU con un controlador que funcione. Vulkan está en la hoja de ruta para otro hardware.
¿Cómo ejecuto el programa?
Descarga el zip, sácalo en cualquier parte del disco, apunta el archivo de configuración incluido a un archivo de modelo GGUF que ya tengas y ejecuta el ejecutable. Sin instalador, sin derechos de administrador, sin servicio en segundo plano.
¿El software transmite algún dato?
No. Funciona completamente en tu propio dispositivo y no transmite avisos, respuestas ni datos de uso a Parta ni a nadie más.
¿Cuál es la diferencia entre Runtime Lite Free, Lite, Runtime y Runtime Pro?
Runtime Lite Free es la descarga gratuita para uso personal, educativo y de evaluación. Runtime Lite es el mismo motor de inferencia y puntos finales bajo una licencia comercial para uso en producción. Runtime agrega la cadena de auditoría del protocolo Parta. Runtime Pro agrega procedencia respaldada por identidad. Los niveles comerciales están disponibles mediante consulta a través del formulario de contacto.
Descripción general
Descubre cuánto te cuesta realmente tu servidor de inferencia.
Treinta segundos para presentarte y te daremos acceso al documento. Sin llamadas comerciales ni seguimiento.
Errores y comentarios
Ponte en contacto
Leemos cada mensaje.
Para una evaluación comercial, digannos su carga de trabajo prevista, hardware, formato de integración, requisitos de adaptación y conocimientos, y lo que debe verificarse antes y después de la inferencia.