Parta Runtime
Serveur d'inférence local. Quatre niveaux
Exécutez une inférence GGUF locale sans assembler une pile Python ou de conteneurs. Commencez par une version portable gratuite, puis passez à la production, où les requêtes peuvent être vérifiées avant le calcul, le contexte d'exécution contrôlé et les événements définis enregistrés avec une provenance fondée sur l'identité.
Faites défiler vers le bas
Si le stockage ou la RAM est votre facteur limitant, pas le GPU
Même rack.
Plus de capacité.
Cela s'applique lorsque le stockage ou la RAM système, plutôt que la mémoire GPU, limite la quantité pouvant être exécutée par host. Le même matériel fournit environ deux fois la capacité utilisable, qu'il s'agisse de tenant plus payants ou de charges de travail et de départements internes plus importants.
Le frère cadet
Parta Runtime,
sans la plateforme.
Parta Assist fonctionne sur une stack complète : application, backend et Parta Runtime, le moteur d’inférence, câblé à l’identité, aux traces d’audit et au contrôle des politiques pour les industries réglementées. Runtime Lite est ce même moteur d’inférence, dépouillé de tout le reste.
Pas de couche d’identité / Pas de chaîne d’audit / Pas de moteur de politique
Compatible par conception
Parle les formats
Tu utilises déjà.
Des terminaux de complétion de chat compatibles OpenAI et compatibles Anthropic, donc tout ce qui est déjà construit contre ces API fonctionne sur votre propre serveur local. Le support de la vision est inclus pour les modèles acceptant les entrées d’image.
Compatible OpenAI / compatible Anthropic / Vision inclus
Copiez-le où vous voulez
Téléchargez et extrayez l’archive,
Lance le programme.
Un exécutable lié statiquement et un fichier de configuration. Aucun droit administrateur, pas d’installateur, pas de service d’arrière-plan à gérer. Pointez la configuration vers un fichier modèle GGUF déjà présent sur votre machine.
Apportez votre propre modèle / Pas de compte / Pas de suivi
Feuille de route
Windows et Linux.
Vulkan ensuite.
Les versions CUDA sont disponibles pour Windows et Linux. Vulkan est sur la feuille de route pour le matériel en dehors de NVIDIA.
Vérification avant inférence / Adaptateurs et contexte contrôlés / Journaux d'exécution / Architecture en instance de brevet
Deux niveaux, personnel à commercial
Lite Free.
Lite.
Les équipes de production peuvent avoir besoin de davantage qu'un point de terminaison local. Runtime est conçu pour vérifier l'origine, la session et l'autorité d'exécution avant l'allocation des ressources d'inférence protégées. Les déploiements gouvernés peuvent recevoir de la plateforme Parta dans son ensemble le contexte de modèle résolu, les connaissances autorisées, les adaptateurs limités à l'exécution et les graines contrôlées.
Runtime consigne les événements d'exécution définis, les résultats et la provenance en vue d'un examen ultérieur, tandis que Runtime Pro étend ce modèle par une vérification fondée sur l'identité entre les nœuds et les services. Ces contrôles facilitent la gouvernance et la reconstitution ; ils ne remplacent ni l'évaluation des risques, ni l'examen professionnel, ni les obligations de conformité.
Vérification avant inférence / Adaptateurs et contexte contrôlés / Journaux d'exécution / Architecture en instance de brevet
Gratuit. Disponible maintenant
Lite Free
Commerciale. Contactez-nous
Lite
Deux niveaux, audités et basés sur l'identité
Runtime.
Runtime Pro.
Lorsqu’un système d’IA gère des données réglementées, la confiance seule ne suffit pas à assurer la conformité. Runtime enregistre ce qui s'est exécuté et quand, sans que vous ayez à construire cette infrastructure.
Il s’agit de la couche de preuves sous-jacente à votre processus de gouvernance, et non d’un substitut. Vous restez propriétaire des évaluations des risques et des politiques de révision ; Runtime garantit que les enregistrements dont ils dépendent ne peuvent pas être modifiés silencieusement par la suite.
Points de terminaison signés / Journaux inviolables / Architecture en instance de brevet
Commerciale. Contactez-nous
Runtime
Commerciale. Contactez-nous
Runtime Pro
Téléchargez Runtime Lite Free et vérifiez.
CUDA · v0.1.0 · Utilisation personnelle, éducative et d’évaluation
Nécessite un GPU NVIDIA avec un pilote compatible CUDA 13. Une version Vulkan pour d'autres matériels est en cours.
Téléchargez l'archive et vérifiez sa somme de contrôle SHA256 par rapport à la valeur ci-dessous avant de l'exécuter.
Questions
Avant que tu ne demandes
Qu’est-ce que Parta Runtime Lite ?
Un exécutable portable unique qui exécute un serveur d’inférence IA local sur votre propre machine. C’est une version allégée de Parta Runtime, le moteur d’inférence derrière Parta Assist, avec la couche d’identité, la chaîne d’audit et le moteur de politique supprimés.
Quels API formats supporte-t-il ?
Des formats de complétion de chat compatibles OpenAI et Anthropic, donc des outils déjà conçus contre ces API fonctionnent sur un serveur local sans modification. Le support de la vision est inclus pour les modèles acceptant les entrées d’image.
Inclut-il des caractéristiques d’identité, d’audit ou de police ?
Non. Runtime Lite est volontairement dépouillé de tout ce qui compose la production Parta Runtime. C’est uniquement un serveur d’inférence simple.
Quel matériel nécessite-t-il ?
Les versions CUDA sont disponibles pour Windows et Linux, nécessitant un NVIDIA GPU avec un pilote fonctionnel. Vulkan est sur la feuille de route pour d’autres matériels.
Comment exécuter le programme ?
Téléchargez le zip, extrayez-le n’importe où sur le disque, pointez le fichier de configuration inclus vers un fichier GGUF modèle que vous possédez déjà, puis lancez l’exécutable. Pas d’installateur, pas de droits administrateur, pas de service en arrière-plan.
Le logiciel transmet-il des données ?
Non. Il fonctionne entièrement sur votre propre appareil et ne transmet ni invites, ni réponses, ni données d’utilisation à Parta ou à d’autres personnes.
Quelle est la différence entre Runtime Lite Free, Lite, Runtime et Runtime Pro ?
Runtime Lite Free est un téléchargement gratuit destiné à un usage personnel, éducatif et d'évaluation. Runtime Lite est le même moteur d'inférence et les mêmes points de terminaison sous une licence commerciale pour une utilisation en production. Runtime ajoute la chaîne d'audit du protocole Parta. Runtime Pro ajoute une provenance basée sur l'identité. Les niveaux commerciaux sont disponibles sur demande via le formulaire de contact.
Présentation
Découvrez ce que votre serveur d’inférence vous coûte réellement.
Trente secondes pour vous présenter et nous vous donnerons accès au document. Aucun appel commercial, aucune relance.
Bugs et retours
Contactez-nous
Nous lisons chaque message.
Pour une évaluation commerciale, indiquez-nous la charge de travail prévue, le matériel, le format d'intégration, les besoins en matière d'adaptateurs et de connaissances, ainsi que les éléments à vérifier avant et après l'inférence. Le même formulaire permet également de joindre l'assistance technique pour les problèmes d'installation, de compatibilité des modèles, de bogues et de performances.