Parta Runtime
خادم الاستدلال المحلي. أربع طبقات
شغّل استدلال GGUF محليًا من دون تجميع حزمة Python أو حاويات. ابدأ بإصدار محمول مجاني، ثم انتقل إلى الإنتاج حيث يمكن التحقق من الطلبات قبل الحوسبة، وضبط سياق التنفيذ، وتسجيل الأحداث المحددة بمصدر موثق بالهوية.
انزل للأسفل
إذا كان التخزين أو ذاكرة الوصول العشوائي (RAM) هو العامل المحدد لديك، وليس وحدة معالجة الرسومات (GPU).
نفس rack.
المزيد من القدرات.
ينطبق هذا عندما تحدد سعة التخزين أو ذاكرة الوصول العشوائي للنظام، بدلاً من ذاكرة وحدة معالجة الرسومات، مقدار ما يمكن تشغيله لكل host. يوفر نفس الجهاز ما يقرب من ضعف السعة القابلة للاستخدام، سواء كان ذلك يخدم المزيد من أعباء العمل والأقسام الداخلية.
الأخ الأصغر
Parta Runtime,
بدون المنصة.
يعمل Parta Assist على مكدس كامل: تطبيق، وخلفية، Parta Runtimeومحرك الاستدلال، متصل بالهوية وسجلات التدقيق والتحكم في السياسات للصناعات المنظمة. Runtime Lite هو نفس محرك الاستدلال، خال من كل شيء آخر.
لا توجد طبقة هوية / لا سلسلة تدقيق / لا محرك سياسات
متوافق من حيث التصميم
يتحدث الصيغ
أنت تستخدمه بالفعل.
نقاط نهاية إكمال الدردشة المتوافقة مع OpenAI وAnthropic، لذا أي شيء مبني بالفعل على تلك API يعمل ضد خادمك المحلي. يتضمن دعم الرؤية للنماذج التي تقبل مدخلات الصور.
متوافق مع OpenAI / متوافق مع Anthropic / رؤية مدرجة
انسخها في أي مكان
قم بتنزيل واستخراج الأرشيف،
شغل البرنامج.
ملف تنفيذي متصل بشكل ثابت وملف تكوين واحد. لا حقوق إدارة، لا مثبت، ولا خدمة خلفية لإدارتها. وجه الإعدادات إلى ملف موديل GGUF موجود بالفعل على جهازك.
أحضر طرازك الخاص / بدون حساب / لا تتبع
خريطة الطريق
Windows وLinux. يليه Vulkan.
إصدارات CUDA متاحة لكل من Windows وLinux. Vulkan موجود على خريطة الطريق للأجهزة خارج NVIDIA.
Windows CUDA / Linux CUDA / Vulkan (قريبًا)
مستويين، شخصي إلى تجاري
Lite Free.
Lite.
قد تحتاج فرق الإنتاج إلى أكثر من نقطة نهاية محلية. صُمم Runtime للتحقق من المصدر والجلسة وصلاحية التنفيذ قبل تخصيص موارد الاستدلال المحمية. ويمكن لعمليات النشر المحكومة تلقي سياق النموذج المحسوم والمعرفة المصرح بها والموائمات المحددة بنطاق التنفيذ والبذور المنضبطة من منصة Parta الأوسع.
يسجل Runtime أحداث التنفيذ المحددة والمخرجات ومعلومات المصدر للمراجعة اللاحقة، بينما يوسّع Runtime Pro هذا النموذج من خلال التحقق المدعوم بالهوية عبر العقد والخدمات. تدعم هذه الضوابط الحوكمة وإعادة البناء؛ لكنها لا تحل محل تقييم المخاطر أو المراجعة المهنية أو التزامات الامتثال.
التحقق قبل الاستدلال / موائمات وسياق منضبطان / سجلات التنفيذ / بنية قيد تسجيل براءة اختراع
مجاني. متوفر الآن
Lite Free
تجاري. اتصل بنا
Lite
مستويين، تم تدقيقهما لدعم الهوية
Runtime.
Runtime Pro.
عندما يتعامل نظام الذكاء الاصطناعي مع البيانات المنظمة، فإن الثقة وحدها لا تكفي للامتثال. يسجل Runtime ما تم تشغيله ومتى، دون الحاجة إلى إنشاء تلك البنية التحتية.
إنها طبقة الأدلة الموجودة أسفل عملية الحوكمة لديك، وليست بديلاً عنها. أنت تحتفظ بملكية تقييمات المخاطر ومراجعة السياسات؛ يضمن Runtime أن السجلات التي يعتمدون عليها لا يمكن تحريرها بهدوء بعد ذلك.
نقاط النهاية الموقعة / سجلات التلاعب الواضح / بنية في انتظار براءات الاختراع
تجاري. اتصل بنا
Runtime
تجاري. اتصل بنا
Runtime Pro
قم بتنزيل Runtime Lite Free وتحقق منه.
CUDA · v0.1.0 · الاستخدام الشخصي والتعليمي والتقييمي
يتطلب وحدة معالجة الرسومات NVIDIA مع برنامج تشغيل متوافق مع CUDA 13. يجري الآن إنشاء Vulkan للأجهزة الأخرى.
قم بتنزيل الأرشيف وتحقق من المجموع الاختباري SHA256 الخاص به مقابل القيمة أدناه قبل تشغيله.
أسئلة
قبل أن تسأل
ما هو Parta Runtime Lite؟
ملف تنفيذي واحد محمول يشغل خادم استنتاج ذكاء اصطناعي محلي على جهازك الخاص. إنه نسخة مبسطة من Parta Runtime، محرك الاستدلال وراء Parta Assist، مع إزالة طبقة الهوية وسلسلة التدقيق ومحرك السياسات.
أي API صيغ يدعمها؟
صيغ إكمال الدردشة المتوافقة مع OpenAI وAnthropic، لذا فإن الأدوات المبنية بالفعل ضد تلك API تعمل على خادم محلي دون تعديل. يتضمن دعم الرؤية للنماذج التي تقبل مدخلات الصور.
هل يشمل ميزات الهوية أو التدقيق أو السياسات؟
لا. تم تجريد Runtime Lite عمدا من كل ما يشكل Parta Runtime الإنتاج. إنه خادم استنتاجات بسيط فقط.
ما هو الجهاز الذي يتطلبه الجهاز؟
تتوفر إصدارات CUDA لـ Windows وLinux، وتتطلب NVIDIA GPU برنامج تشغيل يعمل. Vulkan موجود على خريطة الطريق للأجهزة الأخرى.
كيف أنفذ البرنامج؟
قم بتنزيل ملف zip، واستخراجه في أي مكان على القرص، ووجه ملف التكوين المرفق إلى ملف موديل GGUF لديك بالفعل، وشغل ملف التنفيذ. لا يوجد مثبت، لا حقوق إدارية، ولا خدمة خلفية.
هل ينقل البرنامج أي بيانات؟
لا. يعمل بالكامل على جهازك الخاص ولا يرسل الإشعارات أو الردود أو بيانات الاستخدام إلى Parta أو أي شخص آخر.
ما الفرق بين Runtime Lite Free وLite وRuntime وRuntime Pro؟
Runtime Lite Free هو تنزيل مجاني للاستخدام الشخصي والتعليمي والتقييمي. Runtime Lite هو نفس محرك الاستدلال ونقاط النهاية بموجب ترخيص تجاري لاستخدام الإنتاج. يضيف Runtime سلسلة تدقيق بروتوكول Parta. يضيف Runtime Pro المصدر المدعوم بالهوية. المستويات التجارية متاحة عن طريق الاستفسار من خلال نموذج الاتصال.
نظرة عامة
اعرف التكلفة الفعلية لخادم الاستدلال لديك.
ثلاثون ثانية للتعريف بنفسك، وسنمنحك إمكانية الوصول إلى المستند. لا مكالمة مبيعات ولا متابعة.
الأخطاء والتعليقات
تواصل معنا
نقرأ كل رسالة.
لإجراء تقييم تجاري، أخبرنا بعبء العمل المقصود، والأجهزة، وتنسيق التكامل، ومتطلبات الموائمات والمعرفة، وما يجب التحقق منه قبل الاستدلال وبعده. ويصل النموذج نفسه أيضًا إلى الدعم الفني لمعالجة مشكلات التثبيت وتوافق النماذج والأخطاء وأسئلة الأداء.