Parta Runtime Lite / دليل / التثبيت والتشغيل على Linux
التثبيت والتشغيل على Linux
Parta Runtime Lite هو ملف محمول واحد قابل للتنفيذ. لا يوجد مثبت ولا خدمة خلفية ولا حساب. تغطي هذه الصفحة كل شيء بدءًا من التنزيل وحتى طلبك الأول على Linux.
تم تجميع بنية Linux ضمن Ubuntu 26.04. إنه ثنائي Linux أصلي ويعمل بنفس الطريقة على Linux المعدني، ولكن إذا وصلت إلى أي شيء خاص بالتوزيع، فأخبرنا بذلك من خلال الخطأ ونموذج التغذية الراجعة، فهو يساعدنا على الاختبار مقابل البيئات الحقيقية.
1. تحميل
احصل على البناء الحالي من قسم التحميل والتحقق من الصفحة الرئيسية. التنزيل عبارة عن ملف مضغوط يحتوي على ملف التنفيذي، ونموذج ملف تكوين، وإشعارات ترخيص من طرف ثالث.
2. تحقق من قيمة التحقق
قبل تشغيل أي شيء، تحقق من المجموع الاختباري SHA256 للملف مقابل القيمة المنشورة بجوار التنزيل:
sha256sum parta-runtime-lite-linux-cuda.zip
قارن الناتج مع التجزئة المنشورة. إذا لم تتطابق، لا تشغل الملف، وقم بتحميله مرة أخرى.
3. استخراج الأرشيف
قم بفك ضغط الأرشيف في أي مكان على القرص أو المجلد المحلي أو محرك أقراص خارجي أو مشاركة عبر الشبكة. لا يلزم الوصول إلى root ولا تتم كتابة أي شيء خارج المجلد الذي تستخرجه.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. التكوين
افتح الملف lite.toml في المجلد المستخرج ومجموعة model.path إلى ملف نموذج GGUF لديك
بالفعل:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
حدد القيمة gpu_layers = 0 ليعمل على CPU فقط. غادر server.host ك
127.0.0.1 للحفاظ على إمكانية الوصول إلى الخادم فقط من جهازك الخاص، أو ضبطه على 0.0.0.0
لقبول الاتصالات من أجهزة أخرى على شبكتك.
5. تشغيل البرنامج
قم بتمييز الملف الثنائي القابل للتنفيذ، ثم قم بتشغيله:
chmod +x parta-runtime-lite ./parta-runtime-lite
عند بدء التشغيل، يقوم بطباعة النموذج الذي تم تحميله والعنوان الذي يستمع إليه. اترك الجهاز مفتوحًا، أو قم بتشغيله تحت tmux/screen/nohup إذا كنت تريد أن يستمر تشغيله بعد قطع الاتصال. يعمل الخادم طالما أن العملية قيد التشغيل.
6. إرسال طلب
يتحدث الخادم صيغ إكمال المحادثات المتوافقة مع OpenAI وAnthropic. أي شيء مبني بالفعل على تلك API يعمل هنا عن طريق توجيهه إلى عنوانك المحلي بدلا من ذلك:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
هل هناك شيء لا يعمل؟
تحقق من الخطأ ونموذج التغذية الراجعة على الصفحة الرئيسية، أو استخدمه لتخبرنا بالتوزيعة وإصدار kernel وبرنامج التشغيل GPU والنموذج الذي تستخدمه، وهذه هي أسرع طريقة لمساعدتنا في تعقب أي شيء خاص بـ Linux.