Parta Runtime Lite / คู่มือ / ติดตั้งและรันบน Linux
ติดตั้งและรันบน Linux
Parta Runtime Lite เป็นโปรแกรมปฏิบัติการแบบพกพาเครื่องเดียว ไม่มีตัวติดตั้ง ไม่มีบริการพื้นหลัง และไม่มีบัญชี หน้านี้ครอบคลุมทุกอย่างตั้งแต่การดาวน์โหลดไปจนถึงคำขอแรกของคุณบน Linux
บิลด์ Linux ถูกคอมไพล์ภายใต้ Ubuntu 26.04 มันเป็นไบนารี Linux ดั้งเดิมและทำงานในลักษณะเดียวกันกับ Linux แบบ Bare-Metal แต่หากคุณพบสิ่งใดที่เฉพาะเจาะจงเกี่ยวกับดิสโทร โปรดแจ้งให้เราทราบผ่าน แบบฟอร์มบั๊กและข้อเสนอแนะ ซึ่งจะช่วยให้เราทดสอบกับสภาพแวดล้อมจริงได้
1. ดาวน์โหลด
รับเวอร์ชันปัจจุบันจาก ส่วนดาวน์โหลดและตรวจสอบ ของหน้าแรก ไฟล์ดาวน์โหลดเป็นไฟล์ zip ที่ประกอบด้วยไฟล์ปฏิบัติการ ไฟล์กําหนดค่าตัวอย่าง และประกาศใบอนุญาตจากบุคคลที่สาม
2. ตรวจสอบค่าตรวจสอบ checksum
ก่อนที่จะรันสิ่งใด ให้ตรวจสอบผลรวมตรวจสอบ SHA256 ของไฟล์กับค่าที่เผยแพร่ถัดจากการดาวน์โหลด:
sha256sum parta-runtime-lite-linux-cuda.zip
เปรียบเทียบผลลัพธ์กับแฮชที่เผยแพร่ ถ้าไม่ตรงกัน อย่ารันไฟล์ ดาวน์โหลดใหม่อีกครั้ง
3. แตกไฟล์เก็บถาวร
คลายซิปไฟล์เก็บถาวรได้ทุกที่บนดิสก์ โฟลเดอร์ในเครื่อง ไดรฟ์ภายนอก หรือการแชร์เครือข่าย ไม่จำเป็นต้องเข้าถึง root และไม่มีการเขียนสิ่งใดนอกโฟลเดอร์ที่คุณแตกไฟล์
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. กําหนดค่า
เปิดไฟล์ lite.toml ในโฟลเดอร์ที่แตกไฟล์และตั้งค่า model.path สําหรับไฟล์ GGUF model ที่คุณมีอยู่แล้ว:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
ตั้งค่าค่า gpu_layers = 0 ให้ทํางานบน CPU เท่านั้น ออกไป server.host เป็น 127.0.0.1 เพื่อให้เซิร์ฟเวอร์สามารถเข้าถึงได้เฉพาะจากเครื่องของคุณเอง หรือตั้งค่าเป็น 0.0.0.0 เพื่อรับการเชื่อมต่อจากอุปกรณ์อื่นในเครือข่ายของคุณ
5. รันโปรแกรม
ทำเครื่องหมายไฟล์ปฏิบัติการไบนารี จากนั้นรัน:
chmod +x parta-runtime-lite ./parta-runtime-lite
เมื่อเริ่มต้นระบบจะพิมพ์โมเดลที่โหลดและที่อยู่ที่กำลังฟังอยู่ เปิดเทอร์มินัลทิ้งไว้ หรือเรียกใช้ภายใต้ tmux/screen/nohup หากคุณต้องการให้เทอร์มินัลทำงานต่อไปหลังจากที่คุณยกเลิกการเชื่อมต่อ เซิร์ฟเวอร์จะทำงานตราบเท่าที่กระบวนการกำลังทำงานอยู่
6. ส่งคําขอ
เซิร์ฟเวอร์รองรับรูปแบบการสนทนาที่เข้ากันได้กับ OpenAI และ Anthropic สิ่งที่สร้างไว้กับAPIเหล่านั้นจะทํางานที่นี่โดยชี้ไปที่ที่อยู่ท้องถิ่นของคุณแทน:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
มีอะไรไม่ทํางานหรือเปล่า?
ตรวจสอบข้อผิดพลาด แบบฟอร์มบั๊กและข้อเสนอแนะ บนหน้าแรก หรือใช้แบบฟอร์มนี้เพื่อแจ้งให้เราทราบถึง distro, เวอร์ชันเคอร์เนล, ไดรเวอร์ GPU และรุ่นที่คุณใช้ ซึ่งเป็นวิธีที่เร็วที่สุดในการช่วยเราติดตามสิ่งที่เฉพาะเจาะจงของ Linux