Parta Runtime
เซิร์ฟเวอร์อนุมานท้องถิ่น สี่ชั้น
วิ่งการสรุป GGUF ของพื้นที่โดยไม่ต้องประกอบ Python หรือ container stack. เริ่มต้นด้วยการสร้างแบบพกพาฟรี, จากนั้นย้ายไปยังการผลิตที่สามารถตรวจสอบคําขอก่อนการคํานวณ, การควบคุมสภาพบรรยากาศการดําเนินงาน, และการบันทึกเหตุการณ์ที่กําหนดโดยมีฐานฐานฐานที่รับรองด้วยความเป็นตัวตน.
เลื่อนลง
หากพื้นที่เก็บข้อมูลหรือ RAM เป็นปัจจัยจำกัดของคุณ ไม่ใช่ GPU
rack เหมือนกัน
ความจุมากขึ้น
สิ่งนี้มีผลเมื่อพื้นที่เก็บข้อมูลหรือ RAM ของระบบ แทนที่จะเป็นหน่วยความจำ GPU จำกัดปริมาณการทำงานต่อ host ฮาร์ดแวร์ตัวเดียวกันนี้ให้ความจุที่ใช้งานได้มากกว่าประมาณสองเท่า ไม่ว่าจะรองรับ tenant ที่จ่ายเงินมากกว่าหรือปริมาณงานและแผนกภายในมากกว่า
น้องชาย
Parta Runtime,
โดยไม่มีชานชาลา
Parta Assist ทํางานบนระบบเต็มรูปแบบ: แอป, แบ็กเอนด์ และ Parta Runtime ซึ่งเป็นเอนจินอนุมานที่เชื่อมต่อกับการระบุตัวตน, การตรวจสอบ และการควบคุมนโยบายสําหรับอุตสาหกรรมที่มีการควบคุม Runtime Lite ก็คือเอนจินอนุมานเดียวกันนี้ แต่ตัดทุกอย่างออกไปหมด
ไม่มีชั้นตัวตน / ไม่มีเชนการตรวจสอบ / ไม่มีเอนจินนโยบาย
ออกแบบมาให้เข้ากันได้
พูดได้ตามรูปแบบ
คุณใช้ไปแล้ว
อุปกรณ์เชื่อมต่อการแชทที่รองรับOpenAIและAnthropic ดังนั้นอุปกรณ์ที่สร้างบนAPIเหล่านั้นอยู่แล้วจะทํางานกับเซิร์ฟเวอร์ท้องถิ่นของคุณเองได้ รองรับการมองเห็นสําหรับโมเดลที่รับอินพุตภาพ
รองรับ OpenAI / รองรับ Anthropic / มี Vision รวมอยู่ด้วย
คัดลอกไปที่ไหนก็ได้
ดาวน์โหลดและแตกไฟล์คลังข้อมูล
รันโปรแกรม
ไฟล์ปฏิบัติการที่ลิงก์แบบคงที่หนึ่งไฟล์และไฟล์กําหนดค่าหนึ่งไฟล์. ไม่มีสิทธิ์ผู้ดูแลระบบ ไม่ต้องติดตั้ง ไม่มีบริการเบื้องหลังให้จัดการ ชี้การตั้งค่าไปที่ไฟล์โมเดลGGUFที่มีอยู่ในเครื่องของคุณแล้ว
นํารุ่นของคุณเองมา / ไม่ต้องมีบัญชี / ไม่มีการติดตาม
แผนการทำงาน
Windows และ Linux โดย Vulkan จะตามมาเป็นลำดับถัดไป
CUDA บิลด์พร้อมใช้งานสำหรับทั้ง Windows และ Linux Vulkan อยู่ในแผนงานสำหรับฮาร์ดแวร์ภายนอก NVIDIA
Windows CUDA / Linux CUDA / Vulkan (เร็วๆ นี้)
สองชั้น ส่วนบุคคลเพื่อการพาณิชย์
Lite Free.
Lite.
ทีมการผลิตอาจต้องการมากกว่าจุดปลายทางในพื้นที่ Runtime ออกแบบเพื่อตรวจสอบแหล่งกําเนิด การประชุม และอํานาจการดําเนินงาน ก่อนที่จะจัดสรรทรัพยากรการสรุปที่คุ้มครอง การจัดตั้งที่ปกครองสามารถรับบทความแบบที่แก้ไข ความรู้ที่ได้รับอนุญาต แอดปเตอร์ที่ใช้ในการดําเนินงาน และเมล็ดที่ควบคุมจากระบบพาร์ต้าที่กว้างกว่า
การบันทึกเวลาทํางานกําหนดเหตุการณ์การดําเนินงาน ผลิตผลและกําเนิดมาเพื่อการตรวจสอบภายหลัง ขณะที่ Runtime Pro ขยายแบบนั้นด้วยการตรวจสอบที่รองรับความเป็นตัวตนข้ามหน่วยและบริการ การควบคุมเหล่านี้สนับสนุนการปกครองและการสร้างใหม่ พวกเขาไม่แทนการประเมินความเสี่ยง การตรวจสอบอาชีพหรือความเป็นจริง
การตรวจสอบก่อนการเข้า / แอดปเตอร์ควบคุมและบท / บันทึกการดําเนินงาน / อาร์คิเตคตราที่รอรับการอนุญาต
ฟรี. มีจำหน่ายแล้ว
Lite Free
เชิงพาณิชย์ ติดต่อเรา
Lite
สองชั้น ได้รับการตรวจสอบโดยมีข้อมูลประจำตัวสนับสนุน
Runtime.
Runtime Pro.
เมื่อระบบ AI จัดการข้อมูลที่ได้รับการควบคุม ความไว้วางใจเพียงอย่างเดียวไม่เพียงพอสำหรับการปฏิบัติตามข้อกำหนด Runtime บันทึกสิ่งที่ทำงานและเมื่อใด โดยที่คุณไม่ต้องสร้างโครงสร้างพื้นฐานนั้น
มันเป็นชั้นหลักฐานที่อยู่ใต้กระบวนการกำกับดูแลของคุณ ไม่ใช่สิ่งทดแทน คุณยังคงเป็นเจ้าของการประเมินความเสี่ยงและทบทวนนโยบาย Runtime ทำให้แน่ใจว่าบันทึกที่ขึ้นอยู่กับนั้นจะไม่สามารถแก้ไขได้อย่างเงียบๆ หลังจากนั้น
จุดสิ้นสุดที่ลงนาม / บันทึกหลักฐานการงัดแงะ / สถาปัตยกรรมที่อยู่ระหว่างการจดสิทธิบัตร
เชิงพาณิชย์ ติดต่อเรา
Runtime
เชิงพาณิชย์ ติดต่อเรา
Runtime Pro
ดาวน์โหลด Runtime Lite Free และยืนยัน
CUDA · v0.1.0 · การใช้งานส่วนบุคคล การศึกษา และการประเมินผล
ต้องใช้ NVIDIA GPU พร้อมไดรเวอร์ที่เข้ากันได้กับ CUDA 13 อยู่ระหว่างการสร้าง Vulkan สำหรับฮาร์ดแวร์อื่นๆ
ดาวน์โหลดไฟล์เก็บถาวรและตรวจสอบผลรวมตรวจสอบ SHA256 กับค่าด้านล่างก่อนเรียกใช้
คําถาม
ก่อนที่คุณจะถาม
Parta Runtime Liteคืออะไร?
ไฟล์ปฏิบัติการแบบพกพาเพียงไฟล์เดียวที่รันเซิร์ฟเวอร์อนุมาน AI ในเครื่องของคุณเอง มันเป็นเวอร์ชันที่ถูกลดทอนของ Parta Runtime ซึ่งเป็นเอนจินอนุมานเบื้องหลัง Parta Assist โดยตัดชั้นอัตลักษณ์ เชนการตรวจสอบ และเอนจินนโยบายออกไป
รองรับAPIฟอร์แมตอะไรบ้าง?
รูปแบบการสนทนาที่เข้ากันได้กับOpenAIและAnthropic ดังนั้นเครื่องมือที่สร้างบนAPIเหล่านั้นจึงสามารถทํางานกับเซิร์ฟเวอร์ภายในเครื่องได้โดยไม่ต้องแก้ไข รองรับการมองเห็นสําหรับโมเดลที่รับอินพุตภาพ
มีฟีเจอร์เกี่ยวกับตัวตน การตรวจสอบ หรือนโยบายหรือไม่?
ไม่ Runtime Lite ถูกตัดทุกอย่างที่ประกอบเป็นParta Runtimeการผลิตออกโดยตั้งใจ มันเป็นเซิร์ฟเวอร์อนุมานธรรมดาเท่านั้น
ต้องใช้ฮาร์ดแวร์อะไรบ้าง?
CUDA builds พร้อมใช้งานสำหรับ Windows และ Linux โดยต้องการ NVIDIA GPU พร้อมไดรเวอร์ที่ใช้งานได้ Vulkan อยู่ในแผนงานสำหรับฮาร์ดแวร์อื่นๆ
ฉันจะรันโปรแกรมได้อย่างไร?
ดาวน์โหลดไฟล์ zip แล้วแยกไฟล์ออกมาที่ใดก็ได้บนดิสก์ ชี้ไฟล์คอนฟิกที่แนบมาให้กับไฟล์โมเดลGGUFที่คุณมีอยู่แล้ว แล้วรันไฟล์ปฏิบัติการ ไม่มีตัวติดตั้ง ไม่มีสิทธิ์ผู้ดูแลระบบ ไม่มีบริการเบื้องหลัง
ซอฟต์แวร์ส่งข้อมูลอะไรไหม?
ไม่ มันทํางานบนอุปกรณ์ของคุณเองทั้งหมดและไม่ส่งข้อความแจ้งเตือน การตอบกลับ หรือข้อมูลการใช้งานไปยัง Parta หรือบุคคลอื่น
Runtime Lite Free, Lite, Runtime และ Runtime Pro แตกต่างกันอย่างไร?
Runtime Lite Free เป็นการดาวน์โหลดฟรีสำหรับการใช้งานส่วนบุคคล การศึกษา และการประเมินผล Runtime Lite เป็นเครื่องมืออนุมานและจุดสิ้นสุดเดียวกันภายใต้ใบอนุญาตเชิงพาณิชย์สำหรับการใช้งานจริง Runtime เพิ่มห่วงโซ่การตรวจสอบโปรโตคอล Parta Runtime Pro เพิ่มแหล่งที่มาที่ได้รับการสนับสนุนจากข้อมูลประจำตัว ชั้นเชิงพาณิชย์มีจำหน่ายโดยการสอบถามผ่านแบบฟอร์มติดต่อ
ภาพรวม
ดูว่าจริง ๆ แล้วเซิร์ฟเวอร์อนุมานของคุณมีค่าใช้จ่ายเท่าใด
ใช้เวลาแนะนำตัวเพียงสามสิบวินาที แล้วเราจะให้คุณเข้าถึงเอกสาร ไม่มีการโทรขายและไม่มีการติดตามผล
บั๊กและข้อเสนอแนะ
ติดต่อเรา
เราอ่านทุกข้อความ
สําหรับการประเมินทางการค้า บอกเราความต้องการของงานของคุณ, แฮร์ดแวร์, รูปแบบการสอดสอดสอดสอด, ความต้องการของความรู้, และสิ่งที่ต้องตรวจสอบก่อนและหลังการสรุป. แบบเดียวกันยังได้รับการสนับสนุนทางเทคนิคสําหรับปัญหาการติดตั้ง, ความเข้ากันแบบ, ปรับผิดพลาดและคําถามการทํางาน.