Parta Runtime
Server inferensi lokal. Empat tingkatan
Jalankan inferensi GGUF lokal tanpa menyusun Python atau tumpukan wadah. Mulailah dengan build portabel gratis, kemudian pindah ke produksi di mana permintaan dapat diverifikasi sebelum komputasi, konteks eksekusi dikontrol, dan peristiwa yang ditentukan yang direkam dengan asal-usul yang didukung identitas.
Gulir ke bawah
Jika penyimpanan atau RAM adalah faktor pembatas Anda, bukan GPU
rack yang sama.
Kapasitas lebih besar.
Hal ini berlaku ketika penyimpanan atau RAM sistem, bukan memori GPU, membatasi seberapa banyak yang dapat dijalankan per host. Perangkat keras yang sama menyediakan kira-kira dua kali lipat kapasitas yang dapat digunakan, baik untuk melayani lebih banyak tenant berbayar atau lebih banyak beban kerja dan departemen internal.
Adik laki-laki
Parta Runtime,
tanpa platform.
Parta Assist berjalan pada full stack: app, backend, dan Parta Runtime, mesin inferensi yang terhubung ke identitas, jejak audit, dan kontrol kebijakan untuk industri yang diatur. Runtime Lite adalah mesin inferensi yang sama, tanpa segalanya.
Tidak ada lapisan identitas / Tidak ada rantai audit / Tidak ada mesin kebijakan
Kompatibel secara desain
Berbicara dalam format
Kamu sudah pakai.
Endpoint penyelesaian chat yang kompatibel OpenAI dan kompatibel dengan Anthropic, jadi apa pun yang sudah dibangun terhadap API tersebut bekerja melawan server lokal Anda sendiri. Dukungan visi disertakan untuk model yang menerima input gambar.
OpenAI-kompatibel / kompatibel Anthropic / Vision termasuk
Salin di mana saja
Unduh dan ekstrak arsipnya,
Jalankan programnya.
Satu executable yang terhubung secara statis dan satu file konfigurasi. Tidak ada hak admin, tidak ada installer, tidak ada layanan latar belakang yang harus dikelola. Arahkan konfigurasi ke file model GGUF yang sudah ada di mesin Anda.
Bawa model Anda sendiri / Tidak ada akun / Tidak ada pelacakan
Peta jalan
Windows dan Linux.
Vulkan selanjutnya.
Build CUDA tersedia untuk Windows dan Linux. Vulkan ada dalam peta jalan untuk perangkat keras di luar NVIDIA.
Verifikasi pra-inferensi / Adaptor terkontrol dan konteks / Rekaman eksekusi / Arsitektur yang sedang menunggu paten
Dua tingkatan, pribadi hingga komersial
Lite Free.
Lite.
Tim produksi mungkin membutuhkan lebih dari satu titik akhir lokal. Runtime dirancang untuk memverifikasi asal, sesi dan otoritas eksekusi sebelum sumber daya inferensi yang terlindungi ditugaskan. penyebaran yang diatur dapat menerima konteks model yang diselesaikan, pengetahuan yang sah, adaptor skala eksekusi dan biji terkontrol dari platform Parta yang lebih luas.
Rekaman runtime mendefinisikan peristiwa eksekusi, output dan asal usul untuk tinjauan selanjutnya, sementara Runtime Pro memperluas model itu dengan verifikasi yang didukung identitas di seluruh node dan layanan. Kontrol ini mendukung pemerintahan dan rekonstruksi; mereka tidak menggantikan penilaian risiko, tinjauan profesional atau kewajiban kepatuhan.
Verifikasi pra-inferensi / Adaptor terkontrol dan konteks / Rekaman eksekusi / Arsitektur yang sedang menunggu paten
Gratis. Tersedia sekarang
Lite Free
Komersial. Hubungi kami
Lite
Dua tingkatan, diaudit untuk didukung identitas
Runtime.
Runtime Pro.
Ketika sistem AI menangani data yang diatur, kepercayaan saja tidak cukup untuk mencapai kepatuhan. Runtime mencatat apa yang dijalankan dan kapan, tanpa mengharuskan Anda membangun infrastruktur tersebut.
Ini adalah lapisan bukti di bawah proses tata kelola Anda, bukan penggantinya. Anda tetap memegang kepemilikan atas penilaian risiko dan meninjau kebijakan; Runtime memastikan catatan yang diandalkannya tidak dapat diedit secara diam-diam setelahnya.
Titik akhir yang ditandatangani / Log yang tidak mudah rusak / Arsitektur yang sedang dipatenkan
Komersial. Hubungi kami
Runtime
Komersial. Hubungi kami
Runtime Pro
Unduh Runtime Lite Free dan verifikasi.
CUDA · v0.1.0 · Penggunaan pribadi, pendidikan dan evaluasi
Membutuhkan GPU NVIDIA dengan driver yang kompatibel dengan CUDA 13. Pembuatan Vulkan untuk perangkat keras lainnya sedang berlangsung.
Unduh arsip dan verifikasi checksum SHA256 terhadap nilai di bawah sebelum menjalankannya.
Pertanyaan
Sebelum kamu bertanya
Apa itu Parta Runtime Lite?
Sebuah executable portabel tunggal yang menjalankan server inferensi AI lokal di mesin Anda sendiri. Ini adalah versi yang disederhanakan dari Parta Runtime, mesin inferensi di balik Parta Assist, dengan lapisan identitas, rantai audit, dan mesin kebijakan dihapus.
Format API mana yang didukung?
Format penyelesaian chat yang kompatibel OpenAI dan kompatibel dengan Anthropic, sehingga alat yang sudah dibangun untuk API tersebut dapat digunakan pada server lokal tanpa modifikasi. Dukungan visi disertakan untuk model yang menerima input gambar.
Apakah mencakup identitas, audit, atau fitur kebijakan?
Tidak. Runtime Lite sengaja menghilangkan segala sesuatu yang membentuk Parta Runtime produksi. Ini hanya server inferensi biasa.
Perangkat keras apa yang dibutuhkan?
Build CUDA tersedia untuk Windows dan Linux, memerlukan NVIDIA GPU dengan driver yang berfungsi. Vulkan sedang dalam peta jalan untuk perangkat keras lainnya.
Bagaimana cara menjalankan program ini?
Unduh zip, ekstrak di mana saja di disk, arahkan file konfigurasi yang disertakan ke file model GGUF yang sudah Anda miliki, lalu jalankan executable. Tidak ada installer, tidak ada hak admin, tidak ada layanan latar belakang.
Apakah perangkat lunak mengirimkan data apa pun?
Tidak. Aplikasi ini berjalan sepenuhnya di perangkat Anda sendiri dan tidak mengirimkan pertunjukan, respons, atau data penggunaan ke Parta atau siapa pun.
Apa perbedaan antara Runtime Lite Free, Lite, Runtime dan Runtime Pro?
Runtime Lite Free adalah unduhan gratis untuk penggunaan pribadi, pendidikan, dan evaluasi. Runtime Lite adalah mesin inferensi dan titik akhir yang sama di bawah lisensi komersial untuk penggunaan produksi. Runtime menambahkan rantai audit protokol Parta. Runtime Pro menambahkan asal yang didukung Identitas. Tingkatan komersial tersedia melalui pertanyaan melalui formulir kontak.
Ikhtisar
Ketahui biaya sebenarnya dari server inferensi Anda.
Luangkan tiga puluh detik untuk memperkenalkan diri dan kami akan memberi Anda akses ke dokumen. Tanpa panggilan penjualan, tanpa tindak lanjut.
Bug dan umpan balik
Hubungi kami
Kami membaca setiap pesan.
Untuk evaluasi komersial, beritahu kami beban kerja yang Anda inginkan, perangkat keras, format integrasi, kebutuhan adaptor dan pengetahuan, dan apa yang harus diverifikasi sebelum dan setelah inferensi. Formulir yang sama juga mencapai dukungan teknis untuk masalah instalasi, kompatibilitas model, bug dan pertanyaan kinerja.