Parta Runtime Lite / Rehber / Kur ve çalıştır
Kurulum ve çalıştırmak
Parta Runtime Lite tek taşınabilir bir yürütülebilir dosyadır. Kurulum yapıcı, arka plan hizmeti ve hesap yok. Bu sayfa, indirmeden ilk taleğinize kadar her şeyi kapsar.
1. İndir
Mevcut yapıyı İndir ve Doğrulama bölümü ana sayfanın için. İndirme, çalıştırılabilir dosya, örnek yapılandırma dosyası ve üçüncü taraf lisans bildirimlerini içeren bir zip dosyasıdır.
2. Kontrol toplamını doğrulayın
Herhangi bir şey çalıştırmadan önce, dosyanın SHA256 kontrol toplamını indirmenin yanında yayınlanan değerle karşılaştırın. Windows hakkında:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Çıktıyı yayımlanan hash ile karşılaştırın. Eşleşmezlerse dosyayı çalıştırmayın, tekrar indirin.
3. Arşivi çıkarın
Arşivi diskteki herhangi bir yerde, yerel klasörde, harici bir sürücüde veya ağ paylaşımında çözebilirsiniz. Hiçbir yönetici hakkı gerekmiyor ve çıkardığınız klasörün dışında hiçbir şey yazılmıyor.
4. Yapılandır
Dosyayı aç lite.toml Çıkarılmış klasörde ve set model.path Zaten sahip olduğunuz GGUF model dosyasına göre:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Değeri belirleyin gpu_layers = 0 sadece CPU üzerinde çalışmak için. Bırak server.host olarak 127.0.0.1 sunucuya sadece kendi makinenizden ulaşılabilir tutmak ya da 0.0.0.0 ağınızdaki diğer cihazlardan bağlantıları kabul etmek için.
5. Programı çalıştır
Programı çalıştır parta-runtime-lite.exe. Başlatıldığında yüklenen modeli ve dinlediği adresi yazdırıyor. Pencereyi açık bırakın, sunucu işlem çalıştığı sürece çalışır.
6. Bir talep gönderin
Sunucu, OpenAI uyumlu ve Anthropic uyumlu sohbet tamamlama formatlarını kullanıyor. Bu API karşısında zaten inşa edilmiş her şey burada yerel adresinize yönlendirerek işe yarar:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Bir şey işe yaramıyor mu?
Kontrol edin Hata ve geri bildirim formu ana sayfada ya da doğrudan support(at)parta.app e-posta ile yap sürümünüz, GPU/OS ve kullandığınız modeli gönderin.