Parta Runtime Lite / Guida / Installa e usa
Installazione e avvio
Parta Runtime Lite è un unico eseguibile portatile. Non c'è installatore, nessun servizio di background e nessun account. Questa pagina copre tutto, dal download alla tua prima richiesta.
1. Scarica
Scarica la build corrente dalla sezione Download e verifica della pagina iniziale. Il file ZIP contiene l'eseguibile, un file di configurazione di esempio e le informative sulle licenze di terze parti.
2. Verifica il checksum
Prima di eseguire il programma, confronta il checksum SHA256 del file con il valore pubblicato accanto al download. In Windows:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
Confronta l'output con l'hash pubblicato. Se non corrispondono, non eseguire il file, scaricalo di nuovo.
3. Estrazione
Scomprimi l'archivio ovunque su disco, in una cartella locale, su un disco esterno o in una condivisione di rete. Non sono necessari diritti di amministratore e nulla viene scritto al di fuori della cartella in cui si estrae.
4. Configurazione
Apri lite.toml nella cartella estratta e imposta model.path sul percorso di un file di modello GGUF già disponibile:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Imposta gpu_layers = 0 per utilizzare esclusivamente la CPU. Lascia server.host su 127.0.0.1 per rendere il server raggiungibile solo dal computer locale, oppure impostalo su 0.0.0.0 per accettare connessioni da altri dispositivi della rete.
5. Avvio
Esegui parta-runtime-lite.exe. All'avvio vengono mostrati il modello caricato e l'indirizzo di ascolto. Lascia aperta la finestra: il server rimane attivo finché il processo è in esecuzione.
6. Invia una richiesta
Il server supporta formati per il completamento delle chat compatibili con OpenAI e Anthropic. Le applicazioni già sviluppate per queste API possono utilizzarlo indicando l'indirizzo locale:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
Qualcosa non funziona?
Usa il modulo per bug e feedback nella pagina iniziale oppure scrivi direttamente a support(at)parta.app, indicando versione della build, GPU/sistema operativo e modello utilizzato.