Parta Runtime Lite / Guia / Instale e execute em Linux
Instale e execute em Linux
Parta Runtime Lite é um único executável portátil. Não há instalador, serviço em segundo plano e nenhuma conta. Esta página cobre tudo, desde o download até sua primeira solicitação no Linux.
A compilação Linux é compilada em Ubuntu 26.04. É um binário Linux nativo e funciona da mesma maneira em Linux bare-metal, mas se você encontrar algo específico da distribuição, informe-nos por meio do Formulário de bugs e feedback, isso nos ajuda a testar em ambientes reais.
1. Download
Obtenha a versão atual do Seção de download e verificação da página inicial. O download é um arquivo zip contendo o executável, um arquivo de configuração de exemplo e avisos de licença de terceiros.
2. Verificar a soma de verificação
Antes de executar qualquer coisa, compare a soma de verificação SHA256 do arquivo com o valor publicado próximo ao download:
sha256sum parta-runtime-lite-linux-cuda.zip
Compare a saída com o hash publicado. Se não coincidirem, não execute o arquivo, baixe novamente.
3. Extrair o arquivo
Descompacte o arquivo em qualquer lugar do disco, em uma pasta local, em uma unidade externa ou em um compartilhamento de rede. Nenhum acesso root é necessário e nada é gravado fora da pasta para a qual você extraiu.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. Configurar
Abra o arquivo lite.toml na pasta extraída e no conjunto model.path Para um arquivo de modelo GGUF que você já tem:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
Defina o valor gpu_layers = 0 para rodar apenas com CPU. Vá embora server.host como 127.0.0.1 para manter o servidor acessível apenas pela sua própria máquina, ou configurá-lo para 0.0.0.0 para aceitar conexões de outros dispositivos na sua rede.
5. Executar o programa
Marque o executável binário e execute-o:
chmod +x parta-runtime-lite ./parta-runtime-lite
Na inicialização ele imprime o modelo carregado e o endereço que está escutando. Deixe o terminal aberto ou execute-o em tmux/screen/nohup se quiser que ele continue funcionando após a desconexão. O servidor funciona enquanto o processo estiver em execução.
6. Enviar um pedido
O servidor fala formatos de conclusão de chat compatíveis com OpenAI e Anthropic. Qualquer coisa já construída contra esses API funciona aqui, apontando para o seu endereço local:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
Algo não está funcionando?
Verifique o Formulário de bugs e feedback na página inicial ou use-o para nos informar sua distribuição, versão do kernel, driver GPU e o modelo que você está usando. Essa é a maneira mais rápida de nos ajudar a rastrear qualquer coisa específica do Linux.