Parta Runtime Lite / 指南 / 安装并运行

安装并运行

Parta Runtime Lite ·入门 ·2026年9月

Parta Runtime Lite 是一个可移植的可执行文件。没有安装程序,没有后台服务,也没有账户。本页涵盖从下载到首次请求的所有内容。

1. 下载

从以下平台获取当前版本。 下载与验证部分 主页的。下载文件是一个包含可执行文件、示例配置文件和第三方许可通知的压缩包。

2. 验证校验码

运行任何操作前,先核对文件的SHA256校验和与下载旁边发布的值。关于 Windows:

Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256

将输出与发布的哈希值进行比较。如果不匹配,就不要运行文件,重新下载。

3. 解压档案

将归档解压到磁盘、本地文件夹、外置硬盘或网络共享中的任何位置。不需要管理员权限,也不会写入你解压到的文件夹以外的内容。

4. 配置

打开文件 lite.toml 在提取的文件夹和集合中 model.path 到你已经拥有的GGUF模型文件:

[model]
path = "D:/models/your-model.gguf"
gpu_layers = 99
context_size = 8192

设置数值 gpu_layers = 0 只能在CPU上运行。离开 server.host 作为 127.0.0.1 让服务器只能从你自己的机器访问,或者设置为 0.0.0.0 接受来自网络中其他设备的连接。

5. 运行程序

运行程序 parta-runtime-lite.exe.启动时会打印已加载的模型和监听地址。窗口保持开启,服务器会运行到进程运行为止。

6. 发送请求

服务器支持OpenAI兼容和Anthropic兼容的聊天完成格式。任何已经基于这些API的设置,都可以在这里用,方法是指向你本地地址:

curl http://127.0.0.1:8080/v1/chat/completions ^
  -H "Content-Type: application/json" ^
  -d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"

有什么地方不起作用?

检查一下 错误与反馈表单 在主页,或者直接发邮件support(at)parta.app你的构建版本、GPU/操作系统以及你使用的型号。