Parta Runtime Lite / ガイド / Linux にインストールして実行する
Linux にインストールして実行する
Parta Runtime Lite は、単一のポータブルな実行可能ファイルです。インストーラー、バックグラウンド サービス、アカウントはありません。このページでは、Linux のダウンロードから最初のリクエストまでのすべてを説明します。
Linux ビルドは Ubuntu 26.04 でコンパイルされます。これはネイティブ Linux バイナリであり、ベアメタル Linux 上でも同様に実行されますが、ディストリビューション固有の何かに遭遇した場合は、バグとフィードバックフォーム を通じてお知らせください。実際の環境に対するテストに役立ちます。
1. ダウンロード
現在のビルドは ダウンロードと検証セクション ホームページの。ダウンロードは実行ファイル、サンプル設定ファイル、第三者ライセンス通知を含むzipファイルです。
2. チェックサムの検証
何かを実行する前に、ファイルの SHA256 チェックサムを、ダウンロードの横に公開されている値と比較して確認してください。
sha256sum parta-runtime-lite-linux-cuda.zip
出力を公開されたハッシュと比較してください。もし一致しなければ、そのファイルを実行せず、再度ダウンロードしてください。
3. アーカイブの抽出
ディスク、ローカル フォルダー、外部ドライブ、またはネットワーク共有上の任意の場所にアーカイブを解凍します。 root アクセスは必要なく、解凍先フォルダーの外には何も書き込まれません。
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. 設定
ファイルを開けてください lite.toml 抽出されたフォルダーとセットに model.path すでに持っているGGUFモデルファイルに対して:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
値を設定します gpu_layers = 0 ただCPUだけを動かすために。出て行け server.host として 127.0.0.1 サーバーに自分のマシンからのみアクセス可能に保つか、あるいは 0.0.0.0 ネットワーク上の他のデバイスからの接続を受け入れるために。
5. プログラムを実行する
バイナリ実行可能ファイルにマークを付けて、実行します。
chmod +x parta-runtime-lite ./parta-runtime-lite
起動時に、ロードされたモデルとリッスンしているアドレスを出力します。切断後も実行し続けたい場合は、ターミナルを開いたままにするか、tmux/screen/nohup で実行します。サーバーは、プロセスが実行されている限り実行されます。
6. リクエストを送信する
サーバーは、OpenAI互換およびAnthropic互換のチャット完了形式を話します。すでにこれらのAPIに対して構築されているものは、代わりに地元の住所を指すことでここで使えます:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
何かがうまくいかないのか?
ホームページの バグとフィードバックフォーム を確認するか、それを使用してディストリビューション、カーネル バージョン、GPU ドライバー、および使用しているモデルをお知らせください。これが、Linux 固有の問題を追跡するための最も早い方法です。