Parta Runtime Lite / ガイド / インストールして実行
インストールして実行
Parta Runtime Liteは単一のポータブル実行ファイルです。インストーラーもバックグラウンドサービスもアカウントもありません。このページではダウンロードから最初のリクエストまで、すべてをカバーしています。
1. ダウンロード
現在のビルドは ダウンロードと検証セクション ホームページの。ダウンロードは実行ファイル、サンプル設定ファイル、第三者ライセンス通知を含むzipファイルです。
2. チェックサムの検証
何かを実行する前に、ファイルのSHA256チェックサムとダウンロードの隣に公開された値を照らし合わせてください。Windowsについて:
Get-FileHash .\parta-runtime-lite-cuda-v0.1.0.zip -Algorithm SHA256
出力を公開されたハッシュと比較してください。もし一致しなければ、そのファイルを実行せず、再度ダウンロードしてください。
3. アーカイブの抽出
アーカイブはディスク、ローカルフォルダ、外付けドライブ、ネットワーク共有のどこにでも解凍してください。管理者権限は不要で、解凍したフォルダの外に何も書き込まれません。
4. 設定
ファイルを開けてください lite.toml 抽出されたフォルダーとセットに model.path すでに持っているGGUFモデルファイルに対して:
[model] path = "D:/models/your-model.gguf" gpu_layers = 99 context_size = 8192
値を設定します gpu_layers = 0 ただCPUだけを動かすために。出て行け server.host として 127.0.0.1 サーバーに自分のマシンからのみアクセス可能に保つか、あるいは 0.0.0.0 ネットワーク上の他のデバイスからの接続を受け入れるために。
5. プログラムを実行する
プログラムを実行してください parta-runtime-lite.exe.起動時にロード済みモデルと聞いているアドレスを印刷します。ウィンドウを開けたままにしておくと、プロセスが動いている間だけサーバーは動作します。
6. リクエストを送信する
サーバーは、OpenAI互換およびAnthropic互換のチャット完了形式を話します。すでにこれらのAPIに対して構築されているものは、代わりに地元の住所を指すことでここで使えます:
curl http://127.0.0.1:8080/v1/chat/completions ^
-H "Content-Type: application/json" ^
-d "{\"model\":\"local\",\"messages\":[{\"role\":\"user\",\"content\":\"Hello\"}]}"
何かがうまくいかないのか?
確認してください バグとフィードバックフォーム ホームページや、ビルドバージョン、GPU/OS、使用しているモデルを直接メールでsupport(at)parta.appしてください。