Parta Runtime Lite / 가이드 / Linux에 설치 및 실행
Linux에 설치 및 실행
Parta Runtime Lite는 단일 휴대용 실행 파일입니다. 설치 프로그램, 백그라운드 서비스, 계정이 없습니다. 이 페이지에서는 Linux에 대한 다운로드부터 첫 번째 요청까지 모든 내용을 다룹니다.
Linux 빌드는 Ubuntu 26.04에서 컴파일됩니다. 기본 Linux 바이너리이며 베어메탈 Linux에서 동일한 방식으로 실행되지만 배포판과 관련된 문제가 발생하는 경우 버그 및 피드백 양식를 통해 알려주시면 실제 환경에서 테스트하는 데 도움이 됩니다.
1. 다운로드
현재 빌드를 받아보세요. 다운로드 및 검증 섹션 홈페이지의 다운로드는 실행 파일, 샘플 구성 파일, 그리고 제3자 라이선스 통지가 포함된 zip 파일입니다.
2. 체크섬 검증
무엇이든 실행하기 전에 다운로드 옆에 게시된 값과 비교하여 파일의 SHA256 체크섬을 확인하세요.
sha256sum parta-runtime-lite-linux-cuda.zip
출력을 공개된 해시와 비교해 보세요. 만약 일치하지 않으면 파일을 실행하지 말고 다시 다운로드하세요.
3. 아카이브 추출
디스크, 로컬 폴더, 외부 드라이브 또는 네트워크 공유의 아무 곳에나 아카이브의 압축을 풉니다. root 액세스가 필요하지 않으며 추출한 폴더 외부에는 아무것도 기록되지 않습니다.
unzip parta-runtime-lite-linux-cuda.zip -d parta-runtime-lite
4. 구성
파일 열어 lite.toml 추출된 폴더와 집합에서 model.path 이미 가지고 있는 GGUF 모델 파일로:
[model] path = "/home/you/models/your-model.gguf" gpu_layers = 99 context_size = 8192
값을 설정하세요 gpu_layers = 0 CPU만으로 달려가기 위해서요. 떠나세요 server.host as 127.0.0.1 서버를 본인 컴퓨터에서만 접근 가능하게 유지하거나, 0.0.0.0 네트워크 내 다른 기기들로부터 연결을 받기 위해서입니다.
5. 프로그램 실행
실행 가능한 바이너리를 표시한 후 실행합니다.
chmod +x parta-runtime-lite ./parta-runtime-lite
시작 시 로드된 모델과 수신 중인 주소를 인쇄합니다. 터미널을 열어두거나 연결을 끊은 후에도 계속 실행하려면 tmux/screen/nohup에서 실행하세요. 서버는 프로세스가 실행되는 동안 계속 실행됩니다.
6. 요청 전송
서버는 OpenAI 호환 및 Anthropic 호환 채팅 완료 형식을 지원합니다. 이미 API에 대해 만들어진 것들은 대신 지역 주소를 가리키면 됩니다:
curl http://127.0.0.1:8080/v1/chat/completions \
-H "Content-Type: application/json" \
-d '{"model":"local","messages":[{"role":"user","content":"Hello"}]}'
뭔가 작동하지 않는 건가요?
홈페이지에서 버그 및 피드백 양식를 확인하거나 이를 사용하여 배포판, 커널 버전, GPU 드라이버 및 사용 중인 모델을 알려주십시오. 이것이 Linux 관련 항목을 추적하는 데 도움이 되는 가장 빠른 방법입니다.