Parta Runtime
로컬 추론 서버. 4개 계층
Python 또는 컨테이너 스택을 구성하지 않고 로컬 GGUF 추론을 실행하십시오. 무료 휴대형 빌드로 시작한 뒤, 컴퓨팅 전에 요청을 검증하고 실행 맥락을 통제하며 정의된 이벤트를 신원 기반 출처와 함께 기록할 수 있는 프로덕션으로 전환하십시오.
아래로 스크롤하세요
GPU가 아닌 스토리지나 RAM이 제한 요소인 경우
같은 rack.
더 많은 용량.
이는 GPU 메모리가 아닌 스토리지 또는 시스템 RAM이 host당 실행할 수 있는 양을 제한하는 경우에 적용됩니다. 더 많은 비용을 지불하는 tenant 또는 더 많은 내부 워크로드 및 부서에 서비스를 제공하든 동일한 하드웨어는 대략 두 배의 가용 용량을 제공합니다.
남동생
Parta Runtime,
플랫폼 없이.
Parta Assist 풀스택 위에서 실행됩니다: 앱, 백엔드, Parta Runtime, 추론 엔진, 신원에 연결된 추론 엔진, 감사 추적, 규제 산업의 정책 제어. Runtime Lite는 그 추론 엔진과 같지만, 다른 모든 것을 제거했습니다.
신원 계층 / 감사 체인 / 정책 엔진 없음
설계상 호환
포맷을 말합니다
이미 사용 중이시죠.
OpenAI 호환 및 Anthropic 호환 채팅 완료 엔드포인트가 있어서, 이미 구축된 API 로컬 서버와 연결됩니다. 이미지 입력을 수용하는 모델에는 시각 지원이 포함되어 있습니다.
OpenAI 호환 / Anthropic 호환 / 비전 포함
어디서든 복사하세요
아카이브를 다운로드하고 추출하세요,
프로그램을 돌려.
정적으로 연결된 실행 파일 하나와 설정 파일 하나. 관리자 권한도 없고, 설치 프로그램도 없으며, 관리할 백그라운드 서비스도 없습니다. 설정을 이미 컴퓨터에 있는 GGUF 모델 파일을 가리키세요.
본인 모델 가져오기 / 계정 없음 / 추적 없음
로드맵
Windows 및 Linux.
다음은 Vulkan입니다.
CUDA 빌드는 Windows 및 Linux 모두에 사용할 수 있습니다. Vulkan는 NVIDIA 외부 하드웨어에 대한 로드맵에 있습니다.
Windows CUDA / Linux CUDA / Vulkan (곧)
개인용에서 상업용까지 2계층
Lite Free.
Lite.
프로덕션 팀에는 로컬 엔드포인트 이상의 기능이 필요할 수 있습니다. Runtime은 보호된 추론 리소스를 할당하기 전에 출처, 세션 및 실행 권한을 검증하도록 설계되었습니다. 통제형 배포는 더 넓은 Parta 플랫폼에서 결정된 모델 맥락, 승인된 지식, 실행 범위 어댑터 및 통제된 시드를 받을 수 있습니다.
Runtime은 이후 검토를 위해 정의된 실행 이벤트, 결과물 및 출처를 기록하며, Runtime Pro는 노드와 서비스 전반에 신원 기반 검증을 추가합니다. 이러한 통제는 거버넌스와 재구성을 지원하지만 위험 평가, 전문가 검토 또는 규정 준수 의무를 대체하지 않습니다.
추론 전 검증 / 통제된 어댑터와 맥락 / 실행 기록 / 특허 출원 중인 아키텍처
무료. 지금 이용 가능
Lite Free
상업용. 문의하기
Lite
2계층, ID 지원으로 감사됨
Runtime.
Runtime Pro.
AI 시스템이 규제된 데이터를 처리할 때 신뢰만으로는 규정 준수에 충분하지 않습니다. Runtime는 인프라를 구축할 필요 없이 실행된 내용과 시기를 기록합니다.
이는 거버넌스 프로세스 아래의 증거 계층이지 이를 대체하는 것이 아닙니다. 귀하는 위험 평가 및 검토 정책에 대한 소유권을 유지합니다. Runtime는 의존하는 레코드가 나중에 조용히 편집될 수 없도록 보장합니다.
서명된 엔드포인트 / 변조 방지 로그 / 특허 출원 중인 아키텍처
상업용. 문의하기
Runtime
상업용. 문의하기
Runtime Pro
Runtime Lite Free를 다운로드하고 확인하세요.
CUDA · v0.1.0 · 개인용, 교육용, 평가용
CUDA 13 호환 드라이버가 포함된 NVIDIA GPU가 필요합니다. 다른 하드웨어에 대한 Vulkan 빌드가 진행 중입니다.
아카이브를 다운로드하고 실행하기 전에 아래 값과 비교하여 SHA256 체크섬을 확인하세요.
Windows
질문
물어보기 전에
Parta Runtime Lite가 무엇인가요?
자신의 컴퓨터에서 로컬 AI 추론 서버를 실행하는 단일 휴대용 실행 파일입니다. 이는 Parta Assist 뒤에 있는 추론 엔진인 Parta Runtime의 간소화된 버전으로, 신원 계층, 감사 체인, 정책 엔진이 제거되었습니다.
어떤 API 포맷을 지원하나요?
OpenAI 호환 및 Anthropic 호환되는 채팅 완료 형식이므로, 이미 API 위에 구축된 도구들은 수정 없이 로컬 서버와 함께 작동합니다. 이미지 입력을 수용하는 모델에는 시각 지원이 포함되어 있습니다.
신원, 감사, 정책 기능이 포함되어 있나요?
아니. 런타임 라이트는 프로덕션 Parta Runtime를 구성하는 모든 요소를 의도적으로 제거했습니다. 이것은 단순한 추론 서버입니다.
어떤 하드웨어가 필요한가요?
CUDA 빌드는 Windows 및 Linux에 사용할 수 있으며 작동하는 드라이버가 있는 NVIDIA GPU가 필요합니다. Vulkan는 다른 하드웨어에 대한 로드맵에 있습니다.
프로그램을 어떻게 실행하나요?
zip을 다운로드해서 디스크 어디든 압축 해제한 뒤, 포함된 설정 파일을 이미 가지고 있는 GGUF 모델 파일을 가리켜서 실행 파일을 실행하세요. 설치 프로그램도 없고, 관리자 권한도 없으며, 백그라운드 서비스도 없습니다.
소프트웨어가 데이터를 전송하나요?
아니. 이 시스템은 전적으로 사용자의 기기에서 실행되며, Parta나 다른 누구에게도 프롬프트, 응답, 사용 데이터를 전송하지 않습니다.
Runtime Lite Free, Lite, Runtime 및 Runtime Pro의 차이점은 무엇입니까?
Runtime Lite Free는 개인, 교육 및 평가용으로 무료로 다운로드할 수 있습니다. Runtime Lite는 프로덕션용 상용 라이선스에 따른 동일한 추론 엔진 및 엔드포인트입니다. Runtime는 Parta 프로토콜 감사 체인을 추가합니다. Runtime Pro는 신원 지원 출처를 추가합니다. 상용 등급은 문의 양식을 통해 문의하실 수 있습니다.
개요
추론 서버에 실제로 드는 비용을 확인해 보세요.
30초 동안 간단히 소개해 주시면 문서에 액세스할 수 있습니다. 영업 전화나 후속 연락은 없습니다.
버그와 피드백
연락해 주세요
우리는 모든 메시지를 읽습니다.
상용 평가를 위해 예정된 작업량, 하드웨어, 통합 형식, 어댑터 및 지식 요구사항과 추론 전후에 검증해야 할 사항을 알려주십시오. 같은 양식으로 설치 문제, 모델 호환성, 버그 및 성능 문의에 대한 기술 지원도 받을 수 있습니다.