모델 서빙
전용 GPU 컴퓨팅에서 실행됩니다.
공공 기관을 위한 프라이빗 AI 모델.
자체 인프라나 전용 클라우드 테넌트 안에서 실행되는 언어 모델로, 데이터가 환경 밖으로 나가지 않습니다.
- 호스팅
- 선택한 클라우드 리전 또는 자체 서버에서 실행됩니다.
- 개발
- 맞춤 개발해 드립니다: 개발 4주, 6–8주 안에 운영 시작.
기능
표준 API
애플리케이션을 위한 표준 채팅 완성 인터페이스.
로그와 제한
요청이 기록되고 속도가 제한됩니다.
확장
여러 GPU 노드로 확장됩니다.
접근 제어
접근 규칙과 API 키 관리.
사용량 대시보드
모델이 어떻게 쓰이는지 보여 줍니다.
망분리 옵션
인터넷 연결 없이 실행할 수 있습니다.
조직에 맞춘 구성
조직에 맞게 구성합니다. 실행할 GPU 컴퓨팅, 접근 규칙과 API 키, 데이터 저장소, 그리고 조직의 ID 공급자를 통한 로그인입니다.
추가 옵션
- 조직 데이터로 맞춤 학습
- 추가 GPU 노드
- 망분리 설치
- 싱글 사인온(SAML)