模型服务
在专属 GPU 算力上运行。
面向公共机构的私有 AI 模型。
在您自己的基础设施或专属云租户内运行的语言模型，没有任何数据离开您的环境。
- 托管
- 运行在您选择的云区域，或您自己的服务器上。
- 开发
- 我们为您开发：开发需 4 周，6–8 周内上线。
功能
标准 API
为您的应用提供标准的对话补全接口。
日志和限流
请求会被记录并限流。
扩展
可跨多个 GPU 节点扩展。
访问控制
访问规则和 API 密钥管理。
用量仪表盘
显示模型的使用情况。
物理隔离选项
可在没有互联网连接的情况下运行。
按您的组织定制
我们为您的组织进行配置：它运行所用的 GPU 算力、访问规则和 API 密钥、您的数据存储，以及通过您的身份提供商登录。
附加项
- 用您的数据进行定制训练
- 更多 GPU 节点
- 物理隔离安装
- 单点登录（SAML）