模型部署

快速测试

快速测试提供训练结果/我的模型/开源模型的临时快速部署，用户可通过对话页面或API完成模型的快速功能验证。

快速测试在空闲两小时会自动回收,不保证稳定性,请勿生产环境使用。

测试列表

创建测试

快速测试可选择多种模型来源，支持多机多卡以及推理参数的配置。

API调用

API调用方便用户接入自己的服务，注意需要在内网访问。

对话页面

对话页面提供常用的prompt配置以及请求配置，对话内容不保留，刷新页面即丢弃。

服务日志

日志功能可以帮助查看服务状态。