平台模型部署功能正式上线
· 阅读需 1 分钟
尊敬的 OpenBayes 用户:
平台模型部署功能现已正式上线,使用自定义部署方式,通过编写 start.sh 启动脚本,即可自定义服务的启动方式。
自定义部署方式:
- 准备好模型文件
- 编写一个 start.sh 脚本来启动你的服务
参考示例:在 OpenBayes 上使用 vLLM 部署 DeepSeek-R1-Distill-Qwen-1.5B
更多操作详情可参考官方文档。
OpenBayes 技术支持团队
尊敬的 OpenBayes 用户:
平台模型部署功能现已正式上线,使用自定义部署方式,通过编写 start.sh 启动脚本,即可自定义服务的启动方式。
自定义部署方式:
参考示例:在 OpenBayes 上使用 vLLM 部署 DeepSeek-R1-Distill-Qwen-1.5B
更多操作详情可参考官方文档。
OpenBayes 技术支持团队