跳到主要内容

平台模型部署功能正式上线

· 阅读需 1 分钟

尊敬的 OpenBayes 用户:

平台模型部署功能现已正式上线,使用自定义部署方式,通过编写 start.sh 启动脚本,即可自定义服务的启动方式。

自定义部署方式:

  1. 准备好模型文件
  2. 编写一个 start.sh 脚本来启动你的服务

参考示例:在 OpenBayes 上使用 vLLM 部署 DeepSeek-R1-Distill-Qwen-1.5B

更多操作详情可参考官方文档

OpenBayes 技术支持团队