他的回复:
联系: 1. mindspore serving和Volcnao都可以面向推理场景提供服务 2. 两者可以协作,由mindspore serving提供在线部署,volcano提供作业管理和高性能调度。 区别: 1. mindspore serving场景聚焦在线推理;Volcano是高性能计算通用批量计算引擎(AI、大数据、HPC等都可以) 2. mindspore serving主要模型部署等应用框架级能力;Volcano主要提供高性能调度、作业管理等底层能力 3. mindspore serving需要绑定Ascend芯片进行工作;Volcano不区分底层资源,可以进行混合调度 4. mindspore serving对技术栈没有要求;volcano是云原生批量调度引擎,主要面向K8s和容器基础设施