AI容器云并行推理平台

系统支持AI服务的并行推理,GPU虚拟化,做到算力隔离,资源可自行分配:包括GPU、CPU、内存、显存。
首页 产品中心 人工智能 AI容器云并行推理平台

AI容器云并行推理平台

价格:
39800元起
分类:
暂无
说明:
系统支持AI服务的并行推理,GPU虚拟化,做到算力隔离,资源可自行分配:包括GPU、CPU、内存、显存。

这不是AI模型的训练平台,而是为AI服务提供的并行推理平台,建议至少3个节点组成集群,解决传统发布模式下,如GPU资源被独占导致服务效率低下、排队等问题。

支持GPU虚拟化,多个服务共用一张显卡,做到算力隔离,支持服务动态创建及资源智能分配与回收,无需运维人员参与即可自动实现扩缩容,达到很大程度提高系统资源使用率的效果!

51203_rpe7_9625.png

100%兼容k8s

53719_016k_2554.png

在线系统演示请:咨询留言,工作人员会与您联系!