ZStack趋动科技发布:提供AI算力资源池化功能的解决方案

近日,专注IaaS的产品化云厂商ZStack与领先的AI算力资源池化软件公司趋动科技(VirtAITech.com)宣布,推出提供AI算力资源池化功能的联合解决方案,该方案融合了ZStack Cloud云平台与趋动科技OrionX,双方产品优势互补,共同推动GPU资源池在私有云平台落地,将新一代的算力云平台推向更广泛的市场!

新基建浪潮下,AI、5G、大数据中心、工业互联网等一起构成了新基建的核心领域。AI将逐步渗透到各行业,变得越来越“基础设施化”,AI加速器市场及GPU服务器市场规模相应水涨船高,以GPU、FPGA 等为主的AI加速器市场将迅猛发展。IDC发布的《人工智能基础架构市场(2019下半年)跟踪》报告数据显示:到2024年,中国GPU 服务器市场规模将达到64亿美元。

GPU 资源池化技术难点:

AI产业的快速发展对GPU资源池化技术提出了更高要求,用户希望获得灵活调度GPU资源的能力,希望AI应用与GPU服务器解耦,并且能够远程调用GPU的资源,通过资源池优化GPU的调度使用等。

然而现阶段大部分用户使用GPU的方式仍然停留在简单的虚拟化阶段:将GPU卡做固定切分,按照2的N次方切分为多个vGPU。在此情况下,传统云平台上使用GPU将面临诸多技术问题,比如无法远程调用GPU卡、仅能整卡透传给虚机、多虚机无法共用单张GPU卡、GPU资源释放必须重启虚机等问题。

提供AI算力资源池化功能的解决方案:

OrionX提供GPU资源池化功能,是ZStack Cloud在GPU调度上的功能补充,可以灵活调用虚拟GPU资源,使得用户可以在私有云和混合云的环境中灵活使用GPU资源,帮助用户数据中心中的所有硬件资源实现云化管理。

在这里插入图片描述

典型应用场景:

大模型如训练场景,对算力资源需求量大,通常会使用一张或者多张GPU卡资源,构建AI算力资源池,提供AI算力资源池化功能的解决方案既可以支持单台服务器上的单卡,多卡训练,也可以支持跨设备的多卡训练。

小模型如推理、开发和教学实训等场景,对算力资源需求量小,通常不能占满一张GPU卡资源。提供AI算力资源池化功能的解决方案可以从算力和显存两个维度切分GPU,支持将多个小模型任务调度到一张卡,有效提高资源利用率。

具体表现为:通过“化零为整”功能支持训练等大模型场景,为用户的 AI 应用提供数据中心级的海量算力。通过“隔空取物”功能,支持推理、开发和教学实训等小模型场景。通过“随需应变”功能支持训练/推理等多场景实现 GPU 资源动态伸缩,极大提升了GPU 资源调度的灵活度。

提供AI算力资源池化功能的解决方案发布后,基于ZStack Cloud构建企业私有云的用户,可以畅享快速按需获取GPU、灵活弹性调度等功能,有效提高了GPU利用率并降低用户整体拥有成本。

ZStack 创始人&CEO张鑫表示:“GPU虚拟化是推动私有云落地AI场景的关键举措,未来双方将紧密合作,实现算力的平民化,推动AI计算无处不在。“

趋动科技创始人&CEO王鲲博士称赞道:“ZStack与OrionX的联合解决方案为用户提供了更大的价值和更加灵动的任务处理能力,加速推动AI计算在私有云领域落地,助力行业客户聚焦自身业务发展与创新。”

关于ZStack

ZStack(云轴科技)由阿里云、中国电信战略投资并战略合作,是一家自主创新、专注产品化的云计算公司,以“降低企业上云门槛”为使命、“让每一家企业都拥有自己的云”为愿景,具备自主知识产权、自主开源云代码、自主云平台三大优势。

凭借自研的ZStack Cloud、ZStack Mini、ZStack CMP、ZStack Cube、ZStack Ceph等产品,积极支持信创发展,全面适配信创生态,并最早提出云计算的4S特性,注重产品化,普惠云计算。

历经多年发展,ZStack客户数和销售额逐年倍数增长,服务全球30多个国家和地区、100个行业场景、1200家客户。

面向新基建和信创发展契机,ZStack聚焦IaaS,携手阿里云、天翼云、飞腾、龙芯、华为、曙光、长城、安恒、麒麟软件、统信软件等200多家合作伙伴,共同为政府、电信、能源、交通、教育、制造业、医疗、金融、广电、互联网等众多行业客户提供安全可信的云产品和服务。

关于趋动科技

趋动科技于2019年成立于北京中关村高新技术园区,拥有专业的研发、运营和服务团队。趋动科技荣登WISE2020「新基建创业榜」最具成长性创业公司TOP20,趋动科技的OrionX猎户座AI算力资源池化解决方案荣获“2020新基建与行业创新应用优秀解决方案”、“2020智慧高校解决方案卓越奖”和“2020金麒杯年度金融行业最佳解决方案服务商”。趋动科技致力于帮助客户构建高效的AI算力资源池,提升客户AI运维管理的效率和AI业务应用的效率。根据客户测算,OrionX猎户座软件可以每年提升50%的AI算法工程师人效、提升AI资源利用率3到8倍更适合、让客户总体拥有成本下降80%。凭借标准化、可复制的产品架构,OrionX猎户座软件得到了包括互联网、金融、电信运营商和高校等大量行业头部客户的认可。

热门文章

暂无图片
编程学习 ·

Java输出数组的内容

Java输出数组的内容_一万个小时-CSDN博客_java打印数组内容1. 输出内容最常见的方式// List<String>类型的列表List<String> list new ArrayList<String>();list.add("First");list.add("Second");list.add("Third");list.ad…
暂无图片
编程学习 ·

母螳螂的“魅惑之术”

在它们对大蝗虫发起进攻的时候&#xff0c;我认认真真地观察了一次&#xff0c;因为它们突然像触电一样浑身痉挛起来&#xff0c;警觉地面对限前这个大家伙&#xff0c;然后放下自己优雅的身段和祈祷的双手&#xff0c;摆出了一个可怕的姿势。我被眼前的一幕吓到了&#xff0c;…
暂无图片
编程学习 ·

疯狂填词 mad_libs 第9章9.9.2

#win7 python3.7.0 import os,reos.chdir(d:\documents\program_language) file1open(.\疯狂填词_d9z9d2_r.txt) file2open(.\疯狂填词_d9z9d2_w.txt,w) words[ADJECTIVE,NOUN,VERB,NOUN] str1file1.read()#方法1 for word in words :word_replaceinput(fEnter a {word} :)str1…
暂无图片
编程学习 ·

HBASE 高可用

为了保证HBASE是高可用的,所依赖的HDFS和zookeeper也要是高可用的. 通过参数hbase.rootdir指定了连接到Hadoop的地址,mycluster表示为Hadoop的集群. HBASE本身的高可用很简单,只要在一个健康的集群其他节点通过命令 hbase-daemon.sh start master启动一个Hmaster进程,这个Hmast…
暂无图片
编程学习 ·

js事件操作语法

一、事件的绑定语法 语法形式1 事件监听 标签对象.addEventListener(click,function(){}); 语法形式2 on语法绑定 标签对象.onclick function(){} on语法是通过 等于赋值绑定的事件处理函数 , 等于赋值本质上执行的是覆盖赋值,后赋值的数据会覆盖之前存储的数据,也就是on…
暂无图片
编程学习 ·

Photoshop插件--晕影动态--选区--脚本开发--PS插件

文章目录1.插件界面2.关键代码2.1 选区2.2 动态晕影3.作者寄语PS是一款栅格图像编辑软件&#xff0c;具有许多强大的功能&#xff0c;本文演示如何通过脚本实现晕影动态和选区相关功能&#xff0c;展示从互联网收集而来的一个小插件&#xff0c;供大家学习交流&#xff0c;请勿…
暂无图片
编程学习 ·

vs LNK1104 无法打开文件“xxx.obj”

写在前面&#xff1a; 向大家推荐两本新书&#xff0c;《深度学习计算机视觉实战》和《学习OpenCV4&#xff1a;基于Python的算法实战》。 《深度学习计算机视觉实战》讲了计算机视觉理论基础&#xff0c;讲了案例项目&#xff0c;讲了模型部署&#xff0c;这些项目学会之后可以…
暂无图片
编程学习 ·

工业元宇宙的定义与实施路线图

工业元宇宙的定义与实施路线图 李正海 1 工业元宇宙 给大家做一个关于工业元宇宙的定义。对于工业&#xff0c;从设计的角度来讲&#xff0c;现在的设计人员已经做到了普遍的三维设计&#xff0c;但是进入元宇宙时代&#xff0c;就不仅仅只是三维设计了&#xff0c;我们的目…
暂无图片
编程学习 ·

【leectode 2022.1.15】完成一半题目

有 N 位扣友参加了微软与力扣举办了「以扣会友」线下活动。主办方提供了 2*N 道题目&#xff0c;整型数组 questions 中每个数字对应了每道题目所涉及的知识点类型。 若每位扣友选择不同的一题&#xff0c;请返回被选的 N 道题目至少包含多少种知识点类型。 示例 1&#xff1a…
暂无图片
编程学习 ·

js 面试题总结

一、js原型与原型链 1. prototype 每个函数都有一个prototype属性&#xff0c;被称为显示原型 2._ _proto_ _ 每个实例对象都会有_ _proto_ _属性,其被称为隐式原型 每一个实例对象的隐式原型_ _proto_ _属性指向自身构造函数的显式原型prototype 3. constructor 每个prot…
暂无图片
编程学习 ·

java练习代码

打印自定义行数的空心菱形练习代码如下 import java.util.Scanner; public class daYinLengXing{public static void main(String[] args) {System.out.println("请输入行数");Scanner myScanner new Scanner(System.in);int g myScanner.nextInt();int num g%2;//…
暂无图片
编程学习 ·

RocketMQ-什么是死信队列?怎么解决

目录 什么是死信队列 死信队列的特征 死信消息的处理 什么是死信队列 当一条消息初次消费失败&#xff0c;消息队列会自动进行消费重试&#xff1b;达到最大重试次数后&#xff0c;若消费依然失败&#xff0c;则表明消费者在正常情况下无法正确地消费该消息&#xff0c;此时…
暂无图片
编程学习 ·

项目 cg day04

第4章 lua、Canal实现广告缓存 学习目标 Lua介绍 Lua语法 输出、变量定义、数据类型、流程控制(if..)、循环操作、函数、表(数组)、模块OpenResty介绍(理解配置) 封装了Nginx&#xff0c;并且提供了Lua扩展&#xff0c;大大提升了Nginx对并发处理的能&#xff0c;10K-1000K Lu…
暂无图片
编程学习 ·

输出三角形

#include <stdio.h> int main() { int i,j; for(i0;i<5;i) { for(j0;j<i;j) { printf("*"); } printf("\n"); } }
暂无图片
编程学习 ·

stm32的BOOTLOADER学习1

序言 最近计划学习stm32的BOOTLOADER学习,把学习过程记录下来 因为现在网上STM32C8T6还是比较贵的,根据我的需求flash空间小一些也可以,所以我决定使用stm32c6t6.这个芯片的空间是32kb的。 #熟悉芯片内部的空间地址 1、flash ROM&#xff1a; 大小32KB&#xff0c;范围&#xf…
暂无图片
编程学习 ·

通过awk和shell来限制IP多次访问之学不会你打死我

学不会你打死我 今天我们用shell脚本&#xff0c;awk工具来分析日志来判断是否存在扫描器来进行破解网站密码——限制访问次数过多的IP地址&#xff0c;通过Iptables来进行限制。代码在末尾 首先我们要先查看日志的格式&#xff0c;分析出我们需要筛选的内容&#xff0c;日志…
暂无图片
编程学习 ·

Python - 如何像程序员一样思考

在为计算机编写程序之前&#xff0c;您必须学会如何像程序员一样思考。学习像程序员一样思考对任何学生都很有价值。以下步骤可帮助任何人学习编码并了解计算机科学的价值——即使他们不打算成为计算机科学家。 顾名思义&#xff0c;Python经常被想要学习编程的人用作第一语言…
暂无图片
编程学习 ·

蓝桥杯python-数字三角形

问题描述 虽然我前后用了三种做法&#xff0c;但是我发现只有“优化思路_1”可以通过蓝桥杯官网中的测评&#xff0c;但是如果用c/c的话&#xff0c;每个都通得过&#xff0c;足以可见python的效率之低&#xff08;但耐不住人家好用啊&#xff08;哭笑&#xff09;&#xff09…