华为云·云容器实例全球首发基于K8S的serverless GPU加速型容器实例
日前,华为云·云容器实例(CCI)全球首发基于K8S的serverless GPU加速型容器实例。这是继华为云在全球首发基于K8S的容器实例后,为容器实例服务提供更丰富的计算选择,给关注AI、视频处理等高性能计算的企业和开发者带来更多的玩法。
AI算力需求迎来爆发式增长

以AI场景为例,OpenAI发布研究报告,透露2012年到2018年6年间单次AI训练的计算量增加30万倍,这意味着训练计算量每3.5个月翻倍,是摩尔定律的5倍。同时,AI正在向各行各业普及,因此AI算力的需求会出现爆炸式增长。公有云因为低成本的硬件、无需关注基础设施、0交付周期的优势,是客户在有AI算力需求时是更好的选择。
随着容器技术逐渐被各个领域开发者接受,大家发现容器技术可以提供标准化的容器打包,解决AI场景中不同工具对环境的依赖。用户在搭建深度学习训练环境,需要准备带GPU的机器,安装python,tensorflow,GPU驱动等,如果要从开发环境到测试环境,再从测试环境到生成环境,涉及环境迁移过程中如何保证环境的一致性。然而容器带来的标准化打包能力可以提供了绝佳的解决方案,可以极大降低AI平台的复杂度,做到多训练框架并存、大幅简化生产环境部署。
目前K8S已经成为业界最主流的容器管理平台,它提供灵活的编排调度系统,可以满足大规模、高并发的AI分布式训练,大幅提高训练速度。因此,公有云GPU容器实例对AI用户的吸引力越来越高。
华为云·GPU加速型云容器实例
华为云·云容器实例本次发布的GPU加速型容器实例本质是在Serverless K8S的基础上提供GPU算力,这两个技术的结合给AI、基因、视频处理等场景带来不一样的体验。
免运维。相比传统租用云服务器、甚至自建IDC,GPU加速型容器实例无需客户维护集群、考虑集群的升级、社区bug修复、集群资源利用率等问题,直接购买和管理GPU容器实例。同时,CCI提供了可视化的pod CPU/MEM/GPU监控功能,可以实时监控处理过程,极大的简化运维成本。
高性能。华为云GPU加速型云容器实例支持秒级伸缩和高并发,kata容器启动速度实测600ms,集群规模高达上十万容器实例,让客户快速利用GPU实例实现分布式计算。例如,华为云EI使用该GPU容器实例,在斯坦福大学DAWNBench测试中取得前两名的好成绩,并达到0.8+的GPU线性加速比。

低成本。很多高性能计算时长非常灵活,以AI训练为例,很多场景下,客户需要快速、多次计算进行迭代。华为云GPU加速型云容器实例提供按需按秒计费,让客户真正按业务计算市场进行消费,避免包年包月带来的高成本。
华为云·GPU加速型云容器实例在Serverless K8S上展现了免运维、高性能、低成本算力的优势,逐步成为解决AI场景中各种环境问题的利器。未来也将在AI、基因、视频处理等行业,为高性能计算的企业和开发者提供更加高效,安全、低成本的公有云服务。
-
下载辰思小说App
生活实用 | 22.81M
辰思小说App是一款小说阅读软件,拥有超多经典图书和精选网文,涵盖了科幻、历史、女频、都市、武侠等题材,还会根据用户的阅读偏好,智能推荐海量的相关书籍,让大家可以尽情享受精彩的网络小说。辰思小说APP加入了创新的阅读奖励系统,用户通过完成每日阅读任务可以获得辰豆。
-
下载乐理手册官方版
阅读学习 | 248.11M
乐理手册官方版是一款能够帮助音乐爱好者学习音乐理论知识、视唱练耳的实用软件。它汇集了丰富的乐理知识、艺考真题,综合视唱练耳题等,帮助你快速提高听辩和演唱水平,掌握乐理知识点。软件深入浅出地解析了各种乐理知识,如音调、节奏、和声等。
-
下载mercedes me
生活实用 | 257.5M
mercedes me是梅赛德斯奔驰品牌为你精心打造的专属车联应用软件。在这里,你可以享受一体化的购车服务和售后支持,纵览全新资讯,并与车友零距离交流。仅需动动指尖,即可通过移动设备进入梅赛德斯-奔驰的世界,随时随地掌控你的爱车。
- Claude Code被动开源 AI行业将迎来春天?04-01
- Mac跑本地AI大模型 还差这一块04-01
- 中旅旅行app昵称修改方法04-01
- 曝华为Pura先锋盛典4月20日及以后举行 新品数量不少04-01
- 绿源智能app设备绑定教程04-01
- 大众物联app使用方法04-01
- 噪音分贝测试仪app分贝测试教程04-01
- 万城万充app电桩查看教程04-01
- 万城万充app充电教程04-01
- 万城万充app开发票入口04-01
- 天气预通app天气查看方法04-01
