- 课程回放
- AI算力的使用现状
- 算力池化的价值和意义
- 构建GPU资源池的关键与挑战
- 一体化GPU资源池化解决方案详解
- 算力资源池的未来发展趋势
根据OpenAI的分析报告,自2012年到2018年,全球AI算力需求增长超过30万倍,算力已经成为当下经济和社会发展的重要生产力之一。随着AI技术的逐渐成熟和在不同行业的渗透,可以预见未来AI算力需求仍会保持高速增长。
而从算力的使用来看,大多数AI芯片及服务器多为独占式使用模式,无法支持多用户或者多任务并行处理,缺乏并行及灵活的算力分配机制,导致算力资源的利用率很低。有数据显示,大多数企业的算力利用率只有10%到30%,造成了大量的资源浪费。因此,如何充分的利用计算资源,是企业实现降本增效的关键。
算力资源池化技术通过软件技术对硬件资源实现统一管理,把计算资源从硬件定义变成软件定义,实现算力资源的灵活调度。通过算力资源池化技术,用户可以在数据中心内高效的调度和使用GPU,提高算力利用率,降低碎片化和算力成本。
趋动科技就是一家AI算力资源池化软件公司,主要为用户提供AI加速器虚拟化和资源池化软件及解决方案。去年,趋动科技加入浪潮元脑计划,与浪潮联合推出的一体化AI加速器资源池解决方案,支持动态资源调度和回收、细颗粒度切分,可以让客户使用较少的物理AI加速器资源,即可满足数量庞大的开发人员需求。
数据表明,按照原有方式支持100人研发团队,至少需要100 张AI加速器卡;采用双方联合推出的一体化AI加速器资源池解决方案后,通过充分共享AI加速器资源,100张物理AI加速器卡可支持500人研发团队,大幅度降低了客户的算力成本。
1月25日晚7点,「浪潮元脑专场」第8讲将开讲,趋动科技将作为浪潮元脑合作伙伴参与,这一讲定名为AI算力池化公开课,由趋动科技联合创始人&CTO陈飞博士主讲,主题为《拥有更大的算力-基于GPU的算力资源池的构建与实践》。
陈飞博士曾担任Dell EMC中国研究院首席科学家,长期从事高性能计算、计算机体系结构、GPU和FPGA虚拟化等领域的研究工作。
本次专场,陈飞博士将从AI算力的使用现状、算力池化的价值、构建GPU资源池的关键与挑战、一体化GPU资源池化解决方案,及算力资源池的未来发展趋势等方面为我们带来系统讲解。