相关新闻推荐

登临出席浸没液冷智算产业发展论坛 共推动浸没液冷智算中心发展落地

2023-05-18

返回 >

2023年5月15日 “浸没液冷智算产业发展论坛 — AI Infra先进散热研讨会”在北京圆满落幕,“浸没液冷智算产业发展论坛”由中国信通院云计算与大数据研究所(以下简称“中国信通院云大所”)、阿里巴巴和OPPO共同发起,是在2021年ODCC冬季全会上成立的液冷行业生态组织,旨在打造我国浸没液冷智能计算产业发展生态圈,推动浸没式液冷智算中心的创新发展与规模应用
截止目前,论坛成员规模已达40+,从最初的系统、芯片厂商为主,进一步扩充到网络和IDC基础设施领域。作为本土领先的GPU企业,登临科技首席架构师王平受邀出席,分享了登临科技在芯片架构、降本增效等方面的创新以及实践。
微信图片_20230518093311.png
*登临科技首席架构师 王平
王平表示:当大模型热潮遇上双碳大背景,未来数据中心如何在快速发展的同时实现节能减排,通用性强、高效率、高能效比的AI芯片是未来数据中心的不二选择。大模型浪潮下,传统GPU其基础架构原为图形加速和高性能计算而设计,针对AI计算存在着计算密度不高,计算效率不高以及对外部带宽依赖太强等问题。此外,传统GPU还存在计算成本高、功耗高,性能不优等问题。王平从AI计算架构核心需求出发,提出GPU+:基于通用GPU的软件定义的片内异构体系架构。

“登临科技的GPU+架构经过优化,在基准测试中使得计算单元、片上内存的延迟可以做到30+ cycle,而传统GPU的该项参数为数百。采用“片上内存共享”技术,带宽仅为国际主流方案的五分之一到六分之一,带宽降低带来的好处是更高的能效比、更高的并行性。此外,GPU+架构将计算密度和计算效率集中在矩阵单元,综合上述特性,基于登临科技GPU+架构的产品与其他产品相比,具有三到四倍单卡能效比优势。”

王平介绍到:“ 登临科技的产品兼容多种CPU架构、AI Framework,以及Network引擎,有效降低用户的迁移成本。凭借创新的架构、独有的技术和完整生态支持,面向生成式AI的应用和大模型发展浪潮,登临科技可提供算力加速方案,提升用户产品的能效表现,有效助力用户实现节能降碳。”

图片1.jpg

* AI Infra未来可持续发展的趋势圆桌对话

此外,王平还与来自阿里云、OPPO、英伟达等国内外知名企业的专家共同探讨了 AI Infra未来可持续发展的趋势。王平表示:“ 大模型的热潮加速了AI芯片技术的创新与进步,但同时软硬件融合发展也至关重要 。登临将持续创新并加强软硬件上下游生态建设,与阿里、OPPO等企业友好合作,软硬件协同,共同拥抱生成式AI应用的发展浪潮,全面助力用户产品的性能提升以及应用落地。


扫一扫关注我们

地址:上海市浦东新区春晓路439号10幢

邮箱:jobs@denglin.ai

© 2021 上海登临科技有限公司

沪ICP备19003858号-1