巨奢网 资讯 名表 查看内容

神州数码联合华为打造昇腾能力中心,聚焦边缘推理应用 | 最前线

2024-9-24 07:58| 发布者: 挖安琥| 查看: 235| 评论: 0

放大 缩小
简介:文 | 田哲编辑 | 苏建勋9月19日,神州数码宣布合作华为打造基于华为昇腾最新基础硬件设施的昇腾能力中心,该能力中心将AI芯片销售、软硬件开发于一体,可针对不同行业的AI推理场景需求,提供AI产品开发环境。大模型 ...
文 | 田哲

编辑 | 苏建勋

9月19日,神州数码宣布合作华为打造基于华为昇腾最新基础硬件设施的昇腾能力中心,该能力中心将AI芯片销售、软硬件开发于一体,可针对不同行业的AI推理场景需求,提供AI产品开发环境。

大模型对算力需求整体体现在预训练、推理、调优三部分,其中通过推理,开发人员可定位模型中潜在问题,提升模型性能。

随着模型越发庞大,对推理算力需求也将持续增长。华为昇腾计算整机业务总监胡宣春表示:“AI正在从感知识别迈向内容生成,从专用AI模型转向更为广泛的通用AI模型。AI应用的爆发式增长,可能带动AI推理算力需求激增至训练算力的百倍。”

IDC 数据显示,我国23H1训练工作负载的服务器占比达到 49.4%,预计全年的占比将达到 58.7%。随着训练模型的完善与成熟,模型和应用产品逐步投入生产,推理端的人工智能服务器占比将随之攀升,预计2027 年,用于推理的工作负载将达到72.6%。

神州数码信创业务集团副总裁、研发中心总经理周川告诉36氪,以前的推理以中心推理为主,而现在的推理应用更多在边缘侧,后者对算力需求相对更大。因此有必要推出更大算力、基于边缘推理应用的参考设计方案。

因此,神州鲲泰基于与华为的深度合作,将打造昇腾能力中心,为不同行业的客户提供产品软硬件的设计能力以及应用迁移适配调优的能力,缩短客户产品上市时间。

公开资料显示,神州数码集团于2019年加入华为鲲鹏生态,2020年发布自有品牌“神州鲲泰”,已推出数据计算、终端、DCN数据通信、KunTai数据通信四条产品线。

周川认为,由于基础设施不断建设,训练模型最终会变成应用落地,训练的高峰发展期可能即将结束。由于许多客户的数据十分敏感,不能流通,因此有着本地建设推理中心的推理需求,推理侧将存在大量建设、应用机会。

他表示,不同行业的推理应用形态不一,华为难以支撑所有客户应用需求,神州数码的昇腾能力中心可以帮助华为覆盖中小型客户,这是神州数码对比友商的最大差异点与优势。

路过

雷人

握手

鲜花

鸡蛋
已有 0 人参与

会员评论

最新文章

文章列表

 名表回收网手机版

官网微博:名表回收网服务平台

今日头条二维码 1 微信公众号二维码 1 抖音小程序二维码 1
浙江速典奢贸易有限公司 网站经营许可证 备案号:浙ICP备19051835号2012-2022
名表回收网主要专注于手表回收,二手名表回收/销售业务,可免费鉴定(手表真假),评估手表回收价格,正规手表回收公司,浙江实体店,支持全国范围上门回收手表
返回顶部