直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:时尚)
-
哈登公开信:我们不是超级球队 终极目标是夺冠发布时间:2016-10-22 11:06 来源:豫都网 我来说说 我要投稿[摘要]北京时间7月12日消息,上周末詹姆斯-哈登与火箭队重签合同,双方达成了一 ...[详细]
-
东南网7月18日讯海峡导报记者 孙春燕)昨日,厦门临空经济片区“具身智能机器人”专场推介会在京举行,150余位具身智能领域领军企业和机构齐聚一堂,共谋发展新机遇、共绘智能新蓝图 ...[详细]
-
胃肠病中西医治疗结硕果,温胃降逆颗粒显著降低胃肠不良反应! 2024-08-05 10:40 · 生物探索 ...[详细]
-
青少年编程比赛现场 见习记者 庄紫怡 摄东南网7月7日讯福建日报见习记者 庄紫怡 记者 吴洪)4日,第四届海峡两岸万寿岩)科技周暨第十六届海峡两岸三明)少儿美术大展在三明市万寿岩国家考古遗址公园举行。 ...[详细]
-
发布者:蒙蒙 浏览量:7078发布时间:2022/2/15 11:47:49 经销商选择产品是个系统工程,需要对很多方面综合考虑评估,来确认可操作性,在既往的经验积累、渠道数 ...[详细]
-
【建材网】为贯彻落实国务院关于推动大规模设备更新和消费品以旧换新行动要求,促进梯次消费、更新消费,畅通资源循环利用链条,更好地满足群众多元化的消费需求。5月26日,由佛山市禅城区人民政 府、佛山市发展 ...[详细]
-
昌发展合成生物制造转化加速中心开工仪式举行 2024-08-05 10:21 · 生物探索 近日,昌 ...[详细]
-
2021银行存款利率下调,还能去银行存钱吗?一年中什么时候去银行存钱利息高?
最近,大家一定被一条热搜新闻吸引了,那就是银行大额存单遭疯抢,这一现象是源于银行调整存款利率定价方式,各大银行一年期以上的存款利率基本上都有下调,不过,也不是所有的存款产品利息都下调了,一年期以内的短 ...[详细]
-
发布者:小宁 浏览量:6666发布时间:2022/4/14 15:50:27 在新型的消费模式下,人们的消费场景更加多样化,产品丰富度不断提升,传统的零食行业不断进阶升级,使 ...[详细]
-
导入户型图自动设计app随着科技的不断发展,人们的生活水平也在不断提高,对于居住环境的要求也越来越高。在购房过程中,户型图是一个非常重要的参考因素,它直接影响着我们对房屋布局和空间利用的认知。然而,对 ...[详细]