直击WAIC丨如何缓解AI训练“效率瓶颈”?摩尔线程张建中:打造AGI“超级工厂”
专题:2025世界人工智能大会
新浪科技讯 7月27日午间消息,效率瓶颈2025世界人工智能大会(WAIC 2025)于7月26-28日在上海举办。直击张建中打造大会期间,丨何工厂摩尔线程首次提出了“AI工厂”理念,缓解公司创始人兼CEO张建中在分享中表示,训练线程“为应对生成式AI爆发式增长下的超级大模型训练效率瓶颈,摩尔线程将通过系统级工程创新,效率瓶颈构建新一代AI训练基础设施,直击张建中打造为AGI时代打造生产先进模型的丨何工厂“超级工厂”。

据悉,缓解摩尔线程提出的训练线程“AI工厂”,如同芯片晶圆厂的超级制程升级,需要实现从底层芯片架构创新、效率瓶颈到集群整体架构的直击张建中打造优化,再到软件算法调优和资源调度系统的丨何工厂全面升级。这种全方位的基础设施变革,将推动AI训练从千卡级向万卡级乃至十万卡级规模演进,以系统级工程实现生产力和创新效率飞跃。
具体而言,这座“AI工厂”的智能“产能”,由五大核心要素共同决定,其效率公式可概括为:AI工厂生产效率=加速计算通用性×单芯片有效算力×单节点效率×集群效率×集群稳定性。摩尔线程将以GPU通用算力为基石,将通过先进架构、芯片算力、单节点效率、集群效率优化与可靠性等协同等深度技术创新,将全功能GPU加速计算平台能力转化为工程级训练效率与可靠性保障。
在单芯片算力方面,摩尔线程的GPU单芯片基于MUSA架构的突破性设计,可集成AI计算加速、图形渲染、物理仿真及超高清视频编解码能力,充分适配AI训推、具身智能、AIGC等多样化应用场景。且在计算精度方面支持从FP64至INT8的完整精度谱系,并通过FP8混合精度技术,在主流前沿大模型训练中实现20%~30%的性能跃升。
在内存与通信效率优化上,摩尔线程内存系统通过多精度近存规约引擎、低延迟Scale-Up、通算并行资源隔离等技术,实现了50%的带宽节省和60%的延迟降低。在通信和互联领域,独创ACE异步通信引擎减少了15%的计算资源损耗,MTLink2.0互联技术提供了高出国内行业平均水平60%的带宽,为大规模集群部署奠定了坚实基础。
在构建高效集群的基础上,稳定可靠的运行环境是“AI工厂”持续产出的保障。特别在万卡级AI集群中,硬件故障导致的训练中断会严重浪费算力。摩尔线程创新推出零中断容错技术,故障发生时仅隔离受影响节点组,其余节点继续训练,备机无缝接入,全程无中断。这一方案使KUAE集群有效训练时间占比超99%,大幅降低恢复开销。(文猛)

责任编辑:王翔
(责任编辑:热点)
-
DC影业发布了新《超人》电影中文正式预告,出现了大量超级英雄和反派角色,影片由《银河护卫队》系列导演詹姆斯·古恩执导,将于7月11日在北美上映。宣传片:预告片出现了Nathan Fillion扮演的G ...[详细]
-
当詹姆斯·古恩和彼得·萨夫兰接掌华纳兄弟旗下DC影业联席CEO时,由扎克·施奈德开启的DC扩展宇宙DCEU)很快被终结。这为全新的DC宇宙DCU铺平了道路——尽管《生物突击队》动画已率先开启该宇宙,《 ...[详细]
-
有记者问到四川在因地制宜发展新质生产力方面的具体考虑,吴群刚表示,科技创新是发展新质生产力的源头活水,做好这篇大文章,四川有底气、有信心。他举了一个例子:“电子科技大学研发出一种新型无线通信技术,传输 ...[详细]
-
姐姐辅导作业打懵弟弟竟获网友点赞 需要反思的是什么 编辑:汤晓雪 来 ...[详细]
-
周末高温 夏日热情迎中考在前日雷阵雨的降温下,昨天泉州37℃以上的高温区域减少,午后最高气温在33℃-36℃。这个周末是中考时间,泉州的天气情况也是大家非常关心的。预计中考期间泉州市以多云为主,山区局 ...[详细]
-
近日,工信部网站发布《减免车辆购置税的新能源汽车车型目录》第五批),来看具体公告:中华人民共和国工业和信息化部公告2024年 第9号根据《中华人民共和国行政许可法》、《国务院对确需保留的行政审批项目设 ...[详细]
-
从区域情况看,华北地区部分市场报价有所上涨,还是以提振市场信心为主。其它地区部分厂家报价也有上涨的计划,在增加出库的情况下,保持一定的经济效益。总体看厂家信心要好于贸易商和加工企业。各区域走势如下:华 ...[详细]
-
凉山州气象局预报27 日傍晚到 28 日白天,州北部、东部、中部阴有中雨天气过程,部分乡镇有大雨,个别乡镇有暴雨;州南部、西部多云间阴有阵雨或雷雨,部分乡镇有中雨,个别乡镇有大雨。降雨时,局地可能伴有 ...[详细]
-
全国九县市“广州乡村画童美术馆”集中开工_南方+_南方plus3月23日上午,全国九县市“广州乡村画童美术馆”集中开工暨乡村画童大课堂开讲仪式,在广州市从化区良口镇善施学校“广州乡村画童美术馆总馆)” ...[详细]
-
近年来,我国生物多样性保护成效显著,生态功能持续向好,都安薹草、亮叶月季、蒙古郁金香等珍稀植物不断被发现,万物共生的和谐画卷正徐徐展开。 ...[详细]