互联网企业发布大模型算力集群,算力性能提升3倍_每日观点

来源:中国青年报   2023-04-14 17:41:44
A+A-


(资料图片)

中国青年报客户端北京4月14日电(中青报·中青网记者 王林)腾讯云今天发布新一代HCC(High-Performance Computing Cluster)高性能计算集群,为大模型训练、自动驾驶、科学计算等提供高性能、高带宽和低延迟的集群算力。实测显示,此次发布的新一代集群的算力性能较前代提升3倍,是目前国内性能最强的大模型计算集群。

随着AIGC时代到来,大规模语言模型训练需求猛增,许多AI大模型参数动辄达万亿条。而单体服务器算力有限,需要将大量服务器通过高性能网络相连,打造大规模算力集群。通过全面优化处理器、网络架构和存储性能,腾讯云攻克了大集群场景下的算力损耗问题,为大模型训练提供高性能、高带宽、低延迟的智算能力支撑。

据介绍,此次发布的高性能计算集群采用腾讯云星星海自研服务器,搭载英伟达最新代次GPU H800 ,服务器之间采用业界最高的3.2T超高互联带宽。

2022年10月,腾讯完成首个万亿参数的AI大模型——混元NLP大模型训练。在同等数据集下,将训练时间由50天缩短到11天;如果基于新一代集群,训练时间将进一步缩短至4天。目前,腾讯混元AI大模型,已经覆盖了自然语言处理、计算机视觉、多模态等基础模型和众多行业、领域模型。

此前,腾讯多款自研芯片已经量产,其中,用于AI推理的紫霄芯片、用于视频转码的沧海芯片已在腾讯内部交付使用。

来源:中国青年报客户端

标签:


Copyright ©  2015-2022 青年办公网版权所有  备案号:皖ICP备2022009963号-20   联系邮箱:39 60 291 42@qq.com