腾讯Angel平台突破大模型技术,荣获世界互联网大会领先科技大奖!

发布:2024-11-21 15:42:34 阅读:318

在乌镇举行的2024年世界互联网大会上,腾讯Angel机器学习平台凭借其深厚的技术底蕴、突破性的创新技术和广泛的应用实践,荣获了领先科技奖。这一奖项不仅彰显了腾讯在人工智能领域的卓越成就,也标志着其在推动数字经济和实体产业发展中的显著贡献。

腾讯Angel机器学习平台在万亿级模型分布式训练与推理、大规模应用部署等方面取得了重大突破。该平台成功实现了从底层硬件到关键软件技术的全面自主研发,使得大模型技术在多个业务场景中得以广泛应用,极大提升了社会运行效率。

世界互联网大会领先科技奖由世界互联网大会设立,旨在表彰全球范围内最具创新性和领先性的互联网科技成果,并推动国际间的技术交流与合作。在今年的评选中,共有20个具有国际影响力的项目脱颖而出,整体入选率仅为7.4%,涵盖了类脑计算、具身智能、6G通信、大数据、高性能芯片以及AI机器学习平台等多个前沿领域。

腾讯公司副总裁蒋杰在颁奖现场表示,腾讯能够荣获这一殊荣,是对公司在大模型相关自研技术方面努力的肯定。面对大模型时代带来的挑战,如模型参数超过万亿、训练数据超过十万亿等,腾讯通过全链路自研的Angel机器学习平台,成功应对了这些挑战,并在多个方面实现了性能效率的大幅提升。

腾讯Angel机器学习平台在解决万亿规模大模型分布式训练和推理、应用部署难题方面,取得了三大突破。在通信方面,腾讯自研的RDMA网络实现了集群的高速互联,单节点带宽高达3.2T,相比同类领先产品,性能提升了30%,成本降低了70%。在效率方面,平台自研了训练/推理框架,并提出了显存与主存一体化机制,通过多维并行和算子优化,相比开源框架,训练性能提升了2.6倍,推理速度提升了2.3倍。在规模方面,平台实现了单任务万卡的线性扩展,GPU集群加速比从50%提升至99%。

作为智能时代的重要基础设施,腾讯Angel机器学习平台凭借其扎实的技术积累,多次在国际权威领域榜单中名列前茅,并获得了20余项国际竞赛冠军。该平台还是中国首个从Linux Foundation毕业的顶级AI开源项目,并被评为2019年度最受欢迎中国开源软件。众多外部开发者和企业用户的加入,进一步推动了技术的广泛应用和产业的协同发展。今年3月,腾讯Angel机器学习平台还荣获了2023中国电子学会科技进步一等奖。

基于Angel机器学习平台,腾讯全链路自研的混元大模型在中国AI研发领域率先采用了混合专家模型(MoE)结构,模型规模突破万亿,处于国内大模型发展的领先地位。今年11月初,腾讯推出了业界最大参数规模的开源MoE模型——混元Large,总参数量达389B,激活参数量52B,上下文长度高达256K,其训练和推理均基于腾讯Angel机器学习平台。

热门产品

查看更多