腾讯云AI超级底座新升级:训练效率提升幅度达到3倍
来源:财经网 发布时间:2023-09-08 14:16:51

大模型推动AI进入新纪元,对计算、存储、网络、数据检索及调度容错等方面提出了更高要求。在9月7日举行的2023腾讯全球数字生态大会“AI超级底座专场”上,腾讯云介绍异构计算全新产品矩阵“AI超级底座”及其新能力。


(资料图)

腾讯云副总裁王亚晨在开场致辞中表示,AI大模型就像是一场F1比赛,腾讯云专门设计了星脉高性能算力网络“赛道”,并自研了TiTa和TCCL网络协议作为“车载导航和道路控制系统”,共同让“HCC GPU服务器”这台马力强大的F1赛车发挥最大的算力性能,助力客户在AI大模型的竞争中遥遥领先。

腾讯云全新异构计算产品矩阵“AI超级底座”亮相

随着AI应用走向全领域,模型参数发展到千亿、万亿级规模,对云计算的基础设施提出了全新的挑战。腾讯云异构计算产品总监宋丹丹表示,AI 超级底座可以从底层算力基础设施到上层应用对接提供整套完整服务,方便模型生产厂商和AI开发者快速开发、验证。

腾讯云AI超级底座具有海量算力、极致性能、灵活取用等优势,结合了腾讯云的海量多元算力、高性能网络和存储集群,并以云原生产品作为入口供开发者灵活调用。在软硬结合层,腾讯云还可以通过GPU虚拟化、容器等,以及高性能应用服务HAI给开发者提供简易的开发体验,并让底层的高性能算力无损直达开发者,真正实现“高性能易上手”。

基础设施再进化,取之AI,赋能于AI

作为AIGC时代的重要核心,大模型需要庞大的算力来支撑。腾讯云高性能计算集群产品 HCC采用腾讯云星星海自研服务器,提供高性能、高带宽和低延迟的集群算力。目前,HCC已全面升级至2.0,性能、效率和稳定性实现全面提升,相比上代训练效率提升幅度达到3倍,将几十天的训练周期缩短至一周内。

此外,腾讯云还推出了性价比更高的冷存储产品、COS加速器,以及数据湖多级加速体系,可面向AIGC等多种业务场景提供多级缓存加速方案,进一步提升训练效率并降低资源成本。腾讯云存储产品总监崔剑指出,腾讯云通过提供近存储侧的一站式数据处理智能平台,为以AIGC为代表的业务提供内容处理、内容审核等服务,帮助用户挖掘数据价值,从而实现了“取之AI,助力AI”。

腾讯云公网产品负责人俞圆圆指出,对于参数达到千亿、万亿级别的AI 大模型来说,大带宽、低延时、广覆盖、少抖动的网络是实现高效训练的关键因素之一。腾讯云星脉高性能计算网络具备业界最高的3.2T 通信带宽,可为AI大模型的训练提供高速公路级别的网络通道。

软硬件结合,提升极致性能

底层基础设施以外,AI大模型的落地也需要上层软件的支持。腾讯云异构计算AI研发专家工程师叶帆表示,随着集群规模的增加,无论训练还是推理对硬件性能的利用均呈现指数难度上升,需要精细的软硬件协同来提升性能。腾讯云的Taco-LLM开箱即用性能方案基于Continuous Batching、预测解码、模型量化等技术,提高吞吐的同时,也降低了客户端延迟,并全面兼容hugging face主流大语言模型,可保障复杂多变的公有云应用场景。

针对GPU算力资源浪费的问题,腾讯云TencentOS高级产品架构师杜震表示,qGPU容器产品可以支持多个容器共享 GPU 卡,具备了各容器间算力、显存的精细隔离和灵活配置,将GPU的利用率提升至极致,最终帮助客户大幅节约GPU资源成本。同时,腾讯云还基于 RUE 内核全场景混部,统一调度分配 CPU、IO、网络、内存等资源,提升资源利用率,进一步降低运营成本。

向量数据库加速企业AI化进程

在大模型时代,通过向量数据库将数据高效接入AI大模型,并深度挖掘数据价值,成为最重要的事。

腾讯云数据库产品副总经理罗云指出,腾讯云向量数据库同时具备的性能和规模优势,支持高达10亿级的向量检索规模,延迟则控制在毫秒级,比传统单机插件式数据库检索规模提升了10倍。同时,腾讯云向量数据库还具备百万级每秒查询(QPS)的峰值能力,经腾讯内部海量场景实践,数据接入 AI 的效率比传统方案提升10倍,运行稳定性高达99.99%。

从底层到上层,腾讯云AI超级底座通过大模型高性能计算集群、计算网络以及向量数据库等大模型生态工具,助力AI大模型应用落地。

关键词:

猜你喜欢

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

腾讯云AI超级底座新升级:训练效率提升幅度达到3倍

大模型推动AI进入新纪元,对计算、存储、网络、数据检索及调度容错等方更多

2023-09-08 14:16:51
理想汽车:暂无进军自动驾驶卡车领域的计划

理想汽车:暂无进军自动驾驶卡车领域的计划

财经网汽车9月8日讯,据界面新闻报道,理想汽车正在筹划进军自动驾驶卡更多

2023-09-08 13:23:12
锚定“智能制造”,腾讯携手苏州市吴江区共建工业互联网江苏总部基地

锚定“智能制造”,腾讯携手苏州市吴江区共建工业

9月7日,2023腾讯数字生态大会智能制造专场现场,腾讯云和苏州市吴江区更多

2023-09-08 13:15:56
腾讯云和仪征市政府达成合作 打造区域数字赋能基地标杆

腾讯云和仪征市政府达成合作 打造区域数字赋能基

9月8日,腾讯云和江苏省仪征市政府在2023腾讯数字生态大会-智能制造专更多

2023-09-08 13:13:38
快讯 | H&M将与Heron Preston开创H2协作平台

快讯 | H&M将与Heron Preston开创H2协作平台

财经网生活讯近日,H&M宣布与HeronPreston签订长期合作协议,双方将共更多

2023-09-08 13:17:01
腾讯智慧零售陈菲:做零售企业的全面合作伙伴,推动零售生态加速演进

腾讯智慧零售陈菲:做零售企业的全面合作伙伴,推

9月8日,2023腾讯全球数字生态大会智慧零售专场于深圳宝安启幕,众多行更多

2023-09-08 13:18:58
滴滴获评民政部第十二届“中华慈善奖”

滴滴获评民政部第十二届“中华慈善奖”

9月5日,第十二届“中华慈善奖”表彰大会在北京人民大会堂举行。滴滴荣更多

2023-09-08 12:22:35
喜马拉雅推出白酒SIVA营销模型 助力白酒品牌触达消费者关键时刻

喜马拉雅推出白酒SIVA营销模型 助力白酒品牌触达

9月7日,在四川省酒类流通协会与喜马拉雅、群邑集团举行战略合作签约仪更多

2023-09-08 12:25:23
腾讯钟翔平:交通汽车步入智能化下半场 大模型等AI技术成为新变量

腾讯钟翔平:交通汽车步入智能化下半场 大模型等

9月8日,2023腾讯全球数字生态大会智慧交通专场、智慧出行专场在深圳举更多

2023-09-08 12:23:04
美国电动汽车制造商Lucid正在探索进入中国市场

美国电动汽车制造商Lucid正在探索进入中国市场

财经网汽车9月8日讯,Lucid首席工程师埃里克·巴赫(EricBach)在慕尼更多

2023-09-08 11:22:11

© 2012-2020 财经快报网 版权所有 关于我们

网站联系邮箱:435 227 67@qq.com

琼ICP备2022009675号-3