新闻中心

开云(中国)Kaiyun·官方网站 商汤发布《新一代东说念主工智能基础设施白皮书》
发布日期:2024-02-15 06:44    点击次数:71

2日,商汤科技智能产业计划院与中国信息通讯计划院云计较与大数据计划所等麇集发布《新一代东说念主工智能基础设施白皮书》(以下简称《白皮书》),并初次忽视“新一代AI基础设施评估体系”,为AI 2.0期间智算产业发展提供遑急参考。

畴昔四年,大模子参数目以年均400%复合增长,AI算力需求增长杰出15万倍,远超摩尔定律。以CPU为中心的传统计较基础设施已无法知足大模子、生成式AI的新条款。大模子考研对数据质料和后果的需求,企业诓骗生成式AI关于MaaS(大模子即劳动)的需求,也王人给AI基础设施忽视了全新条款。

AI 2.0期间,需要新一代的基础设施来相沿大模子的考研与推理、生成式AI诓骗的鸿沟化落地,其中枢因素,如计较、存储、收罗以及数据劳动王人要作念风雅化的打算和重构,而非浅易的劳动器或GPU实例堆砌。

《白皮书》明确了新一代AI基础设施的界说:以大模子才智输出为中枢平台,集成算力资源、数据劳动和云劳动,有益打算用于最大截止晋升大模子和生成式AI诓骗的领略:数据准备与照管、大模子考研、推理、模子才智调用、生成式AI诓骗部署。企业通过新一代AI基础设施开发和开动生成式AI业务和客户诓骗模范,以及基模子和行业模子的考研与微调。

《白皮书》指出,新一代AI基础设施的开拓将裁减大模子开发和诓骗门槛,在政企劳动、产业和科研立异等方面创造更大社会价值:面向产业,将加速推动传统产业凹凸游各个法式的智能化转型,催生新业态、新样式的握住浮现。面向科研,可加速科学本质的自动化和智能化,激勉东说念主工智能驱动科学计划的新范式。面向政务,将底本散布、碎屑化的政务诓骗,通过“一模通办” 为政务劳动提质增效。

《白皮书》中式了十二家最具代表性的AI基础设施厂商。商汤科技的新一代AI基础设施 -SenseCore商汤大装配,手脚商汤推出的AI基础设施家具与处分决议,总体算力鸿沟当今已达6800P,在支抓商汤本身大模子研发的同期,也支抓外部客户考研大模子和诓骗部署。本年以来,共有超1000个参数目数十亿至上千亿的大模子在大装配上完成考研,隔断了领跑行业的时刻迭代进程,并支抓了数十款生成式AI诓骗。

《白皮书》以商汤基于AI大装配的多场景奉行案例为例,领略了从大型模子考研到生成式AI诓骗的全历程,再到区域智算中心的开拓与运营,长远挖掘了这一全人命周期中的买卖立异价值。

依托商汤大装配,商汤聚聚拢公教化发布编造数字讲师“小鹿敦厚”,比拟传统东说念主工直播,不仅裁减了80%录课资本,还提高了2~3倍的课程丰富度,隔断教化质料和后果双重晋升。

商汤还助力微博打造“营销大模子”,让每位博主王人能领有我方的AI营销助手,短短数月便有超7000位微博达东说念主招揽AIGC生成69万篇案牍,招揽率高达95%。

南边+记者 郜小平开云(中国)Kaiyun·官方网站



相关资讯