搭建万卡GPU集群,小米AI大模型即将全力启动

业界 | 2024-12-29| 7

电子发烧友网报道(文/黄山明)近日,有媒体报道,小米正在着手搭建自家的GPU万卡集群,将对AI大模型加大投入。该计划已进行数月,据悉小米大模型团队在成立之初便已拥有6500张GPU资源,小米创始人兼董事长雷军在该团队扮演重要的领导角色。

高性能计算是大模型发展的基础,而GPU在其中扮演重要作用。随着AI在如今社会中发挥着越来越重要的作用,应用领域不断扩展,需要的计算资源也越来越多,因此对于GPU的需求也在不断上升。

小米搭建万卡GPU集群,加大AI大模型投入

如今我们生活中已经有不少领域开始充斥着AI的身影,包括AI配音、AI影像、AI图片、AI导航,以及不少人正在使用的免费AI大模型等。但相比ChatGPT、豆包、Kimi、通义千问等知名度不小的大模型,小米的MiLM显得相对低调。

这是一款在今年5月份才正式通过大模型备案的小米大预言模型,小米宣布将把相关模型逐步应用于小米汽车、手机、智能家居等产品中,后续“将面向更多用户开放体验”。

而到了近期,市场更是传出小米准备搭建GPU万卡集群,决心加大对AI的投入。但搭建GPU的万卡集群并不容易,一方面在于昂贵的成本。训练AI大模型通常需要使用高性能的GPU芯片,如英伟达的A100、H100等。

这些高端芯片的单价本身就非常高,A100芯片价格约9万元一张,H100阉割后的HGX H20渠道价格约11万一张,而万卡集群需要至少一万张以上的GPU卡,仅芯片采购成本就可能达到数十亿元。

并且除了GPU芯片本身,构建万卡集群还需要大量的配套硬件设备,如服务器、存储设备、网络设备等。这些设备的采购和安装成本也相当恐怖,进一步增加了总体投入。

而之所以需要GPU万卡集群,是因为AI大模型通常包含数十亿乃至数万亿的参数,例如GPT-3就有1750亿个参数,训练和推理过程中需要进行海量的矩阵运算和复杂的数学计算。如此大规模的计算任务,单张GPU的计算能力远远无法满足,需要借助GPU万卡集群并行计算来加速。

当然,这些技术的出现,其实并非突然,而是早有布局。小米早在2016年便开始组建第一只视觉AI团队,逐步建立了视觉、语音、声学、知识图谱、NLP、机器学习、多模态等AI技术能力。

到2017年,小米正式发布了智能语音助手“小爱同学”。尽管当时的AI技术和现在相比可能显得较为基础,但小爱同学已经运用了语音识别、NLP、机器学习等核心技术来实现人机交互。

去年4月份,小米成立AI实验室大模型团队,初始团队便拥有6500张GPU资源。并认为栾剑担任该团队的负责人,栾剑此前曾任东芝(中国)研究院研究员、微软(中国)工程院高级语音科学家、微软小冰首席语音科学家及语音团队负责人等职位。

并且在近期,有消息称DeepSeek开源大模型DeepSeek-V2的关键开发者之一罗福莉将加入小米,有望进一步加强小米AI大模型团队实力。

端侧拥抱AI已成共识,小米具备重大优势

国内目前已经有多家企业开展了万卡集群的建设,例如华为昇腾、科大讯飞、中国电信、中国移动等,其中中国电信在上海、北京两个万卡集群已经投产,而中国移动位于呼和浩特、哈尔滨两大万卡级别的智算中心也已经先后投产运行。

更别说百度等公司已经在探讨构建十万卡集群,有业内人士认为,市场中很快便会有更多的十万卡集群出现。

另一方面,海外则更加激进。例如由马斯克旗下xAI公司打造的xAI Colossus 超级AI集群,拥有10万个英伟达H100 GPU。其第一阶段建设已完成并全面上线,未来计划增加5万张H100 GPU和5万张下一代H200 GPU,届时GPU总数将翻倍。

OpenAI正在设计能够将1000万块GPU连在一起的计算模型,Meta CEO扎克伯格曾在年初宣布,计划购买35万块英伟达H100 GPU,将Meta的算力扩展到相当于60万块英伟达H100 GPU的水平。

与此同时,越来越多的企业开始更为注重AI,包括理想汽车创始人李想此前公开表示,理想汽车不仅是一家汽车制造企业,更是一家AI企业。

加上如今的AI手机、AI手表、AIPC甚至智能汽车等,这些端侧产品均在积极拥抱AI,AI的加入也为这些产品带来了更多的差异化与个性化,甚至有望成为未来产品体验差异的分水岭。

而相比其他企业,小米拥有一项重大的优势,其AI大模型可以与自身的“人车家”战略完美契合,甚至可以说AI大模型的加入,让小米“人车家”全生态完成了最后一项闭环。

从手机到智能家居,再到新能源汽车,小米均有涉猎,并且大多已经成为行业中的主要参与者,例如小米为全球第三大手机厂商,米家更是全球最大的智能家居平台,其中小爱音箱以超过40%的市场份额稳居中国智能音箱榜首。

小米汽车更是后来居上,不仅屡屡出圈,自今年3月份发布以来,有望在今年内实现超过13万辆的交付成绩,为小米集团贡献近百亿元的营收。同时小米汽车更是小米集团独资控股,保证了小米汽车能够贯彻未来小米集团的发展方向。

另一方面,雷军不仅是小米的创始人,如今依然是金山软件的董事长,意味着未来小米AI大模型有望在WPS等办公软件中布局。

从硬件端的互联网入口,到办公软件、游戏等领域,都已经为小米的MiLM大模型预留足够的发展空间,这是许多AI大模型企业没有的巨大优势。不仅保障了未来小米AI大模型的迭代升级,同时也解决了其数据归属问题,进一步加速AI大模型的升级。

总结

从小米过往布局新赛道的步伐来看,通常是确定了某个赛道已经得到市场验证,并相对成熟再决定进入。进入赛道后,再利用小米集团的自身优势,迅速做大做强。如今小米采用万卡集群,加大投入到AI大模型领域,意味着不久后便有望看到该模型的普及。也期待未来市场中小米AI大模型的表现。

相关推荐相关推荐

中国专利奖结果公布:新声、中微等半导体企业入选

中国专利奖结果公布:新声、中微等半导体企业入选

电子发烧友网报道(文/吴子鹏)近日,国家知识产权局在其官网正式对外发布了第二十五届中国专利奖评审结果。根据《中国专利奖评奖办法(2023年修订)》《国家知识产权局关于评选第二十五届中国专利奖的通知》规定,第二十五届中国专利奖共评选出中国专利 ...

业界 43 2025-01-01
中科驭数获批设立博士后科研工作站 加强DPU产学研合作

中科驭数获批设立博士后科研工作站 加强DPU产学研合作

中科驭数获批准设立博士后科研工作站,近日在北京市人力资源和社会保障局主办的博士后人才培养工作会议上,中科驭数获得由人力资源和社会保障部、全国博士后管委会联合授予的博士后科研工作站牌匾。

业界 34 2025-01-01
看齐iPhone!三星Galaxy S25 Ultra将搭载车祸检测传感器

看齐iPhone!三星Galaxy S25 Ultra将搭载车祸检测传感器

12月31日消息,苹果在iPhone 14 Pro开始为手机配备了车祸检测传感器,可以检测正面、侧面、追尾甚至翻车,监测到车祸后会及时拨打急救热线。

业界 19 2025-01-01
智芯公司荣获7项电力创新奖

智芯公司荣获7项电力创新奖

近日,中国电力企业联合会发布2024年度电力创新奖获奖名单,智芯公司获各类奖励共7项,其中,技术成果一等奖1项、二等奖3项,信息化成果二等奖2项,职工成果二等奖1项。

业界 14 2025-01-01
鸿利智汇荣获两项中国专利优秀奖

鸿利智汇荣获两项中国专利优秀奖

近日,国家知识产权局公布了《第二十五届中国专利奖评审结果》,鸿利智汇集团两项发明专利同时上榜,充分展示了公司在半导体照明与显示领域的卓越技术实力。

业界 36 2025-01-01
用爱因斯坦质能方程解释飞机撞鸟空难靠谱吗

用爱因斯坦质能方程解释飞机撞鸟空难靠谱吗

12月29日,韩国济州航空公司一架客机在务安机场发生空难事故,造成179人死亡,航空安全再度成为媒体和公众关注的热点话题,而对于相关问题的科普解读则成为满足公众需求的一个重要维度。

业界 10 2025-01-01
国内单体容量最大的山地风场并网:年发电量可达7亿度

国内单体容量最大的山地风场并网:年发电量可达7亿度

【btna科技消息】1月1日消息,据报道,位于新疆木垒哈萨克自治县东南隅的东方电气木垒100万千瓦风电项目,已成功并网发电。

业界 9 2025-01-01
男子强行加塞无效 被撞后泄愤踹车:车主当场报警做法引网友点赞

男子强行加塞无效 被撞后泄愤踹车:车主当场报警做法引网友点赞

1月1日消息,广州一男子在开车时加塞被撞后,竟然泄愤踹后车这样的行为引起了网友的热议。

业界 15 2025-01-01
RTX 50全系显存实锤!RTX 5060 Ti真是个异类

RTX 50全系显存实锤!RTX 5060 Ti真是个异类

【btna科技消息】1月1日消息,RTX 50系列即将发布,各种规格已经暴露得七七八八,如今PC系统厂商都忍不住提前泄露,iBuyPower的多台新主机就确认了RTX 50系列显卡的显存配置。

业界 16 2025-01-01
开年就打价格战 五菱缤果官降:500公里续航进入8万区间

开年就打价格战 五菱缤果官降:500公里续航进入8万区间

【btna科技消息】1月1日消息,都知道2025年汽车市场竞争会更加激烈,价格战怕是有增无减,然而没想到在新年第一天就有车企率先发起了行动。

业界 16 2025-01-01