AMD实现处理器效能提升30倍!比原定时间提早一年

科技 | 2024-12-13| 7

12月13日消息,早在四年前,AMD就曾设定目标,到2025年EPYC系列服务器处理器和Instinct系列AI芯片的能效,较2020年提高30倍。如今,MI300X AI芯片基本上实现目标,时间提了早一年。

据THW报道,AMD两个64核心EPYC 9575F CPU、八个Instinct MI300X AI芯片及2304GB DDR5内存的服务器,Llama3.1-70B(vLLM 0.6.1.post2、TP8)测试推理性能,用一组复杂计算确定系统能源效率,并与2020年的旧机器比较,

结果显示,新机能源效率是旧机的28.3倍。

不过,AMD并未透露2020年的旧机是何规格。但大概率是EPYC 7002系列,Zen 2架构,每个CPU最多64个核心,以及CDNA 1架构Instinct MI100 AI芯片。

AMD表示,除了强力硬件改进,更高性能效率是架构进步,加上软件优化结合,是跳跃式进展。

今年10月份的Advancing AI 2024大会上,AMD正式发布了新款AI芯片——GPU加速卡Instinct MI325X。它在大获成功的MI300X基础上再进一步,主要是增强了HBM内存部分。

MI325X配备了多达256GB HBM3E内存,相比于MI300X又增加了64GB。

MI325X也支持八块并行组成一个平台,这就有多达2TB HBM3E、48TB/s带宽,总的性能高达FP16 10.4 PFlops(每秒1.04亿亿次)、FP8 20.8 PFlops(每秒2.08亿亿次)。

对比NVIDIA H200,无论单卡还是八卡平台,不同大模型推理的性能都可以领先20-40%

训练性能方面,单卡可领先H200 10%,八卡平台则是持平。

MI325X加速卡和平台将在四季度内投产,而合作伙伴的整机系统、基础架构解决方案,将从明年第一季度起连续推出。

以上就是关于【AMD实现处理器效能提升30倍!比原定时间提早一年】的相关消息了,希望对大家有所帮助!

Tags: ,

相关推荐相关推荐

PS5 Pro性能提升太小吗 首席架构师出面回应

PS5 Pro性能提升太小吗 首席架构师出面回应

近日,PlayStation首席架构师马克·塞尔尼(Mark Cerny)解释了为何索尼中期升级主机PS5 Pro性能提升幅度有限,在硬件升级上更侧重于GPU性能而非CPU提升。

科技 4 2024-12-22
鸿蒙智行泊车代驾VPD正式开启全量推送!升级自动泊车/接驾等多项功能

鸿蒙智行泊车代驾VPD正式开启全量推送!升级自动泊车/接驾等多项功能

12月22日消息,鸿蒙智行近日宣布全面推送泊车代驾VPD功能,该功能基于华为ADS 3.0技术,带来了多项创新。

科技 4 2024-12-22
奇瑞iCar:大量水军对iCar V23高频恶意攻击、网暴车主 我们已收集证据

奇瑞iCar:大量水军对iCar V23高频恶意攻击、网暴车主 我们已收集证据

12月22日消息,iCar汽车官方今日发布公告称: 近期,我们注意到大量水军账号利用虚假信息,通过单一账号重复发布、多账号联动转发等手段,对iCAR品牌、V23产品进行高频次恶意攻击,甚至不惜网暴真实车主,造成恶劣影响。 对此,我们已迅速采取行动,收集 ...

科技 5 2024-12-22
首批国产颗粒DDR5内存终于上市!32GB套装499元 三巨头要慌了

首批国产颗粒DDR5内存终于上市!32GB套装499元 三巨头要慌了

12月22日消息,最近,金百达、光威先后推出了DDR5国产内存,且均表明新品基于国产颗粒打造。

科技 4 2024-12-22
网友票选年度最佳手机:iPhone罕见跌出Top 4!

网友票选年度最佳手机:iPhone罕见跌出Top 4!

12月22日消息,在Android Authority近期的年度最佳手机票选中,三星Galaxy S24 Ultra经过两轮激烈竞争后脱颖而出,被网友们选为年度最佳手机。

科技 6 2024-12-22
《龙腾世纪4》跨性别总监为失败开脱:玩家还是不够包容

《龙腾世纪4》跨性别总监为失败开脱:玩家还是不够包容

《龙腾世纪4》跨性别总监Corinne Busche最近接受Inverse采访时,将该游戏令人失望的表现归咎于社区玩家的仇恨活动和差评轰炸,暗示这些外部压力盖过了游戏的内部缺陷。

科技 4 2024-12-22
全球第三大车企要诞生了 本田与日产明天启动合并磋商

全球第三大车企要诞生了 本田与日产明天启动合并磋商

12月22日消息,据报道,本田和日产汽车23日起将正式启动经营合并磋商,三菱汽车则在协调于明年年初决定是否参与合并,弄清以何种方式进入持股公司等条件。

科技 3 2024-12-22
不许说日语的App在日本爆火:必须用“伪中国语”聊天  日本人和中国人都能看懂

不许说日语的App在日本爆火:必须用“伪中国语”聊天 日本人和中国人都能看懂

12月22日消息,近日,伪中国语在日本网络上翻红。 一款名为对多(推特的谐音)的App在12月18日更新上线后,引发下载高潮,在苹果应用商店免费社交软件排行榜最高排名第四,网友一度将服务器挤爆。 该应用类似于推特,用户可以匿名发帖并回复留言。唯一的特 ...

科技 5 2024-12-22
极越的炮火 开始转向公关负责人

极越的炮火 开始转向公关负责人

极越事件,夏一平不再独自感受炮火了。 12月20日上午,一封极越汽车内部邮件显示,公司出现危机以来,公关负责人徐继业不仅没有维护公司和员工声誉,反而在12月19日工作组努力促成、员工焦急等待补偿方案的时候,在其朋友圈发表分裂员工的不当言论,对员 ...

科技 3 2024-12-22
三星没放弃曲面屏开发!最新专利曝光暗示有望回归

三星没放弃曲面屏开发!最新专利曝光暗示有望回归

12月22日消息,近年来曲面屏在Android市场中逐渐失宠,三星作为曲面屏幕手机的先驱,连自家旗舰S24 Ultra也放弃了曲面设计,转而采用平面屏幕。

科技 3 2024-12-22