首页>资讯>正文
英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型|当前热议
2023-06-14 08:27:55    来源:华尔街见闻

凭借发布的新品,AMD正式向英伟达的AI芯片王者地位发起挑战。

美东时间6月13日周二,AMD举行了新品发布会,其中最重磅的新品当属性用于训练大模型的ADM最先进GPU Instinct MI300。


(资料图)

AMD CEO苏姿丰介绍,生成式AI和大语言模型(LLM)需要电脑的算力和内存大幅提高。她预计,今年,数据中心AI 加速器的市场将达到300亿美元左右,到2027 年将超过1500 亿美元,复合年增长率超过 50%。

苏姿丰演示介绍,AMD的Instinct MI300A号称全球首款针对AI和高性能计算(HPC)的加速处理器(APU)加速器。在13个小芯片中遍布1460亿个晶体管。

它采用CDNA 3 GPU架构和24个Zen 4 CPU内核,配置128GB的HBM3内存。相比前代MI250,MI300的性能提高八倍,效率提高五倍。AMD在发布会稍早介绍,新的Zen 4c内核比标准的Zen 4内核密度更高,比标准Zen 4的内核小35%,同时保持100%的软件兼容性。

AMD推出一款GPU专用的MI300,即MI300X,该芯片是针对LLM的优化版,拥有192GB的HBM3内存、5.2TB/秒的带宽和 896GB/秒的Infinity Fabric 带宽。AMD将1530亿个晶体管集成在共12个5纳米的小芯片中。

AMD称,MI300X提供的HBM密度最高是英伟达AI芯片H100的2.4倍,其HBM带宽最高是H100的1.6倍。这意味着,AMD的芯片可以运行比英伟达芯片更大的模型。

Lisa Su介绍,MI300X可以支持400亿个参数的Hugging Face AI 模型运行,并演示了让这个LLM写一首关于旧金山的诗。这是全球首次在单个GPU上运行这么大的模型。单个MI300X可以运行一个参数多达800亿的模型。

LLM需要的GPU更少,给开发者带来的直接好处就是,可以节约成本。

AMD还发布了AMD Instinct 平台,它拥有八个MI300X,采用行业标准OCP设计,提供总计1.5TB 的HBM3 内存。

苏姿丰称,适用于CPU和GPU的版本MI300A现在就已出样,MI300X和八个GPU的Instinct 平台将在今年第三季度出样,第四季度正式推出。

亚马逊、微软、Meta已经或将要运用AMD新品

除了AI芯片,AMD此次发布会还介绍了第四代EPYC(霄龙)处理器,特别是在全球可用的云实例方面的进展。

AMD第四代EPYC(霄龙)在云工作负载的性能是英特尔竞品处理器的1.8倍,在企业工作负载中的处理速度是英特尔竞品的1.9倍。

AMD称,第四代EPYC(霄龙)启用新的Zen 4c内核,比英特尔Xeon 8490H的效率高1.9倍。由于绝大多数AI在CPU上运行,AMD在CPU AI领域具有绝对的领先优势。

亚马逊周二宣布,在用AWS Nitro和第四代EPYC 处理器打造新的实例。亚马逊云的EC2 M7a实例现已提供预览版,性能比M6a实例高50%。

AMD也将在内部工作中运用EC2 M7a实例,包括芯片设计的EDA软件。AMD还宣布,今年7月,甲骨文将推出Genoa E5实例。

AMD发布的EPYC Bergamo处理器是业界首款x86原生CPU,有128个内核,每个插槽256个线程。这意味着一个普通的2U 4 节点平台将有 2048 个线程。

Bergamo比前代Milan的性能高2.5倍,现在就可以向AMD的云客户发货。

Meta的公司代表介绍,Meta在基础设施中使用EPYC处理器。Meta也对基于AMD的处理器设计开源。Meta方面称,计划为其基础设施使用云处理器Bergamo,还要将Bergamo用于其存储平台。

AMD同时推出本周二上市的CPU Genoa-X。它将增加超过1GB 的96核L3缓存。它共有四个SKU,16到 96 个内核。因为SP5插槽兼容,所以它可以与现有的EPYC 平台一起使用。

微软的公司代表和AMD一道展示了微软云Azure HPC的性能,在EPYC处理器的帮助下,Azure四年内的性能提升四倍。

Azure宣布,搭载Genoa-X的HBv4和HX系列实例、以及新的HBv3实例全面上市。Azure还称,性能最高可较市面基准提升5.7倍。

AMD此前通过收购Pensando获得DPU技术。此次AMD称,其P4 DPU架构是世界上最智能的DPU,它能减少数据中心的网络开销,并提高了服务器的可管理性。AMD的Pensando SmartNICs是这种新数据中心架构不可或缺的组成部分。

AMD还提到有自己的AI芯片软件,名为ROCm。AMD总裁Victor Peng称,在构建强大的软件堆栈方面,AMD取得了真正的巨大进步,ROCm软件栈可与模型、库、框架和工具的开放生态系统配合使用。

责任编辑:

关键词:

英伟达AI芯片劲敌来了!AMD推出MI300X,可运行多达800亿参数模型|当前热议

凭借发布的新品,AMD正式向英伟达的AI芯片王者地位发起挑战。美东时间62023-06-14

欠捷信的钱会影响孩子和家人吗_欠捷信的钱会坐牢吗

问题:最近经常听人说,欠了网贷不还,可能会坐牢。我查了一下,我在捷2023-06-14

看点:胃复春片一般吃几个疗程_胃复春片吃多久有效果

1、胃复春片为纯中药制剂,长期使用安全可靠,无明显毒副作用。2、其起2023-06-14

全球新动态:接种证图片_接种证

1、有以下几个方法2、必须取得执业助理医师或者执业医师的证书,然后参2023-06-14

菲尔普斯吸毒(关于菲尔普斯吸毒的基本详情介绍) 今日快讯

1、美国著名游泳运动员、在北京奥运会上夺得8金、打破7项世界纪录的迈2023-06-14

今日视点:三国演义的人物传之刘备

人物简介姓名:刘备别名(字):刘玄德民族:汉出生地:涿郡涿县(今河北2023-06-13

今晚油价再降!多地95号汽油进入7元时代

快科技6月13日消息,今晚24点,国内成品油价将迎来新一波调整,又降价2023-06-13

安徽建工:拟与建工控股续签托管经营合同_全球视讯

6月13日电,安徽建工公告,公司拟与建工控股续签《托管经营合同》,建2023-06-13

10人冒充记者组团敲诈国企、行政机关被判刑_当前视讯

近日,山西省大同市天镇县人民法院公开审理并当庭宣判一起假冒新闻记者2023-06-13

喜收小龙虾

6月13日,江西省吉水县阜田镇黄金湖村稻虾共作基地,村民正在起收小龙2023-06-13

法国多管齐下欲掌握关键矿产自主权

参考消息网6月13日报道(文 张百慧胡雪刘芳)如果说20世纪的世界以碳氢化2023-06-13

环球播报:油价小幅下调 加一箱油将少花2元

据国家发改委通知,6月13日24时起,每吨汽油下调55元,每吨柴油下2023-06-13

天天快资讯丨哈弗B26内饰谍照曝光,造型硬朗内饰科技,具有爆款潜质?

一提到我们国产SUV,相信很多朋友就会立马联想到哈弗汽车,毕竟,作为2023-06-13

沙钢永兴轧钢厂:5月份圆钢月产创历史新高-天天微头条

5月份以来,面对钢材市场的跌宕起伏,以及圆钢效益优于螺纹钢的现状,2023-06-13

光大期货:纯碱大幅去库或难以延续|环球消息

光大期货称,近期纯碱供需虽因检修与补库而发生阶段性好转,但市场普遍2023-06-13

江西:提升光伏、锂电等行业重点企业智能制造水平达到国内先进_全球速看

《科创板日报》13日讯,日前,江西印发《江西省新能源产业数字化转型行2023-06-13

淘宝注册开店流程ppt图片_淘宝注册开店流程 今日快讯

1、轻松五步助你开启淘宝开店之旅:第一步:注册淘宝账户通过手机号码2023-06-13

天天信息:没有身份证怎么坐高铁查询_没有身份证怎么坐高铁

1、打开手机铁路12306APP,进入APP首页。2、在订单界面中,3、输入已付2023-06-13

新疆克拉玛依:护航景区安全 有景更有“警”-焦点速递

6月12日,新疆克拉玛依市公安局白碱滩区分局民辅警全员上岗守护核心景2023-06-13

风化作用和风蚀作用的区别_风化作用|天天观热点

1、风化作用很形象的一种理解是:把物体由整体变为破碎且破碎物还是留2023-06-13

福州职工养老金计发月数是多少-世界热文

60周岁退休对应的计发月数是139;55周岁退休对应的计发月数是170;50周岁2023-06-13

世界讯息:保护视力的标语贴在教室里(保护视力的标语)

关爱眼睛,生活开心。万里江山眼底收,大千世界目中明。爱眼护眼,预防2023-06-13

建立良好的督导关系,真正地关注学校的发展,需要有一个独特的视角,有一双发现..._天天热消息

建立良好的督导关系,真正地关注学校的发展,需要有一个独特的视角2023-06-13

韶关唯一!南雄瀑布灌区成功入选国家级节水型灌区

广州日报记者今天了解到,水利部办公厅近日印发《关于公布节水型灌区复2023-06-13

官方售价24.95万元起 新款奔驰长轴距A级上市 速讯

近日,我们从官方渠道获悉,新款奔驰长轴距A级轿车现已正式上市,共推2023-06-13

滚动
资讯