起猛了！Arm推出首个自研CPU黄仁勋贴大脸发言

智东西3月24日旧金山现场报道，方才，3500亿颗芯片背后的半导体IP巨头Arm，推出首款由Arm自决策画的数据中央CPU——

这是Arm发达35年来，初度推出对外贩卖的自研芯片，也Arm全新数据中央芯片产物线的首款产物，符号着Arm正式进军数据中央芯片范围，将其高能效架构界限化引入AI根基办法。

Arm AGI CPU的单核、体系级芯片、刀片式效劳器及机架各层级均实行行业领先的本能阐扬。

通过更众可用线程与更高单线程措置本事互相叠加，该芯片可实行单机架本能抵达x86平台的2倍以上，每1GW的AI数据中央算力资金开支俭朴高达100亿美元。

它维持高密度1U效劳器机箱的风冷布置计划，单机架可维持众达8160个盘算重心；也维持液冷体系，单机架可实行赶上45000个重心的布置界限。

Arm CEO Rene Haas分享说，按其估算，自人类成立此后，大约共有1170亿人存在正在这个星球上。而Arm芯片累计出货量已赶上3500亿颗，足足是有史此后人类总数的3倍，是完全非Arm架构CPU累计出货量总和的7倍，均匀每个环球家庭具有160颗Arm芯片。

现正在，Arm的重心交易包罗三大块：IP授权、CSS（盘算子体系）计划，以及自决策画的芯片产物。

Arm与永擎电子、联思、广达电脑、Supermicro等头部OEM厂商及ODM厂商开展配合，早期体系现已推出，永擎电子、联思及Supermicro已绽放商用体系订购，更遍及的商用布置估计将于本年下半年落地。

正在会后媒体问答枢纽，Rene Haas道道，研发AGI CPU只是Arm贸易形式的自然延长，商场需求紧张未被餍足，中邦恐怕优劣常好的商场。

另据Mohamed Awad分享，Arm也正在有劲商讨NVLink等互连本领，已公告将正在改日版本的CSS中维持NVLink。

Rene Haas道道，智能体的爆炸式延长催生更大的CPU需求。智能体素质上是一个管事流，多量管事涉及调理，这恰是CPU所擅长的管事，是加快器做不了的。

打个例如，加快器掌管天生token，就像推一辆翻斗车，须要有人去搬运那些土，CPU即是搬运土的兴办。

按照Arm的估算，数据中央对每GW功耗供给的CPU算力需求将延长至此刻的4倍以上，正在雷同功耗局限内，以前须要3000万CPU重心，现正在须要塞入约4倍的1.2亿个CPU重心。

功耗是名贵的，所需资金也是名贵的。试图将这样众的特地CPU塞进一个仍然被加快器和施行重心管事的CPU塞得满满当当的数据中央，是一道困难。

为什么要做这件事？Rene Haas道道，跟着智能体AI走向主流，完全支柱其运转的管事都依赖CPU，这颗CPU务必先天就具备正在电池供电下运转的基因。

x86架构背负着施行开销和对遗留效用的维持承当，选取了聚焦于模块化、维持多量分歧商场和小众用例。而Arm埋头于晋升能效、低落延迟。

高IPC（每周期指令数）不断是Arm的强项。古板CPU有时会试图通过抬高主频、进入Boost形式来正在这一维度上比赛，但抬高主频，功耗也随之上升，这些Boost形式无法永久连续，也无法正在整颗芯片上连续。而AGI CPU能供给全岁月、可连续的满血本能。

少许古板架构采用众线程。众线程的骨子是向统一个重心丢两个职司，但IO和带宽并不会所以翻倍，只是把瓶颈迁徙到了别处，况且CPU还务必经受解决这种来回切换的承当，导致本能低落，最终导致过程饥饿。

Arm重复阅览到，数据中央运营商不得不逾额装备数据中央30%乃至更众，来应对这种非线性扩展的题目。

Arm对能效有着近乎偏执的埋头。AGI CPU是专为目的场景打制的，没有任何遗留架构的包袱，不虚耗任何一个周期，不存正在停顿的算力，不虚耗任何一瓦的功耗。

正在实测中，AGI CPU可供给连续本能，没有因超越功耗预算而导致的本能降频，没有内存或IO争用。

上图中，左边的AGI CPU和中心的x86 CPU柱形均正在SMT（同步众线程）禁用的情景下测得，仅比照了单线程重心阐扬。

一个常睹说法是，众线程能改进本能，带来更好的可扩展性。但假如开启众线程，结果如图中第三个柱形所示，本能低落、实际中每机架多量线程闲置、能效略有晋升但亏损以改造举座的算法弃取。

Arm云AI行状部施行副总裁Mohamed Awad注释说，假如对内存带宽的需求很低，SMT是合理的，由于能够共享带宽，当一个线程正在恭候时，可将CPU资源让给另一个线程。

但正在智能体AI场景中，有多量线程须要同时支柱，有高贵的加快器和高贵的根基办法正在恭候，最不心愿爆发的事变即是破裂I/O带宽或内存带宽，而是心愿将那些I/O和内存带宽切确地专用给对应的过程。

“咱们以为，这个最优值约为每秒4~6GB的带宽分拨给每个重心，这恰是咱们的策画目的。正在这类场景下，不实行SMT是更适宜的选取，所以咱们目前没有采用SMT的安插。”他道道。

从运转频率到内存及I/O架构，Arm AGI CPU每一处策画都通过特意优化，正在高密度机架布置场景下，维持大界限并行、高本能的智能体AI管事负载。

该芯片供给每重心6GB/s内存带宽。领先的内存带宽使每个机架能维持更众高效施行的线 CPU正在连续高负载下会因重心争抢资源而导致本能低落。

为此，AGI CPU采用了双Chiplet策画，每个Chiplet将完全内存和IO直接集成其上，无需忧愁庞大的NUMA域和跨硅片的众次跳转。

正在互联方面，Arm AGI CPU采用96通道PCIe Gen 6接口，维持CXL 3允诺，可连合放肆加快器，同时维持内存扩展等效用。

其TDP（热策画功耗）为300W，每线程独立重心，可正在连续负载下供给确定性本能，避免降频与线程闲置。

Arm的参考效劳器采用1OU双节点策画，每台刀片效劳器中集成2颗CPU芯片，并装备独立内存与I/O，共计272个重心。

AGI CPU维持高密度1U效劳器机箱的风冷布置计划。下图是一个圭表OCP风冷机架。这些刀片效劳器可正在圭表风冷36kW机架中满配布置，30台双节点1OU刀片效劳器可供给总共8160个重心。

Arm安插向OCP社区奉献该参考效劳器策画计划及配套固件，并进一步供给包罗体系架构范例、调试框架及实用于完全Arm架构体系的诊断与验证器材等资源。

Meta行为Arm AGI CPU的早期配合伙伴与客户，到场该CPU的共同开辟，旨正在为Meta全系行使优化GW级界限根基办法，并与Meta自研MTIA推理加快器协同运转，从而正在大界限AI体系中实行更高效的编排与调理。

“这场联婚，我部分以为是双赢的，分外令人高兴，看到从纯正的IP授权供给商，走向真正到场修建出产级、出产停当产物的队伍，”Meta根基办法掌管人Santosh Janardhan道道，“我以为最甜美的事变须要少许岁月，而咱们现正在就要到了。”

现正在每天有约35亿人应用Meta的产物。每一次交互、每一篇帖子、每一个讯息流、每一通电话，都竖立正在Meta后端修建的根基办法之上，即定制数据中央、定制硬件和定制芯片。

大约两年半前，Meta先做了商场调研，看看是否有哪款CPU能餍足规格条件，结果要么餍足了本能、功耗不餍足，要么餍足了功耗、本能不达标。

而Arm供给的可扩展性，让Meta不妨注入更众算力，做到了优化每瓦本能、每千兆瓦本能、优化Meta全平台本能。

这些客户将正在智能体CPU重心行使场景中布置Arm AGI CPU，遮盖加快器解决、限制平面措置、云与企业级API、职司与行使托管等范围。

正在大会展区，SK电信旗下Rebellions出现了应用Arm AGI CPU行为头节点，正在统一台效劳器中有一批加快器的实例。

Arm出现了庞大的“同伴圈”。超大界限盘算效劳商、云盘算、芯片、内存、搜集、软件、体系策画与筑制等范围的50余家行业龙头企业，均对Arm盘算平台向芯片范围拓展体现维持。

英伟达、谷歌、微软、亚马逊云科技、博通、Marvell、美光、微软、三星、SK海力士、台积电等企业的高管一通猛夸，以为Arm AGI CPU是全体生态体系发达的紧急里程碑，将带来新一代定制化盘算本事，进一步开释Arm生态体系的潜力，让更众客户不妨便捷地获取Arm的盘算本事，为完全基于Arm修建智能改日的配合伙伴成立新的强大机缘。

“咱们很高傲能与Arm合伙修建这个绽放、可扩展、高能效的AI改日。加快盘算并没有让CPU变得无闭大局，它让CPU成为不成或缺的配合伙伴。Arm架构仍然成为咱们完全平台的根基。”黄仁勋说，“Arm的顺应性和可定制性，真正使咱们不妨将Arm整合至完全平台之中。”

“环球没有任何一家公司的生态体系，能像咱们云云从边沿端到云端理解效劳。”Rene Haas说。

当前数以万计的公司正在云端运转其软件于Arm之上，依托已向环球数据中央交付的赶上12.5亿个Arm Neoverse重心。这一延长仍正在加快。