英特尔发布新一代AI芯片，吞吐量较A100翻倍

英特尔发布新一代AI芯片，吞吐量较A100翻倍

  英特尔发布新一代AI芯片，吞吐量较A100翻倍，芯片制造商英特尔发布一款专注于人工智能计算的全新芯片Gaudi2，希望借此挑战英伟达在人工智能芯片市场的主导地位。英特尔发布新一代AI芯片，吞吐量较A100翻倍。

  英特尔发布新一代AI芯片，吞吐量较A100翻倍1  针对AI加速，英特尔发布专用于高性能深度学习AI训练的英特尔Habana Gaudi2 AI处理器，以及第二代云端AI推理芯片Greco。

  第二代Gaudi训练芯片和Greco推理芯片均采用7nm工艺，较上一代16nm有所提升。Gaudi2可拥有高达96GB HBM2e内存，以及24个集成的100GbE RoCE端口。

  据介绍，在训练主流计算机视觉和自然语言处理模型时，Gaudi2的吞吐量可达到英伟达A100的两倍。

  Habana客户现可使用Gaudi2处理器，其第二代Greco推理芯片将从今年下半年开始提供给客户。

  英特尔还宣布其代号为Arctic Sound-M（ATS-M）的英特尔数据中心GPU将于2022年第三季度发布。

  作为面向多媒体转码、视觉图形处理和云端推理的单一GPU解决方案，ATS-M是英特尔在该领域首款配备AV1硬件编码器的独立GPU。

  它是一颗支持高质量转码和高性能的强大GPU，能够提供每秒150万亿次运算（150TOPS）。

  开发人员可以利用oneAPI支持的开放软件堆栈，轻松地开展面向ATS-M的设计工作。

  ATS-M将拥有两种不同的产品外形设计，并将获得超过15款来自戴尔、Supermicro、浪潮和新华三等合作伙伴的系统设计。

  随后，英特尔首次进行了其软件基础设施计划Endgame项目的概念演示。

  应用程序可以充分利用这个软件基础设施层，使设备能利用网络中其他设备的计算资源，从而提供始终可用、低时延、连续的计算服务。

  例如，在一台设备上运行要求苛刻的GPU工作负载时，可以感知并利用来自更高性能计算设备上的额外图形处理算力，以增强用户体验。

  Endgame项目正在开发中，英特尔在今年开始该技术的beta测试。

  英特尔发布新一代AI芯片，吞吐量较A100翻倍2  5月11日消息，当地时间周二芯片制造商英特尔发布一款专注于人工智能计算的全新芯片Gaudi2，希望借此挑战英伟达在人工智能芯片市场的主导地位。

  Gaudi2是由英特尔旗下Habana实验室开发的第二代人工智能处理器。Habana实验室曾是一家以色列人工智能芯片初创公司，被英特尔于2019年底斥资20亿美元收购。近年来，数据中心常用的人工智能计算业务飞速增长，相关创企纷纷获得巨额投资。

  眼下很多人工智能研究员和企业已经习惯使用英伟达的软件平台CUDA，英特尔想要从英伟达手中抢夺市场份额并非易事。除了推出用于人工智能计算的新芯片之外，英特尔还表示一直在进行软件开发。

  “CUDA并不是英伟达能够长期屹立不倒的护城河，”Habana实验室首席商务官艾塔·麦地纳（Eitan Medina）表示。他补充称，英特尔开发的软件平台采用开放标准，可以从软件开发网站GitHub免费下载和使用。“现在的问题是，谁能更高效地完成这项工作？”

  麦地纳表示，Gaudi2的处理速度是Habana实验室之前所开发人工智能芯片的两倍，由台积电的7纳米制程代工制造。相比之下，Habana实验室之前推出的人工智能芯片采用的16纳米制程工艺。

  英特尔还推出一款用于人工智能推理工作的芯片Greco，能够利用人工智能算法预测或识别物体。

  英特尔数据中心和人工智能负责人桑德拉·里维拉(Sandra Rivera)表示，未来五年，人工智能芯片市场预计将以每年25%的速度增长，规模会达到500亿美元左右。她说：“我们打算通过投资和创新来引领市场发展。”她补充说，会向软件领域进行更多投资，其中既有扩大英特尔的团队，也有收购其他公司。

  英特尔发布新一代AI芯片，吞吐量较A100翻倍3  GPU、AI 芯片、通用化云算力软件，英特尔在创新峰会上告诉我们，它仍然是那家站在最前沿的科技公司。

  本周二，英特尔推出了一款名为 Gaudi2 的 AI 芯片，这家公司正在大力进军英伟达主导的人工智能芯片市场。

  Gaudi2 是以色列人工智能芯片初创公司 Habana Labs 的第二代处理器，英特尔于 2019 年以约 20 亿美元的价格收购了该公司。近年来，AI 研究人员和公司已经习惯使用英伟达软件平台 CUDA，因此从后者手中抢夺市场份额一直是一个挑战。除了用于人工智能计算的新芯片外，英特尔一直专注于软件研发。

  相对于前代 AI 处理器 Greco 和 Goya，Gaudi2 的速度有了显著提升，其采用台积电 7 纳米制程，Tensor 处理器内核数量增加到 24 个，封装内存容量从 32GB（HBM2）增加至 96GB（HBM2E），板载 SRAM 增加了一倍（从 24MB 到 48MB）。

  「这是第一个也是唯一一个集成了如此大内存的 AI 加速器，」Habana Labs 的首席运营官 Eitan Medina 表示。该处理器的 TDP 为 600W，但仍然使用被动冷却，不需要液冷。

  英特尔展示了 Gaudi2 与竞争对手在热门任务上的一些性能比较。在 ResNet-50 模型训练中，Gaudi2 的'吞吐量是一代产品的 3.2 倍，英伟达 80GB A100 的 1.9 倍，V100 的 4.1 倍。在其他一些基准测试中，Gaudi 和 80GB A100 之间的差距更加明显：对于 BERT Phase-2 训练吞吐量，Gaudi-2 比 80GB A100 高出 2.8 倍。

  不过，英特尔并没有和英伟达最新的 H100 进行对比。

  英特尔表示，基于与第一代 Gaudi 相同的体系架构，Habana Gaudi2 处理器大幅提高了训练性能。用户在云端运行 Amazon EC2 DL1 实例以及本地运行 Supermicro Gaudi 训练服务器时，其性价比比现有 GPU 解决方案提升了 40%。

  与此同时，英特尔还推出了一款名为 Greco 的推理芯片。Gaudi2 处理器目前已经开售，而 Greco 预计将在今年下半年开始为选定的客户提供样品。

  昨天英特尔推出的 12 代酷睿 CPU HX55 系列不同于此前产品，可以实现接近桌面版的能力，其拥有最多 8 个性能 P 核、8 个能效 E 核，最多 16 个核心、24 个线程，还有 30MB 三级缓存，核显最多包含 32 个执行单元。

  除此之外，H55 系列内存支持双通道 DDR5-4800 或者 DDR4-3200，最多安装四条 128G 内存，以及四块共计 16TB 的 SSD 固态硬盘，它也支持 PCIe 5.0。

  HX55 系列一共有七款产品，覆盖从 i5 到 i9，基础功耗均为 33W，最高睿频功耗达到 157W。

  旗舰型号是 i9-12950HX，8P+8E 16 核心 24 线程，三级缓存 30MB，P 核频率为 3.6-5.0GHz，E 核频率达到 1.7-3.6GHz，集成核显 32 单元，频率为 1.55GHz。

  性能方面，以最高端的 i9-12900HX 为例，对比上代顶级 CPU i9-11980HK，新芯片单核性能提升 17％，多核性能提升 64％，3D 渲染性能增加了 81％，AutoDesk 专业创作性能提升了 12-28％。

  随着新 CPU 的发布，一系列电脑厂商的游戏笔记本、移动工作站新品即将陆续上市。

  除了新的硬件产品之外，英特尔昨天还首次进行了软件基础设施计划「Project Endgame」的概念演示。应用程序可以利用该软件基础设施层，使设备能利用网络中其他设备的计算资源，从而提供始终可用、低时延、连续的计算服务。

  英特尔首席架构师 Raja Koduri 现场展示了 Endgame，在一台笔记本上运行虚幻引擎 5 Demo 时卡顿非常明显，在开启持续计算基础设施后，软件可以感知并利用来自附近更高性能计算设备上的额外图形处理算力（一台外星人主机），帧率瞬间升级到了台式机水平。

  这一能力也将在未来的元宇宙应用中发挥重要作用。英特尔表示，Endgame 项目正在开发中，预计今年开始 beta 测试。