一年多以前，Arm Total Design 被引入以应对这些挑战，通过创建合作伙伴生态系统来加速定制硅芯片的开发，集合关键行业参与者，共同构建未来数据中心的解决方案，使用 Arm 计算子系统（CSS）。自那时起，该系统迅速发展成为一个多供应商、基于 Arm 的小芯片和系统级芯片（SoC）生态系统，整合了从设计到代工制造的能力，并在 30 家参与公司中实现了规模翻倍。
Alcor Micro、Egis、PUF Security 和 SEMIFIVE 是最新加入该生态系统的公司。Arm Total Design 激发了全球合作，催生了基于 CSS 的 GenAI 计算解决方案，现在，Arm、三星代工厂、ADTechnology 和 Rebellions 正合作将 AI CPU 小芯片平台推向市场。
“该平台针对云、高性能计算（HPC）和 AI/ML 训练及推理负载，结合了 Rebellions 的 REBEL AI 加速器，它由 ADTechnology 的基于 Neoverse CSS V3 的计算小芯片构建，并将采用三星代工厂的 2nm 全栅极（GAA）先进工艺技术实现，”Arm 基础设施业务副总裁 Eddie Ramirez 解释道。
“它承诺为 GenAI 负载（Llama3.1 405B 参数的 LLMs）提供无可比拟的性能和最佳的能效优势，预计效率提升 2-3 倍。”“AI 和 HPC 设计需要提供最高性能、高晶体管密度和能源效率的技术解决方案，”三星电子代工厂业务开发副总裁 Taejoong Song 表示。
“三星代工厂的 2nm GAA 工艺满足了最苛刻的 HPC 和 AI 设计需求，我们很高兴利用 Arm CSS 的灵活性和 Arm Total Design 生态系统的力量交付 AI CPU 小芯片平台，这将进一步加速超级计算和云服务提供商对我们领先技术和设计解决方案的采用。”
根据 Arm 的说法，该公告强调了 Arm Total Design 的价值，以及基于标准的计算子系统的开发如何通过集成 Arm 优化的 EDA 工具、全球设计专业知识和代工合作伙伴关系来加速 AI 硅芯片的开发，为 AI 加速器设计师提供轻松集成。“随着 AI 工作负载的快速演变，紧密配合的 CPU 计算对于支持完整的 AI 堆栈至关重要。
数据预处理、编排、数据库增强技术，例如基于检索的生成（RAG），等等，都受益于 Arm Neoverse CPU 的性能效率。我们已经将这些需求的支持集成到我们的 CSS 中，并通过 Arm Total Design，生态系统已经从这些创新中受益，”Ramirez 表示。CSS 和 Arm Total Design 正在帮助为可持续的 AI 数据中心创建硬件基础。
Arm Total Design 正在加速基于 Neoverse N 系列或 V 系列 CSS 的 Arm 测试芯片和小芯片产品的开发。涵盖从云到边缘的小芯片解决方案的多样性及其开发速度是通过使广泛、优惠地访问最新 CSS 来降低进入壁垒的直接结果。“Alcor Micro 宣布他们正在构建一个由 CSS 提供动力的小芯片，目标是 AI/ML 训练和推理用例。
而最近 Alphawave 宣布了其自己的基于 CSS 的高级计算小芯片，用于 AI/ML、高性能计算、数据中心和 5G/6G 应用。这些基于 Arm 的小芯片展示了仅由 Arm 合作伙伴关系才能提供的多样性、灵活性和全球供应链，”Ramirez 解释道。
此外，包括 Alphawave、Cadence 和 proteanTecs 在内的 Arm Total Design 合作伙伴正在验证他们的第三方 IP 产品在先进节点上与 CSS 的兼容性，以确保符合 Arm 的规格和标准。这意味着合作伙伴可以在领先节点上构建基于 CSS 的定制硅芯片，并且拥有无缝的开箱即用软件体验。
这种类型的软件就绪度仍然是 AI 潜力的关键门槛，30 多年来，该公司一直在投资确保在 Arm 上的软件“就能用”。如今，所有主要框架和操作系统都在 Arm 上运行。对于 Arm Total Design 生态系统，这意味着其合作伙伴正在推向市场的多样化硅解决方案可以利用同样充满活力且连贯的软件生态系统。
这个持续投资的最新例子之一是引入了 Arm Kleidi 技术，它优化了基于 CPU 的推理，适用于像 PyTorch 和 Llama.cpp 这样的开源项目。这对于构建基于 CSS 的小芯片用于边缘 AI 计算而无加速器需求的 Arm Total Design 合作伙伴尤为重要。
根据 Ramirez 的说法，“CSS 和 Arm Total Design 通过提供更快获取硬件和软件进步来加速生态系统的 AI 发展。我们正处于工程创造力和发展的新篇章，Arm 正在提供工具和技术来推动 AI 和硅创新走向他们需要去的地方。”