亮亮的星星 on Nostr: 亚马逊云科技推出首款结合 NVIDIA Grace Hopper Superchip 与 Amazon ...

亚马逊云科技推出首款结合 NVIDIA Grace Hopper Superchip 与 Amazon UltraCluster 扩展功能的云 AI 超级计算机；

NVIDIA DGX Cloud 率先配备 NVIDIA GH200 NVL32，并首次在亚马逊云科技上提供此 AI 训练即服务；

英伟达和亚马逊云科技在 Project Ceiba 上合作，打造全球最快的 GPU 驱动 AI 超级计算机以及最新的 NVIDIA DGX Cloud 超级计算机，用于英伟达的 AI 研发以及自研模型开发服务；

配置 NVIDIA GH200、H200、L40S 以及 L4 GPU 等芯片的全新 Amazon EC2 实例，大幅提升生成式 AI、HPC 高性能计算、设计以及模拟类工作负载的性能；

在亚马逊云科技上运行的英伟达软件，包括 NeMo LLM 框架、NeMo Retriever 以及 BioNeMo，加速自研模型、语义检索、新药研发等应用的生成式 AI 发展。

早在十三年前，亚马逊云科技与英伟达就已经开始合作，共同推出全球首个配置GPU的云端实例。

黄教主在现场表示：「生成式 AI 正改变各种云端负载，为多元内容创作在底层注入加速计算动能。我们共同目标是为每个客户提供具有成本效益、先进生成式 AI，为此英伟达与亚马逊云科技在整个计算堆栈展开合作，横跨 AI 基础设施、加速库（acceleration libraries）、基础模型以及生成式 AI 服务。」

大模型技术引领的生成式 AI 技术，也让全球共同迎来新的技术新浪，企业希望找到新的增长引擎。亚马逊云科技不仅在底层云服务上持续提供稳定的服务，也为模型训练和应用端大规模的推理提供了齐全的计算、高速联网和高性能存储选项。

据官方透露，亚马逊云科技在全球规模化提供的基于 Graviton 的 Amazon EC2 实例种类达 150 多个，已经构建的 Graviton 处理器数量超过 200 万个，并拥有超过 50,000 客户。

时下最新带来的 Graviton 4 处理器，基于 ARM Holdings 的微处理器知识产权构建，与基于较旧的 x86 芯片标准的 Intel 和 Advanced Micro Devices 的处理器竞争。亚马逊云科技表示，相比上一代 Graviton 3 处理器，Graviton 4 性能提升 30%，独立核心增加 50% 以上，内存带宽提升 75% 以上。与此同时，它还进一步通过高速物理硬件接口的完全加密提升了安全性。

Graviton 4 处理器旨在运行更传统的工作负载，包括数据库、数据分析、网络服务器、批处理、广告服务、应用服务器以及微服务等。

目前 Amazon EC2 R8g 内存优化性实例将采用最新的 Graviton4 预览版，未来几个月推出正式可用版，提升客户运行高性能数据库、内存缓存、大数据分析等工作负载的效率。

亚马逊云科技志同道合的 Anthropic，继 9 月官宣战略合作共同推进生成式 AI 发展后，在此次 re:Invent 上，Anthropic 首席执行官兼联合创始人 Dario Amodei 与 Adam 共同登台亮相也赢得了阵阵喝彩。

我觉得科技巨头们正在用AI和芯片重新布局了。我们如何适应是个复杂的难题。