微软推出自己的企业人工智能芯片:“Maia”和“Cobalt”

微软宣布推出两款新的企业内部芯片:Azure Maia 100 和 Azure Cobalt 100,以加强其计算基础设施业务。

这些芯片在本周于西雅图举行的微软 Ignite 2023 大会上展示,这是这家科技巨头最大的年度全球活动,为企业提供高效、可扩展和可持续的计算,以利用最新的云和人工智能突破。

微软推出自己的企业人工智能芯片:“Maia”和“Cobalt”

微软表示,它们代表了其使命中的最后一块拼图,即通过自己和合作伙伴提供的硬件和软件来提供灵活的基础设施系统,并且可以对其进行优化以满足不同的工作负载要求。

正如该公司所解释的那样,Maia 是其以人工智能为中心的 GPU,旨在为生成人工智能工作负载运行基于云的训练和推理。同时,Cobalt 是一款基于 Arm 的芯片,旨在高效处理通用工作负载。这两项产品将于明年部署在 Azure 中,首先是微软自己的数据中心驱动其 Copilot 和 Azure OpenAI 服务。

微软云+人工智能集团执行副总裁 Scott Guthrie 在一份声明中表示:“我们正在重新构想数据中心的各个方面,以满足客户的需求。” “就我们的运营规模而言,优化和集成基础设施堆栈的每一层以最大限度地提高性能、实现供应链多元化并为客户提供基础设施选择非常重要,”他补充道。

Azure Maia 和 Cobalt 有什么值得期待的?

虽然微软没有分享具体的性能统计数据,但该公司确实指出,Maia AI 芯片可以处理 Microsoft Azure 上运行的一些最大的 AI 工作负载,从训练语言模型到推理。该芯片专为 Azure 硬件堆栈而设计,使其能够在处理工作负载时实现硬件的绝对最大利用率。

多年来,它与 OpenAI 合作开发了加速器。具体来说,该公司在 Sam Altman 领导的生成人工智能独角兽构建的模型上进行了测试,并利用反馈进行必要的更改。

“当微软首次分享他们的 Maia 芯片设计时,我们感到非常兴奋,我们共同努力改进并使用我们的模型对其进行测试。 Azure 的端到端 AI 架构现已通过 Maia 优化至芯片,为训练功能更强大的模型并使这些模型对我们的客户来说更便宜铺平了道路。”Altman 在一份声明中表示。

与 Maia 一样,Cobalt 的功能在很大程度上也处于保密状态。然而,有一件事非常明确:该芯片将处理 Azure 上的通用工作负载,重点关注能源效率。基于 Arm 的设计可确保其经过优化,最大限度地提高每瓦性能,确保数据中心每消耗单位能源就能获得更多计算能力。

“架构和实施的设计考虑到了功效。我们正在最有效地利用硅上的晶体管。微软硬件产品开发公司副总裁韦斯·麦卡洛 (Wes McCullough) 表示:“将我们所有数据中心服务器的效率提升相乘,这将是一个相当大的数字。”

更重要的是,由于这两种芯片都是内部设计的,微软将把它们安装在定制服务器主板上,放置在定制的机架内,可以轻松地安装在现有的公司数据中心内。对于 Maia 机架,该公司还设计了“助手”,将冷液体引导到芯片的冷板,确保在处理大功率使用情况时不会升温。

微软推出自己的企业人工智能芯片:“Maia”和“Cobalt”

合作伙伴集成扩展

作为其灵活系统方法的一部分,微软还通过扩大对合作伙伴硬件的支持来支持其定制芯片。该公司表示,已经推出了专为 Nvidia H100 Tensor Core GPU 构建的新型 NC H1​​00 v5 虚拟机系列的预览版,并将很快将最新的 Nvidia H200 Tensor Core GPU 添加到其数据中心机群中。它还计划将 AMD MI300X 加速虚拟机添加到 Azure,以加速 AI 工作负载的处理,以进行高级 AI 模型训练和生成推理。

这种方法为公司的客户提供了多种选择,具体取决于他们的性能或成本需求。

截至目前,微软计划明年推出新芯片。它已经开始开发第二代产品。

软件收集于互联网和粉丝上传,仅限用于学习和研究目的; 不得将上述内容用于商业或者非法用途,否则,一切后果请用户自负。 本站信息来自网络和网友,版权争议与本站无关。您必须在下载后的24个小时之内,从您的电脑中彻底删除上述内容。如果您喜欢该程序,请支持正版软件,购买注册,得到更好的正版服务。 本站如果侵犯你的利益,请务必携带权利证明请发送邮箱到doraera@163.com ,我们会第一时间为您处理。

给TA打赏
共{{data.count}}人
人已打赏
AI大事件

微软全力打造 Gen AI:在 Ignite 上宣布的一切

2023-11-16 22:17:14

AI大事件

金山办公 WPS AI 今日起开启公测,面向全体用户陆续开放体验

2023-11-16 22:23:41

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索