2023年11月16日凌晨,微软Ignite 2023技术大会正式在西雅图揭幕,围绕AI,微软展示了从芯片、开发工具、数据、到应用等各个层面的创新。
发布两款定制芯片
微软在Ignite 2023技术大会上首次推出两款定制芯片,均为微软设计,为Azure服务。
其中Azure Maia 100是一款AI加速器芯片,也是微软的首款AI芯片,用于OpenAI模型、Bing、GitHub Copilot和ChatGPT等AI工作负载运行云端训练和推理。它采用台积电的5纳米工艺制造,有1050亿个晶体管,比AMD的AI芯片MI300X的1530 亿个晶体管少约30%。
微软为maia100 芯片设计了全新的机柜。AI基础设施的电源需求与其他云基础设施截然不同,网络密度更高,计算时也需要更多的冷却措施。微软特地设计了名为sidekick的冷却单元,以匹配芯片的能耗曲线,增加机架闭环液体冷却效率。这样的机架设计可以直接放到微软现有的数据中心内。
另一款Azure Cobalt 100是一款基于Arm架构64位的128核云原生芯片,用于处理通用的计算任务,针对通用工作负载的性能、功率和成本效益进行了优化。目前已经用在部分微软自己的服务上,明年对外商用。
数据中心方面的其他创新
宣布Azure boost数据中心硬件将正式投入商用,通过将存储和网络进程从主机服务器转迁移到专用硬件和软件上,大幅改进网络、远程存储和本地存储的吞吐量;
与AMD英伟达继续合作
微软还宣布与AMD和英伟达建立新的合作伙伴关系。AMD将为微软客户带来新的AI和计算能力;英伟达在微软智能云Azure上为全球企业和初创公司推出生成式AI代工服务。简单来说,AMD Instinct MI300X,以及英伟达 H100 和 H200届时也会在Azure平台上售卖。
基于 Xeon Platinum 8480C 处理器和 NVIDIA H100 加速器,部署在微软Azure 中的Eagle排名TOP500超算计算机第三,纳德拉谦虚地说,我们只是提交了一部分,就拿到了第三的成绩。
微软基于英伟达H100芯片推出了私密NCCv5虚拟机,让客户可以在云上的敏感数据集上运行AI模型。微软与英伟达共同设计了这款产品。
AMD Instinct MI300X也在Azure上线,已经开始支持GPT-4。
英伟达CEO黄仁勋到了现场,开启商业互吹,说了一堆大家“亲密合作”的事情,并提到了超算排行榜上拿到全球第三成绩的合作。
英伟达的AI代工服务将通过Azure对外提供服务。英伟达的基础模型、框架、工具以及其 DGX Cloud汇集在一起,向 Azure 用户创建生成式 AI 模型提供端到端的解决方案。企业客户可以在 Azure 上利用英伟达 AI Enterprise 软件部署其模型,为生成式 AI 应用——如智能搜索、总结和内容生成等,提供助力。
Copilot在微软核心产品中的升级
推出Microsoft Copilot Studio,这是一个低代码工具,可以为Microsoft 365定制Microsoft Copilot并构建独立的副驾驶。
推出Microsoft Copilot for Azure,可以帮助你设计、操作、优化和排除云基础设施和服务的故障。将先进的大语言模型的强大功能与Azure资源模型相结合,Azure的Copilot可以丰富地理解和管理Azure中发生的一切,从云到边缘。
推出微软Dynamics 365指南中的Copilot,它将生成式人工智能的力量与混合现实相结合,帮助一线工作人员更快地完成复杂的任务并解决问题,同时减少对工作流程的干扰。
推出Microsoft Security Copilot ——结合微软的海量数据优势和端到端安全,所有这些都建立在零信任的原则之上,创造了一个保护飞轮,以改变数字威胁格局的不对称。
微软向Teams推出了人工智能更新,如生成背景和语音隔离,并计划在2024年1月整合其Mesh混合现实平台。
微软宣布 Bing Chat 及其企业高级版 Bing Chat for Enterprise 正式更名为 Copilot。
持续强调与OpenAI 的良好关系
OpenAI 的更新,会作为 Azure AI 的一部分持续交付。最新的 GPT-4,包括 GPT-4 Turbo 与视觉功能将引入 Azure OpenAI 服务。 GPT-4 Turbo 将于 2023 年 11 月底在 Azure OpenAI 服务中公开预览,定价将与 OpenAI 保持一致。GPT-4 Turbo with Vision 即将推出预览版,DALLE·3 现已在 Azure Open AI 服务中公开预览。
微软扩大开源模型的 MaaS 服务
微软宣布扩大了开源模型的 MaaS 服务,让专业开发者将能够轻松将Stable Diffusion、Meta Llama 2 、Mistral 即将推出的高级模型以及 G42 Jais 等最新的AI模型,通过API集成到他们的应用中;还可以用自己的数据定制这些模型,而无需担心 GPU 基础架构的设置和管理。 微软发布自己训练的最新开源预训练模型Phi-2,参数达到27亿,在数理、逻辑推理等方面均显著好于上一代产品。
其他产品工具、功能动态
微软通过推出 Azure AI Studio,为AI开发人员提供了端到端平台,使其能够构建、定制、训练、评估和部署最新一代模型。 “一站式”数据处理平台Microsoft Fabric正式向公众开放,这个平台的设计理念是汇总企业的所有数据资产,重塑现有企业处理数据的方式。 目前,微软Microsoft Fabric已有25000家客户。微软正将AI全面嵌入在数据堆栈之中,COSMOS数据库和PgSQL数据库将支持向量搜索。Azure AI 搜索也开始支持向量搜索。