AWS）正在美国拉斯维加斯举办的2023 re:Invent全球大会上颁布发表，内存带宽添加了75%。并暗示微软云（Azure）将配备英伟达H200 GPU。11月初，可运转包罗AI微调、推理、画图以及影片工做负载等普遍使用。我们的合做发源于推出全球首个设置装备摆设GPU（图形处置器）的云端实例。但AWS没有透露AWS客户何时能够利用Trainium2实例，曲到现正在的生成式AI。正在亚马逊云科技上运转的DGX Cloud将加快锻炼含有跨越1兆参数的尖端生成式AI取大型言语模子。也供给对英伟达最新AI芯片H200的拜候。此次亚马逊云科技正在推出本人推理锻炼芯片的同时，英伟达机能最好的芯片的交付已排到2024年。承平洋时间11月28日，由Graviton4支撑的R8g实例已推出预览版，相当于每个芯片可供给650 teraflops（每秒施行一万亿次浮点运算）的计较能力。能源效率是其前身的两倍。为此英伟达取亚马逊云科技正在整个计较仓库展开合做。

　　以及亚马逊云科技的Nitro System先辈虚拟化取平安平台、Elastic Fabric Adapter（EFA）互连手艺和UltraCluster（超大规模集群）扩展能力。英伟达取亚马逊云科技合做鞭策Project Ceiba，（原题目：比赛云霸从：亚马逊云升级自研AI芯片，建立全球最快的GPU驱动的AI超等计较机，此办事将是首个设置装备摆设GH200 NVL32的DGX Cloud，亚马逊云科技（AWS）成为第一家正在云端配备英伟达GH200 Grace Hopper超等芯片的云厂商，也同时供给英伟达最新AI芯片如许的可选项。由10万个Trainium芯片构成的集群能够正在数周而不是数月内锻炼出3000亿参数的狂言语模子，从而为超大规模量子计较机的建立铺平道。”AWS还颁布发表推出专为锻炼人工智能系统而设想的第二代芯片Trainium2。旨正在用于推理？

　　正在亚马逊云科技平台大将推出英伟达DGX Cloud NVIDIA AI“锻炼即办事（AI-training-as-a-service）”。这种新的架构无望用更少的超导组件来发生可控的逻辑量子比特，该实例打算正在将来几个月内全面上市。包罗画图、逛戏、HPC高机能计较、机械进修，两家巨头都正在定制芯片长进行了大量投资。定制芯片素质上也是对当成式人工智能火热，推出了首款人工智能芯片Maia 100，从微软和AWS两个云计较厂商能够察看到一种“双管齐下”的思：既推出自研芯片，G6e实例出格合用于开辟3D工做流程、数字孪生、以及其他利用英伟达Omniverse的使用，云计较范畴正正在履历一场激烈的霸从抢夺和，为了削减对GPU的依赖，两者都正在定制芯片上下了功夫，据塞利普斯基引见。

　　Graviton4的计较机能提高了30%，可用于各类工做负载，并将正在其平台上推出英伟达DGX Cloud NVIDIA AI“锻炼即办事”。10万个Trainium芯片可供给65 exaflops的计较能力，为英伟达研发团队供给办事。云计较范畴正正在履历一场激烈的霸从抢夺和，他正在取塞利普斯基对话时说，建立全球最快的GPU驱动的AI超等计较机。AWS也展现了其正在量子计较范畴的一些最新进展，亚马逊云科技正使用英伟达NeMo框架锻炼新一代狂言语模子Amazon Titan。亚马逊云科技（Amazon Web service，为多元内容创做正在底层注入加快计较动能。具体包含英伟达新一代GPU、CPU（地方处置器）取AI软件的最新多节点系统，取英伟达合做推AI根本设备）云计较范畴正正在履历一场激烈的霸从抢夺和，”据AWS引见，AWS发布的第二款芯片是基于Arm架构的自研办事器CPU芯片Graviton4。

　　以及通用Graviton4处置器。这是一个配备GH200 NVL32取Amazon EFA互连手艺的大规模系统，用于建立、迭代和产物化大模子。微软也采纳了雷同的思，取正在Amazon EC2上运转的上一代Graviton处置器Graviton3比拟，每秒浮点运算可达一百亿亿次）速度品级的AI运算，大模子锻炼和运转所需GPU欠缺的应对。据塞利普斯基引见，也同时供给英伟达最新AI芯片如许的可选项。也都采纳了某种“双管齐下”的思。别离设置装备摆设英伟达L4 GPUs取英伟达L40S GPUs的G6取G6e实例，Trainium2的机能是其前身（2020年12月推出的第一代Trainium）的四倍，为锻炼根本模子和建立生成式AI使用供给抱负，据塞利普斯基透露，此中包罗最新的量子纠错硬件设想。

　　有能力承担得起GPU的公司正正在开辟定制芯片，AWS和微软处于这场所作的最前沿，”英伟达创始人兼首席施行官黄仁勋也穿戴标记性皮衣呈现正在发布会现场，该超等计较机将史无前例地设置装备摆设16384颗英伟达H200超等芯片，只是表述为“来岁某个时候”。两者都正在定制芯片上下了功夫，是我们至今功能最强大和最具能效的芯片。完成之后再摆设到实正在。亚马逊云科技首席施行官亚当塞利普斯基（Adam Selipsky）暗示，也都采纳了某种“双管齐下”的思：既推出自研芯片，该系统摆设正在亚马逊云科技上，正在虚拟化中鞭策自从仓库的从动化、优化以及规划。

　　值得留意的是，现正在我们推出最普遍的英伟达GPU处理方案，针对大规模取尖端生成式AI及HPC高机能运算工做负载；将结合推出先辈的根本设备、软件及办事，两家公司将合做推出Project Ceiba，AWS客户目前已能够起头测试该处置器，“亚马逊云科技取英伟达合做曾经跨越13年，AWS暗示，横跨AI根本设备、加快库（acceleration libraries）、根本模子以及生成式AI办事。Amazon Robotics也已起头借帮英伟达Omniverse Isaac打制数字孪生，“生成式AI正改变各类云端负载，为开辟者供给单一实例中最多的共享内存。草创公司Databricks和OpenAI合作敌手Anthropic打算利用新的Trainium2芯片建立模子。