亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例杭州市某某自动化科技售后客服中心亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马杭州市某某自动化科技售后客服中心用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读- ·首都机场明日迎节前客流高峰,年旅客吞吐量将破5000万人次
- ·别无选择,美国空军只能咽下苦果
- ·别无选择,美国空军只能咽下苦果
- ·装完化工油又装食用油,这跟投毒有什么区别
- ·全新LOGO确定 比亚迪全新MPV夏将用上“夏”字标
- ·美联储主席鲍威尔:当前的货币政策具有限制性
- ·北京公交警方开展夏夜治安巡查
- ·重庆垫江暴雨致1死3失联
- ·成都低空新场景:假期无人机高速公路“空中巡检”
- ·北约将合伙对华采取更多行动?白宫回应
- ·违规在小区车棚内堆放可燃杂物过失引起火灾 北京朝阳一女子被拘留十日
- ·副部长参加发布会,带了一条特别的丝巾
- ·想让高中成绩稳步提升?这些细节你做好了吗
- ·北京今年首封普招录取通知书已送达 先睹为快→
- ·2024年北京市中招各区分数段人数统计发布
- ·星际荣耀:双曲线一号遥八运载火箭四级工作异常