亚马逊云科技:Amazon EC2 P5e 实例正式可用
9月18日消息,亚马亚马逊云科技宣布由英伟达H200 GPU提供支持的科技可用 Amazon Elastic Compute Cloud P5e(Amazon EC2 P5e)实例现已正式可用。
据了解,实例漳州市某某电气运营部亚马逊云科技是正式首个将英伟达H200 GPU用于生产环境的领先云提供商。与基于英伟达H100 GPU的亚马Amazon EC2 P5实例相比,Amazon EC2 P5e实例GPU内存容量提升1.7倍,科技可用GPU内存宽带提升1.5倍。实例Amazon EC2 P5e非常适用于复杂的正式大型语言模型(LLM)和多模态基础模型(FM)的训练、微调和推理,亚马漳州市某某电气运营部用于支持最苛刻和计算密集型的科技可用生成式AI应用,如问答、实例代码生成、正式视频和图像生成、亚马语音识别等。科技可用
据悉,实例Amazon EC2 P5e实例提供8个英伟达H200 GPU,具有1128GB高带宽GPU内存,同时提供第三代AMD EPYC处理器,2TB系统内存和30TB本地NVMe存储。Amazon EC2 P5e实例还提供3,200 Gbps的聚合网络带宽并支持GPUDirect RDMA,从而能够绕过CPU进行节点间通信,实现更低的延迟和高效的横向扩展性能。
Amazon EC2 P5e实例现已可通过Amazon EC2 Capacity Block for ML工具访问并在美国东部(俄亥俄州)区域正式可用。
此外,亚马逊云科技还宣布,将推出Amazon EC2 P5en实例,通过将英伟达H200 GPU与定制的第四代英特尔Xeon可扩展处理器相结合支持PCle Gen5,将提供高达四倍的CPU和GPU之间的带宽,降低网络延迟,进一步提高工作负载性能。(咸咸)
延伸阅读 (责任编辑:休闲)
- 美方是不是中方提到的“外部干涉势力”?外交部回应
- 英伟达最新财报下周来袭 能否重振AI硬件势头?
- 消息确认,横店群演集体降薪!10小时135元,此前一天能赚300元
- 男子称快递370克黄金被“代签收”损失20余万,类似案件多地曝出
- 为应对大陆军演,台军出动坦克但半路故障冒烟
- 众观局|内阁新班底初见雏形,这次特朗普又破了美国纪录
- 周星驰的“嘴替”走了 最后一条朋友圈曝光! views+
- 美国宣布制裁12名伊朗相关人员 views+
- 安徽合肥市肥东县发生4.7级地震 views+
- 俄总统普京:俄罗斯正在实施军队装备更新计划 views+
- 三只羊全面复播,不提月饼风波 views+
- 北京开展碳排放配额有偿竞价发放 成交量近35万吨 views+
- 世界遗产中的“活”文化 北京中轴线在保护传承中焕发新生机 views+
- 黎巴嫩对讲机爆炸事件已致14死450余伤 views+
- “孕妇泰国坠崖案”当事人王暖暖不打算公布孩子父亲 views+
- 《淬火》透露的解放军关键信息,台湾尤其盯上了这点 views+
