您的当前位置:首页 > 休闲 > 英特尔® 至强® 6:专为 AI 和分析工作负载而构建 正文
时间:2024-12-23 18:37:40 来源:网络整理 编辑:休闲
搭载 P-core性能核)的英特尔®至强® 6900 系列处理器现已推出。从计算密集型人工智能和高性能计算用例到关键任务关系数据库和分析应用程序,对数据中心性能的需求从未如此之强烈。英
搭载 P-core(性能核)的英特英特尔®至强® 6900 系列处理器现已推出。从计算密集型人工智能和高性能计算用例到关键任务关系数据库和分析应用程序,尔至而构对数据中心性能的强专需求从未如此之强烈。英特尔®至强® 6 处理器旨在为 IT 团队提供面向各种工作负载的分析负载有针对性的增强功能,它主要借助于两种产品线:P-core(性能核)和 E-core(能效核)。工作
P-core(性能核)采用超线程内核,英特内置矩阵引擎可加速计算密集型人工智能、尔至而构高性能计算和数据服务工作负载,强专而 E-core(能效核)则省去了矩阵引擎,分析负载以支持更高的工作单线程内核密度。
所有英特尔®至强®6处理器,英特无论是尔至而构P-core(性能核)还是E-core(能效核),都采用相同的强专指令集、BIOS和内置I/O加速器,分析负载包括英特尔®数据保护与压缩加速技术(英特尔®QAT),工作英特尔®Data Streaming Accelerator(英特尔®DSA),英特尔®In-Memory Analytics Accelerator(英特尔®IAA)和英特尔®Dynamic Load Balancer(英特尔®DLB)。
它们还支持相同的驱动程序、操作系统和应用程序,以及数据中心所依赖的相同可靠性、可用性和可维护性 (RAS) 功能。
探索具有P-core(性能核)优势的英特尔®至强® 6 处理器
企业希望在部署用于语言、视觉和图像识别以及推荐系统的最先进人工智能模型时节省资金和时间,并从高性能计算驱动的模拟和高级分析中获得更深入的见解。采用 P-core(性能核)的英特尔®至强® 6 处理器通过提供大量具有创新矩阵和向量引擎以及超高内存和 I/O 带宽的高性能内核,使企业能够抓住这些机遇。
为广泛的工作负载实现高性能
采用 P-core(性能核)的英特尔®至强® 6 处理器,每个插槽可灵活扩展至 128 个内核、12 个内存通道和 96 个 PCIe 通道,帮助企业满足不同的应用需求。对于希望缓解内存带宽瓶颈的 IT 团队来说,创新的多路合并阵列 (MRDIMM) 可提供高达每秒 8,800 兆 (MT/s) 的传输速度,同时通过快速完成工作来降低总体拥有成本。内置加速器为目标工作负载提供额外的提升,实现更高的性能和效率。
利用CPU 的强大 AI 性能
采用 P-core(性能核)的英特尔®至强® 6 处理器旨在支持许多要求严苛的 AI 用例。P-core(性能核)通过英特尔® Advanced Matrix Extensions(英特尔® AMX)等加速功能,扩大了英特尔在内置 AI 领域四代产品的领先优势,目前支持 int8、BF16 和 FP16(新)数据类型。因此,P-core(性能核)可帮助满足从目标检测到中型 GenAI 等多种人工智能模型的服务级别协议 (SLA),同时提供开放标准、高性能、RAS 功能,并根据需要支持其他加速器。
优化通用工作负载的性能
采用 P-core(性能核)的英特尔®至强® 6 处理器在全范围工作负载上表现出色,其主流系列产品拥有 8-86 个内核,在基于双 CPU 的系统中,网络和存储外接卡拥有多达 176 个 PCIe 5.0 通道,而基于单 CPU 的系统中,单插槽产品则拥有 136 个 PCIe 通道。所有英特尔®至强® 6 处理器都能随着服务器利用率的增加而提供可扩展的每瓦性能,在整个负载线路上提供近乎线性的功耗-性能消耗,这凸显了所有英特尔®至强® 6 处理器的高效性。对于性能要求苛刻的工作负载,这意味着平台在高负载下有效地利用能耗,以帮助快速完成工作。
Performance-core(性能核)工作负载性能优势:
与第五代英特尔® 至强® 处理器相比:
● 借助英特尔® AMX,Llama2 性能提升高达 3 倍
● HammerDB MySQL 性能提升高达 2 倍
● 利用 MRDIMM,HPCG 基准测试的性能提升高达 2.5 倍
与第二代英特尔®至强® 处理器相比:
● 采用 INT8 的 ResNet – 50 BSX 的性能提升高达 17 倍
与竞争对手相比:
● 与 AMD EPYC 相比,借助 MRDIMM 的 AI 推理性能提升高达 5.5 倍
利用增强的安全功能跟上业务增长的步伐
在本地、边缘和云服务器上追求新的业务模式和数据共享,即使在处理敏感数据或受监管数据时也是如此。基于可信执行环境 (TEE) 的机密计算能够帮助在使用过程中保护数据和 AI 模型。采用 P-core(性能核)的英特尔®至强® 6 处理器允许客户选择最符合其业务和监管要求的机密计算技术。
应用程序隔离:英特尔® Software Guard Extensions(英特尔® SGX)提供旨在保护使用中数据的应用程序隔离。英特尔® SGX 是目前市场上研究和更新最多的数据中心机密计算技术。
虚拟机(VM) 级隔离:英特尔® Trust Domain Extensions(英特尔® TDX) 在虚拟机级别提供隔离和机密性。在基于英特尔® TDX 的机密虚拟机中,客户机操作系统和虚拟机应用程序被隔离开来,无法被云端主机、虚拟机管理程序和平台的其他虚拟机访问。
增强针对P-core(性能核)优化的目标工作负载
为 AI 、高性能计算和关系数据库等用例管理计算密集型工作负载的 IT 决策者,将从部署采用 P-core(性能核)的英特尔®至强® 6 处理器中获得最大收益。增加对 MRDIMM 内存的支持,还有助于缓解超大内存占用的内存数据库或大型语言模型 (LLM) 等用例的内存访问限制。
加速AI 工作流程,以保持竞争力
采用 P-core(性能核)的英特尔®至强® 6 处理器由于配备了增强的内核、更大的内存带宽和强大的矩阵引擎,可提供充足的算力,以支持中小规模生成式人工智能模型的推理、微调和检索增强生成 (RAG) 用例。此外,针对英特尔®至强® 处理器的优化已集成到 TensorFlow 和 PyTorch 等在内的流行深度学习框架的主流发行版。
管理日益复杂的高性能计算和模拟
除内置矩阵引擎外,采用 P-core(性能核)的英特尔® 至强® 6 处理器还具有英特尔® Advanced Vector Extensions 512(英特尔® AVX-512),可加速科学模拟中常见的基于矢量的数学运算。由该平台提供支持的集群可帮助释放 3D 渲染、科学研究、金融模拟和计算机辅助工程的威力,以加快取得成果。
将基础架构和存储优化提升到新的水平
由于 P-core(性能核)和 E-core(能效核)共享相同的硬件平台,企业可以混合使用具有每种类型内核的系统来管理其基础设施中的各种工作负载,同时不超出功率预算,并遵守数据隐私和主权法规。计算密集型 P-core(性能核)可以支持 SAS 等高强度业务分析软件,而 E-core(能效核)可用于运行系统备份和软件更新等低强度、高空闲时间的工作负载。
提高工作效率,帮助消除边缘的延迟
通过将高性能计算资源置于更靠近终端用户和设备的位置,从而提高边缘生产力和延迟。采用 P-core(性能核)的英特尔® 至强® 6 处理器能够在边缘服务器中部署先进的人工智能模型,并提供所需的算力,以便从数千个物联网设备中快速获得洞察力。具有 136 个 PCIe 通道的单插槽选件还允许每个处理器使用更多的扩展卡,从而有助于在空间有限的部署中整合基础设施。
在保持快速、响应式分析的同时发展关系型数据库
P-core(性能核)处理器中的高级矢量引擎允许有效运行高级数据库和分析用例中常见的基于单指令、多数据 (SIMD) 的工作负载。英特尔® 至强® 6 处理器还能利用高水平的超低延迟缓存,帮助避免与资源争夺有关的延迟。利用该平台和英特尔® QAT 等加速器的多功能配置,可以在分析和存储复杂数据类型时快速得出结果。
英超官方:萨卡当选阿森纳02024-12-23 18:32
麦卡利斯特:对阵皇马这样的球队,进球总是令人高兴2024-12-23 18:22
怎么回事?罗伯逊英超+欧冠连场送点,凯莱赫连场扑点2024-12-23 17:51
你皇时间不多了⌛️皇马5轮6分0净胜球排24名,欧冠仅剩3轮2024-12-23 17:34
[流言板]一柱擎天!祖巴茨全场13投10中,得到21分15篮板5助攻2抢断2024-12-23 16:51
博主:南通“内鬼”说“我们排倒数第一,明年照样很可能打中超”2024-12-23 16:33
真·大闸!马兹拉维本赛季39次抢断,是英超球员里最多的2024-12-23 16:16
大众汽车调整战略:放弃欧洲市场电动车直销模式 重回传统经销渠道2024-12-23 16:04
酷睿Ultra 200S最新补丁对比:性能还是挺惊喜的!2024-12-23 16:03
89%!穆西亚拉是本赛季五大联赛目前绝佳机会转化率最高的球员2024-12-23 15:57
[流言板]受重点照顾!哈登本赛季5+失误次数来到14次,联盟第一2024-12-23 18:18
皇马13次射失点球,是欧冠历史上射失点球最多的球队2024-12-23 18:03
姆巴佩耻辱一战:被21岁小将防死,欧冠22次射门,只进1球2024-12-23 18:03
[流言板]布登:我们需要打出一场这样的比赛,保持48分钟的努力2024-12-23 18:02
拜仁客战美因茨首发:戴尔联赛首次先发萨内出战,凯恩诺伊尔伤缺2024-12-23 17:59
王大雷:年轻球员在压力中成长比较残酷,国足每场都是保级大战2024-12-23 17:29
[流言板]猛龙主帅:爱德华兹是我见过的最接近迈克尔2024-12-23 17:18
换帅后首战!罗马vs乌迪内斯首发:迪巴拉佩莱格里尼沙拉维先发2024-12-23 17:17
打几分?巴萨结束今年比赛:西甲12胜2平5负丢榜首,欧冠暂排第22024-12-23 16:46
[流言板]明日客战奇才,鲍威尔的状态从缺席升级为出战成疑2024-12-23 16:23