当前位置：网站首页 » 观点 » 内容详情

nvlink权威发布_nvlink桥接器(2024年11月精准访谈)

内容来源：卡姆驱动平台所属栏目：观点更新日期：2024-11-28

nvlink

今天市场炒作的热点除了谷子经济之外（估计明天会震荡调整了），还有NVL服务器，特别是英伟达的GB200 NVL72服务器，集成了72颗Blackwell GPU和36颗Grace CPU，通过NVLink技术实现高效互连，适合万亿级参数大型语言模型的训练与实时推理应用。国内浪潮信息和中科曙光跟风，事实上真正受益的可能只是国内有订单的如鸿海集团和立讯精密的电连系统，都是附加值很低的。中科曙光和浪潮信息拿不到英伟达的GPU芯片量产，感觉是纯粹乱炒。

【NVIDIA GB200 NVL4平台发布：四颗GPU＋两颗CPU、功耗达5400W】NVIDIA GB200 NVL4计算平台在一块不大的板子上，集成了四颗Blackwell GB200 GPU芯片、两颗Grace CPU芯片，彼此通过NVLink总线高速互联。四颗Blackwell共拥有768GB HBM3内存，合计带宽32TB/s，两颗Grace GPU则有960GB LPDDR5X内存。二者合计，就是恐怖的1.7TB！当然代价就是极高的功耗，总计不可思议的5400W——一个小时5.4度电。

【「九大科技巨头联手成立UALink联盟」，携手应对NVLink挑战】美国东部时间10月29日，AMD、亚马逊、Astera Labs、思科、谷歌、慧与科技（前身为惠普企业级产品部门）、英特尔、Meta和微软九大董事会成员联合宣布，成立UALink联盟（Ultra Accelerator Link Consortium），用以解决来自不同厂商芯片的互联问题，并提高卡间互联能力。九大科技巨头联手成立UALink联盟，携手应对NV...

工业富联是一家全球领先的高端智能制造及工业互联网服务商，在数字经济领域占据重要地位.当下，其所在市场有诸多催化事件，如AI的蓬勃发展，英伟达与工业富联的母公司鸿海达成nvlink交换机独家代工订单合作，且鸿海此前已取得大份额英伟达GB200 AI服务器代工... 来自道创研选的讨论工业富联，AI服务器龙头，核心要点梳理

值得一提的是，Blackwell平台具备ConnectX-7 SuperNICs网卡、Quantum-2 InfiniBand交换机，再加上第五代NVLink互连总线，可以充分保障节点间的通信，可以平衡分配AI训练负载，整体效率更高。比如同样的GPT-3 1750亿参数性能，Hopper需要多达256颗GPU，Blackwell就只需要64颗。「在利马感受中秘情谊」

英伟达GTC大会：AI新时代的十大亮点在英伟达（NVIDIA）的 GTC 大会上，CEO Jensen Huang 宣布了一系列创新技术和产品，这些技术预示着生成式人工智能（Generative AI）时代的来临。以下是根据英伟达 GTC 大会的公告，总结的一些要点： 1⃣️ NVIDIA DGX SuperPOD 2⃣️ Blackwell 计算平台 3⃣️ NVIDIA NIM 4⃣️ Omniverse Cloud API 5⃣️ NVIDIA GB200 Grace Blackwell 超级芯片 6⃣️ NVLink Switch 芯片 7⃣️ 芯片设计和制造领域 8⃣️ NVIDIA GB200 NVL72 系统 9⃣️ 机器人技术 𐟔Ÿ Blackwell 架构的性能

中国为什么不拆开英伟达的显卡来研究，其实英伟达聪明的很，他根本不怕你研究他的显卡，英伟达的护城河就是他的生态链，也就是cuda和nvlink，就像微信和qq用户群体这么庞大，为什么没有其他大公司试图做出一款聊天软件和腾讯竞争一样。

Blackwell GPU：AI新算力今天，Nvidia发布了全新架构的Blackwell GPU，这一代产品旨在满足大规模语言模型（LLM）对计算架构的特殊需求。它采用了更低的数据精度，同时提供了更大的互联带宽和HBM带宽。以下是Blackwell GPU的一些关键特性： 𐟔砩똦™𖤽“管数量：Blackwell GPU拥有2080亿个晶体管，这得益于台湾半导体制造公司（TSMC）的改进版4纳米工艺（4NP）。 𐟒𞠥Œ芯片设计：Blackwell GPU实际上是由两个较大的芯片组成的复合体，每个芯片通过NVLink 5.0高速互连技术连接在一起，形成一个统一的GPU。 𐟓ˆ 强大的内存和带宽：高端Blackwell GPU配置了192GB的HBM3E内存，以及高达8TB/s的内存带宽，这比前代Hopper GPU的内存和带宽分别提高了约2.4倍。 𐟌 NVLink 5.0技术：Blackwell GPU使用NVLink 5.0技术，每个端口提供1.8TB/s的带宽，这是Hopper GPU上NVLink 4.0端口速度的两倍。 𐟧 第二代Transformer引擎：Blackwell引入了改进的Transformer引擎，支持在张量内部进行更精细的精度缩放（mx scaling），这有助于提高FP4精度下的AI推理吞吐量。 𐟚€ 高算力：B100型号提供14 petaflops的FP4峰值性能，而B200型号提供18 petaflops的FP4性能，两者分别在700瓦和1000瓦的热设计功耗下运行。 ♻️ 能效：Blackwell GPU在提供高性能的同时，还显著降低了AI处理的成本和能耗，相比前代Hopper架构，能效提升了25倍。 𐟛᯸ 系统级服务：提供安全（secure ai）和可靠性服务（Reliability, Availability, and Serviceability）。 Blackwell GPU不仅在性能上有了显著提升，而且在能效和系统服务方面也更加优化，为AI计算提供了更加强大的支持。

戴尔XE9680：AI算力新标准戴尔PowerEdge XE9680是一款专为高性能AI计算设计的服务器系统，配备了8个NVIDIA SXM5 GPU并通过NVLink实现完全互连。它旨在应对新兴的复杂AI工作负载，具备高性能、洞察驱动和智能化等特点，为AI时代的大模型训练和推理提供了稳定高效的基础设施“算力底座”。 𐟧 在“算”方面，戴尔科技提供多种AI加速计算选项，特别是新一代PowerEdge（第16代）服务器，专门针对GPU计算进行设计和优化。这些服务器支持GPU分布式训练解决方案、GPU池化解决方案以及边缘AI计算解决方案，适用于AI的端到端训练、微调、推理以及传统AI模型训练及推理场景。此外，戴尔科技还提供高性能CPU计算服务器，具备集群管理、登录、数据治理等功能。 𐟌 在“网”方面，随着数据量的增加，现代化数据中心需要更高的数据吞吐量和网络带宽来处理数据的传输和交换。戴尔科技推出了端到端400GbE AI计算网络解决方案，帮助企业用户打造新一代网络基础架构，加速AI转型。 𐟒𞠥œ袀œ存”方面，戴尔科技推出了专为AI打造的新一代PowerScale全闪存节点，这是全球首个通过NVIDIA SuperPOD验证的AI以太网存储平台。借助这个全新的平台，企业可以加快创新速度，以更高的灵活性和安全性部署AI应用，同时利用高速的NVIDIA Spectrum以太网技术加速数据访问并实现智能横向扩展。戴尔PowerEdge XE9680和这些解决方案共同构成了AI时代计算力的新标准，为企业提供了强大的算力支持，助力AI应用的快速部署和高效运行。

英伟达展望：以太网AI云 𐟌 以太网络市场潜力巨大 𐟒𜊩𛄤𛁥‹‹透露，Spectrum-X正在与多家客户洽谈量产合作，包括一个拥有10万GPU的大型集群。预计Spectrum-X将在一年内成为价值数十亿美元的产品线。Spectrum未来的市场空间不亚于IB，英伟达有望成为AI Cloud以太网络设备市场的领头羊。 𐟤– 推理能力的挑战 𐟤– 随着模型复杂度、用户数量和查询次数的增加，推理能力需求不断攀升。在过去的四个季度中，推理为数据中心贡献了约40%的收入。 𐟚€ 英伟达的下一步增长动力 𐟚€ 从Blackwell到Spectrum-X再到NIMs，英伟达已经准备好迎接下一波增长浪潮。尽管算力和存储成本可能下降，但网络和软件的价值将逐渐积累。 𐟒𛠁IPC的革命性变化 𐟒𛊐C计算堆栈也将发生革命性变化。GeForce RTX GPU的安装量已超过1亿，具备完整的技术堆栈，可在GeForce RTX PC上部署和运行快速高效的推理。TensorRT LLM可以加速多种AI模型。英伟达和微软宣布针对Windows进行AI性能优化，提高GeForce RTT AI PC上运行LLM的速度。 𐟛 ️ 系统解决方案的优化 𐟛 ️ 通过Grace CPU、Blackwell GPU、NVLink、Quantum、Spectrum、各类交换机和丰富的软件与合作伙伴生态系统的组合，提供比前几代更丰富、更完整的解决方案。AI现在是一个系统问题，需要优化所有芯片作为一个系统协同工作。 ⚡ AI厂商的迭代速度 ⚡ 对于AI厂商来说，领先非常重要。训练时间至关重要，目标是推出最领先性能的产品，而不是每次迭代优化0.3%的产品。这也是英伟达仍在大量出货Hopper的原因。 𐟓𑠤𘺤𛀤𙈩€‰择ARM 𐟓𑊇race允许我们做一些现在系统配置无法做到的事情。Grace和Hopper之间的内存系统是连贯和高度耦合的，使用的内存是LPDDR。这样可以创建非常大的NVLink域，对下一代大型语言推理模型至关重要。计算范式变了，ARM将逐渐在各个端吃掉X86。

专栏内容推荐

474 x 333 · jpeg
NVIDIA A100 NVLink 2-Slot Bridge Bundle | A Series (Server) | NVIDIA ...
素材来自:shop.schneider-digital.com
1024 x 522 · jpeg
Overview NVLink GPU Bridge | MSI Korea
素材来自:kr.msi.com

3840 x 2160 · jpeg
NVIDIA Develops NVLink Switch: NVSwitch, 18 Ports For DGX-2 & More
素材来自:anandtech.com

474 x 474 · jpeg
EVGA - Products - EVGA GeForce RTX NVLink SLI Bridge, 3-Slot Spacing ...
素材来自:evga.com
650 x 366 · png
What Is NVLink? | NVIDIA Official Blog
素材来自:blogs.nvidia.com

800 x 450 · jpeg
SLI vs. NVLink: Bridging GPUs (Gamers' Guide to Performance)
素材来自:electronicshub.org

1988 x 1110 · png
NVLink - From one GPU to another! | Exxact Blog
素材来自:exxactcorp.com

4032 x 1868 · jpeg
NVLink on NVIDIA GeForce RTX 2080 & 2080 Ti in Windows 10
素材来自:pugetsystems.com

990 x 612 · jpeg
NVIDIA NVLink Bridge 桥接器_美邦天下科技有限公司
素材来自:voiiov.cn
1276 x 761 · jpeg
Overview NVLink GPU Bridge | MSI Global - The Leading Brand in High-end ...
素材来自:msi.com

2560 x 1300 · jpeg
AORUS GeForce RTX NVLINK™ BRIDGE FOR 30 SERIES Key Features | Graphics ...
素材来自:gigabyte.com

990 x 927 · jpeg
NVIDIA NVLink Bridge 桥接器_美邦天下科技有限公司
素材来自:voiiov.cn
1280 x 960 · jpeg
MSI GeForce RTX NVLink GPU BRIDGE - Newegg.com
素材来自:newegg.com

1000 x 1000 · png
AORUS GeForce RTX NVLINK™ BRIDGE FOR 30 SERIES Key Features | Graphics ...
素材来自:gigabyte.com
1480 x 1000 · jpeg
NVIDIA NVLink 2021 Update and Compatibility Chart | Puget Systems
素材来自:pugetsystems.com

素材来自:youtube.com

1200 x 1200 · jpeg
EVGA - Products - EVGA GeForce RTX NVLink SLI Bridge, 4-Slot Spacing ...
素材来自:evga.com
2048 x 1080 · jpeg
NVLink vs. SLI and Multiple GPUs - Is it worth it?
素材来自:cgdirector.com

1024 x 576 · jpeg
NVLink vs. SLI and Multiple GPUs - Is it worth it?
素材来自:cgdirector.com

1200 x 1200 · jpeg
EVGA - Articles - EVGA GeForce® RTX™ NVLink™ Bridge
素材来自:evga.com
1024 x 820 · png
GeForce RTX NVLink GPU BRIDGE | PCB World Tech
素材来自:pcbworldtech.com

1600 x 2185 · jpeg
EVGA GeForce RTX NVLink SLI Bridge For RTX 3090 (4-Slot Spacing) - Tân ...
素材来自:tandoanh.vn
836 x 960 · jpeg
EVGA Unveils its NVLink Bridges | TechPowerUp
素材来自:techpowerup.com

600 x 204 · png
NVIDIA NVLink High-Speed GPU Interconnect - 2-Slot - 900-53651-2500-000 ...
素材来自:mwave.com.au

1600 x 773 · jpeg
NVIDIA GeForce RTX NVLINK Bridge, 4-Slot, For 3090 and 30 Series ...
素材来自:kuwait.microless.com

1150 x 1339 · png
NVIDIA Tesla P100 NVLink 16GB GPU (Pascal GP100) Up Close
素材来自:microway.com
4032 x 1868 · jpeg
NVLink on NVIDIA GeForce RTX 2080 & 2080 Ti in Windows 10
素材来自:pugetsystems.com

1185 x 1134 · jpeg
Buy NVIDIA NVLink Bridge 3-Slot For RTX A6000 | Graphics Cards ...
素材来自:scorptec.com.au
1500 x 1125 · jpeg
GeForce RTX SLI Nvlink Bridge 4 Slot : Amazon.co.uk: Computers ...
素材来自:amazon.co.uk

1200 x 1200 · jpeg
EVGA - Products - EVGA GeForce RTX NVLink SLI Bridge, 3-Slot Spacing ...
素材来自:evga.com
938 x 575 · jpeg
How GPU-GPU Connectivity Works With NVLink | Exxact Blog
素材来自:exxactcorp.com

900 x 900 · jpeg
PUENTE SLI NVLINK BRIDGE RTX 3090
素材来自:hardgamers.com.ar
素材来自:youtube.com

594 x 500 · jpeg
NVIDIA Develops NVLink Switch: NVSwitch, 18 Ports For DGX-2 & More
素材来自:anandtech.com
1280 x 960 · jpeg
GIGABYTE AORUS NVLINK BRIDGE 4-Slot - Newegg.com
素材来自:newegg.com

素材来自:查看更多內容

当前用户设备UA：Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)