NVIDIA GPUNetIO：让 GPU 直接发起网络通信

📌 One-Sentence Summary

NVIDIA DOCA GPUNetIO 提供了一个统一的、开源的基础，用于 GPU 发起的网络操作，集成了 GDA-KI、RDMA 和 Ethernet 功能，以实现跨 NVIDIA 软件生态系统的无 CPU 高性能数据传输。

📝 Summary

该文章介绍了 NVIDIA DOCA GPUNetIO，这是一个用于在 NVIDIA 软件栈中统一 GPU 发起网络操作的框架。它详细说明了 GPUNetIO 如何通过集成 GDA-KI、RDMA 和 Ethernet 技术，让 CUDA 内核直接控制网络事务，从而绕过 CPU 瓶颈。文章强调了该项目的开源特性、与其他 NVIDIA 库（如 NCCL 和 NVSHMEM）的集成，并提供了编程模型和 API 结构的全面概述。

💡 Main Points

统一的 GDA-KI 基础

GPUNetIO 作为多种 NVIDIA 通信库（如 NCCL 和 NVSHMEM）共享的基础，消除了重复的 GDA-KI 实现，从而提高了开发效率并确保一致的行为。

无 CPU 数据路径

通过允许 CUDA 内核直接读取和写入网络队列，GPUNetIO 实现了完全绕过 CPU 的无 CPU 数据路径，这显著降低了延迟并提高了数据传输效率。

广泛的集成

GPUNetIO 成功地集成到了现有的 NVIDIA 生态系统中，包括 NCCL 的低延迟通信、NVSHMEM 的分布式内存访问，以及 Aerial 5G SDK 的射频数据处理。

💬 Key Quotes

GPUNetIO 成为一个公共的 GDA-KI 基础，多个通信库可以基于此构建，而不是一个由部分重叠的并行实现组成的集合。

开源实现可以运行时检测 DOCA SDK 的存在，并在可用时通过 dlopen 调用选定的闭源 DOCA SDK 函数；如果 SDK 不存在，则继续使用开源实现。

NCCLL GIN（GPU 发起网络）为 CUDA 内核提供了设备端通信抽象层，暴露了诸如 put、get、signal、wait 和 flush 等原语。

📊 Article Meta

AI Screening： 92

Featured： Yes

Source： NVIDIA Technical Blog

Author： Elena Agostini, Simon Schwitanski, Pak Markthub

Category： 软件编程

Language： 英文

Read Time： 14 min

Word Count： 3425

Tags：

编程与工程 , 性能优化 , 开源项目 , 人际关系 , AI 硬件与芯片