AIデータセンターのGPU相互接続技術を発表、脱NVLink

Alibaba Cloudのエンジニア兼研究者であるEnnan Zhai氏が、LLMトレーニング向けデータセンターのGPUをイーサネットで相互接続する方法に関する研究論文を発表した。この技術は特に、NVIDIAのGPU相互接続プロトコルであるNVLinkではなくイーサネットを採用している点で斬新とされている。Alibaba Cloud ditches Nvidia's interconnect in favor of Ethernet — tech giant uses own High Performance Network to connect 15,000 GPUs inside dat…

• #AIデータセンター
• #Alibaba Cloud 研究者 データセンターのGPU相互接続技術を発表
• #Alibaba Cloud 研究者 データセンターのGPU Ethernetで相互接続
• #NVIDIAのGPU相互接続プロトコルであるNVLinkではなくイーサネットを採用
• #ホスト間の相互接続にNVIDIAのNVlinkではなくイーサネットを使用
• #Alibaba HPN ベンダーロックインを避け より速い進化を遂げたい 脱NVIDIA
• #Alibaba HPN 既に8か月の運用実績

• #Alibaba HPN技術 各社が採用する事でコストダウンが可能

• #脱NVLink