11/14/2024,光纖在線訊,NVIDIA 今日宣布與軟銀集團(tuán)開(kāi)展一系列合作,旨在加速日本主權(quán) AI 計(jì)劃,并進(jìn)一步提升日本在全球的技術(shù)領(lǐng)先優(yōu)勢(shì),同時(shí)為全球電信運(yùn)營(yíng)商開(kāi)辟數(shù)十億美元的 AI 收入來(lái)源。
NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛在 NVIDIA AI Summit Japan 的特別演講中宣布,軟銀集團(tuán)正在使用 NVIDIA Blackwell 平臺(tái)打造日本最強(qiáng)大的 AI 超級(jí)計(jì)算機(jī),并計(jì)劃將 NVIDIA Grace Blackwell 平臺(tái)應(yīng)用于其下一代超級(jí)計(jì)算機(jī)。
此外,通過(guò)使用 NVIDIA AI Aerial 加速計(jì)算平臺(tái),軟銀集團(tuán)成功試運(yùn)行了全球首個(gè) AI 與 5G 相結(jié)合的電信網(wǎng)絡(luò)。這項(xiàng)計(jì)算領(lǐng)域的突破為電信運(yùn)營(yíng)商開(kāi)辟了可能達(dá)到數(shù)十億美元價(jià)值的 AI 收入來(lái)源。
NVIDIA 和軟銀集團(tuán)還宣布,軟銀集團(tuán)正計(jì)劃使用 NVIDIA AI Enterprise 軟件創(chuàng)建一個(gè) AI Marketplace,以滿足對(duì)本地安全 AI 計(jì)算的需求。憑借這項(xiàng)支持 AI 訓(xùn)練和邊緣 AI 推理的新服務(wù),軟銀集團(tuán)有望成為日本的 AI 引擎,為各個(gè)行業(yè)、個(gè)人和企業(yè)帶來(lái)創(chuàng)造、分配和使用 AI 服務(wù)的新商機(jī)。
黃仁勛表示:“日本在推動(dòng)具有全球影響力的技術(shù)創(chuàng)新方面有著悠久的歷史。憑借軟銀集團(tuán)對(duì) NVIDIA 全棧 AI、Omniverse 和 5G AI-RAN 平臺(tái)的巨大投資,日本正在一躍成為 AI 產(chǎn)業(yè)變革的全球領(lǐng)軍者,推動(dòng)電信、交通、機(jī)器人和醫(yī)療健康行業(yè)進(jìn)入新增長(zhǎng)時(shí)代。這將在人工智能時(shí)代極大地造福人類(lèi)?!?
軟銀集團(tuán)總裁兼首席執(zhí)行官 Junichi Miyakawa 表示:“世界各國(guó)和地區(qū)都在加速使用 AI 促進(jìn)社會(huì)和經(jīng)濟(jì)增長(zhǎng),社會(huì)正在經(jīng)歷重大轉(zhuǎn)型。通過(guò)與 NVIDIA 的長(zhǎng)期合作,軟銀集團(tuán)正站在這一轉(zhuǎn)型的最前沿。憑借我們強(qiáng)大的 AI 基礎(chǔ)設(shè)施以及專(zhuān)為 AI 重塑 5G 網(wǎng)絡(luò)的全新分布式 AI-RAN 解決方案‘AITRAS’,我們將加速全國(guó)乃至全球的創(chuàng)新步伐?!?
軟銀集團(tuán)率先接收 Blackwell ,并計(jì)劃使用 Grace Blackwell
軟銀集團(tuán)計(jì)劃接收全球首批 NVIDIA 系統(tǒng),該系統(tǒng)將作為其全新 NVIDIA SuperPOD? 超級(jí)計(jì)算機(jī)的構(gòu)建模塊。
軟銀集團(tuán)計(jì)劃將其由 Blackwell 驅(qū)動(dòng)的 SuperPOD 用于自身以及日本全國(guó)大學(xué)、研究機(jī)構(gòu)和企業(yè)的生成式 AI 開(kāi)發(fā)與 AI 相關(guān)業(yè)務(wù)。
建成后,軟銀集團(tuán)的 SuperPOD 預(yù)計(jì)將成為日本迄今為止性能最佳的系統(tǒng)。它配備 NVIDIA AI Enterprise 軟件和 NVIDIA Quantum-2 InfiniBand 網(wǎng)絡(luò),也十分適合用于開(kāi)發(fā)大語(yǔ)言模型。
除了 SuperPOD 之外,軟銀集團(tuán)還計(jì)劃再建造一臺(tái) NVIDIA 加速的超級(jí)計(jì)算機(jī),以運(yùn)行計(jì)算極為密集的工作負(fù)載。該超級(jí)計(jì)算機(jī)初步計(jì)劃基于 NVIDIA Grace Blackwell 平臺(tái)設(shè)計(jì),采用 NVIDIA NVL72 多節(jié)點(diǎn)液冷機(jī)架式系統(tǒng),將 NVIDIA Blackwell GPU 與基于 Arm 的節(jié)能型 NVIDIA Grace? CPU 相結(jié)合。
AI-RAN 抵達(dá)新的里程碑
軟銀集團(tuán)通過(guò)與 NVIDIA 密切合作,在技術(shù)上取得了巨大成就,開(kāi)發(fā)出一種可同時(shí)運(yùn)行 AI 和 5G 工作負(fù)載的新型電信網(wǎng)絡(luò),業(yè)界稱(chēng)之為人工智能無(wú)線接入網(wǎng)絡(luò)(AI-RAN)。
這種新型基礎(chǔ)設(shè)施得到了電信行業(yè)生態(tài)的廣泛支持,它使運(yùn)營(yíng)商能夠?qū)⒒緩某杀局行霓D(zhuǎn)變?yōu)?nbsp;AI 創(chuàng)收資產(chǎn)。
通過(guò)在神奈川縣進(jìn)行的室外試驗(yàn),軟銀集團(tuán)展示了其 NVIDIA 加速 AI-RAN 解決方案已達(dá)到電信級(jí) 5G 性能,并且能夠利用網(wǎng)絡(luò)的過(guò)剩容量同時(shí)運(yùn)行 AI 推理工作負(fù)載。
傳統(tǒng)的電信網(wǎng)絡(luò)是為處理峰值負(fù)載而設(shè)計(jì),平均僅使用了容量的三分之一。借助 AI-RAN 提供的通用計(jì)算能力,預(yù)計(jì)電信公司能夠?qū)⑹S嗟娜种萘坑糜?nbsp;AI 推理服務(wù),實(shí)現(xiàn)容量變現(xiàn)。
根據(jù) NVIDIA 和軟銀集團(tuán)的預(yù)測(cè),電信運(yùn)營(yíng)商在新 AI-RAN 基礎(chǔ)設(shè)施上每投資 1 美元,就能獲得大約 5 美元的 AI 推理收入(1)??紤]到運(yùn)營(yíng)成本和資本支出成本,軟銀集團(tuán)估計(jì),每增加 1 臺(tái) AI-RAN 服務(wù)器,其基礎(chǔ)設(shè)施的回報(bào)率最高可達(dá) 219%。(2)
在 AI-RAN 上運(yùn)行現(xiàn)實(shí)世界推理
在試驗(yàn)中,軟銀集團(tuán)使用 NVIDIA AI Enterprise 構(gòu)建了現(xiàn)實(shí)世界 AI 推理應(yīng)用,包括自動(dòng)駕駛汽車(chē)遠(yuǎn)程支持、機(jī)器人控制和邊緣多模態(tài)檢索自動(dòng)生成。所有推理工作負(fù)載都能在軟銀集團(tuán)的 AI-RAN 網(wǎng)絡(luò)上以最佳狀態(tài)運(yùn)行。
軟銀集團(tuán)的全軟件定義 5G 無(wú)線電堆棧專(zhuān)門(mén)針對(duì) NVIDIA AI 計(jì)算平臺(tái)進(jìn)行了優(yōu)化,并且包含軟銀集團(tuán)基于 NVIDIA Aerial? CUDA? 加速 RAN 庫(kù)增強(qiáng)的 L1 軟件。軟銀集團(tuán)計(jì)劃將 NVIDIA Aerial RAN Computer-1 系統(tǒng)整合到其未來(lái)的解決方案中,并估計(jì)該系統(tǒng)的功耗比傳統(tǒng) 5G 網(wǎng)絡(luò)基礎(chǔ)設(shè)施減少 40%。(3)
NVIDIA 和軟銀集團(tuán)的合作伙伴為軟銀集團(tuán)的 AI-RAN 解決方案試驗(yàn)做出了貢獻(xiàn),其中包括富士通和紅帽。
供需匹配
由于 AI-RAN 解決方案需要在不影響運(yùn)營(yíng)商級(jí)實(shí)時(shí)性能的前提下,根據(jù)供需情況動(dòng)態(tài)增減算力,因此,軟銀集團(tuán)計(jì)劃通過(guò)使用 NVIDIA AI Enterprise 無(wú)服務(wù)器應(yīng)用編程接口及其內(nèi)部開(kāi)發(fā)的編排器,建立一個(gè)連接 AI 技術(shù)供需雙方的生態(tài)系統(tǒng)。這使軟銀集團(tuán)能夠在有可用的計(jì)算資源時(shí),將外部 AI 推理作業(yè)調(diào)度到 AI-RAN 服務(wù)器,以此提供本地化、低延遲且安全的推理服務(wù)。
NVIDIA 電信業(yè)務(wù)高級(jí)副總裁 Ronnie Vasishta 表示:“如果能夠從單一用途轉(zhuǎn)向多用途的 AI-RAN 網(wǎng)絡(luò),那么每投資 1 美元,就能獲得 5 倍的收益。軟銀集團(tuán)的現(xiàn)場(chǎng)實(shí)地試驗(yàn)驗(yàn)證了技術(shù)的可行性、性能和經(jīng)濟(jì)性,標(biāo)志著 AI-RAN 朝商業(yè)化落地邁出了一大步?!?
軟銀集團(tuán)副總裁兼先進(jìn)技術(shù)研究所所長(zhǎng) Ryuji Wakikawa 表示:“軟銀集團(tuán)的‘AITRAS’是與 NVIDIA 合作五年來(lái)開(kāi)發(fā)的首個(gè) AI-RAN 解決方案。它使用軟銀集團(tuán)開(kāi)發(fā)的編排器,整合協(xié)調(diào) AI 和 RAN 工作負(fù)載,通過(guò)在單個(gè) NVIDIA 加速 GPU 服務(wù)器上運(yùn)行密集單元來(lái)提高通信效率。相信 AITRAS 這項(xiàng) AI 驅(qū)動(dòng)的創(chuàng)新成果將為電信業(yè)的新業(yè)務(wù)模式打下基礎(chǔ),成為移動(dòng)運(yùn)營(yíng)商轉(zhuǎn)型的關(guān)鍵?!?
了解有關(guān) NVIDIA AI-RAN 解決方案的更多信息:
https://www.nvidia.cn/industries/telecommunications/ai-ran/
(1) 結(jié)果不能保證在執(zhí)行時(shí)的實(shí)際收入。
(2) 基于軟銀集團(tuán)的估計(jì)。
(3) 基于 NVIDIA 和軟銀集團(tuán)的估計(jì)。結(jié)果不能保證在執(zhí)行時(shí)實(shí)際的功耗降低。
點(diǎn)擊“
閱讀原文”,或掃描下方海報(bào)二維碼,觀看 NVIDIA CEO 黃仁勛特別演講以及和軟銀集團(tuán) CEO 孫正義的爐邊談話回放。
來(lái)源:NVIDIA