12/12/2023，光纖在線訊，今年的《韋氏企業(yè)詞典》（Merriam-Webster: Enterprises）年度詞匯候選者頗多。隨著整個行業(yè)都聚焦于變革性的新技術，繼 “生成式 AI” 和 “生成式預訓練Transformer” 之后，又出現(xiàn)了 “大語言模型（LLM）”、“檢索增強生成（RAG）” 等詞匯。

生成式 AI 從年初開始嶄露頭角，到年末已經引起了轟動。許多企業(yè)正在競相依靠 AI 提取文本、語音和視頻的能力，生成能夠徹底改變生產力、創(chuàng)新和創(chuàng)造力的新內容。

企業(yè)紛紛順勢而為。麥肯錫表示，像 OpenAI 的 ChatGPT 這樣的深度學習算法在經過企業(yè)數(shù)據(jù)的進一步訓練后，每年可在 63 個業(yè)務用例中創(chuàng)造相當于 2.6 萬億至 4.4 萬億美元的價值。

然而，管理海量內部數(shù)據(jù)往往被認為是擴大 AI 規(guī)模的最大障礙。NVIDIA 的 AI 專家預測，企業(yè)在 2024 年的工作重點將是“廣交良友”，即與云服務提供商、數(shù)據(jù)存儲和分析公司以及其他擅長高效處理、微調和部署大數(shù)據(jù)的公司建立合作伙伴關系。

這一切都將圍繞大語言模型展開。NVIDIA 專家表示，LLM 研究的進展將被越來越多地應用于商業(yè)和企業(yè)應用中。RAG、自主智能體和多模態(tài)交互等 AI 功能將變得更易于獲取，并且?guī)缀蹩梢酝ㄟ^任何平臺輕松部署。

以下是 NVIDIA 專家對未來 2024 年的展望：


MANUVIR DAS
NVIDIA 企業(yè)計算副總裁
不存在一款萬能的應用：企業(yè)正在接受定制化。任何企業(yè)都不會只有一到兩個生成式 AI 應用，許多企業(yè)將擁有數(shù)百個定制化應用，這些應用使用的是適用于業(yè)務各個部分的專有數(shù)據(jù)。
    在投入到生產中后，這些定制 LLM 將使用 RAG 功能連接數(shù)據(jù)源與生成式 AI 模型，從而作出更加準確、明智的回答。Amdocs、Dropbox、基因泰克公司（Genentech）、SAP、ServiceNow 和 Snowflake 等頭部企業(yè)已經在使用 RAG 和 LLM 構建新的生成式 AI 服務。
    開源軟件引領潮流：借助開源預訓練模型，企業(yè)將把能夠解決特定領域挑戰(zhàn)的生成式 AI 應用納入其運營戰(zhàn)略中。
     如果企業(yè)能夠將這些領先的模型與私有或實時數(shù)據(jù)相結合，就能加速提升整個企業(yè)的生產力和成本效益。AI 計算和軟件將可以在幾乎任何平臺上使用，無論是云計算和 AI 模型代工服務，還是數(shù)據(jù)中心、邊緣和桌面。
    現(xiàn)成的 AI 和微服務：生成式 AI 推動了應用編程接口（API）端點的采用，使開發(fā)者能夠更輕松地構建復雜的應用。
    隨著開發(fā)者將在 2024 年使用 RAG 等 AI 微服務定制成品 AI 模型，軟件開發(fā)工具套件和 API 將更上一層樓。這將幫助企業(yè)運用能夠獲取最新業(yè)務信息的智能助手和摘要工具，充分挖掘出 AI 驅動的生產潛力。
    開發(fā)者可以將這些 API 端點直接嵌入其應用，而且無需再為維護支撐這些模型和框架所需的基礎設施而操心。終端用戶也能體驗到更加直觀、反應更迅速且更符合其需求的定制應用。

NVIDIA 高性能計算和超大規(guī)模數(shù)據(jù)中心業(yè)務副總裁IAN BUCK表示：寶藏技術的國家應用：AI 將成為新時代的“太空競賽”，每個國家都希望建立自己的卓越中心，以推動研究和科學的重大進步，提高國內生產總值。
    只需要幾百個節(jié)點的加速計算，就能快速建立起高效率、高性能的百億億次級 AI 超級計算機。由政府出資建造的生成式 AI 卓越中心，將通過創(chuàng)造新的工作崗位和建立更強大的大學項目來培養(yǎng)下一代科學家、研究人員和工程師，進而推動國家經濟的增長。
    量子飛躍：企業(yè)領導者將在兩大關鍵驅動力之下發(fā)起量子計算研究計劃：一是使用傳統(tǒng) AI 超級計算機模擬量子處理器的能力；二是混合經典-量子計算統(tǒng)一開放式開發(fā)平臺的可用性。這使開發(fā)者能夠使用標準編程語言構建量子算法，無須掌握需要定制的專業(yè)知識。
    量子計算方面的探索曾被認為是計算機科學中的一個非主流的小領域。但隨著企業(yè)與學術界和實驗室共同推進材料科學、醫(yī)藥研究、亞原子物理和物流領域的快速發(fā)展，量子計算探索將成為主流

NVIDIA AI 軟件業(yè)務副總裁　KARI BRISKI表示：將RAG變成財富：企業(yè)將在 2024 年大力采用檢索增強生成（RAG）AI 框架，圍繞此的討論也會跟多。
    模型有時會因為無法獲得與指定用例相關的足夠準確信息而作出這種不準確或無意義的回答。
      隨著企業(yè)訓練用于構建生成式 AI 應用和服務的 LLM，越來越多的人將 RAG 視為一種能夠避免作出不準確或無意義回答的方法。
      通過語義檢索，企業(yè)將使用開源基礎模型打通自己的數(shù)據(jù)，這樣用戶就能夠從索引中檢索到相關數(shù)據(jù)，然后在運行時將這些數(shù)據(jù)傳遞給模型。
      企業(yè)可以使用更少的資源，為醫(yī)療、金融、零售和制造等行業(yè)創(chuàng)造出更準確的生成式 AI 應用。終端用戶有望看到更加精進、更加符合上下文的多模態(tài)聊天機器人和個性化內容推薦系統(tǒng)，這將使他們能夠自然、直觀地與數(shù)據(jù)進行對話。
      多模態(tài)“大顯身手”：基于文本的生成式 AI 將成為過去式。盡管生成式 AI 仍處于起步階段，但預計許多行業(yè)都將采用多模態(tài) LLM，使消費者能夠結合文本、語音和圖像，對有關表格、圖表或示意圖的查詢作出更加符合語境的回答。
     Meta、OpenAI 等公司將通過加強對感官的支持來推動多模態(tài)生成式 AI 的發(fā)展，進而促進物理科學、生物科學和整個社會的進步。企業(yè)將不僅能夠理解文本格式的數(shù)據(jù)，還能夠理解 PDF、圖表、幻燈片等格式的數(shù)據(jù)。

NVIDIA 電信高級副總裁RONNIE VASISHTA表示：RAN 既是目標，也是起點：預計對 5G 投資案例將展開大規(guī)模重新評估。
      經過五年的發(fā)展，5G 的網絡覆蓋范圍和容量都有了顯著的提升，但收入增長卻很緩慢，而且大部分專有且靈活性欠佳的基礎設施的成本也在上升。同時，5G RAN 的利用率仍止步于 40% 以下。
      在新的一年里，我們將在現(xiàn)有頻譜上，積極開辟新的收入來源，發(fā)掘可商業(yè)化的新應用。電信行業(yè)還將重新考量資本支出結構，更加關注以通用組件構建的靈活高利用率的基礎設施。此外，由于企業(yè)正在使用 AI 工具來提高性能和效率以降低成本，所以預計運營費用將全面降低。這些舉措的成效將決定運營商對 6G 技術的投資力度。
      從聊天機器人到網絡管理：為提升客戶服務和支持力度，電信公司已將生成式 AI 應用于聊天機器人和虛擬助手。在新的一年里，他們將進一步在網絡規(guī)劃和優(yōu)化、故障和欺詐檢測、預測分析和維護、網絡安全運營以及能源優(yōu)化等領域加強生成式 AI 的使用，實現(xiàn)運營方面的改進。
      鑒于生成式 AI 的普及度和戰(zhàn)略性，建立新型 AI 工廠基礎設施來推動其發(fā)展也將成為當務之急。越來越多的電信公司將建立供內部使用的 AI 工廠，并以平臺即服務的形式，將這些工廠提供給開發(fā)人員。這類基礎設施將能夠支持作為額外租戶的 RAN。

NVIDIA 網絡業(yè)務高級副總裁GILAD SHAINER表示：AI 飛速增長，連接需求激增：企業(yè)正在使用 GPU 和基于 GPU 的系統(tǒng)獲得加速計算所需要的網絡帶寬，網絡效率和性能也將再度成為其關注的焦點。
      萬億參數(shù)的 LLM 將需要更快的傳輸速度和更廣的覆蓋范圍。想要快速推行生成式 AI 應用的企業(yè)將需要投資于加速網絡技術或者選擇能夠滿足這一需求的云服務提供商。實現(xiàn)最佳連接的關鍵在于將其融入到加入了新一代軟硬件的全棧系統(tǒng)中。
      網絡將成為設計數(shù)據(jù)中心的決定性因素：企業(yè)將認識到數(shù)據(jù)中心不必千篇一律。為數(shù)據(jù)中心選擇合適網絡的第一步是確定數(shù)據(jù)中心的用途。傳統(tǒng)數(shù)據(jù)中心的帶寬有限，而能夠運行大型 AI 工作負載的數(shù)據(jù)中心需要成千上萬個 GPU，而且這些 GPU 在運行時必須保證高度確定且較低的尾部延遲。
      網絡在大規(guī)模滿負荷情況下的運行能力是確定性能的最佳指標。未來的企業(yè)數(shù)據(jù)中心需要通過獨立的管理網絡（又稱南北向網絡）和 AI 網絡（又稱東西向網絡）連接。其中的 AI 網絡包含專門用于高性能計算、AI 和超大規(guī)模云基礎設施的網內計算。