1/24/2024，光纖在線訊，據(jù)逍遙科技整理。在高性能計(jì)算領(lǐng)域，如 GPU 等核心芯片對(duì)數(shù)據(jù)的渴望日益增長(zhǎng)，高帶寬內(nèi)存（HBM）技術(shù)的重要性不斷提升。隨著應(yīng)用程序越來(lái)越依賴于大量數(shù)據(jù)，提高 HBM 的速度成為了一個(gè)迫切的課題。本文綜述了三星、SK 海力士和美光等領(lǐng)先內(nèi)存制造商，如何通過(guò)光互連技術(shù)和直接邏輯集成來(lái)提升 HBM 的性能。文中還探討了這些方法可能帶來(lái)的利益與風(fēng)險(xiǎn)，尤其是非標(biāo)準(zhǔn)化解決方案可能引發(fā)的供應(yīng)商鎖定問(wèn)題。同時(shí)，也對(duì)未來(lái)的 JEDEC HBM 標(biāo)準(zhǔn)，如 HBM4 和 HBM4e 的發(fā)展方向進(jìn)行了討論。

     高帶寬內(nèi)存（HBM）使得 GPU 這類處理能力強(qiáng)大的芯片能夠訪問(wèn)更大的外部?jī)?nèi)存帶寬。隨著人工智能、機(jī)器學(xué)習(xí)以及高性能計(jì)算（HPC）等領(lǐng)域?qū)��?shù)據(jù)需求的不斷增長(zhǎng)，急需通過(guò)提升 HBM 接口速度來(lái)縮短處理時(shí)間（Mellor，2023年）。本文回顧了主要內(nèi)存供應(yīng)商為提高 HBM 速度而采取的最新措施，包括光學(xué)和直接集成的創(chuàng)新手段，并討論了關(guān)于 HBM 技術(shù)的未來(lái)標(biāo)準(zhǔn)化工作。

     當(dāng)前 HBM 現(xiàn)狀 HBM 技術(shù)依賴于堆疊內(nèi)存，這些內(nèi)存在邏輯上作為一個(gè)整體運(yùn)行。目前，HBM3e 能提供每堆棧最高 24GB 的容量，速度可達(dá) 1.2TB/s，使用的是 1024 位的寬接口（Mellor，2023年）。HBM 堆棧通過(guò)一個(gè)中間連接器與主處理器相連。盡管已經(jīng)相當(dāng)快速，行業(yè)內(nèi)還是在尋求進(jìn)一步提升 HBM 性能，以便更快地處理數(shù)據(jù)。

三星的光互連創(chuàng)新 
     近期，三星提出了創(chuàng)新想法：在 HBM 堆棧和處理器封裝內(nèi)部使用光互連來(lái)提升傳輸速度，聲稱可達(dá)飛秒級(jí)延遲。圖 1 從概念上展示了這一光互連創(chuàng)新。三星認(rèn)為，這種方法將大幅提高帶寬和功耗效率。但是，如何將這一創(chuàng)新落到實(shí)處，目前還存在一些不確定性（Mellor，2023年）。

   
圖 1. 三星在 2023 年 OCP 全球峰會(huì)上的展示。

直接集成
     除了光互連創(chuàng)新之外，制造商還在探索將 HBM 堆棧直接集成到處理器芯片上的可能性，這與內(nèi)存中處理（PIM）的理念類似。圖 2 展示了 SK 海力士對(duì)這種被稱為 “HBM4” 技術(shù)的構(gòu)想。這種緊密集成可能帶來(lái)更快的互聯(lián)速度，但如果缺乏行業(yè)標(biāo)準(zhǔn)，也可能面臨專有技術(shù)鎖定的風(fēng)險(xiǎn)（Mellor，2023年）。


圖 2. SK 海力士互連器（頂部）與組合的 HBM+GPU 芯片（底部）HBM 概念。

未來(lái)標(biāo)準(zhǔn)
     美光，作為另一家主要的內(nèi)存供應(yīng)商，預(yù)計(jì)基于 JEDEC 標(biāo)準(zhǔn)的 HBM4 將在 2026 年推出，每堆棧帶寬將超過(guò) 1.5TB/s，使用 2048 位總線，并在容量和功耗效率方面有所提升。此外，還有一個(gè)后續(xù)版本 "HBM4e" 正在規(guī)劃中。表 1 總結(jié)了各供應(yīng)商對(duì)這些未來(lái)規(guī)格的預(yù)期目標(biāo)，盡管官方批準(zhǔn)的具體參數(shù)還未確定（Mellor，2023年）。

表 1. HBM4和HBM4e用斜體顯示，因?yàn)樗鼈冞�不是正式的JEDEC標(biāo)準(zhǔn)。
  

討論
     目前，HBM 的發(fā)展重點(diǎn)集中在光互連和集成創(chuàng)新上，這些創(chuàng)新有望大幅提升帶寬、容量和能效。然而，過(guò)于深入的集成可能會(huì)在缺乏開(kāi)放標(biāo)準(zhǔn)的情況下導(dǎo)致供應(yīng)商鎖定。業(yè)界應(yīng)對(duì)專有技術(shù)偏離公認(rèn)的接口標(biāo)準(zhǔn)（如 JEDEC）持謹(jǐn)慎態(tài)度。盡管存在挑戰(zhàn)，HBM4 和 HBM4e 為滿足未來(lái)加速內(nèi)存需求設(shè)定了令人期待的性能目標(biāo)。標(biāo)準(zhǔn)機(jī)構(gòu)、GPU 設(shè)計(jì)者和內(nèi)存公司之間的持續(xù)合作，對(duì)于實(shí)現(xiàn)創(chuàng)新與互操作性的平衡非常重要。

關(guān)于逍遙科技：
深圳逍遙科技有限公司（Latitude Design Automation Inc.）是一家專注于半導(dǎo)體芯片設(shè)計(jì)自動(dòng)化（EDA）的高科技軟件公司。我們自主開(kāi)發(fā)特色工藝芯片設(shè)計(jì)和仿真軟件，提供成熟的設(shè)計(jì)解決方案如PIC Studio、MEMS Studio和Meta Studio，分別針對(duì)光電芯片、微機(jī)電系統(tǒng)、超透鏡的設(shè)計(jì)與仿真。我們提供特色工藝的半導(dǎo)體芯片集成電路版圖、IP和PDK工程服務(wù)，廣泛服務(wù)于光通訊、光計(jì)算、光量子通信和微納光子器件領(lǐng)域的頭部客戶。逍遙科技與國(guó)內(nèi)外晶圓代工廠及硅光/MEMS中試線合作，推動(dòng)特色工藝半導(dǎo)體產(chǎn)業(yè)鏈發(fā)展，致力于為客戶提供前沿技術(shù)與服務(wù)。