13
在美國眾議院能源與商業委員會通信與科技小組的聽證會上,輝達(NVIDIA)電信部門資深副總裁Ronnie Vasishta指出,行動網路即將面臨全新的挑戰——支撐「AI流量」的爆炸性增長。這些AI流量不只是單純的影音或訊息傳遞,而是涵蓋AI服務在邊緣端(Edge)的推論與運算,預示行動網路將重新進入高速成長期。
AI應用擴散帶來網路壓力 記憶體產業成下一波熱點
Vasishta特別提到,未來包括自駕車、智慧眼鏡、生成式AI應用等大量仰賴行動連接的應用,將讓網路面臨前所未有的資料傳輸壓力。這些應用不僅需要具備高可靠性與低延遲的行動網路支撐,更需要大量高頻寬記憶體(如HBM)來即時處理與傳送資訊。尤其是在邊緣AI逐步取代雲端集中運算的架構趨勢下,資料在本地即時處理的需求愈發迫切。
就在此時,美光(Micron)宣布其最新一代的HBM4高頻寬記憶體已出貨給主要客戶進行早期驗證。該記憶體使用先進的1-beta DRAM製程節點,搭配透過矽通孔(TSV)技術實現的12層堆疊,每堆疊提供24GB容量與高達2.0TB/s的頻寬,專為AI模型訓練與推論設計。
這不僅意味著記憶體技術將再度成為AI基礎設施的核心,也代表傳統網路業者需全面升級架構,以滿足AI應用的「資料即時化」與「運算去中心化」雙重壓力。從基站、邊緣伺服器到個人設備,整個行動網路生態都必須重新設計,才能與AI時代同步前進。
評論觀點來看,這場AI驅動下的流量革命,不只是一次科技迭代,更是一場基礎設施與半導體產業的聯手重構。對企業而言,掌握記憶體、運算與網路三者融合的能力,將決定在AI競局中是扮演核心推手,還是被動承壓者。(原文出處)
延伸閱讀
Intel發表Project Battlematrix平台 主攻中小企業AI推論市場