[新聞] 邊緣AI驅動記憶體產業新商機

作者: ynlin1996 (Kennylin)   2019-09-04 11:22:39
邊緣AI驅動記憶體產業新商機
http://bit.ly/2jVPg9S
隨著AI的發展模式,從雲端與數據中心的深度學習模式,逐漸走入邊緣運算的裝置上AI模式,記憶體的需求也將開始出現變化。
簡單來說,目前AI應用程式一直局限於雲端數據中心,可是這種對大型能源耗損和空間要求很高的模式,逐漸被發現不全然適用於行動裝置與物聯網時代。因此,對高擴展性,低延遲和低成本的AI模型需求不斷出現,使得廠商努力往邊緣運算的AI模式上發展。例如:行動與物聯網裝置都受到功率和性能上的嚴格限制,因此往快速擴張的硬體生態系統,並支持邊緣應用程式進行推理任務,甚至是支持分佈式訓練,將成為未來的重點工作。
隨著,摩爾定律和縮放定律(Dennard Scaling)漸走向終點,半導體產業需要向多樣化且新的記憶體技術發展,以解決往AI前進時,所帶來的典範移轉並滿足對廉價且高效的AI硬體的需求。
AI領域是記憶體創新的沃土,具有獨特和改進的特徵,並在數據中心和邊緣運算中提供機會。新的記憶體技術必須允許邊緣裝置通過增加記憶體密度和改進數據訪問模式在裝置上執行深度學習任務,降低向雲端和從雲端傳輸數據的需要。簡單來說,能夠達到在裝置上執行高精度和高效能的感知任務,是進一步推動AI前進的關鍵。
也因為這一趨勢,取代傳統記憶體的重大投資正在展開,包括:NAND快閃記憶體,3D XPoint(英特爾Optane),相變化記憶體(PCM),電阻記憶體(ReRAM),磁阻式隨機存取記憶體(MRAM)以及能夠提供高能源效率,高耐力與非揮發性的記憶體正成為邊緣AI時代來臨最重要的課題。
更重要的是,這些記憶體除了適用於邊緣AI應用之外,也能夠在雲端環境下更有效地執行深度學習模型訓練和推理。其他好處包括潛在改變可靠性和處理速度。總體來說,記憶體技術的進步,將使得受硬體限制的AI變成可能。
整體看起來,除了持續研發AI晶片與軟體之外,記憶體也變成關鍵性AI發展的要角。到底未來的記憶體主流技術是如何,可能需要再等幾年才會揭曉!
作者: ruthertw (小葉老大)   2019-09-04 13:22:00
英特爾笑而不語
作者: xiemark (aisinjuro)   2019-09-04 13:45:00
128 or 256核計算需要頻寬,上述記憶體都不行。

Links booklink

Contact Us: admin [ a t ] ucptt.com