存儲器在AI發展中的重要性
作者: 2019年04月01日 來源:全球化工設備網 瀏覽量:
字號:T | T
選擇存儲器并將它們構建到系統中變得更加困難。 邊緣計算性能的提升給存儲器的設計,類型的選擇和配置都帶來挑戰,這也導致在不同的應用市場中需要進行更復雜的權衡。 芯片架構正在與新市場一起發展,但數據在
選擇存儲器并將它們構建到系統中變得更加困難。
邊緣計算性能的提升給存儲器的設計,類型的選擇和配置都帶來挑戰,這也導致在不同的應用市場中需要進行更復雜的權衡。
芯片架構正在與新市場一起發展,但數據在芯片、設備之間以及系統之間如何移動并不總是很清楚。汽車和AI應用的數據正變得越來越多和復雜,但芯片架構在處理時有時不清楚如何優先處理數據。這讓芯片設計人員面臨抉擇,是選擇共用內存降低成本,還是增加不同類型內存提高性能和降低功耗。
所有這些都是以安全為前提,并且不同的市場設計的要求也不一樣。比如,汽車中的各種類型的圖像傳感器(如激光雷達和攝像頭)的大量數據需要在本地處理。AI芯片則希望性能能夠提升100倍。
解決內存問題有一些方法,其中一種是片上存儲器,也就是將存儲器分散地集成在運算單元旁,*大程度減少數據搬移,這種方法的目標是通過減少負載和存儲的數量來突破內存瓶頸,也能降低功耗。
“存算一體(In-memory computing)可能是模擬的、數字的,或兩者都有。” Cadence Digital&Signoff Group的高級首席產品經理Dave Pursley說,“雖然在內存中進行計算的想法可能是日益增長的趨勢,但在這種計算中實際發生的情況似乎大不相同。”
SRAM和DRAM仍是主流
盡管市場出現了新的變化,但片上SRAM和片外DRAM仍是主流。已經有*預測DRAM多年后將“死亡”,但它仍然是*經濟和可靠的選擇。DRAM具有高密度、架構簡單、低延遲和高性能的特性,兼具耐用和低功耗的特性。
DRAM密度的增速正在放緩,但HBM2等新架構允許通過堆疊模塊的方式而不是使用DIMM來垂直增加密度,這種方法還讓DRAM更靠近處理單元。
另外,SRAM價格昂貴且密度有限,但其高速性能多年來已被驗證。片上存儲器的挑戰是采用分布還是共用的方式,在某些情況下,為保證安全性需要增加冗余。
“所有這些要求都會影響存儲器的類型和數量的選擇,還涉及片上和片外存儲器之間的權衡,以及訪問每個存儲器互連的復雜性。”Arm高級物聯網架構師Ryan Lim表示。
低功耗存儲器是關鍵
存儲器的一個關鍵問題是功耗,其中存儲器類型和配置等多種因素都會影響功耗。例如,在7nm的存儲器中進行數據的存取可能消耗更多功耗,這是因為線路中的RC延遲。當然,這也會產生熱量,有可能會破壞輸入輸出存儲器的信號的完整性。
不過,較慢的片外數據使用高帶寬內存可以節省功耗,并且可以與高速GDDR6一樣快。如何做出這些決定取決有多種因素,包括設備的平均售價和選擇的存儲器類型。
還有針對手持移動設備的極低功耗的存儲器,包括越來越多使用電池的邊緣設備。
“這些存儲器具有極高的效能,可在一定程度上提升電池供電設備的功耗和數據速率。” Rambus杰出的院士Steven Woo說。“它們也可以在多種模式下工作,當處于待機狀態時,可以消耗很少的能量滿足手機和平板電腦等產品的需求,并在需要進行處理時快速切換到更高性能/更高功率的模式。 ”
低功耗存儲器還支持多種封裝方式,允許它們與手機處理器堆疊在一起,滿足智能手機的輕薄需求,也能集成在PCB上支持平板電腦和其他消費類設備高容量內存配置的需求。
毫無疑問,開發低功耗存儲器是一項挑戰。“當設計低功耗存儲器時,它們支持的速率范圍很廣,相對低功耗存儲器而言,這些數據速率往往是相當高的。”Woo說。“這通常是由一兩個主要應用市場驅動,所以它必須面向一個市場很大的行業,擁有足夠大市場的行業才能催生新的存儲器。從歷史上看,手機市場是成功的例子。如果與不同的手機制造商交談,他們都希望獲得性能和電源效率更高的存儲器,因為他們希望能夠延長電池壽命。對于其他想要使用低功耗存儲器的公司,他們會很慶幸其他人正在幫他們實現。“
通常,這些合格的存儲器可能在幾種不同的數據速率下運行,但速率很接近。“這些存儲器可能有一個是每秒4.2千兆比特的速率,另一個是3.2千兆比特。”他解釋道,“這可以讓內存制造商在生產所有這些存儲器時,進行所謂的分級。當某些部件沒有全速運行時會發生這種情況,但制造商依舊會出售這些內存,因為有些客戶需要以更便宜的價格購買性能較低的存儲器。Binning(數據合并)允許這種情況。這些產品的性能在一定的范圍內,都屬于合格品。“
全球化工設備網(http://www.tupvw34.cn )友情提醒,轉載請務必注明來源:全球化工設備網!違者必究.
免責聲明:1、本文系本網編輯轉載或者作者自行發布,本網發布文章的目的在于傳遞更多信息給訪問者,并不代表本網贊同其觀點,同時本網亦不對文章內容的真實性負責。
2、如涉及作品內容、版權和其它問題,請在30日內與本網聯系,我們將在第一時間作出適當處理!有關作品版權事宜請聯系:+86-571-88970062