新型AI芯片，邊緣物聯網時代即將到來？
解決能源問題很關鍵
在傳統的芯片里，數據的計算和存儲通常在兩個獨立的單元進行。
研究發現在這樣的芯片中，絕大多數的能量并非用于AI計算，而是消耗在計算和存儲單元之間頻繁的數據移動中。
無人機、智能可穿戴設備和工業物聯網傳感器等設備都配備了AI芯片，因此計算可以在數據發源地之互聯網的［邊緣］進行，可以實時處理并保證數據隱私。
在今天的AI芯片中，數據處理和數據存儲在計算單元和內存單元中。
這些單元之間頻繁的數據移動消耗了AI處理過程中的大部分能量，而微型邊緣設備上的AI功能會受到電池容量的限制。
目前，邊緣設備上的大多數AI應用程序都涉及將數據從設備移動到云端，AI在云端對其進行處理和分析，然后將結果移回設備。
雖然使用RRAM芯片進行計算不一定是新的，但通常，它會導致芯片上執行的計算精度降低，并且芯片架構缺乏靈活性。
因此減少數據移動是解決能源問題的關鍵。
研究小組發布新型AI芯片
斯坦福大學，加州大學圣地亞哥分校，以及清華大學合作研究團隊提出了一個新的解決方案。
研究小組已經開發了一個新的內存中計算（CIM：compute－in－memory）芯片的原型，消除了這種分離的需要。
他們在8月17日發表在《自然》雜志上的論文中稱，他們的原型展示了兩倍于現有AI平臺的效率。
這款芯片采用了基于阻變存儲器（RRAM）的［存算一體］架構來減少數據流動。
它在支持多種AI應用的同時，大幅提升了能效，使得在邊緣設備中實現復雜的AI任務成為可能。
這就好比直接在倉庫中對原材料進行加工生產，而不必頻繁地把原材料運往專門的加工車間，極大地減少了數據流動，從而大幅提升了芯片的能效。
NeuRRAM芯片的新穎之處
NeuRRAM芯片的能效不僅是目前最先進的內存計算芯片的兩倍，而且它提供的結果也與傳統數字芯片一樣準確。
NeuRRAM的新穎之處在于，對于各種AI應用，極高的效率現在與極大的靈活性相結合，與標準數字通用計算平臺相比，精度幾乎沒有損失。
研究人員通過一種稱為能量延遲產物（EDP）的測量來測量芯片的能效。
NeuRRAM芯片實現了比最先進的芯片低1．6至2．3倍的EDP（越低越好）和7至13倍的計算密度。
它在手寫數字識別任務中實現了99％的準確率；85．7％用于圖像分類任務；和84．7％的谷歌語音命令識別任務。
此外，該芯片還實現了圖像恢復任務中圖像重建誤差降低70％。
采用新存儲技術實現多核存算一體
NeuRRAM芯片使用的阻變存儲器是一種新型的非易失性存儲技術。
這種技術具有高密度，非易失，易加工等優點，是低功耗，低成本的邊緣計算場景的理想選擇。
除了更高的能效，NeuRRAM也是首個支持多種神經網絡模型的多核存算一體芯片。
因此，NeuRRAM可以被應用到多類邊緣計算任務中，例如圖像分類，圖像去噪，關鍵詞識別。
在這些不同應用中，NeuRRAM均可實現和傳統數字芯片相當的AI推理準確度。
NeuRRAM還不是一顆產品級芯片，但是它驗證了全棧式優化對于該技術產業化的重要性。
這款NeuRRAM神經形態芯片使AI離在與云斷開的廣泛邊緣設備上運行又近了一步。
架構設計有別于傳統芯片
在NeurRRAM架構中，CMOS神經元電路與RRAM權重在物理上交錯。
它與傳統設計不同，傳統設計中的CMOS電路通常位于RRAM砝碼的外圍。
神經元與RRAM陣列的連接可以配置為神經元的輸入或輸出。
這允許神經網絡在各種數據流方向上進行推理，而不會產生面積或功耗方面的開銷。
這反過來又使體系結構更易于重新配置。
作為神經形態AI芯片，NeuroRRAM在48個神經突觸內核上執行并行分布式處理。
為了同時實現高通用性和高效率，NeuRRAM通過將神經網絡模型中的一層映射到多個內核上以對多個數據進行并行推理來支持數據并行性。
此外，NeuRRAM通過將模型的不同層映射到不同的內核并以流水線方式執行推理來提供模型并行性。
將推動未來的邊緣計算
目前，NeuRRAM只是一種物理概念層面的驗證，但要轉化為實際的邊緣設備則需要更多開發。
這種結合效率、準確性和執行不同任務的能力充分展示了芯片的潛力。
如果成功，像NeuRRAM這樣的RRAM內存計算芯片具有幾乎無限的潛力。它們可以嵌入農田進行實時AI計算，根據當前土壤條件調整灌溉系統。
大規模生產這些芯片會更加便宜，且適應性強、功耗低，可以用于改善我們的日常生活，如用于家庭健康監測的醫療設備。
也可用于解決從氣候變化到糧食安全的各種問題。
AI計算是非常消耗能源的，但大部分的能源消耗不是由計算本身造成的。能源密集型部分是在AI芯片內的內存和計算單元之間移動數據。
結尾：
現在考慮商業化的問題還為時過早。
雖然他們認為該芯片的高效硬件實現與內存中計算是一個成功的組合，但廣泛采用仍將取決于能否降低能效基準。
