【嘉德點評】Computing in Memroy是在DRAM中嵌入邏輯電路,打造“存算一體”架構,存算一體架構會大幅降低資料在存儲器與處理器之間往返的負擔,降低芯片的能耗。
集微網消息,不久前,合肥恒爍半導體有限公司與中科大團隊曆時兩年共同研發的基于NOR閃存架構的存算一體(Computing In Memory)AI芯片系統演示順利完成,标志着具有我國自主知識産權,國内首創、國際領先的超低功耗存算一體的人工智能芯片正式問世。
目前市面存在的基于CPU、GPU等的計算系統都是基于馮諾依曼結構,其運算與存儲部件是分離的,進行計算時,計算單元需要将數據從存儲單元中提取出來,處理完成後再寫回存儲單元,這種結構導緻了密集數據計算時需要在存儲部件與計算部件傳輸大量數據,這就造成計算速度受到數據傳輸帶寬限制,同時引起功耗增加,限制了計算系統的性能提升。另一方面,現有的CPU、GPU等處理器都是使用數字電路實現計算功能,因而需要大量的計算資源,這也限制了可以達到的計算并行度以及計算速度。合肥恒爍半導體研制的這款芯片則将存儲與計算結合在一起,打破了馮諾依曼結構的限制,對未來計算機結構的發展具有重要意義。
早在2018年3月9日,合肥恒爍半導體公司就提出一項名為“一種基于NOR Flash模塊的數據運算方法”的發明專利(申請号:201810193765.X),申請人為合肥恒爍半導體有限公司。
此發明專利提供了一種基于NOR Flash模塊的數據運算方法,實現了基于NOR Flash存儲單元的乘加運算,即“存算一體”的結構,同時提高了中央處理器的計算速度,并進一步降低了功耗。
圖1 基于NOR Flash模塊的數據運算方法
此專利提出的基于NOR Flash模塊的數據運算流程如圖1所示,其中NOR Flash模塊是計算和存儲的物理主體位置,包含多個由集成電路構成的存儲單元,通常為MOS管,這種成熟的集成電路結構一方面可以利用電荷充放電的特性進行數據存儲,另一方面可以對電壓或電流進行處理計算達到計算功能。當模塊存儲有數據後,步驟S1000獲取存儲單元的初始參數,并對存儲單元阈值電壓進行編程,并獲取電壓随編程操作的變化曲線;S2000根據上述曲線,對存儲單元的阈值電壓進行調整;步驟S3000向所述存儲單元的輸入端輸入數據參數;步驟S4000根據調整後的阈值電壓以及數據參數,利用預設算法獲取存儲單元的輸出數據參數;步驟S5000根據上述輸出數據參數,對存儲單元中的數據進行運算處理,并通過測量電路測量輸出。
圖2 NOR型閃存單元結構圖
此專利提出的系統采用圖2所示的存儲單元結構,類似于現有的集成電路中的MOS結構,包括栅端、源端和漏端,其氧化程度、PN密度等物理結構的差異導緻了初始參數不同。對其進行編程和擦除操作等效于改變存儲單元結構中存儲的電荷量,進而導緻阈值電壓變化,而通過NOR Flash模塊可以對其内部存儲的數據和外部輸入的數據進行計算,如乘加運算。同時,NOR Flash模塊可以作為整體封裝成芯片,或以模塊的形式嵌入到其他芯片中,并添加相應外設電路配合使用。
圖3 數據運算方法實例結構圖
圖3是此專利提出的兩種簡單的實例結構圖,左側為MOS管組成的電流鏡,右側結構的輸出電流通過ADC轉換為數字信号。以左側電流鏡為例,MOS管漏端輸入電流信号,存儲單元漏端輸入電壓信号,并向另一側漏端輸入等幅電壓信号,并獲取電流鏡式的存儲單元輸出數據參數。
“存算一體”芯片的誕生相對現有的計算機結構體系是一個質變的過程,而這一革新出現在了國内企業則代表着中國正在緊緊追趕技術發展熱潮并獲得顯著效果,也堅信國内的企業定會在這一領域定會再創成就。(校對/ Jurnan )
,