記憶體處理器比起一般 CPU 和 DSP，能節(jié)省一百倍的能耗？
總部位于美國(guó)的 AI 芯片新創(chuàng)公司 Syntiant 宣布推出針對(duì)語(yǔ)音任務(wù)處理設(shè)計(jì)的低功耗神經(jīng)網(wǎng)絡(luò)加速器 NDP100 與 NDP101，將用來(lái)檢測(cè)功率水準(zhǔn)低于 200μw 的聲音模式，讓各種設(shè)備能具備語(yǔ)音控制功能。
新款芯片令人驚訝之處，是使用了數(shù)位技術(shù)。這家新創(chuàng)公司是在 2018 年首度亮相，介紹了一種利用內(nèi)含數(shù)十萬(wàn)個(gè)連結(jié)至 NOR 記憶體單元的乘加器（mulTIply-accumulate units）陣列，以類比技術(shù)處理深度學(xué)習(xí)任務(wù)的方法。其競(jìng)爭(zhēng)對(duì)手 Rival Mythic 也是以類似的類比技術(shù)專攻影像和視頻應(yīng)用；SynTIant 則表示將于 2020 年推出的下一代芯片也會(huì)鎖定這類應(yīng)用。
記憶體處理器（processor-in-memory，PIM）架構(gòu)一直被視為一種有趣但難以實(shí)現(xiàn)的方法，Rival Mythic 與 SynTIant 這兩家新創(chuàng)公司可能需要從 40 納米 NOR 移轉(zhuǎn)到 ReRAM 或 MRAM 陣列，以微縮至 28 納米制程設(shè)計(jì)。
新款芯片利用數(shù)位 MAC 陣列中的 SRAM 快取記憶體，省電的方式一部分是透過(guò)盡可能減少資料移動(dòng)，還有降低精確度水準(zhǔn)，支持 4 位權(quán)重（weights）、8 位啟動(dòng)（acTIvations） 。數(shù)位組件的推出，代表該公司意識(shí)到神經(jīng)網(wǎng)絡(luò)剪枝的重要性與類比運(yùn)算所帶來(lái)的挑戰(zhàn)。
Syntiant 宣稱其新型數(shù)位芯片比起一般 CPU 和 DSP，能節(jié)省一百倍的能耗，但并沒(méi)有提供相關(guān)量測(cè)數(shù)據(jù)；該公司表示，其數(shù)位芯片已經(jīng)贏得助聽(tīng)器、手機(jī)等產(chǎn)品的設(shè)計(jì)案，芯片樣品也已經(jīng)在智能喇叭、家庭自動(dòng)化設(shè)備和筆記本電腦中進(jìn)行測(cè)試，而類比芯片仍在研發(fā)階段。
在 Syntiant 的新聞稿中，引述了摩托羅拉解決方案公司（Motorola Solutions）一位高階主管說(shuō)法，表示新款數(shù)位芯片能使公共安全系統(tǒng)實(shí)現(xiàn)“新一代的邊緣運(yùn)算應(yīng)用”；還有一位英飛凌（Infineon ）高層主管表示，在沒(méi)有 DSP 或云端連接的情況下，單個(gè) IM69D130 麥克風(fēng)在處理近端和遠(yuǎn)端音訊時(shí)效果良好。
Syntiant 表示，數(shù)位芯片將用于關(guān)鍵字識(shí)別（keyword spotting）、喚醒詞檢測(cè)（wake word detection）、喇叭識(shí)別、語(yǔ)音事件識(shí)別和感測(cè)器分析處理。此產(chǎn)品支援 63 個(gè)口語(yǔ)字詞，可透過(guò)編程識(shí)別聲音，如玻璃碎裂聲；此外可監(jiān)控氣體感測(cè)器的數(shù)據(jù)，或運(yùn)用被動(dòng)紅外線數(shù)據(jù)進(jìn)行人體偵測(cè)。
這間新創(chuàng)公司計(jì)畫(huà)在未來(lái)采用類比記憶體處理器取代新芯片的數(shù)位區(qū)塊（圖中的粉紅色部分），以節(jié)省更多電源，而不改變周圍的 IP 區(qū)塊（圖中的藍(lán)色部分）。
該公司將一個(gè)工具程序（utility）整合到 TensorFlow 架構(gòu)中，以實(shí)現(xiàn)量化過(guò)程的自動(dòng)化，并將深度學(xué)習(xí)模型嵌入芯片，目的在于支持往后的其他架構(gòu)。Syntiant 執(zhí)行長(zhǎng) Kurt Busch 表示：“我們提供能介接其他處理器的開(kāi)發(fā)工具套件（SDK）以及訓(xùn)練開(kāi)發(fā)套件，給那些想要自行訓(xùn)練模型的客戶，也能提供語(yǔ)音訓(xùn)練服務(wù)且想要客制化關(guān)鍵字的客戶。”
NDP 100 尺寸為 1.4x1.8 mm，采用 12 球 WLBGA 封裝，可以置入空間受限的手機(jī)和助聽(tīng)器中。NDP 101 采用 5×5mm QFN 封裝，可以從串行快閃記憶體啟動(dòng)，具備 8 個(gè) GPIO，可作為智能喇叭等大型系統(tǒng)中的主要系統(tǒng)單芯片。這兩款產(chǎn)品皆搭載具 112-KB RAM 記憶體的 Arm Cortex-M0 核心，已經(jīng)開(kāi)始出貨。? ? ? ?責(zé)任編輯:pj