我們已經(jīng)越來越習(xí)慣于家庭中使用智能設(shè)備,并希望它們變得更加智能,通過先進(jìn)的音頻和視頻處理技術(shù)以及先進(jìn)的傳感器來識(shí)別和解釋語音和運(yùn)動(dòng)。但是,通過創(chuàng)新的人工智能(AI)和機(jī)器學(xué)習(xí)算法實(shí)現(xiàn)的這些進(jìn)步,增加了對(duì)設(shè)備和它們所基于的底層芯片的更高能效的需求。
在芯片設(shè)計(jì)領(lǐng)域,對(duì)功率的考慮并不是什么新鮮事。設(shè)計(jì)工程師一直在努力優(yōu)化能耗目標(biāo),“低功耗”一直是長期的口頭禪—性能,功耗和面積(PPA)的三大支柱之一。
支持智能設(shè)備的現(xiàn)有功能已經(jīng)是一項(xiàng)艱巨的任務(wù),其中包括:
● 具有語音控制功能的揚(yáng)聲器可利用來自訓(xùn)練有素的語音命令的大量詞匯來進(jìn)行高度準(zhǔn)確的語音識(shí)別。
● 穿戴式活動(dòng)跟蹤器,可根據(jù)來自陀螺儀,加速度計(jì)和磁力計(jì)等傳感器的輸入數(shù)據(jù),識(shí)別諸如坐,站,走和跑等人類活動(dòng)。
● 配有智能攝像頭的門鈴,可以執(zhí)行面部識(shí)別并觸發(fā)警報(bào),警報(bào)可以通過圖像或視頻發(fā)送到所有者的移動(dòng)設(shè)備。
● 即使是無人駕駛汽車,也應(yīng)用先進(jìn)的計(jì)算機(jī)視覺技術(shù)來檢測車輛,行人和危險(xiǎn)駕駛情況。
但是,當(dāng)我們考慮諸如AI之類的應(yīng)用如何推動(dòng)對(duì)更大芯片的需求時(shí),這為功率方程式帶來了新的動(dòng)力。
所有這些智能都由AI的進(jìn)步所驅(qū)動(dòng)。但是,由于AI要求越來越高的處理性能,因此隨著更多的晶體管和更新穎的架構(gòu)(例如3D堆棧),芯片將繼續(xù)變得更大。隨著它們更快地處理更多信息,芯片性能的關(guān)鍵限制之一將是溫度。在同一芯片上的如此多的晶體管導(dǎo)致高密度,從而導(dǎo)致結(jié)溫升高,芯片性能開始下降。
設(shè)計(jì)人員將不得不考慮熱失控,因?yàn)樾阅軐?shí)際上會(huì)受到功率的限制。實(shí)際上,電子設(shè)計(jì)自動(dòng)化(EDA)供應(yīng)商正在繼續(xù)致力于提高溫度,這是芯片為成功運(yùn)行所必須解決的關(guān)鍵目標(biāo)之一,以及熟悉的PPA平衡行為。
盡管對(duì)電源和溫度的管理需求對(duì)于插入式設(shè)備至關(guān)重要,但對(duì)于電池供電的物聯(lián)網(wǎng)(IoT)設(shè)備而言,這甚至成為更大的挑戰(zhàn)。對(duì)于這些設(shè)備,由于其毫瓦的功率預(yù)算,在芯片消耗的能量方面沒有錯(cuò)誤或協(xié)商的余地。最重要的是,隨著這些應(yīng)用的芯片轉(zhuǎn)移到越來越小的制程節(jié)點(diǎn)(例如7nm,5nm或3nm)以及全能門架構(gòu),泄漏正在減少,但仍然是管理的關(guān)鍵問題。在低電壓操作下,設(shè)計(jì)人員將需要更加仔細(xì)地研究晶體管之間的變化以及時(shí)序。
所有這些都需要高能效的處理器以及出色的循環(huán)效率,以便IoT設(shè)備的處理器可以在預(yù)期的應(yīng)用程序和用例中完成其工作。對(duì)于執(zhí)行始終開啟功能的IoT邊緣設(shè)備(例如具有“總是聽”語音命令功能的智能揚(yáng)聲器,智能手機(jī)或家庭娛樂系統(tǒng)),低功耗和管理尤為重要。對(duì)于執(zhí)行“始終在觀看”的面部檢測或手勢識(shí)別的基于攝像頭的設(shè)備,情況也是如此。我們的健康和健身監(jiān)測設(shè)備必須始終處于“感應(yīng)狀態(tài)”。
這樣的設(shè)備通常應(yīng)用智能技術(shù)來動(dòng)態(tài)降低功耗。例如,始終監(jiān)聽設(shè)備可以對(duì)麥克風(fēng)信號(hào)進(jìn)行采樣,并使用簡單的語音檢測技術(shù)來檢查是否有人在說話。然后,它僅在檢測到語音活動(dòng)時(shí),才應(yīng)用計(jì)算量更大的機(jī)器學(xué)習(xí)推斷來識(shí)別語音命令。
處理器必須限制在每個(gè)不同狀態(tài)下的功耗-在這種情況下,是語音檢測和語音命令識(shí)別。結(jié)果,必須利用各種電源管理功能(包括有效的睡眠模式和掉電模式)來滿足能耗要求。
那么工程師如何應(yīng)對(duì)這些挑戰(zhàn)?
傳統(tǒng)上,降低功耗的最重要的選擇武器一直是時(shí)鐘門控,多年來,它已經(jīng)從簡單的時(shí)鐘門控到自門控再到順序時(shí)鐘門控發(fā)展了。盡管動(dòng)態(tài)電壓縮放(DVS)提供了一種相當(dāng)普遍的降低功率的技術(shù),但許多設(shè)計(jì)現(xiàn)在開始轉(zhuǎn)向更高級(jí)的自適應(yīng)電壓和頻率縮放(AVFS)方法。
對(duì)于中低計(jì)算要求(很大一部分消費(fèi)物聯(lián)網(wǎng)設(shè)備)的機(jī)器學(xué)習(xí)推理,選擇合適的處理器對(duì)于實(shí)現(xiàn)所需的高效率至關(guān)重要。具體來說,擁有合適的處理器能力來進(jìn)行神經(jīng)網(wǎng)絡(luò)處理可能是滿足低兆赫茲要求(從而滿足低功耗)之間的區(qū)別。
功能更強(qiáng)大的神經(jīng)網(wǎng)絡(luò)和算法的出現(xiàn)使機(jī)器學(xué)習(xí)支持的設(shè)備得以發(fā)展,這些設(shè)備無需進(jìn)行顯式編程即可進(jìn)行學(xué)習(xí)。但是,機(jī)器學(xué)習(xí)能夠?qū)崿F(xiàn)更高的自動(dòng)化和智能化的希望,特別是在消費(fèi)類,邊緣和電池供電的設(shè)備中,意味著PPA中的功率P規(guī)則至高無上。