與數字相比,模擬的計算速度和功率效率一直很有前景。問題是,開發模擬系統一直受到許多障礙的困擾,包括模擬處理器的尺寸和成本。物聯網的爆炸式增長和人工智能應用的增長重新激發了人們對開發模擬計算新方法的興趣,以解決與日益復雜的工作負荷相關的一些挑戰。
邊緣人工智能應用需要低成本、小尺寸、低延遲、高性能和低功耗的設備(見圖)。模擬解決方案為這些挑戰提供了非常引人注目的解決方法,這可能會讓許多人感到驚訝。模擬技術的最新進展,加上閃存等非易失性存儲器的使用,消除了傳統障礙。
以下是與模擬計算相關的 11 個常見誤區。
1. 數字計算優于模擬計算
數字計算解決方案迎來了信息時代,并將曾經是房間大小的計算機轉變為功能強大的機器,可以放在我們的手掌中??梢哉f,長期以來,數字計算解決方案在大多數應用中都優于模擬解決方案。然而,時代已經改變,當我們展望未來的需求時——每個設備都將在邊緣配備強大的人工智能——很明顯,數字計算將無法跟上。對于模擬計算,通常需要大型、高功耗 GPU 的算法將在可以集成到任何設備中的小型、低功耗、經濟高效的芯片上運行。
數字計算解決方案引領了信息時代的到來,把曾經需要房間大小的電腦變成了功能強大、可以放在我們掌心的機器。公平地說,在很長一段時間里,對于大多數應用來說,數字計算解決方案優于模擬解決方案。然而,時代已經改變了,當我們審視未來的需求時——每個設備都將在邊緣配備強大的人工智能——很明顯,數字計算將無法跟上。有了模擬計算,通常需要大型、耗電的GPU的算法將在小型、低功耗、高性價比的芯片上運行,可以集成到任何設備上。
2. 摩爾定律將繼續延續
今天,只有少數制造商能夠遵循摩爾定律的趨勢,比20世紀90年代的幾十家有所下降,因為它的成本實在太高了。工藝節點的改進已經放緩,而制造成本一直在急劇上升。簡單地說,摩爾定律將不再能照常延續;下一代人工智能處理需要新的方法。
3. 模擬系統設計過于復雜
現代電子設計自動化 (EDA) 工具在以高保真度實現模擬電路的高速仿真方面取得了長足的進步。此外,模擬電路自動校準和補償誤差的能力也有了突飛猛進的發展。這種校準技術允許設計人員以模塊化方式構建模擬計算系統,而不必擔心系統的其他部分如何影響模擬電路。
4. 模擬計算主要是一項研究工作
在 1950 年代和 1960 年代,模擬計算機開始在商業應用中變得過時,盡管模擬計算仍在研究和某些工業和軍事應用中使用。當然,從那以后發生了很多變化。Mythic等公司正在將模擬處理器投入生產,證明模擬不僅適用于商業應用,而且還為當今和未來人工智能的計算挑戰提供了優化的解決方案。
5. 模擬系統不具備高性能
模擬電路可以令人難以置信的快,因為它們不需要依賴通過數字邏輯門的邏輯傳播,或從存儲庫中取出數值。通過使用引導通過閃存陣列的微小電流,可以在不到一微秒的時間內執行大規模并行矩陣運算。
這種性能使模擬系統成為計算密集型工作負載的理想選擇,例如使用對象檢測、分類和深度估計的視頻分析應用程序。這些功能對于工業機器視覺、自主無人機、監控攝像頭和網絡視頻錄像機 (NVR) 應用非常有用。
6. 模擬是耗電的
一個不為人知的問題是數字系統被迫將神經網絡存儲在 DRAM 中,這是一種昂貴、不方便且耗電的方法。DRAM 在活動使用期間和空閑期間都會消耗大量功率,因此系統架構師花費大量時間和精力來最大化處理器的利用率。
數字系統的另一個問題是,它們非常精確,這在性能和功率方面付出了巨大的代價,特別是在涉及到神經網絡時。試想一下,一個系統必須從一大堆3D非易失性內存中讀取數萬億的權重,以實現人工智能算法的即時計算。
在實踐中,人工智能不需要那么高的精度。事實上,一些模擬處理器,在非常密集的非易失性存儲器中執行模擬計算,已經比數字系統高 10 倍(有可能高 100 到 1000 倍)。它們的速度也快得多,可以將8倍多的信息裝入內存。模擬技術更節能的一大優勢是,它可以支持極高的處理密度,而不需要先進的冷卻或供電基礎設施,這對工業和企業應用程序尤其重要。
7. 模擬芯片的設計和制造成本很高
長期以來,人們一直認為模擬系統的設計和制造成本遠高于數字系統。然而,事實是,數字系統越來越難以跟上制造成本和掩模組價格的上漲,1 至 3 納米范圍的成本可能超過 1 億美元。這些成本必須攤銷,這使得每美元實現功能改進變得更加困難。為了讓數字系統跟上人工智能行業不斷增長的計算需求,芯片上的一切都需要實現大規模的性能、成本和功耗改進。
模擬系統具有許多性能和功耗優勢,同時還具有令人難以置信的成本效益。這是因為可以在具有模擬計算的舊工藝節點上實現高性能和令人難以置信的內存密度。這些工藝節點在掩模組和晶圓價格方面的成本顯著降低,成熟穩定,與前沿節點相比具有更大的制造能力
8. 模擬系統和數字系統一樣,必須將神經網絡存儲在DRAM中
硬件最重要的方面之一是每平方毫米的處理器能容納多少內存,以及內存能消耗多少能量。對于數字系統來說,主流的存儲器——SRAM和DRAM——往往消耗太多的能量,占用太多的芯片面積,而且改進的速度不夠快,無法滿足當今人工智能時代的需要。
模擬系統的優勢在于能夠使用非易失性存儲器 (NVM),它提供了令人印象深刻的密度并解決了功率泄漏問題。一些模擬系統使用閃存,這是最常見的 NVM 類型之一,因為它具有令人難以置信的密度,與硬盤驅動器相比很小,并且可以在不通電的情況下保留信息。使用模擬內存計算,算法是通過操縱和組合小電流在 NVM 單元內執行的,小電流以快速和低功耗的方式發生在整個存儲庫中。
9. 模擬不能運行復雜的深度神經網絡
傳統的數字處理系統支持復雜的深度神經網絡 (DNN)。問題是這些平臺占用了大量的硅空間,需要 DRAM,并且消耗大量能源,這就是為什么許多 AI 應用程序將大部分深度學習工作卸載到遠程云服務器的原因。但對于需要對 DNN 進行實時處理的系統,必須在本地處理數據。
當模擬計算與閃存技術相結合時,處理器可以在片上運行多個大型、復雜的 DNN。這消除了對 DRAM 芯片的需求,并在單芯片加速器內實現了難以置信的密集重量存儲。通過讓許多內存計算元素并行運行,處理器可以進一步最大化推理性能。隨著對實時處理的需求不斷增長,這種復雜 DNN 模型的片上執行將變得越來越重要。
10. 模擬系統不像數字系統那么緊湊
的確,模擬系統一直以來都太大了。然而,新的方法使設計非常緊湊的系統成為可能。其中一個原因是閃存的高密度,因此通過將模擬計算與閃存相結合,就可以使用單個閃存晶體管作為存儲介質、乘法器和加法器(累加器)電路。
11. 模擬系統無法適應不斷變化的環境條件
數字技術的一個優點是,它對環境條件的變化具有廣泛的容忍度,例如溫度的變化和電源電壓的波動。在過去的模擬系統中,電壓的任何微小變化都可能在處理時導致錯誤。
然而,有些方法可以使模擬對不同的環境條件具有相同的彈性,并實現規?;?。大多數現代模擬電路是由軟件控制的,并使用大量的補償和校準技術。這些技術還可以補償溫度和電壓的變化,這使得現代高速模擬電路能夠為我們所有的電子設備提供關鍵功能。
原文:
https://www.electronicdesign.com/technologies/analog/article/21180871/mythic-11-myths-about-analog-compute