全球領先的蜂窩通信、多媒體和連接性DSP IP平臺授權廠商CEVA公司宣布推出實時神經網絡軟件框架CEVA 深層神經網絡(CEVA Deep Neural Network, CDNN),以簡化低功耗嵌入式系統中的機器學習部署。通過利用CEVA-XM4 圖像和視覺DSP的處理能力,CDNN使得嵌入式系統執行深層學習任務的速度比基于GPU的領先系統提高3倍,同時消耗的功率減少30倍,所需存儲帶寬減少15倍 (注)。例如,在28nm工藝下對每秒 30幀的1080p視頻流運行基于深層神經網絡(DNN) 的行人檢測算法,所需功率低于30mW。
CDNN具備高性能、低功率和低存儲帶寬特性的關健在于CEVA網絡生成器(CEVA Network Generator),這個專有自動化技術能夠將客戶的網絡結構和權重轉換為用于實時的、輕量級的定制網絡模型,以實現可以顯著減少功耗和存儲帶寬的更快速網絡模型,與原本網絡相比,其精度退化低于1%。這個定制嵌入就緒(embedded-ready)網絡一旦生成,便可使用完全優化的卷積神經網絡(Convolutional Neural Network, CNN)層、軟件庫和API在CEVA-XM4圖像和視覺DSP上運行。
CEVA公司CEVAnet合作伙伴計劃的成員企業Phi Algorithm Solutions已經使用CDNN實現了一個基于CNN的通用目標檢測 (Universal Object Detector)算法,用于CEVA-XM4 DSP。現在應用開發人員和OEM廠商可以把這個算法用于各種應用,包括用于安全的行人檢測和面部檢測、先進駕駛輔助系統(ADAS)和基于低功耗相機功能系統的其它嵌入式設備。
Phi Algorithm Solutions總裁兼共同創始人Steven Hanna表示:“CEVA深層神經網絡框架為我們基于卷積神經網絡的算法提供了從離線訓練到實時檢測的快速順暢路徑,使得我們能夠在短短數天內獲得經過優化的獨特目標檢測網絡實施方案,并且功耗比其它平臺顯著降低。CEVA-XM4圖像和視覺DSP結合CDNN框架,是嵌入式視覺設備的理想選擇,并且為使用深層學習技術的人工智能設備在未來數年的進步打穩了根基。”
CEVA營銷副總裁Eran Briman表示:“至今為止,我們已贏得了20多項設計,在嵌入式視覺處理器領域繼續領先業界,并且不斷提升我們的視覺IP產品組合以幫助客戶更快地將產品推向市場并且最大限度地降低風險。我們用于CEVA-XM4的新型深層神經網絡框架是嵌入技術行業中首個此類產品,為尋求在功率受限的嵌入式系統中實施可行深層學習算法的開發人員實現了長足的進步。”
CDNN軟件框架以源代碼方式提供,擴展了CEVA-XM現有的應用開發套件 (ADK) 。它具有靈活和模塊化特性,能夠支持完整的CNN實施方案或特定層,并且可與各種網絡和結構共享,比如使用Caffe、Torch或Theano訓練框架開發的網絡,或專有網絡。CDNN包括用于圖像分類、定位和目標識別的實時示例模型,用于目標和場景識別、先進駕駛輔助系統(ADAS)、人工智能(AI)、視頻分析、增強現實(AR)、虛擬現實(VR)和類似的計算機視覺應用。
CEVA公司將在11月12日主辦針對實施嵌入式系統機器視覺應用的實時網絡研討會,包括深入探討CDNN。如要了解更多信息和注冊參加網絡研究會,請訪問網頁http://www.linleygroup.com/events/event.php?num=35.
注:比較在最常用的深層神經網絡AlexNet上的運行情況
關于CEVA公司
CEVA公司是向移動通信、消費類電子、汽車及物聯網市場中的半導體公司及OEM產商提供用于蜂窩通信、多媒體和無線連接技術的領先授權廠商。我們的DSP IP產品線包括各種全面的平臺,用于終端及基站的多模2G/3G/LTE/LTE-A基帶處理、任何具備攝像頭的設備的計算機視覺及計算圖像學處理、以及面向多個物聯網市場的先進的音頻/語音處理和超低功耗Always-on/傳感應用。在連接性領域內,我們提供的業內最廣泛IP覆蓋藍牙(Bluetooth Smart 及Bluetooth Smart Ready)、Wi-Fi (802.11 b/g/n/ac 以至 4x4)以及串行存儲 (SATA和SAS)領域。CEVA的IP應用于全球三分之一的手機,分別來自頂尖手機OEM廠商如三星、華為、小米、聯想、HTC、LG、酷派、中興 (ZTE)、Micromax和魅族等。