一種基于知識蒸餾的量化卷積神經網絡FPGA部署
電子技術應用
羅德宇,郭千禧,張懷誠,黃啟俊,王豪
武漢大學 物理科學與技術學院
摘要: 設計了一種針對心電數據實時分類的量化神經網絡,將權重量化為兩位整數,運用知識蒸餾的方法使性能達到了期望的效果,并部署于FPGA開發板上。知識蒸餾后的量化網絡比全精度網絡的分類準確率提升了9%。在FPGA開發板上的運行結果符合預期,達到了需要的性能,可以對左束支傳導阻滯(L)、右束支傳導阻滯(R)、正常心拍(N)和室性早搏綜合征(V)四種心電信號進行分類,相比于其他量化方式對存儲參數的需求更小,資源使用更少,相比于CPU速度提升了1.5倍,運行時間達到實時性要求,適合于部署在小型、輕量化的資源有限的可穿戴設備上。
中圖分類號:TN911.72 文獻標志碼:A DOI: 10.16157/j.issn.0258-7998.234479
中文引用格式: 羅德宇,郭千禧,張懷誠,等. 一種基于知識蒸餾的量化卷積神經網絡FPGA部署[J]. 電子技術應用,2024,50(4):97-101.
英文引用格式: Luo Deyu,Guo Qianxi,Zhang Huaicheng,et al. An FPGA implement of ECG classifier using quantized CNN based on knowledge distillation[J]. Application of Electronic Technique,2024,50(4):97-101.
中文引用格式: 羅德宇,郭千禧,張懷誠,等. 一種基于知識蒸餾的量化卷積神經網絡FPGA部署[J]. 電子技術應用,2024,50(4):97-101.
英文引用格式: Luo Deyu,Guo Qianxi,Zhang Huaicheng,et al. An FPGA implement of ECG classifier using quantized CNN based on knowledge distillation[J]. Application of Electronic Technique,2024,50(4):97-101.
An FPGA implement of ECG classifier using quantized CNN based on knowledge distillation
Luo Deyu,Guo Qianxi,Zhang Huaicheng,Huang Qijun,Wang Hao
School of Physics and Technology, Wuhan University
Abstract: In this paper, we designed a quantized convolutional neural network for real-time classification of ECG data, quantized the weights to INT2, applied knowledge distillation to achieve the desired classification results, and deployed it on FPGA. The quantized network after knowledge distillation improved the classification accuracy by 9% over the full precision network. The running results on the FPGA meet the expectations and achieve the required performance to classify four types of ECG signals, left bundle branch conduction block (L), right bundle branch conduction block (R), normal beat (N) and ventricular premature beat syndrome (V), which requires less storage parameter requirements and less resource usage than other quantization methods, and improves the computational speed of the CPU compared to the CPU by 1.5 times, the running time meets the real-time requirement, and is suitable for deployment on small, lightweight wearable devices with limited resources.
Key words : ECG signal;quantized CNN;knowledge distillation;FPGA
引言
我國心血管病(Cardiovascular Disease,CVD)發病率和死亡率仍在升高,在我國城鄉居民疾病死亡構成比中,CVD占首位[1]。提前預防和診斷CVD是目前很重要的醫療問題。24 h動態心電圖可以在較長時間內對人體心臟安靜和活動狀態下的心電圖變化情況進行記錄、編集和分析,進而了解心電圖的變化情況,可以作為CVD診斷的重要依據[2]。在心電信號自動識別的領域,神經網絡算法常常被用來作為分析的算法,這種分析算法常常采用的是一維的ECG信號[3]。而在算法中使用被轉為二維的ECG信號時,更多的信息量給量化算法提供了更好的條件,也更適合于硬件實現[4]。本文設計了一種針對心電數據實時分類的量化神經網絡,并部署于FPGA上,驗證了效果。該硬件化模塊具有小型化、準確率高、計算速度快等特點,適合于部署在便攜式心電監測設備上。
本文詳細內容請下載:
http://www.rjjo.cn/resource/share/2000005956
作者信息:
羅德宇,郭千禧,張懷誠,黃啟俊,王豪
(武漢大學 物理科學與技術學院,湖北 武漢 430072)
此內容為AET網站原創,未經授權禁止轉載。