文獻(xiàn)標(biāo)識碼: A
DOI:10.16157/j.issn.0258-7998.180429
中文引用格式: 譚檢成,吳定祥,,李明鑫,,等. 基于Vivado HLS的Canny算法實(shí)時加速設(shè)計[J].電子技術(shù)應(yīng)用,2018,,44(9):59-62,,66.
英文引用格式: Tan Jiancheng,Wu Dingxiang,,Li Mingxin,,et al. Real-time acceleration design of Canny algorithm based on Vivado HLS[J]. Application of Electronic Technique,2018,,44(9):59-62,,66.
0 引言
邊緣檢測是圖像特征提取、目標(biāo)識別的基礎(chǔ),,圖像邊緣提取的好壞直接影響后續(xù)處理的難易度和準(zhǔn)確度,。在眾多邊緣提取算法中,Canny邊緣提取算法由于其良好的檢測效果在圖像處理中得到廣泛應(yīng)用,。而現(xiàn)階段的工業(yè)視覺檢測中,,圖像處理多為PC平臺或者ARM平臺,在這些平臺下,,Canny邊緣檢測由于計算量大,、耗時長,對平臺本身性能要求也很高,。FPGA憑借高速并行性的特性,,在進(jìn)行圖像處理時能很好地保證系統(tǒng)的實(shí)時性,因此越來越多開發(fā)人員使用FPGA進(jìn)行圖像處理[1-3],。但在現(xiàn)有的文獻(xiàn)中,,有些受FPGA的歷史功能設(shè)計局限,過多地關(guān)注FPGA底層設(shè)計,,有些采用中值濾波,、改進(jìn)高斯濾波模板進(jìn)行Canny邊緣檢測,設(shè)計周期較長,,硬件加速效果不明顯,。武漢科技大學(xué)彭習(xí)武等采用了Xilinx公司的Vivado HLS(高層次綜合)實(shí)現(xiàn)改進(jìn)的Sobel邊緣檢測[4],取得了較好的實(shí)時檢測效果,,但需選擇不同的結(jié)構(gòu)元素對不同的目標(biāo)圖像進(jìn)行膨脹腐蝕,,算法占用硬件資源較多。本文采用Vivado HLS實(shí)現(xiàn)Canny邊緣檢測硬件加速實(shí)現(xiàn)方法,,研究通用性好,、設(shè)計周期短、硬件資源消耗少的FPGA加速算法,。
1 Canny算法基本原理
Canny邊緣檢測[5]算法是CANNY J于1986年提出的,,算法目標(biāo)是在圖像中找到最佳邊緣。其主要步驟為:
(1)圖像高斯濾波:對原始圖像進(jìn)行高斯濾波,,降低輸入圖像中的噪聲對后續(xù)圖像處理的干擾,,有效提升算法抗噪能力。
(2)梯度計算:選擇Sobel的水平與垂直方向3×3窗口模板算子與圖像陣列進(jìn)行計算,,原始圖像為I(i,,j),得到水平與垂直方向的偏導(dǎo)數(shù),,水平,、垂直方向梯度偏導(dǎo)數(shù)分別為Gx和Gy:
(3)非極大值抑制:遍歷圖像,若像素點(diǎn)的幅值大于其梯度方向的幅值,,則可能為邊緣點(diǎn),;否則不是邊緣,對其進(jìn)行抑制,。
(4)雙閾值處理:通過設(shè)定閾值Th,、Tl(一般情況下Tl=0.4Th),抑制后的圖像像素梯度值大于Th的是邊緣點(diǎn),,小于Tl的一定不是邊緣點(diǎn),,如果處于兩者之間,判斷當(dāng)前像素的鄰域像素中是否有邊緣點(diǎn),,若有,,則為邊緣點(diǎn),否則就不是邊緣,。
2 Vivado HLS實(shí)現(xiàn)方式
Vivado HLS是Xilinx公司推出的加速數(shù)字系統(tǒng)設(shè)計開發(fā)工具,,直接使用C、C++或SystemC開發(fā)的高層描述來綜合數(shù)字硬件,,替代用VHDL或Verilog實(shí)現(xiàn)FPGA硬件設(shè)計[6],,實(shí)現(xiàn)設(shè)計的功能和硬件分離,不需要關(guān)心低層次具體細(xì)節(jié),,具有很強(qiáng)的靈活性,,有效降低數(shù)字系統(tǒng)設(shè)計開發(fā)周期。Vivado HLS在算法優(yōu)化指標(biāo)和FPGA硬件設(shè)計方式指標(biāo)是一致的:(1)面積,,算法硬件資源使用的數(shù)量,;(2)速度,硬件電路處理數(shù)據(jù)的速率。一般的設(shè)計是對兩者之間的特殊需求進(jìn)行優(yōu)化,,得到合理的方案,。
2.1 Vivado HLS設(shè)計流程
Vivado HLS設(shè)計流程如圖1所示。C代碼設(shè)計和C測試集設(shè)計是HLS設(shè)計流程的輸入,;C功能性驗(yàn)證能確保代碼功能的完整性,;高層綜合能產(chǎn)生所需的各個設(shè)計文件;C/RTL協(xié)同仿真可以進(jìn)行預(yù)期值與輸出的對比,;設(shè)計迭代是通過不斷地調(diào)整指令得到預(yù)期需要的優(yōu)化設(shè)計,,在不改變C代碼的情況下,由優(yōu)化指令轉(zhuǎn)化成小面積高吞吐率的RTL電路[7],;最后RTL電路被綜合成FPGA邏輯模塊,。
2.2 Vivado HLS圖像實(shí)時加速
Vivado HLS圖像實(shí)時加速設(shè)計的方式如圖2所示。
視頻流進(jìn)入FPGA后,,由AXI4-Stream協(xié)議將數(shù)據(jù)流轉(zhuǎn)換為HLS視頻庫下的hls::Mat格式,,在進(jìn)行對應(yīng)的圖像FPGA加速處理后,將hls::Mat格式重新轉(zhuǎn)換為AXI4-Stream數(shù)據(jù)流,。
Vivado HLS提供了以下幾個方面功能對圖像視頻處理建模[8]:(1)內(nèi)存行緩存(Memory Line Buffer),;(2)內(nèi)存窗口緩存(Memory Window Buffer);(3)視頻數(shù)據(jù)支持格式類型,;(4)視頻函數(shù)庫,。HLS內(nèi)存行緩存實(shí)質(zhì)是能存儲多行像素數(shù)據(jù)的多維移位寄存器[9],而窗口緩存是行緩存的一個子集,,這兩種存儲結(jié)構(gòu)一般被綜合為Block RAM,,并且行緩存的寬度決定了圖像算法能進(jìn)行硬件加速的最大圖像寬度。Vivado HLS對一幀圖像像素的遍歷是通過創(chuàng)建上述兩種緩存實(shí)現(xiàn)的,,圖3是遍歷圖像像素的計算內(nèi)核路徑,。Vivado HLS下圖像處理基于視頻流訪問,因此,,基于隨機(jī)存儲訪問的圖像處理方式需要進(jìn)行轉(zhuǎn)換,,綜合為FPGA處理下的圖像數(shù)據(jù)流處理方式,實(shí)現(xiàn)圖像算法的硬件加速,。
3 Vivado HLS實(shí)現(xiàn)Canny邊緣檢測
根據(jù)Vivado HLS設(shè)計流程,,Canny邊緣檢測的硬件加速實(shí)現(xiàn)流程如圖4所示。
3.1 圖像數(shù)據(jù)流輸入
圖像數(shù)據(jù)通過AXI4-Stream輸入到Canny邊緣檢測IP,,由AXIvideo2Mat將數(shù)據(jù)流轉(zhuǎn)換為hls::Mat類型,,完成Canny邊緣檢測IP的硬件加速設(shè)計。
3.2 圖像計算內(nèi)核創(chuàng)建
創(chuàng)建類型為hls::Window,、大小為1×3和3×3的窗口緩存,,以及類型為hls::LineBuffer、大小為3×1 920的行緩存。將圖像像素寫入第一行行緩存,,每寫入一次新的圖像數(shù)據(jù),,讀出對應(yīng)行緩存的數(shù)據(jù)到1×3的窗口緩存,同時3×3的窗口緩存右移,,把1×3的窗口緩存數(shù)據(jù)寫入3×3的窗口緩存的第一列,,每一行行緩存寫滿時,當(dāng)前行緩存數(shù)據(jù)移位寫入下一行,。通過上述方式,由3×3窗口緩存構(gòu)成的計算內(nèi)核完成圖像的遍歷,。
3.3 圖像濾波
考慮到濾波器窗口太大圖像邊緣會被過度平滑,,選擇高斯濾波器為3×3的濾波窗口,σ值為1.5,,由于模版系數(shù)歸一化后均為小數(shù),,對于FPGA而言,需要增加硬件資源消耗實(shí)現(xiàn)浮點(diǎn)類型,,因此,,將模板系數(shù)全部乘以256后取整,對于實(shí)際處理而言,,這種近似值產(chǎn)生的誤差不會對濾波效果產(chǎn)生很大影響,,實(shí)際模板系數(shù)為:
將濾波模板GuassBlur與計算內(nèi)核進(jìn)行卷積,卷積后的結(jié)果右移8位(除以256),,移位操作不會消耗FPGA的DSP資源,,節(jié)約了FPGA資源,由上述的移位運(yùn)算后,,完成圖像數(shù)據(jù)的高斯濾波,。
3.4 梯度計算
創(chuàng)建3×3濾波后的圖像計算內(nèi)核窗口,將計算內(nèi)核分別與Sobel的水平與垂直方向3×3窗口算子卷積,,求得水平,、垂直方向梯度偏導(dǎo)數(shù)Gx和Gy大小,由于硬件實(shí)現(xiàn)平方根需要的資源較多,,故通過Gx和Gy的絕對值之和求梯度G的幅值,。對于梯度的方向θ=arctan(Gy/Gx),硬件實(shí)現(xiàn)較為困難,,需要消耗很多硬件資源,,一般是比較像素領(lǐng)域窗口,對于3×3窗口而言,,求其領(lǐng)域8個方向,,由于對稱性,只需要求得4個方向,0°,、45°,、90°和135°,即把梯度Gy的值與Gxtan22.5°和Gxtan67.5°比較,,同時判斷GyGx乘積的正負(fù)性,,可求得梯度的方向θ值的大小。為節(jié)約硬件資源可以采取對Gy左移4位,,Gxtan22.5°左移4位,,取值約為6.625Gx,Gxtan67.5°左移4位,,約為38.625Gx,,即:
通過簡單移位判斷大小和正負(fù)性,得到梯度方向θ的近似值,。
3.5 非極大值抑制和雙閾值處理
定義位寬為2位的寄存器,,4個方向?qū)?yīng)寄存器值0,1,,2,,3,將該寄存器與存儲梯度值G寄存器組合輸出到新創(chuàng)建的圖像行緩存,,并創(chuàng)建新的3×3計算內(nèi)核,,通過計算內(nèi)核窗口判斷圖像數(shù)據(jù)的方向,進(jìn)行極大值抑制,。計算內(nèi)核中心點(diǎn)與對應(yīng)梯度方向的像素點(diǎn),、高閾值Th、低閾值Tl進(jìn)行比較,,若計算內(nèi)核中心點(diǎn)最大則為圖像強(qiáng)邊緣點(diǎn),;若計算內(nèi)核中心點(diǎn)大于梯度方向,處于Tl和Th之間,,為弱邊緣點(diǎn),;其他情況均不是圖像的邊緣點(diǎn)。
創(chuàng)建新的行緩存寫入上述圖像邊緣數(shù)據(jù),,由新的3×3計算內(nèi)核做進(jìn)一步處理:若計算內(nèi)核中心點(diǎn)是強(qiáng)邊緣點(diǎn)輸出255,;若計算內(nèi)核是弱邊緣點(diǎn),判斷其八鄰域是否存在強(qiáng)邊緣點(diǎn),,不存在強(qiáng)邊緣點(diǎn)則輸出0,,存在則輸出255,同時把中心點(diǎn)值改變?yōu)閺?qiáng)邊緣點(diǎn)值,;其他情況直接輸出0,。
3.6 圖像數(shù)據(jù)流輸出
處理后的數(shù)據(jù)通過AXIvideo2Mat將hls::Mat格式重新轉(zhuǎn)為AXI4-Stream數(shù)據(jù)流,,圖像數(shù)據(jù)通過上述的處理完成Canny邊緣檢測的硬件加速。
3.7 指令優(yōu)化迭代
采用Vivado HLS提供的模塊優(yōu)化指令如inline,、pipeline,、dataflow以及對循環(huán)展開的unroll等,完成算法硬件加速的優(yōu)化,,達(dá)到硬件資源消耗和算法處理速度之間的平衡,。一般的優(yōu)化為串行方式和并行方式兩種,串行優(yōu)化方式使用硬件資源少,,并行優(yōu)化方式處理速率高[4],。為獲得良好的硬件加速效果,選擇并行優(yōu)化方式,,具體措施為:(1)對模塊內(nèi)部循環(huán)展開,;(2)循環(huán)、模塊內(nèi)部流水化處理,;(3)模塊之間流水化處理。為驗(yàn)證本方案的資源占用情況,,選取文獻(xiàn)[4]進(jìn)行對比分析,,在保證運(yùn)算速度基本相同的情況下,選取并行方案對硬件資源使用情況列于表1,。從表1可以看出,,本文邊緣檢測算法的硬件資源使用少。
4 邊緣檢測效果與速度驗(yàn)證
以Zedboard開發(fā)板為算法驗(yàn)證平臺,,開發(fā)板FPGA芯片型號為xc7z020484-1,,圖像由開發(fā)板PS端輸入到FPGA算法IP中,通過HDMI將原始圖像和處理后圖像輸出到顯示屏,。
圖5(a)為512×512測試圖像,;圖5(b)為PC進(jìn)行的Canny邊緣檢測圖像;圖5(c)為FPGA驗(yàn)證的圖像,;PC的主頻為2.3 GHz,,對應(yīng)的圖5(b)處理時間約為10 ms左右;FPGA的時鐘頻率為100 MHz,,圖5(c)處理時間約為3 ms,。
由圖5(c)和圖5(b)處理時間的對比可知,圖5(c)算法處理時間不到圖5(b)的1/3,,說明加速效果明顯,。從文獻(xiàn)[1]中可知,在相同系統(tǒng)時鐘下處理512×512的圖像,,時間約為20 ms,,遠(yuǎn)小于圖5(c)的處理速度,。因此,Vivado HLS實(shí)現(xiàn)的Canny邊緣檢測算法能在較復(fù)雜的情況下檢測到圖像邊緣,,且運(yùn)算速度快,。
5 結(jié)論
由Vivado HLS進(jìn)行FPGA圖像算法硬件加速設(shè)計方式,既避免了傳統(tǒng)FPGA圖像算法開發(fā)中過于關(guān)注底層細(xì)節(jié),,又能有效地縮短開發(fā)周期,。通過仿真與FPGA驗(yàn)證,采用Vivado HLS實(shí)現(xiàn)的Canny邊緣檢測算法能在較復(fù)雜的情況下檢測到圖像邊緣,,運(yùn)算速度快,,資源消耗少,可以應(yīng)用到實(shí)時視覺檢測中,。
參考文獻(xiàn)
[1] 肖國堯,,曲仕茹.基于FPGA視頻圖像的Canny算法加速器設(shè)計[J].現(xiàn)代電子技術(shù),2012(9):91-94.
[2] 張素文,,陳志星,,蘇義鑫.Canny邊緣檢測算法的改進(jìn)及FPGA實(shí)現(xiàn)[J].紅外技術(shù),2010,,32(2):93-96.
[3] 韋海萍,,趙保軍,唐林波,,等.Canny算法的改進(jìn)及其硬件的實(shí)現(xiàn)[J].光學(xué)技術(shù),,2006(2):263-266.
[4] 彭習(xí)武,張濤.基于Vivado HLS的邊緣檢測硬件加速應(yīng)用[J].電子技術(shù)應(yīng)用,,2017,,43(5):70-73.
[5] CANNY J.A computational approach to edge detection[J].IEEE Transactions on Pattern Analysis and Machine Intelligence,1986(6):679-698.
[6] CROCKETT L H,,ELLIOT R A,,ENDERWITZ M A,et al.The Zynq book:embedded processing with the ARM Cortex-A9 on the Xilinx Zynq-7000 all programmable SoC[M].Strathclyde Academic Media,,2016.
[7] Xilinx,,Inc/Vivado design suite tutorial: high-level synthe-sis[Z].UG871,2015.
[8] Xilinx,,Inc.Vivado design suite user guide: high-level synthesis[Z].UG902,,2015.
[9] Xilinx,Inc.Implementing memory structures for video processing in the Vivado HLS tool[Z].XAPP793,,2012.
作者信息:
譚檢成1,,2,吳定祥2,,3,,李明鑫1,,2,唐立軍1,,2
(1.長沙理工大學(xué) 物理與電子科學(xué)學(xué)院,,湖南 長沙410114;
2.近地空間電磁環(huán)境監(jiān)測與建模湖南省普通高校重點(diǎn)實(shí)驗(yàn)室,,湖南 長沙 410114,;
3.長沙億旭智能科技有限公司,湖南 長沙410004)