加速 AI 算法,，實(shí)現(xiàn)多場景應(yīng)用

　　全國產(chǎn) AI 計(jì)算平臺(tái)解決方案搭載飛騰高性能處理器和比特大陸最新深度學(xué)習(xí)加速卡,，基于寶德 AI 服務(wù)器進(jìn)行架構(gòu)，計(jì)算性能業(yè)界領(lǐng)先,，特別適用于超大運(yùn)算規(guī)模的深度神經(jīng)網(wǎng)絡(luò)的推理運(yùn)算,，可實(shí)現(xiàn)對諸如視頻結(jié)構(gòu)化、人臉識(shí)別,、物品識(shí)別,、視頻內(nèi)容增強(qiáng)等典型的 AI 運(yùn)算進(jìn)行加速。例如,，接收采集前端傳送的視頻流與圖片流等信息,，利用人工智能算法進(jìn)行智能分析，進(jìn)而將分析結(jié)果傳遞給下一環(huán)節(jié)的應(yīng)用平臺(tái)進(jìn)行處理,，以實(shí)現(xiàn)基于 AI 的場景業(yè)務(wù)應(yīng)用,。

　　典型方案組網(wǎng)示意圖

　　全國產(chǎn) AI 計(jì)算平臺(tái)解決方案適合用在基于深度學(xué)習(xí)技術(shù)實(shí)現(xiàn)的各種 AI+行業(yè)場景的 AI 加速推理，包括互聯(lián)網(wǎng),、智慧警務(wù),、智慧交通、智慧城市,、智慧社區(qū),、智慧零售、工業(yè)智能,、智慧醫(yī)療等 AI+落地場景,。

　　多樣化應(yīng)用場景

　　四大優(yōu)勢賦能千行萬業(yè)

　　飛騰聯(lián)合寶德和比特大陸推出的全國產(chǎn) AI 計(jì)算平臺(tái)解決方案，具有自主安全,、性能領(lǐng)先,、工具鏈完善、業(yè)務(wù)全流程加速四大鮮明優(yōu)勢,，為各行各業(yè)搭上 AI 快車充分賦能,。

　　自主安全

　　飛騰 CPU 處理器和比特大陸算豐 TPU 處理器都是自主研發(fā)的芯片，具備完整的自主知識(shí)產(chǎn)權(quán)和后續(xù)迭代開發(fā)能力,，可以對各類項(xiàng)目提供長期安全可靠的最底層硬件資源支撐,。

　　性能領(lǐng)先

　　該解決方案搭載的飛騰 FT-2000+/64 處理器是飛騰面向高性能服務(wù)器領(lǐng)域的產(chǎn)品，實(shí)測性能達(dá)到了國際主流服務(wù)器 CPU 同等水平,，填補(bǔ)了國產(chǎn)高端通用 CPU 領(lǐng)域的空白,，是中國首款自主設(shè)計(jì)的 64 核通用 CPU，也是國際上首款兼容 ARMv8 指令集的 64 核通用 CPU,。

　　比特大陸 SC5+ 人工智能加速卡是基于 BM1684 芯片的第三代量產(chǎn)產(chǎn)品,，成熟度穩(wěn)定度更高,。該加速卡同時(shí)支持 FP32 和 INT8 等多種精度計(jì)算，SC5+ 三芯片卡可提供強(qiáng)勁的近 100 路視頻硬解碼能力,，內(nèi)存容量可達(dá) 36GB/48GB,，單卡配置 96MB 高速緩存 SRAM，小尺寸模型計(jì)算可大幅提速,，多項(xiàng)指標(biāo)在國內(nèi)同類產(chǎn)品中居首,，在同等運(yùn)算數(shù)精度下的計(jì)算性能超越國際同類主流產(chǎn)品。

　　搭載飛騰 FT-2000+/64,、比特大陸 SC5+ 人工智能加速卡的寶德高性能 AI 服務(wù)器,，具備業(yè)界領(lǐng)先的高算力密度、高能效比,、低功耗等突出特點(diǎn),。

　　工具鏈完善

　　比特大陸工具鏈經(jīng)歷了多年的技術(shù)打磨與沉淀，具備業(yè)內(nèi)領(lǐng)先的完善與成熟度,，對開發(fā)人員友好易用,，可實(shí)現(xiàn)快速上手，能很大程度上節(jié)省算法遷移工作量和成本,。工具鏈支持包括 Caffe,、TensorFlow、Pytorch,、Mxnet,、Darknet,、PaddlePaddle 在內(nèi)的業(yè)內(nèi)主流深度學(xué)習(xí)框架,，涵蓋了神經(jīng)網(wǎng)絡(luò)推理階段所需的模型優(yōu)化、高效運(yùn)行時(shí)支持等能力,，為深度學(xué)習(xí)應(yīng)用開發(fā)和部署提供易用,、高效的全棧式解決方案。

　　業(yè)務(wù)全流程加速

　　SC5+ 加速卡具備視頻解碼,、圖像解碼,、視頻編碼、圖像編碼,、視頻前后處理,、AI 推理運(yùn)算加速、數(shù)據(jù)加密安全引擎等多個(gè)計(jì)算加速單元,，可以對 CV 視覺業(yè)務(wù)的全流程數(shù)據(jù)加工,、計(jì)算、壓縮/解壓縮,、加解密等進(jìn)行逐個(gè)環(huán)節(jié)的運(yùn)算加速增強(qiáng),，減少甚至擺脫對主機(jī)計(jì)算資源的占用,，減少數(shù)據(jù)搬運(yùn)次數(shù)，提高業(yè)務(wù)效率,，增強(qiáng)整體 AI 計(jì)算服務(wù)器的可靠性和魯棒性,。

　　該解決方案相關(guān)產(chǎn)品

　　寶德：BD-21083F2 高性能機(jī)架式服務(wù)器

　　寶德 BD-21083F2 機(jī)架式服務(wù)器是基于國產(chǎn)飛騰處理器  FT-2000+/64 設(shè)計(jì)開發(fā)，同時(shí)搭載多張比特大陸 SC5+ 加速卡,，整體采用國產(chǎn)自主固件和國產(chǎn)自主 Linux 操作系統(tǒng),，成為整體方案高性能、高穩(wěn)定,、高可靠的平臺(tái)保證,。

　　寶德BD-21083F2服務(wù)器

　　該服務(wù)器可支持 10 個(gè)熱插拔 2.5 英寸或 3.5 英寸 SATA/SAS/SSD 硬盤三種存儲(chǔ)方案。整機(jī)結(jié)構(gòu)采用模塊化設(shè)計(jì)方案,，主機(jī)處理器模塊,、系統(tǒng)電源模塊、系統(tǒng)風(fēng)扇可快速免工具拆裝,，具有結(jié)構(gòu)緊湊可靠,、便于擴(kuò)展、便于維護(hù)等優(yōu)點(diǎn),。面向黨政和國家重點(diǎn)行業(yè)信息系統(tǒng)和業(yè)務(wù)系統(tǒng)應(yīng)用需求,，具有高吞吐率、單線程能力強(qiáng),、整數(shù)計(jì)算性能高,、訪問和 IO 通道帶寬高等特點(diǎn)，能滿足相關(guān)應(yīng)用需求,，可以用于各種人臉識(shí)別,、視頻結(jié)構(gòu)化、視頻轉(zhuǎn)碼處理,、安防監(jiān)控,、機(jī)器視覺、高性能計(jì)算環(huán)境,，實(shí)現(xiàn)對多種 CNN/RNN /DNN 等神經(jīng)網(wǎng)絡(luò)模型的高性能推理運(yùn)算,。

　　比特大陸：算豐 SC5+ 加速卡

　　在該方案中搭載比特大陸（BITMAIN）推出的最新一代深度學(xué)習(xí)加速卡 SC5+，來實(shí)現(xiàn)對多種 CNN/RNN /DNN 等神經(jīng)網(wǎng)絡(luò)模型的計(jì)算加速,。

　　比特大陸SC5+加速卡外觀

　　比特大陸 SC5+ 加速卡內(nèi)置 3 顆 BM1684 TPU 處理器,，為標(biāo)準(zhǔn) PCIe 3.0 接口，采用無風(fēng)扇設(shè)計(jì),，可提供高達(dá) 105.6T INT8 算力,，以及 6.6T FP32 算力，可支持高精度計(jì)算,。其中,，BM1684 TPU 處理器采用特別優(yōu)化過的脈動(dòng)陣列架構(gòu),，在進(jìn)行深度學(xué)習(xí)推理時(shí)，具有業(yè)界領(lǐng)先的利用率,。SC5+ 加速卡可以用于各種人臉識(shí)別,、視頻結(jié)構(gòu)化、安防監(jiān)控,、人工智能,、機(jī)器視覺、高性能計(jì)算環(huán)境,，用戶可以通過 BITMAIN 同步提供的工具鏈軟件,，實(shí)現(xiàn)對多種 CNN/RNN /DNN 等神經(jīng)網(wǎng)絡(luò)模型的計(jì)算加速。

　　比特大陸SC5+加速卡配置