加速 AI 算法,實現多場景應用
全國產 AI 計算平臺解決方案搭載飛騰高性能處理器和比特大陸最新深度學習加速卡,基于寶德 AI 服務器進行架構,計算性能業界領先,特別適用于超大運算規模的深度神經網絡的推理運算,可實現對諸如視頻結構化、人臉識別、物品識別、視頻內容增強等典型的 AI 運算進行加速。例如,接收采集前端傳送的視頻流與圖片流等信息,利用人工智能算法進行智能分析,進而將分析結果傳遞給下一環節的應用平臺進行處理,以實現基于 AI 的場景業務應用。
典型方案組網示意圖
全國產 AI 計算平臺解決方案適合用在基于深度學習技術實現的各種 AI+行業場景的 AI 加速推理,包括互聯網、智慧警務、智慧交通、智慧城市、智慧社區、智慧零售、工業智能、智慧醫療等 AI+落地場景。
多樣化應用場景
四大優勢賦能千行萬業
飛騰聯合寶德和比特大陸推出的全國產 AI 計算平臺解決方案,具有自主安全、性能領先、工具鏈完善、業務全流程加速四大鮮明優勢,為各行各業搭上 AI 快車充分賦能。
自主安全
飛騰 CPU 處理器和比特大陸算豐 TPU 處理器都是自主研發的芯片,具備完整的自主知識產權和后續迭代開發能力,可以對各類項目提供長期安全可靠的最底層硬件資源支撐。
性能領先
該解決方案搭載的飛騰 FT-2000+/64 處理器是飛騰面向高性能服務器領域的產品,實測性能達到了國際主流服務器 CPU 同等水平,填補了國產高端通用 CPU 領域的空白,是中國首款自主設計的 64 核通用 CPU,也是國際上首款兼容 ARMv8 指令集的 64 核通用 CPU。
比特大陸 SC5+ 人工智能加速卡是基于 BM1684 芯片的第三代量產產品,成熟度穩定度更高。該加速卡同時支持 FP32 和 INT8 等多種精度計算,SC5+ 三芯片卡可提供強勁的近 100 路視頻硬解碼能力,內存容量可達 36GB/48GB,單卡配置 96MB 高速緩存 SRAM,小尺寸模型計算可大幅提速,多項指標在國內同類產品中居首,在同等運算數精度下的計算性能超越國際同類主流產品。
搭載飛騰 FT-2000+/64、比特大陸 SC5+ 人工智能加速卡的寶德高性能 AI 服務器,具備業界領先的高算力密度、高能效比、低功耗等突出特點。
工具鏈完善
比特大陸工具鏈經歷了多年的技術打磨與沉淀,具備業內領先的完善與成熟度,對開發人員友好易用,可實現快速上手,能很大程度上節省算法遷移工作量和成本。工具鏈支持包括 Caffe、TensorFlow、Pytorch、Mxnet、Darknet、PaddlePaddle 在內的業內主流深度學習框架,涵蓋了神經網絡推理階段所需的模型優化、高效運行時支持等能力,為深度學習應用開發和部署提供易用、高效的全棧式解決方案。
業務全流程加速
SC5+ 加速卡具備視頻解碼、圖像解碼、視頻編碼、圖像編碼、視頻前后處理、AI 推理運算加速、數據加密安全引擎等多個計算加速單元,可以對 CV 視覺業務的全流程數據加工、計算、壓縮/解壓縮、加解密等進行逐個環節的運算加速增強,減少甚至擺脫對主機計算資源的占用,減少數據搬運次數,提高業務效率,增強整體 AI 計算服務器的可靠性和魯棒性。
該解決方案相關產品
寶德:BD-21083F2 高性能機架式服務器
寶德 BD-21083F2 機架式服務器是基于國產飛騰處理器 FT-2000+/64 設計開發,同時搭載多張比特大陸 SC5+ 加速卡,整體采用國產自主固件和國產自主 Linux 操作系統,成為整體方案高性能、高穩定、高可靠的平臺保證。
寶德BD-21083F2服務器
該服務器可支持 10 個熱插拔 2.5 英寸或 3.5 英寸 SATA/SAS/SSD 硬盤三種存儲方案。整機結構采用模塊化設計方案,主機處理器模塊、系統電源模塊、系統風扇可快速免工具拆裝,具有結構緊湊可靠、便于擴展、便于維護等優點。面向黨政和國家重點行業信息系統和業務系統應用需求,具有高吞吐率、單線程能力強、整數計算性能高、訪問和 IO 通道帶寬高等特點,能滿足相關應用需求,可以用于各種人臉識別、視頻結構化、視頻轉碼處理、安防監控、機器視覺、高性能計算環境,實現對多種 CNN/RNN /DNN 等神經網絡模型的高性能推理運算。
比特大陸:算豐 SC5+ 加速卡
在該方案中搭載比特大陸(BITMAIN)推出的最新一代深度學習加速卡 SC5+,來實現對多種 CNN/RNN /DNN 等神經網絡模型的計算加速。
比特大陸SC5+加速卡外觀
比特大陸 SC5+ 加速卡內置 3 顆 BM1684 TPU 處理器,為標準 PCIe 3.0 接口,采用無風扇設計,可提供高達 105.6T INT8 算力,以及 6.6T FP32 算力,可支持高精度計算。其中,BM1684 TPU 處理器采用特別優化過的脈動陣列架構,在進行深度學習推理時,具有業界領先的利用率。SC5+ 加速卡可以用于各種人臉識別、視頻結構化、安防監控、人工智能、機器視覺、高性能計算環境,用戶可以通過 BITMAIN 同步提供的工具鏈軟件,實現對多種 CNN/RNN /DNN 等神經網絡模型的計算加速。
比特大陸SC5+加速卡配置