中國 2024年03月18日——人工智能芯片研發及基礎算力平臺公司愛芯元智宣布，以“開放·連接”為主題的第二屆玄鐵RISC-V生態大會于03月14日在深圳舉行，愛芯元智聯合創始人、副總裁劉建偉受邀發表主題演講，向與會嘉賓分享了愛芯通元混合精度NPU這一面向邊端側算力布局的AI處理器，以及基于RISC-V生態所進行的AI算力提升及行業落地探索。

　　同時，大會還公布了“玄鐵優選伙伴”，愛芯元智等8家公司入選。據悉，該項榮譽旨在推動玄鐵生態成果落地，連接RISC-V產業鏈生態網絡，促進玄鐵商業生態發展。此次入選，代表著愛芯元智對玄鐵RISC-V生態做出的貢獻得到肯定。

　　AI無處不在，RISC-V為AI計算添動力

　　從以ChatGPT為代表的云端大模型，到邊緣側的計算盒子和散布于端側的各個攝像頭，伴隨著技術的快速發展，AI已經無處不在。智能駕駛、智能機器人、智慧工廠、智慧城市、智能零售等多個端側業務場景下，AI都開始發揮作用，為各行各業帶來了生產力的提升。

　　作為支持邊緣側和端側智能的平臺型芯片公司，愛芯元智以“普惠AI 造就美好生活”作為企業使命，專注于高性能、低功耗的人工智能視覺處理器芯片研發。劉建偉介紹，愛芯元智的系列芯片產品已在AIoT、ADAS兩大產品線得到廣泛應用并實現穩健發展，推動AI在邊緣側和端側的部署落地。

　　但AI在邊端側的落地，也意味著更高的算力需求。對此，精簡、靈活、高效的RISC-V指令集架構展現出了其優勢，有望成為萬物互聯時代核心處理器的架構之一。作為本次玄鐵優選伙伴，愛芯元智也在現場分享了基于玄鐵RISC-V所進行的行業落地實踐，如面向物聯網領域，愛芯元智通過應用玄鐵RISC-V處理器，并結合愛芯智眸AI-ISP和愛芯通元混合精度NPU兩大自研核心技術，實現了快速低功耗AI檢測喚醒，可大大降低系統耗電，輕松應對電池類產品需求。

　　同時，愛芯元智還通過愛芯通元混合精度NPU與玄鐵RISC-V IP的結合，打造出高能效AI計算平臺，實現了圖形分割、以文搜圖等大算力應用，滿足邊端不同場景下對感知、計算和數據處理能力的需求。

　　打造原生AI處理器，攜手玄鐵RISC-V重塑千行百業

　　算力是AI的基礎，那么AI時代，我們究竟需要什么樣的算力基建？

　　劉建偉指出，當下，AI程序的計算密度變得更高，呼喚著NPU這一新的處理器出現，“作為AI專用處理器，NPU應該有自己的指令集，而不是被簡單理解為加速器或是擴展指令集。”其表示，在AI計算中，指令操作的對象變成了高維的張量，因此整個處理器的能耗需要放在數據計算上，且降低數據搬運和整理組合的能耗。而從推理的角度來看，大部分AI的算法/算子已處于收斂狀態。因此，以算子這一AI模型的基本運算單元為指令集進行NPU設計，可以打開硬件微架構設計空間，從而有更多的設計思路可以使用，提高能效比。

　　而作為愛芯元智自研核心技術，愛芯通元混合精度NPU即是以算子為原子指令集的AI計算處理器，其采用多線程異構多核設計，實現算子、網絡微結構、數據流和內存訪問優化，高效支持混合精度算法設計，原生支持Transformer網絡結構，為大模型在邊緣側、端側的應用提供了良好的基礎。

　　同時，愛芯通元混合精度NPU還提供成熟易用的編譯器，從而大幅度降低AI軟件的開發、部署成本，助力客戶在一小時內快速上手，推動AI計算的蓬勃發展。

　　從AI處理器在視覺領域的評價指標來看，愛芯通元混合精度NPU也表現出色，其在運行SwinT時，量化精度達到了高于市面平均水平的80.45%，并有著416 FPS的高性能和199FPS/W的低功耗。

　　為滿足多樣化的AI計算需求，作為AI處理器的NPU還需要更加靈活的動態控制，這也正是愛芯元智與玄鐵RISC-V展開深度合作的原因。據介紹，愛芯元智正在探索基于玄鐵RISC-V主控和愛芯通元混合精度NPU，打造生成式AI解決方案。“我們希望攜手玄鐵RISC-V打造AI硬件的最優平臺選擇，把AI落到千行百業，助力更多客戶提升效率，創造價值。”劉建偉表示。

更多精彩內容歡迎點擊==>>電子技術應用-AET<<