在人工智能(AI)技術(shù)如火如荼的今天，NPU神經(jīng)處理單元(N euralP rocessingU nit)作為一種新興的硬件加速器，正在成為ARM主板配置中的新寵。與傳統(tǒng)的CPU和GPU相比，NPU在處理AI任務(wù)上的效率更高，在現(xiàn)今ARM主板配置中也變得越來越重要。本文將帶大家了解 NPU 的作用、必要性，以及國(guó)產(chǎn)芯片廠商是如何對(duì)它進(jìn)行布局的。

　　什么是NPU

　　簡(jiǎn)而言之，NPU是專為AI和機(jī)器學(xué)習(xí)(ML)任務(wù)量身打造的硬件加速器。相較于傳統(tǒng)的CPU和GPU，NPU針對(duì)深度學(xué)習(xí)算法所需的復(fù)雜計(jì)算進(jìn)行了優(yōu)化，能讓自然語言處理、圖像分析等AI任務(wù)更加高效地運(yùn)行。

　　通常，NPU會(huì)與CPU集成在一起。例如，RK3588，RK3588S和RK3568 CPU都已經(jīng)集成了NPU。

　　NPU / CPU / GPU的比較：

　　隨著語音識(shí)別、圖像識(shí)別、人臉識(shí)別等AI應(yīng)用的普及，NPU的優(yōu)勢(shì)將越發(fā)明顯。它能夠迅速、高效地處理和學(xué)習(xí)大量數(shù)據(jù)，并顯著提升應(yīng)用性能。一開始，NPU主要用于提升智能手機(jī)的相機(jī)功能、電池續(xù)航和安全性。但現(xiàn)在，它正在快速擴(kuò)展到ARM主板以及更多物聯(lián)網(wǎng)智能終端。

　　舉例來說，亮鉆部分ARM主板和嵌入式主機(jī)就已經(jīng)內(nèi)置了NPU，例如：邊緣智能主板D-3588和D-3568、智能物聯(lián)網(wǎng)主板K-3588S、AI工業(yè)電腦主機(jī)VEC-3588、邊緣計(jì)算主機(jī)KEC-3566和KEC-A311D等。

　　什么場(chǎng)景需要配置NPU

　　對(duì)于需要處理大量AI任務(wù)的場(chǎng)景，比如醫(yī)療影像分析、智能安防、智能制造、機(jī)器人等，它們需要處理大量復(fù)雜的人工智能、圖像處理或高性能計(jì)算任務(wù)，NPU可以提升設(shè)備的性能和用戶體驗(yàn)。

　　簡(jiǎn)單來說，CPU、GPU和NPU都是運(yùn)作的核心組件，而NPU能在AI任務(wù)方面大顯身手，分擔(dān)GPU和CPU的負(fù)擔(dān)，讓它們更專注于其他傳統(tǒng)任務(wù)。在需要執(zhí)行AI任務(wù)時(shí)，操作系統(tǒng)會(huì)評(píng)估系統(tǒng)資源，決定由NPU還是GPU來完成任務(wù)。

　　國(guó)產(chǎn)芯片廠商深入布局

　　目前，國(guó)產(chǎn)SoC廠商正在加大對(duì)NPU的投入，以豐富和提升SoC人工智能處理能力。NPU在SoC中的典型應(yīng)用主要是機(jī)器視覺。

　　例如，瑞芯微推出的新一代機(jī)器視覺方案RV1106及RV1103，在NPU、ISP、視頻編碼、音頻處理等方面性能都有顯著提升，能夠在低待機(jī)功耗的同時(shí)提供出色的邊緣AI算力。此外，瑞芯微的高性能芯片RV1126配備了2.0Tops的NPU，活體檢測(cè)率高達(dá)98.48%。晶晨股份的A311D采用了高性能A73內(nèi)核，并搭載了5Tops的高性能NPU，適用于各類中高端人工智能物聯(lián)網(wǎng)設(shè)備。

　　結(jié)語

　　展望未來，NPU在AI任務(wù)的高效處理上，預(yù)示著計(jì)算技術(shù)的新紀(jì)元——更快、更直觀、更符合我們的需求。隨著AI技術(shù)的日益普及，未來對(duì)NPU的需求也將會(huì)進(jìn)一步提升，相信NPU的大時(shí)代正在來臨。