中國首款嵌入式神經(jīng)網(wǎng)絡(luò)處理器(NPU)“星光智能一號”:智能監(jiān)控新篇章

    6月20日，“神威太湖之光”成為全球最強超級計算機(jī)。但是，這只是這一天祖國科技技術(shù)大躍進(jìn)的一小份。6月20日，南京大學(xué)的基于新型鋁鈦化合金屬技術(shù)的輕質(zhì)高可塑性高溫材料論文發(fā)表于《自然》雜志，性能領(lǐng)先國際先進(jìn)水平一個數(shù)量級。6月20日中星微的嵌入式經(jīng)網(wǎng)絡(luò)處理器(NPU)“星光智能一號”也正式發(fā)布。而在此前，該產(chǎn)品已經(jīng)實現(xiàn)在智能安防領(lǐng)域的商業(yè)化應(yīng)用。本文，大屏君想談的是后者，即NPU。因為這個與我們的大屏應(yīng)用距離最近。

    NPU這是一個新名詞，需要科普一下。NPU即是以神經(jīng)網(wǎng)絡(luò)算法和結(jié)構(gòu)為核心的并行處理器。其具有學(xué)習(xí)、聯(lián)想、記憶和模式識別的物理結(jié)構(gòu)，核心運算是向量乘法，善于處理實時并行大數(shù)據(jù)，并行大數(shù)據(jù)的處理效率是同等功耗下傳統(tǒng)CPU的百倍乃至更高。同時，這種處理器也是對傳統(tǒng)馮諾依曼架構(gòu)的顛覆。

    在視頻領(lǐng)域，NPU的應(yīng)用是怎樣的呢？大屏君有一個簡單的比喻：我們電腦的GPU是把一些邏輯信息轉(zhuǎn)化成畫面，渲染出來；NPU的目的則相反——他是把視頻畫面，盡量轉(zhuǎn)化成可以直接被機(jī)器理解的邏輯信息。

    那么問題來了：為什么智能安防需要這樣一個新CPU呢？（準(zhǔn)確講應(yīng)該叫做NPU）。大屏君覺得這是一個很好的命題。

    大屏君數(shù)過我們辦公大樓的監(jiān)控探頭個數(shù)，一層一層下來好幾百，但是保安就那幾個。如果沒有千眼觀音菩薩的功力，這些探頭的真正意義也就在于：有了犯罪，可能提供一些線索。而如果視頻存儲能力不足，例如只存儲了7天的視頻，那么此前第8天的犯罪信息就沒有了。

    我們電影節(jié)目中，有很多這樣的橋段：持槍歹徒進(jìn)入銀行，銀行女職員企圖按報警器被制止，警察調(diào)用視頻監(jiān)控準(zhǔn)備破案，但是歹徒都帶了頭套，監(jiān)控畫面失去意義，或者干脆安防存儲系統(tǒng)已經(jīng)被破壞，失去了所有數(shù)據(jù)。而如果這是智能安防體系，那么當(dāng)持有武器和蒙面的歹徒進(jìn)入銀行一個探頭視野的時候，安防系統(tǒng)就會自動報警，且銀行內(nèi)的各個區(qū)域會啟動安全隔離和屏蔽裝置——歹徒進(jìn)得來，摸不到錢，也可能抓不到人質(zhì)，而且反身想跑：大門自己鎖上了。

    以上這個假設(shè)案例能成功的前提是：第一個探頭第一時間，知道歹徒來了。原始的解決方案是，找一個人24小時不眨眼的盯著第一個探頭的畫面——不能眨眼或者打瞌睡，那樣歹徒就有可乘之機(jī)。但是，這顯然不符合成本規(guī)律。

    另一個技術(shù)方案則是智能探頭。即攝像機(jī)探頭能夠主動識別視頻中的信息，尤其是學(xué)習(xí)型、模糊化的識別違規(guī)信息，并按照預(yù)設(shè)等級觸發(fā)警報動作。智能安防系統(tǒng)可以做到：可疑情況識別報警，預(yù)防犯罪；犯罪進(jìn)行中報警，實時抓捕；更多數(shù)據(jù)信息，尤其是有效元信息的長期存儲——這些元信息占據(jù)存儲空間的量，只有視頻的幾十分之一，甚至幾百分之一，進(jìn)而保持監(jiān)控系統(tǒng)的長期信息有效。

    不過實現(xiàn)以上這種智能探頭功能，不是一件簡單的事情：視頻內(nèi)容分析和處理，并與特定但不具體的違規(guī)信息匹配（為何說這些違規(guī)信息不具體呢？因為，如持刀歹徒，刀的性狀各式各樣，難以提前預(yù)知，違規(guī)信息組只能給出一個模糊模型）需要強大的運算支持。這是這個系統(tǒng)的核心要求：極低成本下，能夠有效即時的高速識別價值信息�；蛘哒f，安防進(jìn)入智能時代的核心前提就是有足夠強大的終端信息處理能力。

    大家還記得今年3月份，谷歌圍棋人工智能AlphaGo（阿爾法狗）大戰(zhàn)韓國圍棋高手李世石的事情嗎？這個圍棋算法就是典型的學(xué)習(xí)型、模糊算法，是高并行概率計算的神經(jīng)網(wǎng)絡(luò)。那個阿爾法狗的“人工智能”很厲害，水平非常高。但是，對于安防監(jiān)控的攝像頭，這個人工智能系統(tǒng)的“硬件”體積異常巨大——無法嵌入到安防探頭里面去。同時，這套系統(tǒng)的造價也很昂貴，也是安防探頭所不能承受的。

    這是現(xiàn)有IT技術(shù)的瓶頸：即傳統(tǒng)的CPU和軟件不是不能實現(xiàn)學(xué)習(xí)型的智慧算法和功能，而是需要極高的成本——包括設(shè)備體積、耗電量、采購價格等等。AlphaGo背后是幾十臺超級計算機(jī)和服務(wù)集群，下一盤棋要花費3000美金電費。

    那么，對比而言，另一個技術(shù)路線則是專門的嵌入式神經(jīng)算法處理器，即NPU技術(shù)。只有手指肚大小、耗電量相當(dāng)于一個LED燈泡（攝像頭都有數(shù)個紅外照明燈）的NPU方案，就成了智能安防的最好選擇。

    在應(yīng)用了NPU技術(shù)的攝像頭中，不僅記錄實時畫面，更會有效的分析并記錄視頻中的“元信息”。例如，人員著裝特征、車牌號碼、左轉(zhuǎn)右轉(zhuǎn)等等。這些元信息和視頻流一起傳回中央系統(tǒng)，供警報選擇程序調(diào)用，同時也能供后期數(shù)據(jù)挖掘使用�；蛘哌@些元信息也可以直接在探頭端觸發(fā)高階報警動作，如上文假設(shè)中的搶銀行案例。

    通過大屏君的分析，各位可以看到：安防智能與否差別非常大。而安防進(jìn)入智能時代的核心前提就是有足夠強大的終端信息處理能力——谷歌阿爾法狗的能力雖然強大，卻不可能用在攝像頭上，這就是NPU的價值所在。未來的安防系統(tǒng)一定是智能化的。即，面對未來安防系統(tǒng)少則數(shù)十個、多則（如天網(wǎng)系統(tǒng)）千百萬單位計算的探頭規(guī)模和海量數(shù)據(jù)，沒有NPU智能系統(tǒng)，這些巨大投入的價值都會大打折扣。反之，NPU智能探頭則是安防價值倍增器。

    NPU如何做到這一點的呢？答案在于仿生模擬。例如，大屏君和老熟人在馬路上碰到，多長時間能認(rèn)出自己的朋友呢？答案是“馬上就行”。而如果換成傳統(tǒng)計算機(jī)處理，則需要人臉識別計算幾秒鐘，如果這個老朋友帶了眼鏡，那么問題就會變得更復(fù)雜（眼鏡會影響面部特征）——雖然，眼鏡不會影響大屏君對老朋友的認(rèn)識。這種“人”“機(jī)”差別就是人腦神經(jīng)網(wǎng)絡(luò)處理，與傳統(tǒng)計算機(jī)邏輯鏈路處理的效率差異：算1+1=2，人趕不上PC；但是計算模糊和學(xué)習(xí)模型，PC在人腦面前就是“渣渣”。

    NPU的特點就是以神經(jīng)元網(wǎng)絡(luò)為模型，開發(fā)嶄新的、專門用于某類大型并行數(shù)據(jù)的計算單元，它采用“數(shù)據(jù)驅(qū)動并行計算”模式，極大地提升了計算能力與功耗的比例，特別擅長處理視頻、圖像類的海量多媒體數(shù)據(jù)。NPU為視頻監(jiān)控等應(yīng)用帶來的價值是：低成本、高效率、即時性，以及低功耗、小體積。

    當(dāng)然，嵌入式神經(jīng)網(wǎng)絡(luò)處理器NPU的用途不止安防一個：但凡需要高效率、高性能、大數(shù)據(jù)并行處理、即時計算的領(lǐng)域，NPU都可以大有可為。例如無人駕駛系統(tǒng)——日本汽車產(chǎn)業(yè)協(xié)會的報告稱，最晚2030年所有新車都會配備無人駕駛系統(tǒng)。無人駕駛汽車需要實時識別周邊的視頻信息，NPU技術(shù)可以提供高效、即時、可靠且低成本的解決方案。

    類似的例子非常多，這些例子總體上可以叫做“機(jī)器知覺”——即不再是簡單的傳遞攝像頭前前的信息，而是對這些信息給出知識性的分析和結(jié)論。所以，大屏君說NPU這類神經(jīng)網(wǎng)絡(luò)芯片是未來物聯(lián)網(wǎng)系統(tǒng)、智慧社會的核心之一。中星微電子星光一號雖然只采用了卷積神經(jīng)網(wǎng)路（CNN）技術(shù)，在其應(yīng)用上、性能上的瓶頸依然很明顯，但是不積跬步何以至千里，何況作為專用機(jī)器視覺產(chǎn)品，星光一號還有經(jīng)濟(jì)成本優(yōu)勢。

    所以，大屏君堅信“我們一天天好起來，敵人一天天爛下去”。只需加以時日，中國創(chuàng)新、中國創(chuàng)造必將還你一個星辰大海。