從2015年以來,人工智能的第三次浪潮可以說是隨著深度學(xué)習(xí)技術(shù)的突破發(fā)展驅(qū)動而掀起。發(fā)展到現(xiàn)在,人工智能的產(chǎn)業(yè)發(fā)展關(guān)鍵在于商業(yè)化。商業(yè)化僅僅依靠技術(shù)本身將無以為繼,AI市場容量、應(yīng)用的深度、數(shù)據(jù)的規(guī)模決定了人工智能在某個具體行業(yè)的發(fā)展速度。就這一點(diǎn)而言,得益于平安城市十幾年的建設(shè),安防行業(yè)的智能化走在了前面。
根據(jù)美國信息服務(wù)社的數(shù)據(jù),截至 2015 年末,全球已安裝了超過 2.45 億個視頻監(jiān)控攝像頭,我國已安裝的監(jiān)控攝像頭也已超過 3000 萬個,同時全球和國內(nèi)監(jiān)控攝像頭銷售市場仍在逐年擴(kuò)張,每年僅我國就產(chǎn)生數(shù)萬PB的數(shù)據(jù)量。與數(shù)據(jù)量同步增長的是巨大的市場規(guī)模,國內(nèi)安防市場在近十年來快速發(fā)展,市場總產(chǎn)值從2012年的3280億,增長到了2017年的6000億,研究機(jī)構(gòu)預(yù)計到2022年會達(dá)到萬億規(guī)模。
海量數(shù)據(jù)決定了智能化的發(fā)展速度,市場規(guī)模決定了商業(yè)化的潛力。人工智能+安防成為各大公司追逐的“香餑餑”則是必然。本文將從市場格局、技術(shù)方案、AI芯片三個方面,由大到小分析AI安防芯片的行業(yè)面貌及其發(fā)展現(xiàn)狀與前景。
市場格局
近年來,安防行業(yè)保持了中高速增長態(tài)勢,行業(yè)中企業(yè)集中度大幅提高,行業(yè)競爭加劇,資源向龍頭企業(yè)集中趨勢愈發(fā)明顯。隨著安防龍頭企業(yè)快速崛起,大型企業(yè)與中小企業(yè)之間的差距逐漸拉大,再加上產(chǎn)業(yè)鏈延伸、橫向跨界、行業(yè)深耕方面的優(yōu)勢,強(qiáng)者越強(qiáng)、贏者通吃的趨勢已經(jīng)顯現(xiàn)。
國內(nèi)安防行業(yè)價格競爭日趨激烈,導(dǎo)致傳統(tǒng)產(chǎn)品毛利率有所下滑,具有技術(shù)壁壘的安防龍頭公司占據(jù)優(yōu)勢。行業(yè)長尾效應(yīng)明顯,洗牌加劇,龍頭企業(yè)依托技術(shù)、資源和規(guī)模優(yōu)勢仍能保持高速增長,而位于長尾尾端的眾多中小企業(yè)已逐漸處于盈虧平衡狀態(tài),生存艱難。
安防行業(yè)發(fā)展多年,企業(yè)在規(guī)模上明顯形成了梯度,海康威視、大華、宇視等公司占據(jù)了絕大部分市場份額,并且都在積極擁抱AI技術(shù)。國內(nèi)安防領(lǐng)域整體的集中程度也逐年攀升,形成了“兩超多強(qiáng)”的格局,海康威視和大華股份領(lǐng)跑市場,東方網(wǎng)力、佳都、蘇州科達(dá)、天地偉業(yè)、漢王等第二梯隊企業(yè)奮起直追。AI技術(shù)火爆之后,近幾年又出現(xiàn)了眾多基于人工智能的軟硬件提供商,例如依圖、商湯、曠視、云從、比特大陸等。當(dāng)有了新技術(shù)的支持,尤其在AI應(yīng)用正式落地安防之后,投資或收購AI技術(shù)公司成為傳統(tǒng)安防企業(yè)最有效創(chuàng)新升級的方式。
技術(shù)方案
多年的發(fā)展,使得安防行業(yè)不僅形成了比較完整的市場格局和產(chǎn)業(yè)鏈。在市場格局方面,視頻監(jiān)控占據(jù)了近50% 的市場份額,這其中又分為前端(攝像頭)和后端(主控/云端)兩部分。
前端產(chǎn)品的核心功能是為后端提供高質(zhì)量、初步結(jié)構(gòu)化的圖像數(shù)據(jù),其主要作用有兩點(diǎn):提升部分智能分析應(yīng)用的實(shí)時性,節(jié)省帶寬和后端計算資源。
典型的前端智能攝像頭內(nèi)置深度學(xué)習(xí)算法,一方面可以在前端完成人臉定位檢測和質(zhì)量判斷,有效解決漏抓誤報問題,同時擁有較好的圖像效果,即使周圍環(huán)境光線不佳,人員戴帽子或一定角度下低頭、側(cè)臉,仍然可以做到準(zhǔn)確檢測,并自動截取視頻中的人臉輸出給后端;另一方面可以輸出編碼后的網(wǎng)絡(luò)視頻,還支持輸出非壓縮、無損無延時的視頻流圖像,這樣可以為大型用戶節(jié)省服務(wù)器成本和帶寬,在同等服務(wù)器數(shù)量和計算能力的情況下能夠接入更多路攝像頭。
后端產(chǎn)品的核心功能是利用計算能力對視頻數(shù)據(jù)進(jìn)行結(jié)構(gòu)化分析,一般包括智能 NVR、高密度 GPU服務(wù)器。前者是基于深度學(xué)習(xí)算法推出的智能存儲和分析產(chǎn)品,兼顧傳統(tǒng) NVR 優(yōu)勢的同時增加了視頻結(jié)構(gòu)化分析功能;后者集成了基于深度學(xué)習(xí)的智能算法,每秒可實(shí)現(xiàn)數(shù)百張人臉圖片的分析、建模,可支持?jǐn)?shù)十萬人臉黑名單布控,人臉 1V1 比對、以臉?biāo)涯樀榷囗棇?shí)用功能,滿足各行業(yè)的人臉智能分析需求。
從前后端智能化模塊來看,目前的解決方案有兩種思路,一種是智能前置,一種是后置智能,這一直是行業(yè)備受爭議的兩個方向。由于前端設(shè)備內(nèi)的空間有限,再加上功耗、成本等因素的限制,智能前置會受硬件計算資源限制,只能運(yùn)行相對簡單的、對實(shí)時性要求很高的算法,但算法升級、運(yùn)維較難;后端智能分析通常可以根據(jù)需求配置足夠強(qiáng)大的硬件資源,能夠運(yùn)行更復(fù)雜的、允許有一定延時的算法。另外,在后端算法升級、運(yùn)維都會比較方便。需要說明的是,前后端產(chǎn)品不是對立與競爭的關(guān)系,根據(jù)實(shí)際應(yīng)用的不同將長期同時存在。
AI芯片的發(fā)展前景
無論是前端產(chǎn)品還是后端產(chǎn)品,其底層能力都是芯片賦予的。對于智能前端產(chǎn)品目前有兩種芯片解決方案。
一種是較為通用的視覺處理器(半定制芯片),如 movidius 、英偉達(dá)的 Jetson 系列芯片、NVIDIA 的Jetson TX 芯片,這些主要針對終端市場。海康、大華、宇視、蘇州科達(dá)、格靈深瞳、商湯科技等大部分公司的前端智能產(chǎn)品在 2016 年正式推出。另一種是將較為通用的智能識別類算法直接固化為 IP ,嵌入到視頻監(jiān)控 SOC 芯片中(全定制芯片),優(yōu)點(diǎn)是量產(chǎn)后功耗、價格等都極具優(yōu)勢,但功能拓展性有限。
在后端芯片方面,英偉達(dá)的GPU被采用最多,其應(yīng)用場景通用,但是昂貴,不過我們不得不承認(rèn)在安防監(jiān)控領(lǐng)域GPU依然是最主流的深度學(xué)習(xí)方案,但GPU在成本、效率、功耗三方面仍在不足:
成本方面,嵌入式端GPU為數(shù)百美金,后端高性能GPU高達(dá)數(shù)千美金。在嵌入式端,市場上已量產(chǎn)的IPC Soc 芯片價格已經(jīng)降到幾美金,可以說是很好的替代品,但后端需要做大規(guī)模數(shù)據(jù)處理時還是離不開GPU。高昂的芯片成本,推高了前后端設(shè)備的價格,阻礙了大范圍應(yīng)用。
效率方面,GPU擅長深度學(xué)習(xí)算法訓(xùn)練,但卻拙于推理。在推理階段,一次只能處理一張輸入圖像,并行優(yōu)勢不能完全發(fā)揮。
功耗方面,GPU在深度學(xué)習(xí)計算上,比CPU節(jié)省10倍能耗,但作為通用型芯片,在處理大量視頻數(shù)據(jù)時功耗依然不容小覷,用電及散熱成本也是一個大問題。
相比GPU,專用定制的、高性價比的ASIC 芯片的優(yōu)勢越來越明顯,目前被越來越多的企業(yè)寄予希望。經(jīng)過專門設(shè)計優(yōu)化的ASIC 芯片,有著更高性價比、更容易大規(guī)模部署的優(yōu)勢。相比 GPU 的通用性,ASIC 芯片是一種為實(shí)現(xiàn)特定要求設(shè)計的集成電路,這意味著該芯片無法擴(kuò)展,但除此之外,無論功耗、可靠性還是體積、成本均遠(yuǎn)低于GPU。鑒于 ASIC 芯片的諸多特質(zhì),業(yè)界普遍認(rèn)為將會成為未來人工智能領(lǐng)域的核心,越來越多的算法企業(yè)也在基于ASIC 優(yōu)化算法,而安防也成了主要的應(yīng)用場景。
例如比特大陸人工智能芯片BM 1680 就是一款面向深度學(xué)習(xí)應(yīng)用的 ASIC 芯片,其加速核采用改造型脈動陣列架構(gòu)技術(shù),具備4096個并行執(zhí)行單元,適用于CNN/RNN/DNN 等神經(jīng)網(wǎng)絡(luò)的預(yù)測和訓(xùn)練。BM 1680 從2015年底開始設(shè)計,歷時一年多成功流片,在2017年6月拿到了樣品,并在當(dāng)年內(nèi)實(shí)現(xiàn)量產(chǎn)。
基于BM 1680,比特大陸還推出了算豐 SC1 和 SC1+兩種深度學(xué)習(xí)加速卡,前者擁有一顆高性能BM 1680 芯片,后者則采用雙BM 1680級聯(lián)架構(gòu),兩顆芯片通過高速SerDes聯(lián)接。此外,針對視頻和圖像分析,比特大陸基于BM 1680芯片和加速卡SC1+,研發(fā)了智能視頻分析服務(wù)器算豐SS1。SS1 預(yù)裝 Ubuntu 16.04操作系統(tǒng),預(yù)裝包括固件、驅(qū)動、BMDNN計算庫、Runtime庫等軟件環(huán)境,以及目標(biāo)檢測和目標(biāo)識別的樣例模型和測試程序,適用于人臉檢測、人體檢測、人臉識別、機(jī)非人檢測分類等安防場景。
目前,比特大陸第二代人工智能芯片 BM 1682 于 2018年3月份推出,可脫離 X86 CPU 單獨(dú)存在,支持客戶二次開發(fā),擁有單芯片八路H264/H265解碼能力,支持視頻圖像后處理硬件加速,相比第一代擁有更低功耗、更高密度的特點(diǎn),實(shí)際性能提升5倍以上。此外支持以太網(wǎng),PCIE的多芯片互聯(lián),易于橫向擴(kuò)展,支持大規(guī)模數(shù)據(jù)中心。
受限于已經(jīng)部署了大量的非智能前端設(shè)備,以及前端有限的計算和儲存能力,后端設(shè)備在空間、能耗、環(huán)境等方面限制較少,也更有利于大規(guī)模數(shù)據(jù)的深度處理,因此后端設(shè)備在當(dāng)前更適合人工智能技術(shù)的大規(guī)模應(yīng)用,在不改造前端設(shè)備的前提下進(jìn)行智能化升級。
結(jié)語
未來,AI 勢必將改變安防,賦予安防系統(tǒng)更加智能化,自動化處理視頻、圖片等非結(jié)構(gòu)化數(shù)據(jù)和結(jié)構(gòu)化數(shù)據(jù),提升信息搜索的精準(zhǔn)程度,極大提高警務(wù)效率,讓整個社會更安全、更有秩序,而要實(shí)現(xiàn)這樣的轉(zhuǎn)變這有賴于行業(yè)上下游的通力配合。值得注意的是,在這個耗資巨大、耗時很長的行業(yè)中,尋找具有創(chuàng)新性、性價比高、可大規(guī)模部署的方案,是最務(wù)實(shí)也最接近成功的選擇。
根據(jù)美國信息服務(wù)社的數(shù)據(jù),截至 2015 年末,全球已安裝了超過 2.45 億個視頻監(jiān)控攝像頭,我國已安裝的監(jiān)控攝像頭也已超過 3000 萬個,同時全球和國內(nèi)監(jiān)控攝像頭銷售市場仍在逐年擴(kuò)張,每年僅我國就產(chǎn)生數(shù)萬PB的數(shù)據(jù)量。與數(shù)據(jù)量同步增長的是巨大的市場規(guī)模,國內(nèi)安防市場在近十年來快速發(fā)展,市場總產(chǎn)值從2012年的3280億,增長到了2017年的6000億,研究機(jī)構(gòu)預(yù)計到2022年會達(dá)到萬億規(guī)模。
海量數(shù)據(jù)決定了智能化的發(fā)展速度,市場規(guī)模決定了商業(yè)化的潛力。人工智能+安防成為各大公司追逐的“香餑餑”則是必然。本文將從市場格局、技術(shù)方案、AI芯片三個方面,由大到小分析AI安防芯片的行業(yè)面貌及其發(fā)展現(xiàn)狀與前景。
市場格局
近年來,安防行業(yè)保持了中高速增長態(tài)勢,行業(yè)中企業(yè)集中度大幅提高,行業(yè)競爭加劇,資源向龍頭企業(yè)集中趨勢愈發(fā)明顯。隨著安防龍頭企業(yè)快速崛起,大型企業(yè)與中小企業(yè)之間的差距逐漸拉大,再加上產(chǎn)業(yè)鏈延伸、橫向跨界、行業(yè)深耕方面的優(yōu)勢,強(qiáng)者越強(qiáng)、贏者通吃的趨勢已經(jīng)顯現(xiàn)。
國內(nèi)安防行業(yè)價格競爭日趨激烈,導(dǎo)致傳統(tǒng)產(chǎn)品毛利率有所下滑,具有技術(shù)壁壘的安防龍頭公司占據(jù)優(yōu)勢。行業(yè)長尾效應(yīng)明顯,洗牌加劇,龍頭企業(yè)依托技術(shù)、資源和規(guī)模優(yōu)勢仍能保持高速增長,而位于長尾尾端的眾多中小企業(yè)已逐漸處于盈虧平衡狀態(tài),生存艱難。
安防行業(yè)發(fā)展多年,企業(yè)在規(guī)模上明顯形成了梯度,海康威視、大華、宇視等公司占據(jù)了絕大部分市場份額,并且都在積極擁抱AI技術(shù)。國內(nèi)安防領(lǐng)域整體的集中程度也逐年攀升,形成了“兩超多強(qiáng)”的格局,海康威視和大華股份領(lǐng)跑市場,東方網(wǎng)力、佳都、蘇州科達(dá)、天地偉業(yè)、漢王等第二梯隊企業(yè)奮起直追。AI技術(shù)火爆之后,近幾年又出現(xiàn)了眾多基于人工智能的軟硬件提供商,例如依圖、商湯、曠視、云從、比特大陸等。當(dāng)有了新技術(shù)的支持,尤其在AI應(yīng)用正式落地安防之后,投資或收購AI技術(shù)公司成為傳統(tǒng)安防企業(yè)最有效創(chuàng)新升級的方式。
技術(shù)方案
多年的發(fā)展,使得安防行業(yè)不僅形成了比較完整的市場格局和產(chǎn)業(yè)鏈。在市場格局方面,視頻監(jiān)控占據(jù)了近50% 的市場份額,這其中又分為前端(攝像頭)和后端(主控/云端)兩部分。
前端產(chǎn)品的核心功能是為后端提供高質(zhì)量、初步結(jié)構(gòu)化的圖像數(shù)據(jù),其主要作用有兩點(diǎn):提升部分智能分析應(yīng)用的實(shí)時性,節(jié)省帶寬和后端計算資源。
典型的前端智能攝像頭內(nèi)置深度學(xué)習(xí)算法,一方面可以在前端完成人臉定位檢測和質(zhì)量判斷,有效解決漏抓誤報問題,同時擁有較好的圖像效果,即使周圍環(huán)境光線不佳,人員戴帽子或一定角度下低頭、側(cè)臉,仍然可以做到準(zhǔn)確檢測,并自動截取視頻中的人臉輸出給后端;另一方面可以輸出編碼后的網(wǎng)絡(luò)視頻,還支持輸出非壓縮、無損無延時的視頻流圖像,這樣可以為大型用戶節(jié)省服務(wù)器成本和帶寬,在同等服務(wù)器數(shù)量和計算能力的情況下能夠接入更多路攝像頭。
后端產(chǎn)品的核心功能是利用計算能力對視頻數(shù)據(jù)進(jìn)行結(jié)構(gòu)化分析,一般包括智能 NVR、高密度 GPU服務(wù)器。前者是基于深度學(xué)習(xí)算法推出的智能存儲和分析產(chǎn)品,兼顧傳統(tǒng) NVR 優(yōu)勢的同時增加了視頻結(jié)構(gòu)化分析功能;后者集成了基于深度學(xué)習(xí)的智能算法,每秒可實(shí)現(xiàn)數(shù)百張人臉圖片的分析、建模,可支持?jǐn)?shù)十萬人臉黑名單布控,人臉 1V1 比對、以臉?biāo)涯樀榷囗棇?shí)用功能,滿足各行業(yè)的人臉智能分析需求。
從前后端智能化模塊來看,目前的解決方案有兩種思路,一種是智能前置,一種是后置智能,這一直是行業(yè)備受爭議的兩個方向。由于前端設(shè)備內(nèi)的空間有限,再加上功耗、成本等因素的限制,智能前置會受硬件計算資源限制,只能運(yùn)行相對簡單的、對實(shí)時性要求很高的算法,但算法升級、運(yùn)維較難;后端智能分析通常可以根據(jù)需求配置足夠強(qiáng)大的硬件資源,能夠運(yùn)行更復(fù)雜的、允許有一定延時的算法。另外,在后端算法升級、運(yùn)維都會比較方便。需要說明的是,前后端產(chǎn)品不是對立與競爭的關(guān)系,根據(jù)實(shí)際應(yīng)用的不同將長期同時存在。
AI芯片的發(fā)展前景
無論是前端產(chǎn)品還是后端產(chǎn)品,其底層能力都是芯片賦予的。對于智能前端產(chǎn)品目前有兩種芯片解決方案。
一種是較為通用的視覺處理器(半定制芯片),如 movidius 、英偉達(dá)的 Jetson 系列芯片、NVIDIA 的Jetson TX 芯片,這些主要針對終端市場。海康、大華、宇視、蘇州科達(dá)、格靈深瞳、商湯科技等大部分公司的前端智能產(chǎn)品在 2016 年正式推出。另一種是將較為通用的智能識別類算法直接固化為 IP ,嵌入到視頻監(jiān)控 SOC 芯片中(全定制芯片),優(yōu)點(diǎn)是量產(chǎn)后功耗、價格等都極具優(yōu)勢,但功能拓展性有限。
在后端芯片方面,英偉達(dá)的GPU被采用最多,其應(yīng)用場景通用,但是昂貴,不過我們不得不承認(rèn)在安防監(jiān)控領(lǐng)域GPU依然是最主流的深度學(xué)習(xí)方案,但GPU在成本、效率、功耗三方面仍在不足:
成本方面,嵌入式端GPU為數(shù)百美金,后端高性能GPU高達(dá)數(shù)千美金。在嵌入式端,市場上已量產(chǎn)的IPC Soc 芯片價格已經(jīng)降到幾美金,可以說是很好的替代品,但后端需要做大規(guī)模數(shù)據(jù)處理時還是離不開GPU。高昂的芯片成本,推高了前后端設(shè)備的價格,阻礙了大范圍應(yīng)用。
效率方面,GPU擅長深度學(xué)習(xí)算法訓(xùn)練,但卻拙于推理。在推理階段,一次只能處理一張輸入圖像,并行優(yōu)勢不能完全發(fā)揮。
功耗方面,GPU在深度學(xué)習(xí)計算上,比CPU節(jié)省10倍能耗,但作為通用型芯片,在處理大量視頻數(shù)據(jù)時功耗依然不容小覷,用電及散熱成本也是一個大問題。
相比GPU,專用定制的、高性價比的ASIC 芯片的優(yōu)勢越來越明顯,目前被越來越多的企業(yè)寄予希望。經(jīng)過專門設(shè)計優(yōu)化的ASIC 芯片,有著更高性價比、更容易大規(guī)模部署的優(yōu)勢。相比 GPU 的通用性,ASIC 芯片是一種為實(shí)現(xiàn)特定要求設(shè)計的集成電路,這意味著該芯片無法擴(kuò)展,但除此之外,無論功耗、可靠性還是體積、成本均遠(yuǎn)低于GPU。鑒于 ASIC 芯片的諸多特質(zhì),業(yè)界普遍認(rèn)為將會成為未來人工智能領(lǐng)域的核心,越來越多的算法企業(yè)也在基于ASIC 優(yōu)化算法,而安防也成了主要的應(yīng)用場景。
例如比特大陸人工智能芯片BM 1680 就是一款面向深度學(xué)習(xí)應(yīng)用的 ASIC 芯片,其加速核采用改造型脈動陣列架構(gòu)技術(shù),具備4096個并行執(zhí)行單元,適用于CNN/RNN/DNN 等神經(jīng)網(wǎng)絡(luò)的預(yù)測和訓(xùn)練。BM 1680 從2015年底開始設(shè)計,歷時一年多成功流片,在2017年6月拿到了樣品,并在當(dāng)年內(nèi)實(shí)現(xiàn)量產(chǎn)。
基于BM 1680,比特大陸還推出了算豐 SC1 和 SC1+兩種深度學(xué)習(xí)加速卡,前者擁有一顆高性能BM 1680 芯片,后者則采用雙BM 1680級聯(lián)架構(gòu),兩顆芯片通過高速SerDes聯(lián)接。此外,針對視頻和圖像分析,比特大陸基于BM 1680芯片和加速卡SC1+,研發(fā)了智能視頻分析服務(wù)器算豐SS1。SS1 預(yù)裝 Ubuntu 16.04操作系統(tǒng),預(yù)裝包括固件、驅(qū)動、BMDNN計算庫、Runtime庫等軟件環(huán)境,以及目標(biāo)檢測和目標(biāo)識別的樣例模型和測試程序,適用于人臉檢測、人體檢測、人臉識別、機(jī)非人檢測分類等安防場景。
目前,比特大陸第二代人工智能芯片 BM 1682 于 2018年3月份推出,可脫離 X86 CPU 單獨(dú)存在,支持客戶二次開發(fā),擁有單芯片八路H264/H265解碼能力,支持視頻圖像后處理硬件加速,相比第一代擁有更低功耗、更高密度的特點(diǎn),實(shí)際性能提升5倍以上。此外支持以太網(wǎng),PCIE的多芯片互聯(lián),易于橫向擴(kuò)展,支持大規(guī)模數(shù)據(jù)中心。
受限于已經(jīng)部署了大量的非智能前端設(shè)備,以及前端有限的計算和儲存能力,后端設(shè)備在空間、能耗、環(huán)境等方面限制較少,也更有利于大規(guī)模數(shù)據(jù)的深度處理,因此后端設(shè)備在當(dāng)前更適合人工智能技術(shù)的大規(guī)模應(yīng)用,在不改造前端設(shè)備的前提下進(jìn)行智能化升級。
結(jié)語
未來,AI 勢必將改變安防,賦予安防系統(tǒng)更加智能化,自動化處理視頻、圖片等非結(jié)構(gòu)化數(shù)據(jù)和結(jié)構(gòu)化數(shù)據(jù),提升信息搜索的精準(zhǔn)程度,極大提高警務(wù)效率,讓整個社會更安全、更有秩序,而要實(shí)現(xiàn)這樣的轉(zhuǎn)變這有賴于行業(yè)上下游的通力配合。值得注意的是,在這個耗資巨大、耗時很長的行業(yè)中,尋找具有創(chuàng)新性、性價比高、可大規(guī)模部署的方案,是最務(wù)實(shí)也最接近成功的選擇。