近幾年來，人工智能作為自互聯網誕生以來的第二次技術形態的體現，隨著智能產品的落地應用，不同場景的算法持續涌現，計算數據呈爆炸式增長。不少廠商為了追求產品多樣化，不斷推出新功能，在產品中提到的“人機交互”、“智能識別”等新鮮的概念詞匯，以此吸引消費者的購買欲望。
 

與此同時，AI芯片作為人工智能技術的硬件基礎和產業落地的載體，吸引了眾多巨頭和創企入局，各類AI芯片相繼面世。在近日胡潤研究院發布的《2020胡潤中國芯片設計10強民營企業》榜單中，按照企業市值或估值列出了中國10強本土芯片設計民營企業，分別為：韋爾股份、匯頂科技、兆易創新、卓盛微電子、君正集成電路、圣邦微電子、比特大陸、瑞芯微、晶晨半導體、地平線、寒武紀科技。11家芯片設計企業中比特大陸、地平線、寒武紀科技3家都是AI芯片公司，占據了將近1/3的比重，足以見得AI芯片發展的重要性。
 

其實最早AI芯片的出現并不是為了執行指令，而是為了進行大量的數據訓練和應用的計算。由于傳統CPU在解決深度學習任務時效率不夠高，且耗費的成本昂貴，因此催生了專門解決特定任務的新硬件——AI芯片。
 

當前AI芯片的設計方案繁多，市面上對于AI芯片其實也沒有明確統一的定義，廣義上來說所有面向人工智能的芯片都叫做AI芯片。
 

從芯片架構來看，目前市場上絕大多數AI芯片都是采用傳統的指令集架構。
 

傳統的指令集架構采用馮·諾依曼計算方式，通過指令執行次序控制計算順序，并通過分離數據搬運與數據計算提供計算通用性。在本質上還是所謂的“計算優先”模式，需要通過擴展并行計算單元來提升芯片處理性能。
 

目前，市場上傳統的通用指令集架構主要包括人們熟知的X86架構、ARM架構、RISC-V開源架構，以及SIMD架構。
 

雖然指令級架構憑借其通用性和廣泛的應用，成為了AI芯片的主流架構，但是在AI芯片進行算法處理的過程中，涉及到大量的計算、并行處理、低時延等要求，給芯片存儲器帶來了巨大的挑戰，這也就是馮·諾依曼計算方式下共享內存模式導致的存儲性能瓶頸問題，我們又稱其為“數據墻”、“內存墻”或者“馮·諾伊曼瓶頸”。
 

如何通過硬件體系架構的創新，克服存儲性能瓶頸問題，進一步提升AI芯片深度學習算法運算效率，成為了當前AI芯片架構創新和發展的一大難題。

(基于馮諾依曼的典型指令集架構示意圖)

要想解決內存性能跟得上計算單元算力提升的問題，就要打破馮·諾依曼架構的內存墻阻礙。由此也衍生出AI芯片架構的另一條路——數據流芯片。
 

相信很多人對“數據流AI芯片”了解甚少。在近日鯤云科技舉辦的新品發布會上，據鯤云科技創始人和CEO牛昕宇博士介紹，與傳統指令集架構相比，數據流架構沒有概念上的指令計數器，它是依托數據流流動次序控制計算次序，采用計算流和數據流重疊運行方式消除空閑計算單元，并采用動態配置方式保證對于人工智能算法的通用支持，突破指令集技術對于芯片算力的限制。
 

數據流架構采用了數據流引擎的計算架構，以實現更高的吞吐量和更低的延遲，最大優點在于大幅提升芯片利用率。目前，數據流架構在數字信號處理、網絡路由、圖形處理、遙感檢測、以及數據庫處理，以及當今許多軟件體系結構中占據著重要地位。
 

當然，數據流架構AI芯片的研發難度遠遠大于指令集架構，目前全球基于數據流方式研究AI芯片的企業少之又少，主要有鯤云科技、Wave Computing、Sambanova、Groq，而目前能夠實現數據流AI芯片量產的僅有國內的鯤云科技一家?？傮w而言，數據流架構也不失為未來AI芯片的一條重要發展路徑。
 

AI芯片目前有3種主流技術路線，分別為GPU、FPGA以及ASIC。
 

GPU是最早進行并行加速計算的處理器，得益于高并行結構，在處理圖形數據和復雜算法方面它比CPU速度更快；在結構上，CPU大部分面積為控制器和寄存器，而GPU擁有更多ALU(邏輯運算單元)用于數據處理，這樣的結構更適合對密集型數據進行并行處理。
 

目前，GPU已經發展到較為成熟的階段。Google、Facebook、微軟、百度等公司都在使用GPU分析圖片、視頻和音頻文件，在無人駕駛技術上也用到很多GPU芯片。但GPU也有一定的局限性。比如深度學習算法分為訓練和推斷兩部分， GPU在算法訓練上非常高效。但在推斷中，并行計算的優勢就不能完全發揮出來。
 

FPGA是可編程器件基礎上進一步發展的產物，用戶可通過多次燒錄FPGA配置文件來定義這些門電路以及存儲器之間的連線。這種方式既解決了定制電路靈活性的不足，又克服了原有可編程器件門電路數有限的缺點。由于FPGA可同時進行數據并行和任務并行計算，因此在處理特定應用時效率更高。
 

在功耗方面，FPGA每個邏輯單元的功能在燒錄時就已經確定，不需要指令，無需共享內存，從而可以極大的降低單位執行的功耗。
 

第三種，全定制化的ASIC。這類芯片的計算能力和計算效率都直接根據特定的算法的需要進行定制，最大的優勢在于體積小、功耗低、高可靠性、保密性強、計算性能高、計算效率高等。所以在特定領域，ASIC芯片是遠超GPU、FPGA的。當然，ASIC芯片的缺點也很明顯，因為其是針對特定算法設計的，一旦芯片設計完畢，對應的算法就是固定的，所以一旦算法發生變化就可能將會無法使用。
 

AI芯片之所以能在近幾年快速崛起，無外乎以下幾個原因：
 

在人工智能發展的初期，算法為王，像數據中心、大數據分析、精準營銷等方面成功實現了商業落地。隨著智能化變革深入到交通、安防、通信等領域，受功耗、傳輸數據、時延等條件限制，僅靠原有的云端計算解決方案難以滿足人工智能本地應用落地計算需求，在終端、邊端場景同樣需要人工智能計算，因此催生了AI芯片新硬件的發展。
 

“不管有什么好的AI算法，要想最終得到應用，就必然要通過芯片來實現。”清華大學微電子所所長魏少軍教授曾這樣表示，作為算法的載體，芯片硬件的提升也為先進的軟件算法帶來了更多的機會，為高性能、高算力AI芯片的出現提供了更多保障。

人工智能正成為國際學術的新焦點，加快新一代人工智能培養，已成為抓住新一輪科技革命和產業變革機遇的戰略性問題。對此，國家對人工智能的發展高度重視，并陸續出臺一系列人工智能產業發展政策。目前我國人工智能產業已基本成型，從中央到各地的政策措施陸續亮相。在政策扶持下，不僅能加快人工智能產業政策的落地，還能促進產業深度融合，加速人工智能應用商業化的發展。
 

AI芯片市場引發了老牌芯片廠商英偉達、英特爾的持續關注，像國內的百度、阿里、華為等科技巨頭也紛紛加碼AI芯片賽道。除了巨頭的動作，早在2014年國家多部門聯合多個企業成立了“國家集成電路產業投資基金”，一期投資高達1387億元，如今大基金二期完成2000億左右規模的募資，接下來將重點投資人工智能、5G、物聯網等終端應用產業，進一步推動國產半導體產業發展。

為什么有大量廠商都開始轉型研發AI芯片，很重要的一點原因是其技術門檻稍低。很多人工智能學習都要求的是完成簡單而大量地重復輸入，且AI芯片針對某一類特定場景進行開發，不像傳統CPU一樣要求“十項全能”。其次，很多時候所謂的AI芯片并不是獨立研發的一塊芯片，不必耗費大量精力去完成各類IP(知識產權)內核，而是針對一些AI功能進行加速優化，以釋放更多計算資源跟其他模塊去處理復雜場景。這也是科技企業為什么蜂擁做AI芯片的原因之一。
 

據OFweek電子工程網不完全統計，自2014年AI芯片創業潮以來，國內AI芯片企已超過數百家，公開宣布推出AI芯片產品的企業包括傳統芯片廠商華為海思、紫光展銳、聯發科、瑞芯微等，也有憑借自己在互聯網領域深厚實力進軍AI芯片的科技巨頭百度、阿里巴巴，還有諸如寒武紀、地平線、云天勵飛等大批專注AI芯片細分領域“后起之秀”。
 

光是在2019年，就有阿里巴巴、百度、寒武紀等多家廠商推出了性能領先的AI芯片產品，覆蓋圖像識別、智慧城市、云計算、自動駕駛等多個領域。

縱觀全球AI芯片發展，中美兩國成為了主要競爭對手。根據烏鎮全球人工智能申請專利數量統計，美國、中國位列前二，且數量級接近；在知名專利檢索公司QUESTEL發布的《芯片行業專利分析及專利組合質量評估》報告指出：中國近10年芯片專利增長驚人，已成為芯片專利申請第一大國。
 

眾所周知，“無芯之痛”一直是國內半導體產業發展的最大不足，AI芯片正是國內企業發展的絕佳機會，國內企業已經初步具備了和國際企業競爭合作的技術基礎和知識產權基礎，彰顯出中國軍團在AI芯片領域的彎道超車之勢。
 

但是國產AI芯片快速崛起的態勢也并非一帆風順，雖然我國在在偏向于設備端的AI 芯片開發領域，以及類腦芯片領域都有所建樹，但在FPGA、GPU領域依然缺乏有競爭力的原創產品，大多數只是只是基于FPGA/GPU做二次開發。這主要與我國在芯片領域一直缺乏關鍵核心自主技術有關，想要突破技術壁壘，還要踏實走好每一步。
 

據OFweek電子工程網觀察近幾年來媒體熱度以及各家公司新品發布消息，以及結合百度指數對“人工智能”、“芯片”等關鍵詞的趨勢研究來看，2017-2018年尤其是2018下半年相關的熱度達到了高點。

(數據源自百度指數-趨勢研究)

如同任何新興技術的發展曲線一樣，AI芯片行業在一輪創業及融資熱潮之后，也經歷了一輪大洗牌。從信息流的角度來看，AI芯片熱潮從2019年至今已經退卻了不少，目前保持相對平穩的曲線正向發展。
 

早期AI芯片概念一出，就如同iPhone10的劉海屏一般，各家友商一見到立馬跟風模仿，不管本質是不是AI芯片，總之先掛個名號上去。由于消費者對于AI的理解也不充分，就方便了部分不良商家渾水摸魚，整個AI產品市場也受到了不少混亂影響。
 

隨著AI芯片細分領域的成熟，大批AI芯片產品的問世，市場開始對各廠商的產品和技術進行檢驗，大量沒有營收、產品不具備市場競爭力的AI初創公司不得不退出競爭。唯有真正具備核心技術研發實力的企業，才有存活下來的資本。雖然如今AI芯片的熱度不像之前那么火爆，但難保接下來不會再次爆發一波行業熱潮，AI芯片的未來會是什么樣，仍然充滿無限可能。