云天勵飛CEO陳寧

  云天勵飛IPU聚焦嵌入式視覺智能終端

  據介紹，云天勵飛AI芯片的技術路線是通過設計一系列面向多層神經網絡的可編程處理器，應對人工智能算法的快速迭代?！拔覀兪讋摰摹赃m應云+端'AI系統架構，可通過云端邏輯控制終端芯片，自動更新終端芯片的算法和功能?！睋铺靹铒w聯合創始人、CEO陳寧介紹，云天勵飛自主研發的專用深度學習神經網絡處理器芯片，采用ASIP設計思路，提供ASIC級別高性能和低功耗，也能提供處理器級別的指令集靈活性。同時，采用異構計算多核SOC架構，集成多處理器單元，并行分布式處理與集中控制系統。

  與傳統芯片迭代速度相比，AI芯片迭代更快?！澳壳皝碚f，算法每半個月迭代一次，AI芯片則要同步迭代，而傳統芯片的迭代是按年計算?，F有的CPU或GPU無法滿足嵌入式端視覺AI應用?！睋铺靹铒w研發副總李愛軍表示，通用CPU在神經網絡加速上速度慢，性能上滿足不了對嵌入式端的需求;GPU性能是夠的，但功耗高、成本居高不下。“所以，我們覺得有必要去研究適應新型神經網絡的深度學習處理器架構芯片。”而云天勵飛研發的芯片是面向嵌入式端的邊緣計算人工智能芯片，專注智能視覺，聚焦在安防、智能商業等領域的場景應用。

  擁有國內頂尖ASIP矢量處理器芯片設計團隊

  “云天勵飛做芯片不是臨時起意，而是從公司創立之初就開始了芯片的布局?！睋悓幗榻B，云天勵飛早在2014年就有了完整的“機器學習與視覺智能處理器”AI芯片解決方案，并獲得2015年深圳孔雀團隊第一名。

  在當時，云天勵飛的芯片研發團隊是國內AI芯片界唯一有芯片商用經驗的團隊，陳寧本人是中國第一款商用矢量處理器芯片的設計者，而芯片團隊主導者李愛軍是原中興通訊手機芯片的研發負責人，主導研發了國內第一顆28nm手機芯片商用(2010)和國內首款LTE多模手機芯片商用。

  陳寧說，“我們的芯片研發團隊是國內頂尖的ASIP矢量處理器芯片設計團隊，主要的骨干團隊成員有豐富的矢量處理器、復雜soc芯片設計經驗，且平均設計經驗超過10年?！?/span>

  IPU具有高能低耗、可編程、可云端升級等特點

  據了解，云天勵飛在2016年完成了第一代深度學習神經網絡處理器NNP100的研制，并基于FPGA載體實現商用。

云天勵飛研發副總李愛軍

  李愛軍介紹說，NNP100深度結合云天勵飛自研深度學習算法，與自研神經網絡模型深度耦合，具有強大的運算處理能力以及靈活的模型pooling能力，設計上支持PE數量根據場景需求任意擴展和裁剪，非常靈活，同時它又具有高性能、低時延和低功耗技術優勢。

  “相比之前的應用效果，采用NNP100后FPGA加速卡，計算性能相比GPU提升2倍，功耗減低 5 倍，時延減低100倍?！崩類圮娊榻B，目前NNP100應用在云天勵飛的DeepEye100智能盒子和DeepEye200服務器加速卡產品上。基于NNP100的技術基礎，云天勵飛已經在研發第二代深度學習神經網絡處理器NNP200，并取得階段性成果。NNP200將集成于云天勵飛IPU (inteligence processor unit)芯片上，并用于智能終端產品。

  據介紹，云天勵飛的視覺AI芯片具有2Tops/W的高能量效率。與Nvidia開源的nvDLA相比，相同運算力下，在很小的內存帶寬下，算法模型效率可以提高18倍。與麒麟970相比，相同運算力下，比970的性能提高4.4倍。

  “云天的芯片除了高能低耗的優勢之外，還能實現可編程，遠程一鍵升級。芯片可同時處理多路高清視頻，此外，通過片間級聯還可進行擴展?！崩類圮娬f，多芯片級聯，相當于搭積木一樣，一顆一顆之間通過板級互聯進行擴展。通過級聯擴展最多可以同時處理64路視頻。

  “我們采用業界領先的22nm工藝，工藝的性能、功耗、面積經過仿真、分析、比對，對比業界主流的28nm工藝，都具有一定優勢，性能提升約10%，功耗降低約15%，面積減小15%-20%。”陳寧還提到，云天勵飛的IPU芯片計劃在今年年中實現流片，并在明年上半年推向商用，最終通過模式創新，打造一個開放賦能的芯片平臺。

  云天IPU最大亮點——對場景理解更為深刻

  相比傳統的芯片，AI芯片更注重“從場景到算法，從算法到芯片”。正因為不同于以往從硬件出發的思路，AI芯片的行業形態和商業模式正在發生著變化。目前，AI芯片的應用場景主要集中在安防、智能家居和消費電子、自動駕駛、云計算、智慧城市等行業。

  “由于目前還不存在適用于所有通用算法的嵌入式AI芯片，確定芯片的應用場景就顯得尤為重要?！标悓幪岬?，過往三年，云天勵飛深耕安防領域，最先提出了針對安防行業“云+端”的解決方案，真正做到將AI技術落地于垂直場景。

  而云天勵飛的拳頭產品“深目”系統，在深圳和全國已建設在線智能前端設備10000多路，動態人像數據量80+億，是全球最大的動態人像數據庫。“在場景定義算法，算法定義芯片的今天，我們的算法訓練來源于真實的場景，這也意味著在我們的芯片對場景的理解更深，我們知道應該如何去優化才能做到最好。” 陳寧還提到，“算法+芯片+數據”的閉環生態是云天勵飛的核心競爭力，同時，云天勵飛也是國內唯一一家同時擁有算法、芯片和數據三個要素的公司。

  2025年，讓1億攝像頭擁有“AI芯”

  中國已經成為世界上視頻監控發展速度最快的國家，我國一些一線城市已經實現了監控攝像頭的100%全覆蓋。據行業調查公司IHSMarkit的最新統計數據顯示，目前中國在公共和私人領域(包括機場、火車站和街道)的監控攝像頭安裝量目前已有1.76億個，未來三年該數量將會成倍增長，達到6.26億個。

  “云天勵飛想做的，就是用芯片的產品，去激活這些傳統的攝像頭。在2025年，讓1億攝像頭擁有‘AI芯’。”

  據介紹，云天勵飛走的是一條“算法+芯片+數據+應用+服務”、提供端到端整體解決方案的路線：將算法植入前端的智能攝像頭，進行人像檢測、特征值提取，數據上傳到云端，由云端引擎進行搜索和識別、決策。前端后端算法聯動和深度優化，而芯片級的解決方案則是核心。

  陳寧還提到，云天勵飛除了在芯片技術上的創新之外，還將探索芯片商業模式的創新，力推“芯片+服務”的新玩法。“未來，我們甚至可能會推出免費的芯片試用，改變以往賣芯片的方式，以服務的方式讓云天的AI芯能下滲到行業，最終達到賦能百業的目的?！?/span>

云天勵飛芯片專題的媒體溝通會現場