曾任百度杰出科學家的吳韌，在硅谷的Santa Clara開了一家AI芯片公司——NovuMind（異構智能）。

在當今競爭激烈的邊緣設備深度學習加速器市場上，NovuMind正在向前邁進。在 2016 年 12 月A輪融資獲得洪泰基金、寬帶資本、真格基金等投資的 1500 萬美元后，NovuMind即將開始第二輪籌款，這也是吳韌最近出現在北京的原因。吳韌近期在EE Times的獨家訪談中，討論了NovuMind的發展動向他所希望公司能夠達到的成就。我們在此基礎上進行了整理，探一探，離開百度的吳韌，做了些什么。

光輝往昔，黯然離去

吳韌 1984 年畢業于成都氣象學院電子系，在國內從事了一段時間的計算機研究工作后，上世紀 90 年代，吳韌重返校園，并最終獲得了倫敦大學皇后瑪麗學院的博士學位。他是中國大陸最早進行計算機中國象棋研究的人工智能專家，他也是GPU計算的先驅，在世界上率先用GPU進行大數據解析并取得卓越成績。他曾是惠普實驗室CUDA研究中心的項目負責人（Principle Investigator）并隨后在AMD就職。 2013 年 9 月，當時還是AMD異構系統首席軟件架構師的吳韌，離職加入百度深度學習研究院，以“杰出科學家”的身份投入深度學習的研究， 負責百度人工智能計算架構和圖像識別。

不過，吳韌也曾面臨一些爭議。 2015 年 6 月，吳韌領導的團隊被ImageNet取消了大規模視覺識別挑戰賽（ILSVRC）的資格。官方原因是，該團隊向測試服務器提交了超過 40 次測試，超出規定的 2 次。隨后，吳韌否認團隊在比賽中進行作弊。百度最終將團隊負責人吳韌開除，團隊成員也被分派到百度其他部門。對此，吳韌的回應是“被人設了局，百度是最大輸家”。

東山再起，依舊精彩

從 2015 年 7 月起至今，NovuMind成立已經有兩年，主要為智能為汽車、安防、醫療、金融等領域提供ASIC芯片（Application Specific Integrated Circuit），并提供訓練模型的全棧式AI解決方案。目前接洽的合作伙伴有來自中國、美國和歐洲等地的企業。

吳韌表示，NovuMind與Nvidia GPU或Cadence DSP的通用深度學習芯片不同，它專注于開發一種“非常專用但非常高效地進行推理”的深度學習加速器芯片。NovuMind設計了一種僅使用3× 3 卷積過濾器的AI芯片。

在人工智能算法迅猛發展的時代，這種做法似乎有點反常。這或許與吳韌更關注系統有關，在他看來，想要實現真正無處不在的人工智能，就需要在可用的終端實現人工智能系統。NovuMind關注的，是“不變的神經網絡的核心”。他解釋道，5x5 卷積可以通過堆疊較少計算的兩個3x3 過濾器來完成，7x7 可以通過堆疊三個來完成。 “因此，只要用3x3 的過濾器就可以達到效果了。”

吳韌表示，邊緣設備的深度學習加速器中，對比單點計算的CPU，可以看做一維計算的DSP（Digital Signal Processor）和二維即使按的GPU（Graphics Processing Unit）以及TPU（Tensor Processor Unit）等架構的最大的問題，就是處理器的利用率很低。 NovuMind則通過使用獨特的張量處理架構（tensor processing architecture）直接對三維Tensor進行處理而根本解決了這個效率問題。需要指出的是，谷歌的TPU并不是直接處理Tensor。

NovuMind的第一個AI芯片（原型）預計會在今年圣誕節前推出。吳韌表示，到明年 2 月份，他希望應用程序都準備就緒，并能夠在該芯片上實現耗能不超過 5 瓦進行 15 萬億次浮點運算。

NovuMind的第二個芯片，耗能將不超過 1 瓦，計劃在 2018 年中期面世。

吳韌的AI芯片的重點在于，不僅讓一個小型的互聯網“邊緣”設備具有“看”的能力，而且還具備“思考”（以及識別）的能力，另外，這些都不需要通過數據中心的支持，不占用任何帶寬。吳韌將之稱為智能物聯網（I2oT，Intelligent Internet of Things）。NovuMind的新芯片將支持Tensorflow（開源軟件庫），Cafe和Torch模型。他希望，他的新芯片的能讓強大高效的AI無處不在。

據吳韌去年對媒體的透露，NovuMind的獨家秘笈是一臺完全自行研制的，用來訓練深度神經網絡的超級計算機，在用于訓練深度審計網絡時，與英偉達的超級計算機DGX- 1 相比，速度快 32 倍。這臺計算機給了NovuMind訓練出比其他對手更強的模型的能力，不管訓練數據是圖像、語言還是其他類型的數據。

擴大團隊，擁抱未來

除了為NovuMind獲得更多的資金支持，有報道稱，吳韌也將大規模擴張國內團隊。現在Novumind共有員工 50 人，其中 35 名工程師在美國工作，其余 15 人在北京。雖然該公司的總部在硅谷，但是國內的廣闊市場也是他們的發展重點，這也意味這他們會面臨著較大人才缺口。雷鋒網(公眾號：雷鋒網)發現，在NovuMind的官網上，也有1/ 3 的板塊是關于人才招聘的。

在AI人才上，吳韌更欣賞全棧式的人才，在專注于芯片、算法、架構中的單獨一項之外，還要對整個系統有深入的了解。這與NovuMind的公司定位不謀而合，他認為，NovuMind是一個集終端、算法、神經網絡、超級計算機、數據處理分析和云端的全棧解決方案。

NovuMind提供了一種全新的人工智能應用方式，而NovuMind中的“Novu”，在拉丁語中的含義就是“新”。雷鋒網認為，這是吳韌的新開始，也是人工智能值得關注的新方法。