離開百度的吳韌，這兩年做了什么？

曾任百度杰出科學(xué)家的吳韌，在硅谷的Santa Clara開了一家AI芯片公司——NovuMind（異構(gòu)智能）。

在當(dāng)今競(jìng)爭(zhēng)激烈的邊緣設(shè)備深度學(xué)習(xí)加速器市場(chǎng)上，NovuMind正在向前邁進(jìn)。在 2016 年 12 月A輪融資獲得洪泰基金、寬帶資本、真格基金等投資的 1500 萬(wàn)美元后，NovuMind即將開始第二輪籌款，這也是吳韌最近出現(xiàn)在北京的原因。吳韌近期在EE Times的獨(dú)家訪談中，討論了NovuMind的發(fā)展動(dòng)向他所希望公司能夠達(dá)到的成就。我們?cè)诖嘶�礎(chǔ)上進(jìn)行了整理，探一探，離開百度的吳韌，做了些什么。

光輝往昔，黯然離去

吳韌 1984 年畢業(yè)于成都?xì)庀髮W(xué)院電子系，在國(guó)內(nèi)從事了一段時(shí)間的計(jì)算機(jī)研究工作后，上世紀(jì) 90 年代，吳韌重返校園，并最終獲得了倫敦大學(xué)皇后瑪麗學(xué)院的博士學(xué)位。他是中國(guó)大陸最早進(jìn)行計(jì)算機(jī)中國(guó)象棋研究的人工智能專家，他也是GPU計(jì)算的先驅(qū)，在世界上率先用GPU進(jìn)行大數(shù)據(jù)解析并取得卓越成績(jī)。他曾是惠普實(shí)驗(yàn)室CUDA研究中心的項(xiàng)目負(fù)責(zé)人（Principle Investigator）并隨后在AMD就職。 2013 年 9 月，當(dāng)時(shí)還是AMD異構(gòu)系統(tǒng)首席軟件架構(gòu)師的吳韌，離職加入百度深度學(xué)習(xí)研究院，以“杰出科學(xué)家”的身份投入深度學(xué)習(xí)的研究， 負(fù)責(zé)百度人工智能計(jì)算架構(gòu)和圖像識(shí)別。

不過(guò)，吳韌也曾面臨一些爭(zhēng)議。 2015 年 6 月，吳韌領(lǐng)導(dǎo)的團(tuán)隊(duì)被ImageNet取消了大規(guī)模視覺(jué)識(shí)別挑戰(zhàn)賽（ILSVRC）的資格。官方原因是，該團(tuán)隊(duì)向測(cè)試服務(wù)器提交了超過(guò) 40 次測(cè)試，超出規(guī)定的 2 次。隨后，吳韌否認(rèn)團(tuán)隊(duì)在比賽中進(jìn)行作弊。百度最終將團(tuán)隊(duì)負(fù)責(zé)人吳韌開除，團(tuán)隊(duì)成員也被分派到百度其他部門。對(duì)此，吳韌的回應(yīng)是“被人設(shè)了局，百度是最大輸家”。

東山再起，依舊精彩

從 2015 年 7 月起至今，NovuMind成立已經(jīng)有兩年，主要為智能為汽車、安防、醫(yī)療、金融等領(lǐng)域提供ASIC芯片（Application Specific Integrated Circuit），并提供訓(xùn)練模型的全棧式AI解決方案。目前接洽的合作伙伴有來(lái)自中國(guó)、美國(guó)和歐洲等地的企業(yè)。

吳韌表示，NovuMind與Nvidia GPU或Cadence DSP的通用深度學(xué)習(xí)芯片不同，它專注于開發(fā)一種“非常專用但非常高效地進(jìn)行推理”的深度學(xué)習(xí)加速器芯片。NovuMind設(shè)計(jì)了一種僅使用3× 3 卷積過(guò)濾器的AI芯片。

在人工智能算法迅猛發(fā)展的時(shí)代，這種做法似乎有點(diǎn)反常。這或許與吳韌更關(guān)注系統(tǒng)有關(guān)，在他看來(lái)，想要實(shí)現(xiàn)真正無(wú)處不在的人工智能，就需要在可用的終端實(shí)現(xiàn)人工智能系統(tǒng)。NovuMind關(guān)注的，是“不變的神經(jīng)網(wǎng)絡(luò)的核心”。他解釋道，5x5 卷積可以通過(guò)堆疊較少計(jì)算的兩個(gè)3x3 過(guò)濾器來(lái)完成，7x7 可以通過(guò)堆疊三個(gè)來(lái)完成。 “因此，只要用3x3 的過(guò)濾器就可以達(dá)到效果了。”

吳韌表示，邊緣設(shè)備的深度學(xué)習(xí)加速器中，對(duì)比單點(diǎn)計(jì)算的CPU，可以看做一維計(jì)算的DSP（Digital Signal Processor）和二維即使按的GPU（Graphics Processing Unit）以及TPU（Tensor Processor Unit）等架構(gòu)的最大的問(wèn)題，就是處理器的利用率很低。 NovuMind則通過(guò)使用獨(dú)特的張量處理架構(gòu)（tensor processing architecture）直接對(duì)三維Tensor進(jìn)行處理而根本解決了這個(gè)效率問(wèn)題。需要指出的是，谷歌的TPU并不是直接處理Tensor。

NovuMind的第一個(gè)AI芯片（原型）預(yù)計(jì)會(huì)在今年圣誕節(jié)前推出。吳韌表示，到明年 2 月份，他希望應(yīng)用程序都準(zhǔn)備就緒，并能夠在該芯片上實(shí)現(xiàn)耗能不超過(guò) 5 瓦進(jìn)行 15 萬(wàn)億次浮點(diǎn)運(yùn)算。

NovuMind的第二個(gè)芯片，耗能將不超過(guò) 1 瓦，計(jì)劃在 2018 年中期面世。

吳韌的AI芯片的重點(diǎn)在于，不僅讓一個(gè)小型的互聯(lián)網(wǎng)“邊緣”設(shè)備具有“看”的能力，而且還具備“思考”（以及識(shí)別）的能力，另外，這些都不需要通過(guò)數(shù)據(jù)中心的支持，不占用任何帶寬。吳韌將之稱為智能物聯(lián)網(wǎng)（I2oT，Intelligent Internet of Things）。NovuMind的新芯片將支持Tensorflow（開源軟件庫(kù)），Cafe和Torch模型。他希望，他的新芯片的能讓強(qiáng)大高效的AI無(wú)處不在。

據(jù)吳韌去年對(duì)媒體的透露，NovuMind的獨(dú)家秘笈是一臺(tái)完全自行研制的，用來(lái)訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)的超級(jí)計(jì)算機(jī)，在用于訓(xùn)練深度審計(jì)網(wǎng)絡(luò)時(shí)，與英偉達(dá)的超級(jí)計(jì)算機(jī)DGX- 1 相比，速度快 32 倍。這臺(tái)計(jì)算機(jī)給了NovuMind訓(xùn)練出比其他對(duì)手更強(qiáng)的模型的能力，不管訓(xùn)練數(shù)據(jù)是圖像、語(yǔ)言還是其他類型的數(shù)據(jù)。

擴(kuò)大團(tuán)隊(duì)，擁抱未來(lái)

除了為NovuMind獲得更多的資金支持，有報(bào)道稱，吳韌也將大規(guī)模擴(kuò)張國(guó)內(nèi)團(tuán)隊(duì)�，F(xiàn)在Novumind共有員工 50 人，其中 35 名工程師在美國(guó)工作，其余 15 人在北京。雖然該公司的總部在硅谷，但是國(guó)內(nèi)的廣闊市場(chǎng)也是他們的發(fā)展重點(diǎn)，這也意味這他們會(huì)面臨著較大人才缺口。雷鋒網(wǎng)(公眾號(hào)：雷鋒網(wǎng))發(fā)現(xiàn)，在NovuMind的官網(wǎng)上，也有1/ 3 的板塊是關(guān)于人才招聘的。

在AI人才上，吳韌更欣賞全棧式的人才，在專注于芯片、算法、架構(gòu)中的單獨(dú)一項(xiàng)之外，還要對(duì)整個(gè)系統(tǒng)有深入的了解。這與NovuMind的公司定位不謀而合，他認(rèn)為，NovuMind是一個(gè)集終端、算法、神經(jīng)網(wǎng)絡(luò)、超級(jí)計(jì)算機(jī)、數(shù)據(jù)處理分析和云端的全棧解決方案。

NovuMind提供了一種全新的人工智能應(yīng)用方式，而NovuMind中的“Novu”，在拉丁語(yǔ)中的含義就是“新”。雷鋒網(wǎng)認(rèn)為，這是吳韌的新開始，也是人工智能值得關(guān)注的新方法。