高通公司下一代核心研發(fā)總監(jiān)Karam Chatha表示：“軟件總是在變化的，但是你需要盡早把硬件拿出來，因?yàn)樗鼤绊戃浖?mdash;—這種關(guān)系總是存在的。目前，這家移動芯片廠商正在Snapdragon片上系統(tǒng)的DSP和GPU內(nèi)核上運(yùn)行神經(jīng)網(wǎng)絡(luò)工作，但一些觀察家預(yù)計(jì)，高通將為機(jī)器學(xué)習(xí)定制一個新的模塊，作為2019年的7納米Snapdragon SoC的一個組成部分。

高通公司展示了一個自定義深度神經(jīng)網(wǎng)絡(luò)加速器的研究范例，但是現(xiàn)在高通在通用的DSP和GPU核心上使用軟件。來源：高通

Patterson表示：“市場會決定哪些芯片最好。這是很殘酷的，但這正是設(shè)計(jì)計(jì)算的興奮點(diǎn)所在。”

早期的玩家已經(jīng)抓住了這個偶然的機(jī)會

例如，F(xiàn)acebook最近證明，通過大幅增加打包到所謂批量大小的功能數(shù)量，將訓(xùn)練時間從一天縮短到一個小時。對于試圖在本地SRAM中運(yùn)行所有操作的Graphcore來說，這可能是個壞消息，因?yàn)檫@消除了外部DRAM訪問的延遲，同時也限制了內(nèi)存占用。

“他們是為小批量設(shè)計(jì)的，但幾個月前的軟件結(jié)果表明，你需要一個大批量。這說明了事情變的話的有多么快，”Patterson說。

另一方面，Rex Computing認(rèn)為他們正處于一個有利的位置。該初創(chuàng)公司的SoC最初是為高性能服務(wù)器設(shè)計(jì)的，使用了一種新穎的暫存器內(nèi)存。聯(lián)合創(chuàng)始人Thomas Sohmers說，Rex的方法消除了在虛擬頁面表中緩存數(shù)據(jù)的需求，這是GPU使用的一種技術(shù)，增加了延遲。

因此他說，Rex芯片比現(xiàn)在的GPU要好得多，特別是在處理流行的矩陣/矢量運(yùn)算神經(jīng)網(wǎng)絡(luò)時。Rex公司計(jì)劃6月份推出256核的SoC，預(yù)計(jì)能提供256Gflops/W。

與此同時，研究人員正在嘗試從32位到單浮點(diǎn)和整數(shù)數(shù)學(xué)的方方面面，以找到最有效的方法來計(jì)算神經(jīng)網(wǎng)絡(luò)結(jié)果。有一點(diǎn)似乎是他們認(rèn)同的，最好不要在精確度之間來回切換。

人工智能算法還處于初期階段

深度神經(jīng)網(wǎng)絡(luò)是幾十年來人工智能領(lǐng)域一直進(jìn)行的相對較小分支的工作。從2012年左右開始，包括Facebook公司的Yann LeCun在內(nèi)的很多研究人員開始使用特定種類的深度神經(jīng)網(wǎng)絡(luò)來識別圖像，并最終以比人類更高的準(zhǔn)確度得到令人驚嘆的結(jié)果。深度學(xué)習(xí)技術(shù)吸引了研究界，研究界迅速發(fā)表了不少該領(lǐng)域的論文，以尋求新的突破。

現(xiàn)在深度神經(jīng)網(wǎng)絡(luò)為Amazon Alexa、谷歌翻譯、Facebook面部識別等商用服務(wù)提供動力。網(wǎng)絡(luò)巨頭們和他們的全球競爭對手，正在尋找殺手級應(yīng)用的過程中競相將這些技術(shù)應(yīng)用于盡可能多的服務(wù)中。