黑馬智庫，創(chuàng)業(yè)必讀

隨著阿爾法狗、無人駕駛、智能翻譯的橫空出世，“人工智能”這個已經(jīng)存在60多年的詞語，仿佛一夜之間重新成為熱詞。同時被科技圈和企業(yè)界廣泛提及的還有“機器學(xué)習(xí)”“深度學(xué)習(xí)”“神經(jīng)網(wǎng)絡(luò)”…… 但事實是，如此喧囂熱烈的氣氛之下，大部分人對這一領(lǐng)域仍是一知半解。

如果要說誰有資格談?wù)撃壳罢谶M行的“人工智能革命”，特倫斯·謝諾夫斯基必然是其中一個。

在智能翻譯、無人駕駛、阿爾法狗、微軟小冰還被認(rèn)為是遠(yuǎn)在天邊的愿景時，謝諾夫斯基就已經(jīng)在為深度學(xué)習(xí)領(lǐng)域奠定基礎(chǔ)了。

Professor Terry Sejnowski.

Image: Salk Institute

謝諾夫斯基是20世紀(jì)80年代挑戰(zhàn)構(gòu)建人工智能主流方法的一小撮研究人員之一。他們認(rèn)為，受大腦生物學(xué)啟發(fā)的、那些被稱為“神經(jīng)網(wǎng)絡(luò)”“連接主義”和“并行分布處理”的AI實現(xiàn)方法，會最終解決困擾基于邏輯的AI研究的難題，從而提出了使用可以從數(shù)據(jù)中學(xué)習(xí)技能的數(shù)學(xué)模型。正是這一小群研究人員，證明了基于大腦式的計算的全新方法是可行的，從而為“深度學(xué)習(xí)”的發(fā)展奠定了基礎(chǔ)。

借由《深度學(xué)習(xí)：智能時代的核心驅(qū)動力量》一書出版機會，美國科技媒體《The Verge》采訪了特倫斯·謝諾夫斯基，與他討論了“人工智能”“神經(jīng)網(wǎng)絡(luò)”“深度學(xué)習(xí)”“機器學(xué)習(xí)”究竟有何區(qū)別？為何“深度學(xué)習(xí)”突然變得無處不在，它能做什么？不能做什么？以下是采訪全文：

《深度學(xué)習(xí)：智能時代的核心驅(qū)動力量》

中信出版集團 2019.2

Q：首先，我想問一下定義。人們幾乎可以互換地使用“人工智能”，“神經(jīng)網(wǎng)絡(luò)”，“深度學(xué)習(xí)”和“機器學(xué)習(xí)”等詞語。 但這些是不同的東西。你能解釋一下嗎？

人工智能可以追溯到1956年的美國，那時工程師們決定編寫一個試圖仿效智能的計算機程序。

在人工智能中，一個新領(lǐng)域成長起來，稱為機器學(xué)習(xí)。不是編寫一個按部就班的程序來做某事——這是人工智能中的傳統(tǒng)方法——而是你收集了大量關(guān)于你試圖理解的事物的數(shù)據(jù)。例如，設(shè)想您正在嘗試識別對象，因此您可以收集大量它們的圖像。然后，通過機器學(xué)習(xí)，這是一個可以剖析各種特征的自動化過程，就可以確定一個物體是汽車，而另一個是訂書機。

機器學(xué)習(xí)是一個非常大的領(lǐng)域，其歷史可以追溯到更久遠(yuǎn)的時期。最初，人們稱之為“模式識別”。后來算法在數(shù)學(xué)上變得更加廣泛和復(fù)雜。

在機器學(xué)習(xí)中有受大腦啟發(fā)的神經(jīng)網(wǎng)絡(luò)，然后是深度學(xué)習(xí)。深度學(xué)習(xí)算法具有特定的體系結(jié)構(gòu)，其中有許多層數(shù)據(jù)流經(jīng)的網(wǎng)絡(luò)。

基本上，深度學(xué)習(xí)是機器學(xué)習(xí)的一部分，機器學(xué)習(xí)是人工智能的一部分。

Q: 有什么“深度學(xué)習(xí)”能做而其他程序不能做的嗎？

編寫程序非常耗費人力。在過去，計算機是如此之慢，內(nèi)存非常昂貴，以至于人們采用邏輯，也就是計算機的工作原理，來編寫程序。他們通過基礎(chǔ)機器語言來操縱信息。計算機太慢了，計算太貴了。

但現(xiàn)在，計算力越來越便宜，勞動力也越來越昂貴。而且計算力變得如此便宜，以至于慢慢地，讓計算機學(xué)習(xí)會比讓人類編寫程序更有效。在那時，深度學(xué)習(xí)會開始解決以前沒有人編寫過程序的問題，比如在計算機視覺和翻譯等領(lǐng)域。

機器學(xué)習(xí)是計算密集型的，但你只需編寫一個程序，通過給它不同的數(shù)據(jù)集，你可以解決不同的問題。并且你不需要是領(lǐng)域?qū)＜摇Ｒ虼?，對于存在大量?shù)據(jù)的任何事物，都有對應(yīng)的大量應(yīng)用程序。

Q：“深度學(xué)習(xí)”現(xiàn)在似乎無處不在。 它是如何變得如此主導(dǎo)潮流？

我可以在歷史上精確地找到這一特定時刻：2012年12月在NIPS會議上。在那里，計算機科學(xué)家Geoff Hinton和他的兩個研究生表明你可以使用一個名為ImageNet的非常大的數(shù)據(jù)集，包含10,000個類別和1000萬個圖像，并使用深度學(xué)習(xí)將分類錯誤減少20％。

通常，在該數(shù)據(jù)集上，錯誤在一年內(nèi)減少不到1％。 在一年內(nèi)，20年的研究被跨越了。

這真的打開了潮水的閘門。

Q：深度學(xué)習(xí)的靈感來自大腦。那么計算機科學(xué)和神經(jīng)科學(xué)這些領(lǐng)域如何協(xié)同工作呢？

深度學(xué)習(xí)的靈感來自神經(jīng)科學(xué)。最成功的深度學(xué)習(xí)網(wǎng)絡(luò)是由Yann LeCun開發(fā)的卷積神經(jīng)網(wǎng)絡(luò)。

如果你看一下CNN的架構(gòu)，它不僅僅是很多單元，它們以一種基本上鏡像大腦的方式連接起來。大腦中被研究的最好的一部分在視覺系統(tǒng)，在對視覺皮層的基礎(chǔ)研究工作中，表明那里存在簡單和復(fù)雜細(xì)胞。如果你看一下CNN架構(gòu)，會發(fā)現(xiàn)有簡單細(xì)胞和復(fù)雜細(xì)胞的等價物，這直接來自我們對視覺系統(tǒng)的理解。

Yann沒有盲目地試圖復(fù)制皮質(zhì)。他嘗試了許多不同的變種，但他最終收斂到的方式和那些自然收斂到的方式相同。這是一個重要的觀察。自然與人工智能的趨同可以教給我們很多東西，而且還有更多的東西要去探索。

Q：我們對計算機科學(xué)的理解有多少取決于我們對大腦的理解程度？

我們現(xiàn)在的大部分AI都是基于我們對大腦在60年代的了解。 我們現(xiàn)在知道的更多，并且更多的知識被融入到架構(gòu)中。

AlphaGo，這個擊敗圍棋冠軍的程序不僅包括皮質(zhì)模型，還包括大腦的一部分被稱為“基底神經(jīng)節(jié)”的模型，這對于制定一系列決策來實現(xiàn)目標(biāo)非常重要。 有一種稱為時間差分的算法，由Richard Sutton在80年代開發(fā)，當(dāng)與深度學(xué)習(xí)相結(jié)合時，能夠進行人類以前從未見過的非常復(fù)雜的玩法。

當(dāng)我們了解大腦的結(jié)構(gòu)，并且當(dāng)我們開始了解如何將它們集成到人工系統(tǒng)中時，它將提供越來越多的功能，超越我們現(xiàn)在所擁有的。

Q：人工智能也會影響神經(jīng)科學(xué)嗎？

它們是并行的工作。創(chuàng)新神經(jīng)技術(shù)已經(jīng)取得了巨大的進步，從一次記錄一個神經(jīng)元到同時記錄數(shù)千個神經(jīng)元，并且同時涉及大腦的許多部分，這完全開辟了一個全新的世界。

我說人工智能與人類智能之間存在著一種趨同。隨著我們越來越多地了解大腦如何工作，這些認(rèn)識將反映到AI中。 但與此同時，他們實際上創(chuàng)造了一整套學(xué)習(xí)理論，可用于理解大腦，讓我們分析成千上萬的神經(jīng)元以及他們的活動是如何產(chǎn)生的。 所以神經(jīng)科學(xué)和人工智能之間存在這種反饋循環(huán)，我認(rèn)為這更令人興奮和重要。

Q：你的書討論了許多不同的深度學(xué)習(xí)應(yīng)用，從自動駕駛汽車到金融交易。你覺得哪個特定領(lǐng)域最有趣？

我完全被震撼到的一個應(yīng)用是生成對抗網(wǎng)絡(luò)，或稱GANS。使用傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)，你給出一個輸入，你得到一個輸出。 GAN能夠在沒有輸入的情況下開展活動 - 產(chǎn)生輸出。

是的，我在這些網(wǎng)絡(luò)創(chuàng)建假視頻的故事背景下聽說過這個。他們真的會產(chǎn)生看似真實的新事物，對吧？

從某種意義上說，它們會產(chǎn)生內(nèi)部活動。事實證明這是大腦運作的方式。你可以看某處并看到一些東西，然后你可以閉上眼睛，你可以開始想象出那里沒有的東西。你有一個視覺想象，當(dāng)周圍安靜時，你鬧鐘聲會浮現(xiàn)想法。那是因為你的大腦是生成性的。現(xiàn)在，這種新型網(wǎng)絡(luò)可以生成從未存在過的新模式。所以你可以給它，例如，數(shù)百張汽車圖像，它會創(chuàng)建一個內(nèi)部結(jié)構(gòu)，可以生成從未存在的汽車的新圖像，并且它們看起來完全像汽車。

Q：另一方面，您認(rèn)為哪些想法可能是過度炒作？

沒有人可以預(yù)測或想象這種新技術(shù)的引入會對未來的事物組織方式產(chǎn)生什么影響。當(dāng)然這其中有炒作。我們還沒有解決真正困難的問題。我們還沒有通用智能，就有人說機器人將不久后會取代我們，其實機器人遠(yuǎn)遠(yuǎn)落后于人工智能，因為復(fù)制身體被發(fā)現(xiàn)比復(fù)制大腦更復(fù)雜。

讓我們看一下這一種技術(shù)進步：激光。它是在大約50年前發(fā)明的，當(dāng)時占據(jù)了整個房間。從占據(jù)整個房間到我現(xiàn)在演講時使用的激光筆需要50年的技術(shù)商業(yè)化。它必須被推進到體積足夠小并可以用五美元購買它的程度。同樣的事情將發(fā)生在像自動駕駛汽車這樣的被炒作的技術(shù)上。它并不被期望在明年或者未來10年，就變得無處不在。這過程可能需要花費50年，但重點是，在此過程中會有逐步推進，使它越來越靈活，更安全，更兼容我們組織運輸網(wǎng)絡(luò)的方式。炒作的錯誤在于人們的時標(biāo)設(shè)定錯了。他們期待太多事情太快發(fā)生，其實事物只在適當(dāng)?shù)臅r候。

為幫助讀者更好地理解《深度學(xué)習(xí)：智能時代的核心驅(qū)動力量》一書，阿信特別為大家請到了微軟CTO韋青老師，權(quán)威領(lǐng)讀《深度學(xué)習(xí)》，并與大家分享，2019年人工智能的新商業(yè)機會，以及個人應(yīng)該如何做好準(zhǔn)備，迎接AI時代。直播限時免費，手慢無！