鄧力：我們?cè)诘?2章講了遷移學(xué)習(xí)，并舉了用其他語言的語料幫助一個(gè)特定語言的語音識(shí)別的例子?？缯Z言能共享DNN隱層架構(gòu)有很強(qiáng)的物理和認(rèn)知的基礎(chǔ)。不論什么語言，其發(fā)音器官（主要包括聲道和聲門）大體相似。人類語音感知機(jī)制是同生成機(jī)制緊密相連的。所以DNN作為語音感知層的模型在高層上共享隱層是很自然的思想。
　　
　　12章講的所有例子都是基于音素及其左右context作為基本語音單元。我覺得如果能把喬姆斯基的生成式音韻結(jié)構(gòu)用上來定義基本語音單元做遷移學(xué)習(xí)，至少理論意義會(huì)更大。共享隱層的基礎(chǔ)會(huì)更扎實(shí)些，因?yàn)橛靡繇嵔Y(jié)構(gòu)定義的語音感知單元就是按照人類發(fā)音器官跨語言共享的總體特性來決定的。
　　
　　從更廣闊的意義上講，遷移學(xué)習(xí)可以成為完成非監(jiān)督學(xué)習(xí)的重要“知識(shí)源”之一，特別當(dāng)數(shù)據(jù)和問題本身有組合特性的時(shí)候。上月開完的CVPR有一篇很好的關(guān)于“DeepCompositionNet”的論文，用到的遷移學(xué)習(xí)很巧妙很有趣。語音領(lǐng)域里的這種組合特性更豐富，特別在于怎樣將音素（類比為分子）分解為phonologicalfeatures（類比為原子）。而且這種分解組合與“features”之間非同步的時(shí)程演化有關(guān)。這是語音很有趣的特性。
　　
　　記者：當(dāng)前熱門的LSTMRNN被高估了嗎？
　　
　　鄧力：熱門而古老的LSTMRNN確實(shí)很有效。GRU簡化了LSTM不少，也類似有效。但要注意，把它們用到語音識(shí)別時(shí)必須用HMM的動(dòng)態(tài)規(guī)劃或者CTC來處理LSTMRNN的輸出。手寫體字的識(shí)別也一樣。但用到自然語言處理就不需要這樣多此一舉，因?yàn)檩斎胼敵龅男蛄袥]有像語音和手寫體識(shí)別那樣的segmental特性。
　　
　　LSTMRNN的之一Schmidhuber教授近日正好來到西雅圖。我們又一次在一起討論，也談起LSTMRNN在語音識(shí)別和其他領(lǐng)域（包括增強(qiáng)學(xué)習(xí)方面）的重要應(yīng)用。我不覺得有被高估。
　　
　　記者：書中介紹了一系列的未來技術(shù)方向，其中哪些是您的團(tuán)隊(duì)所關(guān)注的？您如何確定一個(gè)技術(shù)研究的方向？
　　
　　鄧力：英文版的書是在2014年中完稿的。近兩年來深度學(xué)習(xí)發(fā)展很快。15章后一節(jié)提到的一系列的未來技術(shù)方向，不少方面至今已經(jīng)有很大的進(jìn)展。書完稿之后又很快出現(xiàn)新的技術(shù)研究的方向。
　　
　　我領(lǐng)導(dǎo)的團(tuán)隊(duì)現(xiàn)在主要聚焦在自然語言語義理解及其在對(duì)話系統(tǒng)（包括聊天機(jī)器人）上的應(yīng)用。語音的進(jìn)一步進(jìn)展目前相對(duì)是次要，因?yàn)樽R(shí)別率已經(jīng)高到在對(duì)話系統(tǒng)上可以使用的地步了。
　　
　　確定技術(shù)研究的方向有幾個(gè)因素要結(jié)合，包括其潛在的對(duì)工業(yè)界和學(xué)術(shù)界的影響力,實(shí)際應(yīng)用的可能性和廣泛性，創(chuàng)新價(jià)值和新穎性，能否利用現(xiàn)有技術(shù)積累比較快速地實(shí)現(xiàn)，等等。當(dāng)然也包括團(tuán)隊(duì)有無激情和能力把它做成。所以團(tuán)隊(duì)的質(zhì)量重要。我領(lǐng)導(dǎo)的團(tuán)隊(duì)近年來靠公司內(nèi)部富有激情和高度能力的強(qiáng)手隊(duì)員做了幾項(xiàng)很有影響力的深度學(xué)習(xí)大項(xiàng)目，但因涉及商業(yè)應(yīng)用尚未對(duì)外發(fā)表，這在一定程度上對(duì)吸引公司外部的強(qiáng)手起了負(fù)面作用。我們正在設(shè)法改變這種狀況，使我們的團(tuán)隊(duì)更加強(qiáng)壯。
　　
　　記者：訓(xùn)練關(guān)鍵的發(fā)音特征并泛化，目前有什么樣的進(jìn)展？您認(rèn)為技術(shù)成熟還需要什么條件？
　　
　　鄧力：剛才提到我們目前的精力主要在自然語言理解，我近來沒有跟蹤這方面的進(jìn)展。但我認(rèn)為有效利用語音composition特性來做基于遷移學(xué)習(xí)的泛化是一個(gè)方向，因?yàn)榘l(fā)音特征的變化往往是源于個(gè)別發(fā)音器工作的微小變化，并非某個(gè)音素整體的變化。
　　
　　記者：未來三五年的ASR領(lǐng)域，是否還有一些非深度學(xué)習(xí)方法具有挖掘的潛力（或者可以和深度學(xué)習(xí)進(jìn)行結(jié)合實(shí)現(xiàn)更好的效果）？
　　
　　鄧力：像英文和普通話中文已有比較大量的有標(biāo)注的訓(xùn)練數(shù)據(jù)，深度神經(jīng)網(wǎng)絡(luò)應(yīng)為主干以達(dá)到識(shí)別效果。整合深度生成模型有助于進(jìn)一步提高識(shí)別效果。
　　
　　對(duì)于低資源的語言或中文的很多方言，有標(biāo)注的訓(xùn)練數(shù)據(jù)不多?；谪惾~斯網(wǎng)絡(luò)的生成模型可能更有效。同時(shí)，Kernel非線性方法（非深度模型）也就不受大數(shù)據(jù)scalability的限制。
　　
　　在所有以上情形里，在非監(jiān)督深度學(xué)習(xí)成功之后，它們的識(shí)別效果都會(huì)有很大的提升，因?yàn)楦酂o標(biāo)注的語音數(shù)據(jù)可以被有效地加以應(yīng)用。
　　
　　增強(qiáng)學(xué)習(xí)的作用
　　
　　記者：AlphaGo的進(jìn)展讓世界注意到了增強(qiáng)學(xué)習(xí)，您認(rèn)為（深度）增強(qiáng)學(xué)習(xí)在語音識(shí)別領(lǐng)域能發(fā)揮什么樣的作用？
　　
　　鄧力：增強(qiáng)學(xué)習(xí)的本質(zhì)是階段性的優(yōu)化過程，同時(shí)增強(qiáng)信號(hào)或有“標(biāo)注”的信號(hào)只是到終點(diǎn)階段才清楚（好比AlphaGo下的圍棋后誰贏誰輸），或者對(duì)在每階段都有的增強(qiáng)信號(hào)不值得過于介意（不像有監(jiān)督學(xué)習(xí)的標(biāo)注那樣介意到把它直接當(dāng)作目標(biāo)去優(yōu)化逼近）因?yàn)檫@種增強(qiáng)信號(hào)只起局部性的參考估值（evaluative）作用。這些例子是我們團(tuán)隊(duì)正在做的不同類型的聊天和對(duì)話機(jī)器人的場景。
　　
　　對(duì)語音識(shí)別，每個(gè)句子標(biāo)注的信號(hào)價(jià)值都很高，而且我們真把它當(dāng)作目標(biāo)去優(yōu)化逼近來訓(xùn)練系統(tǒng)參數(shù)。所以這是一個(gè)典型的有監(jiān)督學(xué)習(xí)問題（或者在不久將來會(huì)成為非監(jiān)督學(xué)習(xí)問題），并不是增強(qiáng)學(xué)習(xí)問題。但如果把語音識(shí)別作為整個(gè)語音對(duì)話系統(tǒng)的一部分，而且用端到端深度增強(qiáng)學(xué)習(xí)方法來優(yōu)化整個(gè)系統(tǒng)，那么語音識(shí)別器的參數(shù)會(huì)跟有監(jiān)督學(xué)習(xí)得到的結(jié)果略有不同，因?yàn)檎Z音識(shí)別器的參數(shù)會(huì)受端到端深度增強(qiáng)學(xué)習(xí)影響，盡管增強(qiáng)學(xué)習(xí)主要是用到整個(gè)語音對(duì)話系統(tǒng)系統(tǒng)優(yōu)化的后端。
　　
　　所以，初看起來好像以序列結(jié)構(gòu)為輸出的語音識(shí)別和增強(qiáng)學(xué)習(xí)都用到動(dòng)態(tài)規(guī)劃來做訓(xùn)練和測試，但它們的目的是很不一樣的。
　　
　　非監(jiān)督學(xué)習(xí)語音識(shí)別的關(guān)鍵
　　
　　記者：您多次表示看好語音的非監(jiān)督學(xué)習(xí)，并且書中還談到了詞嵌入，未來詞嵌入的引入會(huì)是語音領(lǐng)域非監(jiān)督學(xué)習(xí)的大殺器嗎？
　　
　　鄧力：兩年前我們?cè)趯戇@本書后一章后一節(jié)時(shí)，我們將詞嵌入的利用和改善作為一個(gè)未來方向。之后我對(duì)這個(gè)問題有更多的思考。下面利用這個(gè)采訪機(jī)會(huì)小結(jié)一下。
　　
　　非監(jiān)督深度學(xué)習(xí)的本質(zhì)是在無標(biāo)注數(shù)據(jù)的條件下要能夠有效地將各類相關(guān)的“先驗(yàn)”知識(shí)整合到一個(gè)完整而能快速計(jì)算和優(yōu)化的深度學(xué)習(xí)框架。我的這個(gè)觀念同其他說非監(jiān)督深度學(xué)習(xí)的專家很不同?？赡芩麄冞€沒想得那么清楚和深入。我常對(duì)新加入我團(tuán)隊(duì)和做機(jī)器學(xué)習(xí)理論的同事說，我的這個(gè)觀念可以又稱為“有無限實(shí)際價(jià)值的非監(jiān)督深度學(xué)習(xí)”，而不是大家在機(jī)器學(xué)習(xí)書本、wikipedia和文獻(xiàn)上看到的幾乎是沒多少實(shí)際價(jià)值的非監(jiān)督學(xué)習(xí)。
　　
　　說到先驗(yàn)知識(shí)，我們就看到貝葉斯方法很重要，不能單用神經(jīng)網(wǎng)絡(luò)。一定要做到有原則性的整合。
　　
　　詞嵌入的本質(zhì)是利用了詞在句子中分配特性,也就是鄰近詞的預(yù)測特性（近見到一些深度學(xué)習(xí)專家談到用類似的預(yù)測特性做有關(guān)視頻的非監(jiān)督深度學(xué)習(xí)）。但這只是所應(yīng)該用的先驗(yàn)知識(shí)的一小部分。更重要的先驗(yàn)知識(shí)應(yīng)該是關(guān)于輸出序列變量的強(qiáng)統(tǒng)計(jì)特性，也就是如何把大型且高質(zhì)量的語言模型用到全系統(tǒng)學(xué)習(xí)，并且同時(shí)有效地用上極大量無標(biāo)注的語音數(shù)據(jù)。
　　
　　說到詞嵌入或音素嵌入用到語音識(shí)別領(lǐng)域，我覺得更有意思的是把喬姆斯基的生成式音韻結(jié)構(gòu)整合到深度學(xué)習(xí)講的嵌入方法里。我在MIT時(shí)（1992-1993）同我的學(xué)生孫曉東把喬姆斯基的生成式音韻結(jié)構(gòu)用到GMM-HMM的輸出層上得到很有意思的結(jié)果，1994年在JASA發(fā)表了很長的論文。記得當(dāng)年Hinton教授從多倫多到MIT訪問我時(shí)，討論到是否能把這種生成式音韻結(jié)構(gòu)知識(shí)用到神經(jīng)網(wǎng)絡(luò)架構(gòu)上。當(dāng)時(shí)沒繼續(xù)進(jìn)展，也許現(xiàn)在可以在這方面開展一些工作。
　　
　　同樣重要的是關(guān)于語音生成的先驗(yàn)知識(shí)加上從其他任務(wù)中學(xué)來的知識(shí)。對(duì)抗式網(wǎng)絡(luò)的思路是可以用來整合語音生成知識(shí)到動(dòng)態(tài)深度神經(jīng)網(wǎng)絡(luò)的方法之一。這里有很多好的研究可以做。
　　
　　當(dāng)然關(guān)于輸入變量的統(tǒng)計(jì)特性對(duì)非監(jiān)督深度學(xué)習(xí)也很重要，比如在傳統(tǒng)意義上講的非監(jiān)督學(xué)習(xí)的自動(dòng)分類。我同伯克利大學(xué)的BinYu教授有很多這方面的討論。但對(duì)語音領(lǐng)域這后者不是那么容易用得好，因?yàn)檎Z音有很特殊的動(dòng)態(tài)特性。
　　
　　很多這些想法都還沒寫到我們的書里。在第2、3、6和15章里，只是略提了一些。
　　
　　類腦機(jī)器智能突破現(xiàn)有神經(jīng)網(wǎng)絡(luò)的局限
　　
　　記者：您關(guān)注的類腦機(jī)器智能是否局限于神經(jīng)網(wǎng)絡(luò)？如果不是，能否介紹您在這方面的新研究及其在語音方面的應(yīng)用？
　　
　　鄧力：類腦機(jī)器智能同神經(jīng)網(wǎng)絡(luò)關(guān)系大。直接有關(guān)的是如何利用神經(jīng)脈沖特性，包括用STDP來改善現(xiàn)有的神經(jīng)網(wǎng)絡(luò)和算法。早在2013年溫哥華的ICASSP大會(huì)期間，Hinton教授是我請(qǐng)來做主題演講的，我們當(dāng)時(shí)開會(huì)期間就談了很多關(guān)于STDP的問題,包括STDP同BackProp的緊密關(guān)系以及可能的BackProp改善使它更相符人腦的運(yùn)行機(jī)制。還有很多相似的類腦機(jī)制很可能將來會(huì)對(duì)現(xiàn)有的深度神經(jīng)網(wǎng)絡(luò)算法和機(jī)器智能產(chǎn)生顯著的影響。
　　
　　至于神經(jīng)網(wǎng)絡(luò)以外的，這要看你怎樣定義神經(jīng)網(wǎng)絡(luò)——深層生成式模型可以屬于神經(jīng)網(wǎng)絡(luò)，也可以屬于非神經(jīng)網(wǎng)絡(luò)的圖模型或貝葉斯網(wǎng)絡(luò)。后者著重于將應(yīng)用領(lǐng)域的知識(shí)（比如語音識(shí)別中的從發(fā)音器官的控制到發(fā)音器官的運(yùn)動(dòng)再到聲音的產(chǎn)生的一系列因果關(guān)系）用疏散的矩陣把隨機(jī)變量“節(jié)點(diǎn)”連接起來。并著重于用統(tǒng)計(jì)分布來描述非確定性，因?yàn)楝F(xiàn)實(shí)應(yīng)用領(lǐng)域的知識(shí)很少是確定無暇的。這類深層生成式模型比較難用類腦的機(jī)制和算法來改善。如果能用GPU加速運(yùn)算就不錯(cuò)了。事實(shí)上就連這也沒那么簡單。
　　
　　對(duì)可以當(dāng)成神經(jīng)網(wǎng)絡(luò)看待的深層生成式模型，類腦機(jī)器智能的潛力很大。這種模型撇開應(yīng)用領(lǐng)域的知識(shí)而用統(tǒng)一的密集矩陣來參數(shù)化整個(gè)模型。不但用GPU加速運(yùn)算就像DNN一樣容易，不少類腦機(jī)制和認(rèn)知科學(xué)理論也可以比較直接用上。
　　
　　說到認(rèn)知科學(xué)理論用于類腦機(jī)器智能，我領(lǐng)導(dǎo)的團(tuán)隊(duì)正在同美國一所大學(xué)的教授合作開發(fā)一個(gè)新型的基于高維張量的結(jié)構(gòu)表征和知識(shí)庫。這個(gè)項(xiàng)目由我親手抓，它直接受啟發(fā)于人腦對(duì)純符號(hào)樹狀或圖狀結(jié)構(gòu)的表征。這對(duì)于自然語言和知識(shí)的組織利用和增長都非常關(guān)鍵。
　　
　　長遠(yuǎn)看來，類腦機(jī)器智能一定會(huì)突破現(xiàn)有的深度神經(jīng)網(wǎng)絡(luò)存在的許多局限。我的團(tuán)隊(duì)在以上方面的工作目前大部分用在自然語言語義理解、對(duì)話系統(tǒng)和知識(shí)整合諸方面的利用。語音識(shí)別方面的問題相對(duì)簡單一點(diǎn)。