摘要：在飛蛾腦中，章魚胺可以幫助加強產(chǎn)生成功的神經(jīng)線路。廣泛來說，此項研究成果可能給人工神經(jīng)網(wǎng)絡領域帶來極大的影響。

作為現(xiàn)代機器學習基石的深度神經(jīng)網(wǎng)絡，雖然模仿的是生物神經(jīng)網(wǎng)絡，但其實這兩者之間有著極大的區(qū)別。拋開僅有的一些相似處，有些重要的機器學習機制沒有任何自然界的版本，而這兩者學習過程之間也有著大量的不同。

這些區(qū)別很有可能解釋了為什么機器學習系統(tǒng)在某些領域中的表現(xiàn)遠遜于自然系統(tǒng)。就拿昆蟲來說，昆蟲僅需接觸幾次新的氣味就能學會如何識別這些新氣味。而機器則需要海量的數(shù)據(jù)集才能學會。因此，計算機科學家希望通過加深對自然學習方式的了解來減少這兩者之間的距離。

為了進一步找出自然與機器學習之間的差距，華盛頓大學研究科學家Charles Delahunt與他的團隊創(chuàng)造出了一款模仿煙草天蛾（學名：Manduca sexta）嗅覺學習系統(tǒng)的結構與行為的人工神經(jīng)網(wǎng)絡。他們表示，他們的系統(tǒng)可以對自然神經(jīng)網(wǎng)絡的學習方式提供一些重要的見解，為機器學習帶來突破。

與其他動物相比，飛蛾的嗅覺系統(tǒng)比較簡單，并已被神經(jīng)科學家們很好地繪制出來。它是由5個獨特的網(wǎng)絡組成，由每個網(wǎng)絡向下一個網(wǎng)絡一層一層的傳輸信息。

飛蛾嗅覺系統(tǒng)的首層網(wǎng)絡，是一個由3萬多個用于檢測氣味的化學受體所組成的系統(tǒng)。它會把一套嘈雜的數(shù)據(jù)傳輸?shù)较乱粚樱禾炀€葉（antenna lobe）。天線葉含有大約60個叫Glomeruli的單元，每一個單元都會專注于一種氣味。

天線葉會把分析過一邊的氣味數(shù)據(jù)傳輸給含有4000個kenyon細胞的蘑菇體（Mushroom Body），把它編成記憶。

作為記憶，這些關于氣味的信息最終會被一層僅有兩位數(shù)的外在神經(jīng)元讀取。它們將把來自蘑菇體的信號轉化為行為，比如“向上飛”。

這個系統(tǒng)在多個方面與機器學習網(wǎng)絡完全不同。就拿天線葉來說，它會把信息編碼到低維參數(shù)空間中，把信息傳輸給蘑菇體；但蘑菇體卻會把信息編碼到高維參數(shù)空間中。相比之下，人工神經(jīng)網(wǎng)絡每層的維度都十分相似。

此外，一旦飛蛾成功的識別一種氣味，這將出發(fā)一個獎勵機制，導致神經(jīng)元向天線葉與蘑菇體噴射一種叫“章魚胺”（octopamine）的化學神經(jīng)遞質。

這種獎勵機制在學習過程中起到了至關重要的作用。在飛蛾腦中，章魚胺可以幫助加強產(chǎn)生成功的神經(jīng)線路。這也是赫布學習（Hebbian learning）中最重要的理論之一，即“一起激發(fā)的神經(jīng)元也會連在一起”（Cells that fire together, wire together）。確實，神經(jīng)科學家早就知道去掉章魚胺的飛蛾是無法學習的。我們只是不知道章魚胺的具體工作方式。

而機器的學習方式則十分不同。它依賴的是一種叫“反向傳播”（backpropagation）的過程，通過調整每個神經(jīng)元之間的連接來提高結果。但是在這個過程中，信息是在神經(jīng)網(wǎng)絡中進行反向流動的，而它在自然中也沒有任何相似的存在。

為了更好地了解飛蛾學習的方式，Delahunt的團隊創(chuàng)造出了一款模仿自然神經(jīng)網(wǎng)絡的工作方式的人工神經(jīng)網(wǎng)絡?！拔覀儎?chuàng)造出來一款端到端的計算模型來模仿煙草天蛾的嗅覺系統(tǒng)，包括天線葉與蘑菇體在章魚胺刺激之下的互動行為”，他們說道。

這款模型的設計理念就是在每一層百分百重現(xiàn)自然系統(tǒng)的一切行為。比如由氣味受體所產(chǎn)生的嘈雜信號，以及數(shù)據(jù)從天線葉傳輸?shù)侥⒐襟w時所產(chǎn)生的維度變化。它甚至還包含了一個模仿章魚胺作用的機制。

最終的結果十分有意思，這款模型顯示，氣味受體所產(chǎn)生的嘈雜信號會受到天線葉的前置放大。但是，這些信號在傳輸?shù)侥⒐襟w時所經(jīng)歷的維度變化可以有效的排除一切噪聲。因此，這些干凈的信號可以讓該系統(tǒng)輸出“向上飛”這種明確的指令。

而章魚胺所起到的作用也更明確了。這款模仿系統(tǒng)顯示，在沒有章魚胺的情況下其實也可以實現(xiàn)學習，但由于它的速度極慢，相當于不存在。這意味著章魚胺是一種強效學習加速劑。

但是章魚胺具體是如何實現(xiàn)加速功能的呢？Delahunt與團隊認為“這可能是一種讓飛蛾繞開新增突觸在赫布生長時固有的有機約束的方式，否則這種約束可能將飛蛾學習的速度限制在一個難以接受的速度?！?/p>

此外，章魚胺還有另外一個作用。赫布學習只能加強現(xiàn)有的神經(jīng)連接，因此無法解釋新的神經(jīng)線路是如何產(chǎn)生的。Delahunt表示章魚胺還可以打開新的傳輸通道來形成連接：“這會擴展系統(tǒng)學習時能夠探索的解空間”。

總體來說，這款模仿自然神經(jīng)網(wǎng)絡的人工神經(jīng)網(wǎng)絡系統(tǒng)完美的實現(xiàn)了它的設計目標，以一個自然的方式學會了分別氣味?！拔覀兊哪Ｐ涂梢詫W習新的氣味，通過模仿出來的整合-激發(fā)神經(jīng)元也與飛蛾體內激發(fā)率的統(tǒng)計特征一致”，Delahunt說道。

廣泛來說，此項研究成果可能給人工神經(jīng)網(wǎng)絡領域帶來極大的影響?！皬囊粋€機器學習角度來看，該模型提供了一個由自然啟發(fā)的機制，并將十分利于建設需要用極少樣本實現(xiàn)迅速學習的神經(jīng)網(wǎng)絡”，該團隊總結道。

所以，未來的機器學習網(wǎng)絡很可能將會包含章魚胺等神經(jīng)遞質的仿品。

當然，神經(jīng)遞質并不只在學習時有著重要的地位。神經(jīng)科學家們十分了解它們在情緒與情緒調節(jié)等機制中的地位。而這，則可能成為機器學習研究者的下一個研究方向了。

商業(yè)智能與數(shù)據(jù)分析群

興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價值的辦法，實際應用案例分享與討論，分析工具，ETL工具，數(shù)據(jù)倉庫，數(shù)據(jù)挖掘工具，報表系統(tǒng)等全方位知識

QQ群：81035754