摘要：摘要本文以過(guò)來(lái)人的身份將自身年的研究經(jīng)驗(yàn)做了一下分享，希望本文對(duì)于即將開(kāi)始從事人工智能研究的朋友有所幫助。此外，還有各種會(huì)議也值得關(guān)注。三大會(huì)議分別是以及。此外，當(dāng)演講者向現(xiàn)場(chǎng)觀(guān)眾演講時(shí)，他們往往優(yōu)先考慮的是清晰度而不是簡(jiǎn)潔性。

摘要： 本文以過(guò)來(lái)人的身份將自身2年的研究經(jīng)驗(yàn)做了一下分享，希望本文對(duì)于即將開(kāi)始從事人工智能研究的朋友有所幫助。

人工智能研究這個(gè)領(lǐng)域是有一定門(mén)檻的。對(duì)于初學(xué)者來(lái)說(shuō)，一般通常的做法是直接購(gòu)買(mǎi)一些熱門(mén)的書(shū)籍，比如“西瓜書(shū)”、“花書(shū)”、“xx天從入門(mén)到精通”、“xx天從入門(mén)到放棄”等等，但大多數(shù)書(shū)籍都是講的基礎(chǔ)知識(shí)，稍顯乏味和枯燥，此外內(nèi)容太深?yuàn)W，初學(xué)者可能看一段時(shí)間就想放棄了。本文以過(guò)來(lái)人的身份將自身2年的研究經(jīng)驗(yàn)毫無(wú)保留地分享給大家，希望對(duì)即將開(kāi)始從事人工智能研究的朋友有所幫助。

找一個(gè)你隨時(shí)方便提問(wèn)的人
剛進(jìn)入公司時(shí)，常常會(huì)對(duì)一些基本問(wèn)題猶豫不決，這些問(wèn)題可能會(huì)暴露出自身缺乏專(zhuān)業(yè)知識(shí)。但是過(guò)了幾個(gè)月后，我的提問(wèn)才慢慢感到自然，提問(wèn)都是精心擬定的。在此之前，我會(huì)積累大量的問(wèn)題，但現(xiàn)在只要遇到一個(gè)問(wèn)題，我就會(huì)立馬提問(wèn)，這樣不會(huì)造成問(wèn)題積壓以至于越來(lái)越困惑。

尋找不同領(lǐng)域的研究靈感
現(xiàn)在不是單打獨(dú)斗的時(shí)代，講究合作。知識(shí)也不例外，多學(xué)科交流。對(duì)于每個(gè)人而言，決定從事什么方向可能是研究中最困難的部分，以下是我所看到的一些具有長(zhǎng)期記錄的研究人員所采用的策略：

與不同領(lǐng)域的研究人員交流。咨詢(xún)他們感興趣的問(wèn)題，詢(xún)問(wèn)是否有想要分析的數(shù)據(jù)集、現(xiàn)有技術(shù)存在哪些不足。機(jī)器學(xué)習(xí)中最有效的工作是與生物學(xué)、化學(xué)、物理、社會(huì)科學(xué)或純數(shù)學(xué)的碰撞。例如，我正在思考Matthew
Johnson 在2016年NIPS的文章以及Justin
Gilmer在2017年ICML的文章，兩篇文章分別是關(guān)于鼠標(biāo)行為數(shù)據(jù)集的分析以及量子化學(xué)的應(yīng)用；

編寫(xiě)一個(gè)簡(jiǎn)單的基線(xiàn)以獲得對(duì)問(wèn)題的感覺(jué)。比如，嘗試編寫(xiě)一些用于控制倒立擺的校準(zhǔn)代碼。在寫(xiě)基線(xiàn)代碼時(shí)，會(huì)遇到很多情況、各種問(wèn)題或者一些臨時(shí)產(chǎn)生的想法，這些都能夠加深對(duì)問(wèn)題的理解。

擴(kuò)展喜歡的某篇論文的實(shí)驗(yàn)部分。仔細(xì)閱讀一篇論文，了解其采用的方法和獲得的實(shí)驗(yàn)結(jié)果，設(shè)法找到一些可以完善的地方。首先考慮最簡(jiǎn)單的擴(kuò)展，然后思考下論文的方法是否合理，實(shí)驗(yàn)結(jié)果有沒(méi)有不完善的地方。

重視可視化工具和技能

運(yùn)行可視化腳本允許我們快速驗(yàn)證代碼是否與想法匹配。更重要的是，良好的可視化往往使得想法和代碼中的錯(cuò)誤變得更加明顯以及可解釋性。
對(duì)于一個(gè)實(shí)際任務(wù)，想出解決問(wèn)題的正確方法是很困難的。如果采用的是迭代優(yōu)化模型（比如深度學(xué)習(xí)），那么繪制出損失函數(shù)會(huì)是一個(gè)好的開(kāi)端。此外，對(duì)于深度學(xué)習(xí)這個(gè)“黑匣子”方法，可視化也能夠部分解釋其學(xué)習(xí)到的神經(jīng)網(wǎng)絡(luò)參數(shù)。比如，當(dāng)處理圖形模型事，可視化其一維或二維變量的分布，當(dāng)它改變時(shí)，可以推斷出很多信息?？梢暬羌夹g(shù)有效性的晴雨表，每次可視化分析結(jié)果都能對(duì)所采用的的方法或代碼起到一定的反饋。

TensorFlow可視化工具Tensorboard

分布圖

Q值學(xué)習(xí)圖

弄清楚研究者和論文的最初動(dòng)機(jī)
在學(xué)術(shù)界可以發(fā)現(xiàn)很好玩的現(xiàn)象，研究人員在同一個(gè)會(huì)議上發(fā)表論文，使用相同的技術(shù)行話(huà)，但兩個(gè)人的研究動(dòng)機(jī)可以是完全相反的。動(dòng)機(jī)分為以下三個(gè)動(dòng)機(jī)——“數(shù)學(xué)”動(dòng)機(jī)、“工程”動(dòng)機(jī)和“認(rèn)知”動(dòng)機(jī)：

“數(shù)學(xué)”動(dòng)機(jī)：智能系統(tǒng)的基本屬性和局限性是什么？

“工程”動(dòng)機(jī)：如何開(kāi)發(fā)比其它方法更好地解決實(shí)際問(wèn)題的智能系統(tǒng)？

“認(rèn)知”動(dòng)機(jī)：如何模擬像人類(lèi)或其它動(dòng)物那樣的自然智能？

有些論文不止一個(gè)動(dòng)機(jī)，此外，每個(gè)研究者的動(dòng)機(jī)不可能一直保持不變，這和工程師的興趣有關(guān)。優(yōu)秀的論文和研究人員將在一開(kāi)始就說(shuō)明其研究動(dòng)機(jī)，但有些論文往往表述的不是很清楚，這就需要讀者們仔細(xì)閱讀，此外，在自己寫(xiě)作時(shí)也要注意這一點(diǎn)，以防動(dòng)機(jī)不明顯而被退稿或退修。

學(xué)會(huì)找論文
網(wǎng)絡(luò)上充斥著大量的人工智能論文，大多數(shù)人首先會(huì)發(fā)表在arXiv上，由于該平臺(tái)可以先發(fā)表再經(jīng)過(guò)審稿，因此需要學(xué)會(huì)從中辨別。另外，建議在社交軟件上跟蹤你最喜歡的研究人員的動(dòng)態(tài)。此外，還有各種會(huì)議也值得關(guān)注。三大會(huì)議分別是NIPS、ICML以及ICRL。其它著名的一般會(huì)議包括AAAI、IJCAI和UAI。對(duì)于每一個(gè)分支學(xué)科而言，都有更加具體的會(huì)議。比如計(jì)算機(jī)視覺(jué)領(lǐng)域有CVPR、ECCV和ICCV；自然語(yǔ)言領(lǐng)域有ACL、EMNLP和NAACL；機(jī)器人學(xué)領(lǐng)域有CoRL、ICAPS、ICRA、IROS和RSS；與理論工作相關(guān)的會(huì)議有AISTAS、COLT和KDD。此外還有一些期刊也值得關(guān)注，JAIR和JMLR是人工智能領(lǐng)域最突出的兩個(gè)期刊，不過(guò)在Nature和Science期刊中也會(huì)有很好的論文。
對(duì)于一些早期論文的查找也是非常重要的，那些被奉為“經(jīng)典論文”的論文往往會(huì)在參考論文中出現(xiàn)。另外一種發(fā)現(xiàn)早期論文的方法是從資深教授的個(gè)人主頁(yè)開(kāi)始查找，其成名作一般會(huì)掛在上面。此外還可以通過(guò)一些搜索助手，比如谷歌學(xué)術(shù)、百度學(xué)術(shù)等查詢(xún)關(guān)鍵詞。

讀論文要花多少時(shí)間？
關(guān)于如何讀論文，人們經(jīng)常給出兩個(gè)建議。第一個(gè)就是在研究生的第一學(xué)期或者第一年度把所有相關(guān)的論文都讀一遍；第二個(gè)是當(dāng)讀了大量論文后，不要再泛讀，而是找到突破口，想出創(chuàng)新的辦法。
我個(gè)人同意第一個(gè)建議，但不同意第二個(gè)建議。只要有足夠的時(shí)間用于原始研究，那么就應(yīng)該盡可能多地閱讀論文。對(duì)于專(zhuān)業(yè)研究員而言，不可能總依靠個(gè)人幸運(yùn)來(lái)發(fā)現(xiàn)創(chuàng)新的解決辦法，有時(shí)候你想到的方法別人可能已經(jīng)嘗試過(guò)，只是你不知道而已。絕大多數(shù)的研究者都是耐心的跟蹤研究方向的進(jìn)展以及發(fā)展趨勢(shì)，有條不紊地思考并解決問(wèn)題。閱讀相關(guān)論文也是弄清楚目前所處的階段以及接下來(lái)需要做什么的一個(gè)好方法。
關(guān)于盡可能多地閱讀論文有一個(gè)重要的提示：花時(shí)間理解消化一篇論文和閱讀一篇論文同樣重要，閱讀的時(shí)候可以做些筆記，而不是囫圇吞棗，只求數(shù)量，不求質(zhì)量。

對(duì)話(huà) >> 視頻 >> 論文 >> 會(huì)談
論文無(wú)疑是了解不熟悉的研究理論最容易獲取的來(lái)源，但是什么路徑是最有效的呢？不同的人可能感受不一樣。對(duì)我而言，我發(fā)現(xiàn)對(duì)話(huà)（與那些已經(jīng)理解的人）是迄今為止最快且最有效的理解途徑。如果找不到和這樣的人對(duì)話(huà)的機(jī)會(huì)，可以找下關(guān)于問(wèn)題的相關(guān)視頻，例如論文作者訪(fǎng)談視頻，這樣的視頻可以提供很好的觀(guān)點(diǎn)。此外，當(dāng)演講者向現(xiàn)場(chǎng)觀(guān)眾演講時(shí)，他們往往優(yōu)先考慮的是清晰度而不是簡(jiǎn)潔性。在大多數(shù)論文寫(xiě)作中，作者將優(yōu)先權(quán)順序互換了，其中詞數(shù)為王，背景知識(shí)解釋得太多反而顯得作者對(duì)該領(lǐng)域不熟悉。排在最后的是會(huì)談，簡(jiǎn)單的會(huì)談往往顯得比較正式，與主持人的談話(huà)內(nèi)容可能會(huì)非常有價(jià)值。

謹(jǐn)防炒作
人工智能取得一系列的成果吸引了公眾的關(guān)注，使得更多的人投入這個(gè)領(lǐng)域，進(jìn)而促使人工智能取得更多突破性的進(jìn)展。整個(gè)循環(huán)是良性的，但有一個(gè)副作用就是存在大量的炒作。視圖獲得點(diǎn)擊量的記者、熱錢(qián)投資者、創(chuàng)業(yè)型公司都是夸大炒作泡沫的罪魁禍?zhǔn)住Ｒ虼?，在我們閱讀新聞或論文時(shí)，要注意“標(biāo)題黨”，以免被誤導(dǎo)。
在2017年的NIPS的問(wèn)答環(huán)節(jié)，一位著名的教授拿著麥克風(fēng)（代表炒作警察）告誡作者在論文標(biāo)題中慎重使用“想象”一詞。這和我們看新聞時(shí)一樣，標(biāo)題很吸引人，但里面的內(nèi)容卻跟標(biāo)題關(guān)系不大，使得閱讀者大失所望。閱讀論文同樣如此，嚴(yán)防炒作，我們需要做的是根據(jù)實(shí)驗(yàn)方法和結(jié)果來(lái)評(píng)估一篇論文是否對(duì)自己有所幫助。

總是在不斷進(jìn)步
在早期探索研究項(xiàng)目時(shí)，一般我會(huì)花幾個(gè)小時(shí)開(kāi)展頭腦風(fēng)暴，希望一些模糊的直接能夠指引一個(gè)具體的方向。有時(shí)候項(xiàng)目沒(méi)有任何進(jìn)展，但在黑暗中摸索也算是整個(gè)研究過(guò)程中的一部分。當(dāng)不知道下一步應(yīng)該做什么時(shí)，可以基于目前已有的情況將最模糊的想法寫(xiě)下來(lái)，并在寫(xiě)的過(guò)程中進(jìn)行一一排除（寫(xiě)出排除的原因）。在沒(méi)有任何想法的情況下， 可以采取閱讀或與同事交流的形式以獲得靈感。

從死胡同中學(xué)會(huì)判別和止損
大牛們一般花更多的時(shí)間在好的想法上，能夠區(qū)分想法的好與壞在很大程度上依賴(lài)于個(gè)人的經(jīng)驗(yàn)。盡管如此，任何水平的研究人員都會(huì)不斷遭遇以下決定：研究思路是否有缺陷、是否應(yīng)該挽救或進(jìn)一步支持所提出的想法、是否完全放棄所提出的想法？尤其是在早期時(shí)，研究人員踏入死胡同后會(huì)停留很長(zhǎng)一段時(shí)間，而不愿放棄。雖然放棄意味著之前的花費(fèi)的時(shí)間白費(fèi)了，但有的時(shí)候要懂得及時(shí)止損。

寫(xiě)作
一些大牛給出的早期職業(yè)建議是：寫(xiě)作。平時(shí)可以寫(xiě)寫(xiě)博客和論文，但更重要的是把自己的想法記錄下來(lái)。因?yàn)閷?xiě)作有助于我們理解與思考相關(guān)知識(shí)。

心理健康和身體健康是科研的先決條件
學(xué)術(shù)研究者在追求科學(xué)發(fā)現(xiàn)的過(guò)程中經(jīng)常會(huì)遇到熬夜、顧不上吃飯等問(wèn)題，這些都不是好習(xí)慣。很多博士都開(kāi)始禿頭，甚至碩士就開(kāi)始掉頭發(fā)。鍛煉身體并放空自己內(nèi)心也是對(duì)科研的投資，并不是阻礙科研。睡8個(gè)小時(shí)后再工作4個(gè)小時(shí)，其效率比睡4個(gè)小時(shí)工作8個(gè)小時(shí)要高得多。有的時(shí)候會(huì)遇到卡殼，即使使出渾身解數(shù)也無(wú)法取得一絲進(jìn)步，這個(gè)時(shí)候建議離開(kāi)工作崗位，稍微活動(dòng)一下并做長(zhǎng)呼吸，放空下自己。

作者信息
Tom Silver，專(zhuān)注于計(jì)算科學(xué)與數(shù)學(xué)、人工智能
本文由阿里云云棲社區(qū)組織翻譯。
文章原標(biāo)題《Lessons from My First Two Years of AI Research》
詳情請(qǐng)閱讀原文