亚洲中字慕日产2020,大陆极品少妇内射AAAAAA,无码av大香线蕉伊人久久,久久精品国产亚洲av麻豆网站

資訊專欄INFORMATION COLUMN

ArXiv最受歡迎開源深度學(xué)習(xí)框架榜單:TensorFlow第一

trilever / 2016人閱讀

摘要:但年月,宣布將在年終止的開發(fā)和維護(hù)。性能并非最優(yōu),為何如此受歡迎粉絲團(tuán)在過(guò)去的幾年里,出現(xiàn)了不同的開源深度學(xué)習(xí)框架,就屬于其中典型,由谷歌開發(fā)和支持,自然引發(fā)了很大的關(guān)注。

Keras作者Fran?ois Chollet剛剛在Twitter貼出一張圖片,是近三個(gè)月來(lái)arXiv上提到的深度學(xué)習(xí)開源框架排行:

TensorFlow排名第一,這個(gè)或許并不出意外,Keras排名第二,隨后是Caffe、PyTorch和Theano,再次是MXNet、Chainer和CNTK。

Chollet在推文中補(bǔ)充,Keras的使用在產(chǎn)業(yè)界和整個(gè)數(shù)據(jù)科學(xué)圈中最占主流,產(chǎn)業(yè)既包括大公司也包括創(chuàng)業(yè)公司。不過(guò),在研究社區(qū),Keras的份額要小很多。

這個(gè)統(tǒng)計(jì)結(jié)果是使用Google Search Index得到的。

這個(gè)排名讓人想起來(lái)之前Fran?ois Chollet曬的另外一次排名(時(shí)間范圍是2017年4月到7月,綜合Github上issue、fork、contributors等數(shù)據(jù)得到的活躍度),也是TensorFlow和Keras排名第一和第二。

不過(guò),在Github的那次排名,MXNet、PyTorch的名次明顯上升。

針對(duì)近三個(gè)月來(lái)arXiv的深度學(xué)習(xí)框架排名結(jié)果,有人評(píng)論,他很遺憾Theano排名如此靠后,Theano是他的第一個(gè)框架。

深度學(xué)習(xí)的圖景總是在不斷變化,Theano是第一個(gè)被廣泛采用的深度學(xué)習(xí)框架,由Yoshua Bengio領(lǐng)導(dǎo)的MILA創(chuàng)建和維護(hù)。但2017年9月,MILA宣布將在2018年終止Theano的開發(fā)和維護(hù)。Theano的離開不禁讓人感慨,這也是第一個(gè)退出舞臺(tái)的流行框架。

TensorFlow性能并非最優(yōu),為何如此受歡迎?粉絲團(tuán)!

在過(guò)去的幾年里,出現(xiàn)了不同的開源Python深度學(xué)習(xí)框架,TensorFlow就屬于其中典型,由谷歌開發(fā)和支持,自然引發(fā)了很大的關(guān)注。

但需要指出,根據(jù)香港香港浸會(huì)大學(xué)褚曉文教授團(tuán)隊(duì)在2017年推出深度學(xué)習(xí)工具評(píng)測(cè)的研究報(bào)告《 基準(zhǔn)評(píng)測(cè) TensorFlow、Caffe、CNTK、MXNet、Torch 在三類流行深度神經(jīng)網(wǎng)絡(luò)上的表現(xiàn)(論文)》,TensorFlow的性能在有些時(shí)候表現(xiàn)并非較佳:

僅用一塊GPU,F(xiàn)CN上Caffe、CNTK和Torch比MXNet和TensorFlow表現(xiàn)更好;CNN上MXNet表現(xiàn)出色,尤其是在大型網(wǎng)絡(luò)時(shí);而Caffe和CNTK在小型CNN上同樣表現(xiàn)不俗;對(duì)于帶LSTM的RNN,CNTK速度最快,比其他工具好上5到10倍。

通過(guò)將訓(xùn)練數(shù)據(jù)并行化,這些支持多GPU卡的深度學(xué)習(xí)工具,都有可觀的吞吐量提升,同時(shí)收斂速度也提高了。多GPU卡環(huán)境下,CNTK平臺(tái)在FCN和AlexNet上的可擴(kuò)展性更好,而MXNet和Torch在CNN上相當(dāng)出色。

這一結(jié)果,反而凸顯出TensorFlow和谷歌強(qiáng)大的號(hào)召力,以及已經(jīng)形成的生態(tài)圈的積極拉動(dòng)影響。

在2017年初的這份報(bào)告中,褚曉文教授指出,硬件和軟件同樣重要,僅僅有硬件是不夠的,沒(méi)有好的軟件,硬件的效能發(fā)揮不出來(lái),這也是為什么今天有這么多深度學(xué)習(xí)軟件,它們的性能有如此大的差異。

“Torch是很流行的軟件,2002年就有了,那時(shí)候還沒(méi)有深度學(xué)習(xí)。后來(lái)把深度學(xué)習(xí)做進(jìn)去了。2014年就是Caffe,微軟2015年開源了CNTK,接下來(lái)谷歌也開源了他們相應(yīng)的開發(fā)平臺(tái)。第三行是它的粉絲數(shù)量,目前(2017年9月)TensorFlow的粉絲團(tuán)是最龐大的,有6萬(wàn)多個(gè)關(guān)注,相對(duì)來(lái)講,CNTK、Caffe加起來(lái)還沒(méi)有TensorFlow有影響力。最底下是開發(fā)平臺(tái)的維護(hù)情況,隨著硬件的提升,新的算法的提出,每個(gè)軟件都是要不斷的更新?lián)Q代的,TensorFlow的更新是非常頻繁的,基本上每一兩個(gè)月就會(huì)有一個(gè)新的更新,代表著他們對(duì)軟件平臺(tái)的投入?!?/p>

而Keras,則是谷歌在2017年宣布,將Keras作為TensorFlow的高級(jí)API。這意味著Keras被包含在TensorFlow版本中及時(shí)更新。除了TensorFlow,Keras也可以使用Theano或者CNTK作為后端。

其他框架和公司合縱連橫——中國(guó)框架何時(shí)才能上榜?

大家可以點(diǎn)擊上面的鏈接仔細(xì)看TensorFlow、Caffe、PyTorch、MXNet等框架在各種應(yīng)用場(chǎng)景下的性能。我們性能更好,但為什么用的人還不是最多?為了解決這個(gè)問(wèn)題,開放神經(jīng)網(wǎng)絡(luò)交換(ONNX)格式的發(fā)布于2017年9月橫空出世。

ONNX最初由微軟和Facebook聯(lián)合發(fā)布,后來(lái)亞馬遜也加入進(jìn)來(lái),并在12月發(fā)布了V1版本。ONNX是一個(gè)表示深度學(xué)習(xí)模型的開放格式。它使用戶可以更輕松地在不同框架之間轉(zhuǎn)移模型。例如,它允許用戶構(gòu)建一個(gè)PyTorch模型,然后使用MXNet運(yùn)行該模型來(lái)進(jìn)行推理。

開放神經(jīng)網(wǎng)絡(luò)交換(ONNX)的Github頁(yè)面

ONNX由微軟、亞馬遜和Facebook等公司共同發(fā)起,宣布支持ONNX的公司還有AMD、ARM、華為、 IBM、英特爾、Qualcomm等。谷歌不在這個(gè)陣營(yíng)中并不令人驚訝。ONNX從一開始就支持Caffe2,Microsoft Cognitive Toolkit,MXNet和PyTorch,但與其他開源項(xiàng)目一樣,社區(qū)也已經(jīng)為TensorFlow添加了一個(gè)轉(zhuǎn)換器。

在你爭(zhēng)我搶,合縱連橫之下,深度學(xué)習(xí)框架的流行趨勢(shì)似乎很難預(yù)測(cè)。不過(guò),中國(guó)的開源框架,什么時(shí)候才能在這樣的排名上顯露自己的名字呢?

歡迎加入本站公開興趣群

商業(yè)智能與數(shù)據(jù)分析群

興趣范圍包括各種讓數(shù)據(jù)產(chǎn)生價(jià)值的辦法,實(shí)際應(yīng)用案例分享與討論,分析工具,ETL工具,數(shù)據(jù)倉(cāng)庫(kù),數(shù)據(jù)挖掘工具,報(bào)表系統(tǒng)等全方位知識(shí)

QQ群:81035754

文章版權(quán)歸作者所有,未經(jīng)允許請(qǐng)勿轉(zhuǎn)載,若此文章存在違規(guī)行為,您可以聯(lián)系管理員刪除。

轉(zhuǎn)載請(qǐng)注明本文地址:http://www.ezyhdfw.cn/yun/4728.html

相關(guān)文章

  • 23種深度學(xué)習(xí)庫(kù)排行榜:TensorFlow最活躍、Keras最流行

    摘要:我們對(duì)種用于數(shù)據(jù)科學(xué)的開源深度學(xué)習(xí)庫(kù)作了排名。于年月發(fā)布了第名,已經(jīng)躋身于深度學(xué)習(xí)庫(kù)的上半部分。是最流行的深度學(xué)習(xí)前端第位是排名較高的非框架庫(kù)。頗受對(duì)數(shù)據(jù)集使用深度學(xué)習(xí)的數(shù)據(jù)科學(xué)家的青睞。深度學(xué)習(xí)庫(kù)的完整列表來(lái)自幾個(gè)來(lái)源。 我們對(duì)23種用于數(shù)據(jù)科學(xué)的開源深度學(xué)習(xí)庫(kù)作了排名。這番排名基于權(quán)重一樣大小的三個(gè)指標(biāo):Github上的活動(dòng)、Stack Overflow上的活動(dòng)以及谷歌搜索結(jié)果。排名結(jié)果...

    princekin 評(píng)論0 收藏0
  • 阿里開源首個(gè)深度學(xué)習(xí)框架 X-Deep Learning!

    摘要:此前,在月底,阿里媽媽就公布了這項(xiàng)開源計(jì)劃,引來(lái)了業(yè)界的廣泛關(guān)注。突破了現(xiàn)有深度學(xué)習(xí)開源框架大都面向圖像語(yǔ)音等低維稠密數(shù)據(jù)而設(shè)計(jì)的現(xiàn)狀,面向高維稀疏數(shù)據(jù)場(chǎng)景進(jìn)行了深度優(yōu)化,并已大規(guī)模應(yīng)用于阿里媽媽的業(yè)務(wù)及生產(chǎn)場(chǎng)景。 showImg(https://segmentfault.com/img/remote/1460000017508808); 剛剛,阿里媽媽正式對(duì)外發(fā)布了X-Deep Le...

    hankkin 評(píng)論0 收藏0

發(fā)表評(píng)論

0條評(píng)論

最新活動(dòng)
閱讀需要支付1元查看
<