摘要：簡(jiǎn)介官方的解釋很簡(jiǎn)單用來(lái)玩機(jī)器學(xué)習(xí)。什么是機(jī)器學(xué)習(xí)機(jī)器學(xué)習(xí)關(guān)注的是計(jì)算機(jī)程序如何隨著經(jīng)驗(yàn)積累自動(dòng)提高性能。的生態(tài)是一門簡(jiǎn)單易學(xué)的語(yǔ)言，語(yǔ)法要素不多，對(duì)于只關(guān)心機(jī)器學(xué)習(xí)本身非軟件開(kāi)發(fā)的人員，語(yǔ)言層面的東西基本是不需要關(guān)心的。

官方的解釋很簡(jiǎn)單: Machine Learning in Python, 用python來(lái)玩機(jī)器學(xué)習(xí)。

機(jī)器學(xué)習(xí)關(guān)注的是: 計(jì)算機(jī)程序如何隨著經(jīng)驗(yàn)積累自動(dòng)提高性能。而最大的吸引力在于，不需要寫(xiě)任何與問(wèn)題相關(guān)的特定代碼，泛型算法就能告訴你一些關(guān)于數(shù)據(jù)的秘密。

構(gòu)建于現(xiàn)有的NumPy(基礎(chǔ)n維數(shù)組包)，SciPy(科學(xué)計(jì)算基礎(chǔ)包), matplotlib(全面的2D/3D畫(huà)圖)，IPython(加強(qiáng)的交互解釋器)，Sympy(Symbolic mathematics)， Pandas(數(shù)據(jù)結(jié)構(gòu)和分析)之上，做了易用性的封裝。

簡(jiǎn)單且高效的數(shù)據(jù)挖掘、數(shù)據(jù)分析的工具。

對(duì)所有人開(kāi)放，且在很多場(chǎng)景易于復(fù)用。

BSD證書(shū)下開(kāi)源。

python是一門簡(jiǎn)單易學(xué)的語(yǔ)言，語(yǔ)法要素不多，對(duì)于只關(guān)心機(jī)器學(xué)習(xí)本身非軟件開(kāi)發(fā)的人員，python語(yǔ)言層面的東西基本是不需要關(guān)心的。

http://nbviewer.jupyter.org/ 提供了一種便利的方式去共享自己或是別人的計(jì)算成果，以一種之前單單共享代碼不同的交互的方式，scikit-learn官網(wǎng)上面大量的例子也是以這種方式展示，使用者不僅看到了代碼的使用方式，還看到了代碼的結(jié)果，如果自己搭建了jupyter server的話，導(dǎo)入notebook還可以直接在瀏覽器中在其中上下文任意處修改，大大增加了學(xué)習(xí)效率。

按照上圖 scikit-learn提供的主要功能主要關(guān)注與數(shù)據(jù)建模，而非加載、操作、總結(jié)數(shù)據(jù), 這些任務(wù)可能NumPy、Pandas就已經(jīng)足夠了。為此scikit-learn 主要提供了以下功能:

測(cè)試數(shù)據(jù)集，sklearn.datasets模塊提供了乳腺癌、kddcup 99、iris、加州房?jī)r(jià)等諸多開(kāi)源的數(shù)據(jù)集

降維(Dimensionality Reduction): 為了特征篩選、統(tǒng)計(jì)可視化來(lái)減少屬性的數(shù)量。

特征提取(Feature extraction)： 定義文件或者圖片中的屬性。

特征篩選(Feature selection)： 為了建立監(jiān)督學(xué)習(xí)模型而識(shí)別出有真實(shí)關(guān)系的屬性。

按算法功能分類，分為監(jiān)督學(xué)習(xí)：分類（classification）和回歸（regression），以及非監(jiān)督學(xué)習(xí)：聚類（clustering）。sklearn提供了很全面的算法實(shí)現(xiàn)，詳細(xì)算法清單http://scikit-learn.org/stabl...。

聚類(Clustring): 使用KMeans之類的算法去給未標(biāo)記的數(shù)據(jù)分類。

交叉驗(yàn)證(Cross Validation): 去評(píng)估監(jiān)督學(xué)習(xí)模型的性能。

參數(shù)調(diào)優(yōu)(Parameter Tuning): 去調(diào)整監(jiān)督學(xué)習(xí)模型的參數(shù)以獲得最大效果。

流型計(jì)算(Manifold Learning): 去統(tǒng)計(jì)和描繪多維度的數(shù)據(jù)

適用范圍： 用作訓(xùn)練預(yù)測(cè)已經(jīng)標(biāo)記的數(shù)據(jù)集的類別. 監(jiān)督學(xué)習(xí)的代表。

常用算法對(duì)比：

Do we Need Hundreds of Classifiers to Solve Real World Classification Problems?，文章測(cè)試了179種分類模型在UCI所有的121個(gè)數(shù)據(jù)上的性能，發(fā)現(xiàn)Random Forests 和 SVM 性能最好。

適用范圍：

回歸是用于估計(jì)兩種變量之間關(guān)系的統(tǒng)計(jì)過(guò)程，回歸分析可以幫助我們理解當(dāng)任意一個(gè)自變量變化，另一個(gè)自變量不變時(shí)，因變量變化的典型值。最常見(jiàn)的是，回歸分析能在給定自變量的條件下估計(jì)出因變量的條件期望。 （舉個(gè)例子，在二維的坐標(biāo)系中，根據(jù)已有的坐標(biāo)點(diǎn)去推導(dǎo)x、y軸的函數(shù)關(guān)系，既一元n次方程。)

常用算法對(duì)比：

優(yōu)點(diǎn)：直接、快速；知名度高
缺點(diǎn)：要求嚴(yán)格的假設(shè)；需要處理異常值

上圖是多帶帶用決策樹(shù)來(lái)做回歸任務(wù)去預(yù)測(cè)數(shù)據(jù)，但是反映了決策樹(shù)雖然易于解釋理解之外會(huì)有一些預(yù)測(cè)上的缺點(diǎn)，總結(jié)而言是趨向過(guò)擬合，可能或陷于局部最小值中、沒(méi)有在線學(xué)習(xí)，所以下圖引入了AdaBoost 集成算法來(lái)增加預(yù)測(cè)的可靠性，由此引出了集成算法的優(yōu)點(diǎn)：

集成方法是由多個(gè)較弱的模型集成模型組，其中的模型可以多帶帶進(jìn)行訓(xùn)練，并且它們的預(yù)測(cè)能以某種方式結(jié)合起來(lái)去做出一個(gè)總體預(yù)測(cè)。

當(dāng)先最先進(jìn)的預(yù)測(cè)幾乎都使用了算法集成。它比使用單個(gè)模型預(yù)測(cè)出來(lái)的結(jié)果要精確的多。

但是如何找出可結(jié)合的弱模型、以及結(jié)合的方式又稱為了繁重的維護(hù)工作。

適用范圍：

是在沒(méi)有標(biāo)記的情況下去分類數(shù)據(jù)，使數(shù)據(jù)變得有意義， 如果已知分類分類的個(gè)數(shù)，Kmeans算法會(huì)更容易得出效果。

常用算法對(duì)比：

該圖中顏色是聚類的結(jié)果，而非標(biāo)記， 各算法的分類結(jié)果都可以根據(jù)輸入?yún)?shù)調(diào)優(yōu)，只是為了展示聚類的適用范圍適合有特征的數(shù)據(jù)類型，對(duì)于最下一行的幾乎均勻的數(shù)據(jù)幾乎沒(méi)有任何意義。

數(shù)據(jù)獲取、預(yù)處理。

可選的降維過(guò)程.因?yàn)樵紨?shù)據(jù)的維度比較大， 所以需要先找出真正跟預(yù)測(cè)目標(biāo)相關(guān)的屬性。

學(xué)習(xí)以及預(yù)測(cè)的過(guò)程。

反復(fù)學(xué)習(xí)的過(guò)程。增加樣本、調(diào)優(yōu)參數(shù)、換算法各種方式去提供預(yù)測(cè)的準(zhǔn)確率。

決策樹(shù)示例:

from sklearn import datasets
from sklearn import metrics
from sklearn.tree import DecisionTreeClassifier
# 讀取 iris 數(shù)據(jù)集
dataset = datasets.load_iris()
# 采用CART模型
model = DecisionTreeClassifier()
model.fit(dataset.data, dataset.target)
print(model)
# 預(yù)測(cè)
expected = dataset.target
predicted = model.predict(dataset.data)
# 統(tǒng)計(jì)
print(metrics.classification_report(expected, predicted))
print(metrics.confusion_matrix(expected, predicted))

輸出:

  precision    recall  f1-score   support
     
    0       1.00      1.00      1.00        50
    1       1.00      1.00      1.00        50
    2       1.00      1.00      1.00        50
 
    avg / total       1.00      1.00      1.00       150
    
    [[50  0  0]
    [ 0 50  0]
    [ 0  0 50]]

Quick Start Tutorial http://scikit-learn.org/stabl...

User Guide http://scikit-learn.org/stabl...

API Reference http://scikit-learn.org/stabl...

Example Gallery http://scikit-learn.org/stabl...

Scikit-learn: Machine Learning in Python

API design for machine learning software: experiences from the scikit-learn project

反爬蟲(chóng)
文章來(lái)源：http://bigsec.com/

toyld 豈安科技搬運(yùn)代碼負(fù)責(zé)人 
主導(dǎo)各處的挖坑工作，擅長(zhǎng)挖坑于悄然不息，負(fù)責(zé)生命不息，挖坑不止。