大數(shù)據(jù)分析數(shù)據(jù)挖掘工具sklearn使用指南

一、使用sklearn數(shù)據(jù)挖掘
 

　　1、數(shù)據(jù)挖掘的步驟
 

　　數(shù)據(jù)挖掘通常包括數(shù)據(jù)采集，數(shù)據(jù)分析，特征工程，訓(xùn)練模型，模型評(píng)估等步驟。
 

　　顯然，這不是巧合，這正是sklearn的設(shè)計(jì)風(fēng)格。我們能夠更加優(yōu)雅地使用sklearn進(jìn)行特征工程和模型訓(xùn)練工作。此時(shí)，不妨從一個(gè)基本的數(shù)據(jù)挖掘場(chǎng)景入手：
 

　　我們使用sklearn進(jìn)行虛線框內(nèi)的工作(sklearn也可以進(jìn)行文本特征提取)。通過(guò)分析sklearn源碼，我們可以看到除訓(xùn)練，預(yù)測(cè)和評(píng)估以外，處理其他工作的類(lèi)都實(shí)現(xiàn)了3個(gè)方法：fit、transform和fit_transform。從命名中可以看到，fit_transform方法是先調(diào)用fit然后調(diào)用transform，我們只需要關(guān)注fit方法和transform方法即可。
 

　　transform方法主要用來(lái)對(duì)特征進(jìn)行轉(zhuǎn)換。從可利用信息的角度來(lái)說(shuō)，轉(zhuǎn)換分為無(wú)信息轉(zhuǎn)換和有信息轉(zhuǎn)換。無(wú)信息轉(zhuǎn)換是指不利用任何其他信息進(jìn)行轉(zhuǎn)換，比如指數(shù)、對(duì)數(shù)函數(shù)轉(zhuǎn)換等。
 

　　有信息轉(zhuǎn)換從是否利用目標(biāo)值向量又可分為無(wú)監(jiān)督轉(zhuǎn)換和有監(jiān)督轉(zhuǎn)換。無(wú)監(jiān)督轉(zhuǎn)換指只利用特征的統(tǒng)計(jì)信息的轉(zhuǎn)換，統(tǒng)計(jì)信息包括均值、標(biāo)準(zhǔn)差、邊界等等，比如標(biāo)準(zhǔn)化、PCA法降維等。
 

　　有監(jiān)督轉(zhuǎn)換指既利用了特征信息又利用了目標(biāo)值信息的轉(zhuǎn)換，比如通過(guò)模型選擇特征、LDA法降維等。通過(guò)總結(jié)常用的轉(zhuǎn)換類(lèi)，我們得到下表：
 

　　不難看到，只有有信息的轉(zhuǎn)換類(lèi)的fit方法才實(shí)際有用，顯然fit方法的主要工作是獲取特征信息和目標(biāo)值信息，在這點(diǎn)上，fit方法和模型訓(xùn)練時(shí)的fit方法就能夠聯(lián)系在一起了：都是通過(guò)分析特征和目標(biāo)值，提取有價(jià)值的信息，對(duì)于轉(zhuǎn)換類(lèi)來(lái)說(shuō)是某些統(tǒng)計(jì)量，對(duì)于模型來(lái)說(shuō)可能是特征的權(quán)值系數(shù)等。
 

　　另外，只有有監(jiān)督的轉(zhuǎn)換類(lèi)的fit和transform方法才需要特征和目標(biāo)值兩個(gè)參數(shù)。fit方法無(wú)用不代表其沒(méi)實(shí)現(xiàn)，而是除合法性校驗(yàn)以外，其并沒(méi)有對(duì)特征和目標(biāo)值進(jìn)行任何處理，Normalizer的fit方法實(shí)現(xiàn)如下：
 

　　基于這些特征處理工作都有共同的方法，那么試想可不可以將他們組合在一起?在大數(shù)據(jù)分析數(shù)據(jù)挖掘工具sklearn使用指南假設(shè)的場(chǎng)景中，我們可以看到這些工作的組合形式有兩種：流水線式和并行式。
 

　　基于流水線組合的工作需要依次進(jìn)行，前一個(gè)工作的輸出是后一個(gè)工作的輸入;基于并行式的工作可以同時(shí)進(jìn)行，其使用同樣的輸入，所有工作完成后將各自的輸出合并之后輸出。sklearn提供了包pipeline來(lái)完成流水線式和并行式的工作。
 

　　2、數(shù)據(jù)初貌
 

　　在此，我們?nèi)匀皇褂肐RIS數(shù)據(jù)集來(lái)進(jìn)行說(shuō)明。為了適應(yīng)提出的場(chǎng)景，對(duì)原數(shù)據(jù)集需要稍微加工：
 

　　3.關(guān)鍵技術(shù)
 

　　并行處理，流水線處理，自動(dòng)化調(diào)參，持久化是使用sklearn優(yōu)雅地進(jìn)行數(shù)據(jù)挖掘的核心。并行處理和流水線處理將多個(gè)特征處理工作，甚至包括模型訓(xùn)練工作組合成一個(gè)工作(從代碼的角度來(lái)說(shuō)，即將多個(gè)對(duì)象組合成了一個(gè)對(duì)象)。
 

　　在組合的前提下，自動(dòng)化調(diào)參技術(shù)幫我們省去了人工調(diào)參的反鎖。訓(xùn)練好的模型是貯存在內(nèi)存中的數(shù)據(jù)，持久化能夠?qū)⑦@些數(shù)據(jù)保存在文件系統(tǒng)中，之后使用時(shí)無(wú)需再進(jìn)行訓(xùn)練，直接從文件系統(tǒng)中加載即可。
 

二、并行處理
 

　　并行處理使得多個(gè)特征處理工作能夠并行地進(jìn)行。根據(jù)對(duì)特征矩陣的讀取方式不同，可分為整體并行處理和部分并行處理。整體并行處理，即并行處理的每個(gè)工作的輸入都是特征矩陣的整體;部分并行處理，即可定義每個(gè)工作需要輸入的特征矩陣的列。
 

　　1.整體并行處理
 

　　pipeline包提供了FeatureUnion類(lèi)來(lái)進(jìn)行整體并行處理：
 

　　2.部分并行處理
 

　　整體并行處理有其缺陷，在一些場(chǎng)景下，我們只需要對(duì)特征矩陣的某些列進(jìn)行轉(zhuǎn)換，而不是所有列。pipeline并沒(méi)有提供相應(yīng)的類(lèi)(僅OneHotEncoder類(lèi)實(shí)現(xiàn)了該功能)，需要我們?cè)贔eatureUnion的基礎(chǔ)上進(jìn)行優(yōu)化：

 

　　在大數(shù)據(jù)分析數(shù)據(jù)挖掘工具sklearn使用指南提出的場(chǎng)景中，我們對(duì)特征矩陣的第1列(花的顏色)進(jìn)行定性特征編碼，對(duì)第2、3、4列進(jìn)行對(duì)數(shù)函數(shù)轉(zhuǎn)換，對(duì)第5列進(jìn)行定量特征二值化處理。使用FeatureUnionExt類(lèi)進(jìn)行部分并行處理的代碼如下：


三、流水線處理
 

　　pipeline包提供了Pipeline類(lèi)來(lái)進(jìn)行流水線處理。流水線上除最后一個(gè)工作以外，其他都要執(zhí)行fit_transform方法，且上一個(gè)工作輸出作為下一個(gè)工作的輸入。
 

　　最后一個(gè)工作必須實(shí)現(xiàn)fit方法，輸入為上一個(gè)工作的輸出;但是不限定一定有transform方法，因?yàn)榱魉€的最后一個(gè)工作可能是訓(xùn)練!
 

　　根據(jù)大數(shù)據(jù)分析數(shù)據(jù)挖掘工具sklearn使用指南提出的場(chǎng)景，結(jié)合并行處理，構(gòu)建完整的流水線的代碼如下：
 

四、自動(dòng)化調(diào)參
 

　　網(wǎng)格搜索為自動(dòng)化調(diào)參的常見(jiàn)技術(shù)之一，grid_search包提供了自動(dòng)化調(diào)參的工具，包括GridSearchCV類(lèi)。對(duì)組合好的對(duì)象進(jìn)行訓(xùn)練以及調(diào)參的代碼如下：

五、持久化
 

　　externals.joblib包提供了dump和load方法來(lái)持久化和加載內(nèi)存數(shù)據(jù)：
 

　　注意：組合和持久化都會(huì)涉及pickle技術(shù)，在sklearn的技術(shù)文檔中有說(shuō)明，將lambda定義的函數(shù)作為FunctionTransformer的自定義轉(zhuǎn)換函數(shù)將不能pickle化。