1、解決方法
(1)忽視元組。
缺少類別標簽時,通常這樣做(假設(shè)挖掘任務(wù)與分類有關(guān)),除非元組有多個屬性缺失值,否則該方法不太有效。當個屬性缺值的百分比變化很大時,其性能特別差。
(2)人工填寫缺失值。
一般來說,這種方法需要很長時間,當數(shù)據(jù)集大且缺少很多值時,這種方法可能無法實現(xiàn)。
(3)使用全局常量填充缺失值。
將缺失的屬性值用同一常數(shù)(如Unknown或負無限)替換。如果缺失值都是用unknown替換的話,挖掘程序可能會認為形成有趣的概念。因為有同樣的價值unknown。因此,這種方法很簡單,但不可靠。
(4)使用與給定元組相同類型的所有樣本的屬性平均值。
(5)使用最可能的值填充缺失值。
可以通過回歸、使用貝葉斯形式化的基于推理的工具和決策樹的總結(jié)來決定。
2、實例
import numpy as np
from sklearn.preprocessing import Imputer
imp = Imputer(missing_values='NaN', strategy='mean', axis=0)
import numpy as np
from sklearn.preprocessing import Imputer
###1.使用均值填充缺失值
imp = Imputer(missing_values='NaN', strategy='mean', axis=0)
imp.fit([[1, 2], [np.nan, 3], [7, 6]])
X = [[np.nan, 2], [6, np.nan], [7, 6]]
print(imp.transform(X))
[[4. 2. ]
[6. 3.66666667]
[7. 6. ]]
知識點擴充:
缺失值的處理方法
由于各種各樣的原因,真實世界中的許多數(shù)據(jù)集都包含缺失數(shù)據(jù),這些數(shù)據(jù)經(jīng)常被編碼成空格、nans或者是其他的占位符。但是這樣的數(shù)據(jù)集并不能被scikit - learn算法兼容,因為大多數(shù)的學(xué)習(xí)算法都會默認數(shù)組中的元素都是數(shù)值,因此素偶有的元素都有自己的代表意義。
使用不完整的數(shù)據(jù)集的一個基本策略就是舍棄掉整行或者整列包含缺失值的數(shù)值,但是這樣處理會浪費大量有價值的數(shù)據(jù)。下面是處理缺失值的常用方法:
1.忽略元組
當缺少類別標簽時通常這樣做(假定挖掘任務(wù)涉及分類時),除非元組有多個屬性缺失值,否則該方法不是很有效。當每個屬性缺少值的百分比變化很大時,它的性能特別差。
2.人工填寫缺失值
一般該方法很費時,并且當數(shù)據(jù)集很大,缺少很多值時,該方法可能行不通。
3.使用一個全局常量填充缺失值
將缺失的屬性值用同一個常數(shù)(如“Unknown”或 負無窮)替換。如果缺失值都用“unknown”替換,則挖掘程序可能會認為它們形成一個有趣的概念,因為它們都具有相同的值“unknown”。因此,雖然該方法很簡單,但是它十分不可靠。
4.使用與給定元組屬同一類的所有樣本的屬性均值
例如:將顧客按照credit_risk分類,則使用具有相同信用度的給定元組的顧客的平均收入替換income中的缺失值。
Python客棧送紅包、紙質(zhì)書
5.使用最可能的值填充缺失值
可以用回歸、使用貝葉斯形式化的基于推理的工具或決策樹歸納確定。例如,利用數(shù)據(jù)集中其他顧客的屬性,可以構(gòu)造一顆決策樹來預(yù)測income的缺失值。
到此這篇關(guān)于python缺失值的解決方法總結(jié)的文章就介紹到這了,更多相關(guān)如何解決python缺失值內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
您可能感興趣的文章:- python 如何通過KNN來填充缺失值
- Python Pandas知識點之缺失值處理詳解
- python 檢查數(shù)據(jù)中是否有缺失值,刪除缺失值的方式
- python實現(xiàn)數(shù)據(jù)清洗(缺失值與異常值處理)
- Python Pandas對缺失值的處理方法
- Python時間序列缺失值的處理方法(日期缺失填充)