加载中...
Scikit-Learn应该是最著名的基于Python的机器学习库了。在深度学习火之前，直接应用Scikit-Learn应该就可以解决大多数机器学习问题了。但是，它对深度学习架构的算法支持不太好，因此这几年的风头略有欠缺。但是并不是所有的问题都需要深度学习，它支持的经典的算法非常易于使用，效果也很好。
Scikit-Learn的官方文档非常值得阅读，它不仅告诉我们如何使用，还在关键的地方告诉这些技术的原理。非常通俗易懂，还有实例。
Scikit-Learn有很优秀的机器学习处理思想，包括TensorFlow等新框架都借鉴了它的设计思想。最近的更新也让Scikit-Learn更加强大。在描述这个更新之前我们先简单看一下历史，然后让我们一起看看都有什么新内容吧。
欢迎关注 DataLearner 官方微信，获得最新 AI 技术推送
Scikt-Learn是2007年Google Summer of Code的一个产物。后来经过大神的重写，在2010年重新发布。它集成了很多经典的机器学习算法。当然，Scikit-Learn不仅包含很多优秀的机器学习编程的设计思想，它的能力也很强，由于很多最底层的实现都是基于C语言的程序，因此Scikit-Learn在执行速度上也非常快。
在2019年12月3日发布的0.22版本除了修复了很多bug以外还有一些非常优秀的新特性。ANKIT CHOUDHARY已经帮我们总结了一些内容，主要如下：
参加过Kaggle比赛的童鞋都知道，模型的stacking是必不可少的技能。将多个优秀的单个模型进行混合会在原有的基础上有所提升。这也是很多排名靠前的团队“调优”的重要方向。
在v0.22版本中，Scikt-Learn新增了stacking的方法，与之前的用法类似，我们很容易就能实现。以下是一个简单的示例：
from sklearn.linear_model import LogisticRegression
from sklearn.ensemble import RandomForestClassifier
from sklearn.tree import DecisionTreeClassifier
from sklearn.ensemble import StackingClassifier
from sklearn.model_selection import train_test_split
X, y = load_iris(return_X_y=True)
estimators = [
('rf', RandomForestClassifier(n_estimators=10, random_state=42)),
('dt', DecisionTreeClassifier(random_state=42))
]
clf = StackingClassifier(estimators=estimators, final_estimator=LogisticRegression())
X_train, X_test, y_train, y_test = train_test_split(X, y, stratify=y, random_state=42)
clf.fit(X_train, y_train).score(X_test, y_test)
As the name suggests, this technique provides a way to assign importance to each feature by permuting each feature and capturing the drop in performance.
简单解释一下，有时候我们需要了解每个特征在分类或者回归问题上的重要性。一般采用的方法是对某一个特征随机shuffle，然后使用模型进行预测，看这个shuffle特征之后的预测结果与原来的结果的差距。多次计算就能得到一个平均值，用这个值来表示特征重要性。
简单解释一下这个原理，其实也很简单。比如有两个特征预测收入，性别和身高。假如我们在身高不变的基础上，把性别特征打乱，比如把所有人的性别重新随机分。然后用新数据进行预测，得到的结果如果和打乱之前差不多，证明这个性别对预测作用不大。
基于这个原理我们可以知道每种特征的重要性。原来这种方式需要我们自己实现，在最新的Scikit-Learn中已经带有了这个功能。我们看一个示例：
from sklearn.ensemble import RandomForestClassifier
from sklearn.inspection import permutation_importance
from sklearn.datasets import make_classification
# Use Sklearn make classification to create a dummy dataset with 3 important variables out of 7
X, y = make_classification(random_state=0, n_features=7, n_informative=3)
rf = RandomForestClassifier(random_state=0).fit(X, y)
result = permutation_importance(rf, X, y,
n_repeats=10, # Number of times for which each feature must be shuffled
random_state=0, # random state fixing for reproducability
n_jobs=-1) # Parallel processing using all cores
fig, ax = plt.subplots()
sorted_idx = result.importances_mean.argsort()
ax.boxplot(result.importances[sorted_idx].T,
vert=False, labels=range(X.shape[1]))
ax.set_title("Permutation Importance of each feature")
ax.set_ylabel("Features")
fig.tight_layout()
plt.show()
结果如下：
ROC-AUC是一种评估二分类问题的经典指标。ROC曲线描述的是模型区分能力，它的线条表示不论真实样本是0还是1，模型会预测成1的概率。其中横坐标表示0预测成1的概率，纵坐标表示1预测成1的概率。显然，如果这个线条是y=x的时候，不管真实样本是0还是1，模型预测成1的概率都一样，这就没有区分能力。显然最好的是真实结果是1，预测1的概率高一点最好。AUC就是ROC去线下方的面积，等于0.5就是y=x情况，最坏。我们希望它是1，这是最好的情况。
现在，Scikit-Learn将这个指标扩展到了多分类问题上。计算是采用两种方式：
这个容易理解，就是对于缺失值的处理。采用kNN找最相似的点，然后把缺失值用最像的数据的值补上。一个简单示例：
import numpy as np
from sklearn.impute import KNNImputer
X = [[4, 6, np.nan], [3, 4, 3], [np.nan, 6, 5], [8, 8, 9]]
imputer = KNNImputer(n_neighbors=2)
print(imputer.fit_transform(X))
剪枝就是通过某种技术降低决策树的大小，防止过拟合，并且加速模型。是一种非常重要且流行的技术。在最新的版本中Scikit-Learn提供了手工剪枝的方式（XGBoost或者LightGBM都已经包含了剪枝）。也就是树模型一旦建立，就可以利用这个技术降低模型大小。
一个简单示例：
from sklearn.ensemble import RandomForestClassifier
from sklearn.datasets import make_classification
X, y = make_classification(random_state=0)
rf = RandomForestClassifier(random_state=0, ccp_alpha=0).fit(X, y)
print("Average number of nodes without pruning {:.1f}".format(
np.mean([e.tree_.node_count for e in rf.estimators_])))
rf = RandomForestClassifier(random_state=0, ccp_alpha=0.1).fit(X, y)
print("Average number of nodes with pruning {:.1f}".format(
np.mean([e.tree_.node_count for e in rf.estimators_])))
来源：https://www.analyticsvidhya.com/blog/2020/02/everything-you-should-know-scikit-learn/ 参考： https://scikit-learn.org/stable/whats_new/v0.22.html