怅然|不容忽视！机器学习中的特征选择初探【sklearn实战】( 二 )
from sklearn.datasets import load_iris from sklearn.feature_selection import VarianceThreshold import numpy as np ? # 加载数据集 iris = load_iris() X = iris.data y = iris.target ? # 打印数据集中的特征数和每个特征的方差 print('原数据集中的特征数：\n', X.shape[1], '\n') print('原数据集中不同特征的方差：\n', np.var(X, axis=0), '\n') ? # 使用VarianceThreshold来过滤掉方差在0.6以下的特征 selector = VarianceThreshold(threshold=0.6) X_new = selector.fit_transform(X) ? # 打印新数据集的特征数 print('方差阈值法选择的特征数：\n', X_new.shape[1])输出为：
原数据集中的特征数： 4? 原数据集中不同特征的方差： [0.68112222 0.18871289 3.09550267 0.57713289]? 方差阈值法选择的特征数： 2那么接下来 ， 我们以新老特征集分别来训练一个模型来看看效果 。
首先看看原数据集：
X_train, X_test, y_train, y_test = train_test_split(X, y, random_state=101) model = LogisticRegression() model.fit(X_train, y_train) y_pred = model.predict(X_test) acc = accuracy_score(y_test, y_pred) print('准确率：', acc)输出为：
准确率： 0.9736842105263158然后我们看看新数据集：
X_train, X_test, y_train, y_test = train_test_split(X_new, y, random_state=101) model = LogisticRegression() model.fit(X_train, y_train) y_pred = model.predict(X_test) acc = accuracy_score(y_test, y_pred) print('准确率：', acc)输出为：
准确率： 0.9473684210526315可以看到 ， 我们在仅保留了两个特征的情况下 ， 仅仅牺牲了一点准确率 。
【怅然|不容忽视！机器学习中的特征选择初探【sklearn实战】】事实上 ， 在这个例子中 ， 这种通过牺牲模型性能来换取计算性能的操作意义不大 ， 因为这个数据集仅有150个样本、4个特征 ， 但是当我们面临成千上万的特征、数以亿计的样本时 ， 我们就有必要进行权衡了 。 当然 ， 特征选择的目的远不止于此 ， 在之后的探讨中 ， 我们会发现它的更多优点 。
推荐阅读
- 狼|日本居民区摆出红眼机器“魔鬼狼”，为防熊出没
- 葡萄|到底要不要去葡萄皮？果酒机器：酿葡萄酒
- 美军|从发射车看美军高超声速导弹性能：性能不如DF17，但威胁不容忽视
- 哈工海渡|新一代智能办公机器人系统上线，数字白领“上岗”
- 机器之心旷视物流，一个AI独角兽的B面
- 人工智能领军企业达观数据推出新一代RPA智能办公机器人集群
- 当人工智能遇上服务机器人 机器人被赋予了人类的“灵魂”
- 中投顾问|2020-2024年中国协作机器人产业的分析
- 智能机器人和机器人对战乒乓球，你玩过吗？要不来试试？
- 海外网|为防熊出没，日本居民区摆出红眼机器“魔鬼狼”[图]