SequentialFeatureSelector#

class sklearn.feature_selection.SequentialFeatureSelector(estimator, *, n_features_to_select='auto', tol=None, direction='forward', scoring=None, cv=5, n_jobs=None)[source]#

执行顺序特征选择的转换器。

此顺序特征选择器以贪婪方式添加（前向选择）或删除（后向选择）特征以形成特征子集。在每个阶段，此估计器根据估计器的交叉验证分数选择要添加或删除的最佳特征。在无监督学习的情况下，此顺序特征选择器仅考虑特征 (X)，而不考虑期望输出 (y)。

更多信息请参见用户指南。

0.24 版本新增。

参数:
estimator估计器实例

一个未拟合的估计器。

n_features_to_select“auto”, 整型或浮点型, 默认值=”auto”

如果为"auto"，则行为取决于tol参数

  • 如果tol不为None，则选择特征直到分数变化不超过tol。

  • 否则，选择一半的特征。

如果为整数，则该参数为要选择的特征的绝对数量。如果为介于0和1之间的浮点数，则为要选择的特征的比例。

1.1 版本新增：选项"auto"在1.1版本中添加。

1.3 版本变更：默认值在1.3版本中从"warn"更改为"auto"。

tol浮点型, 默认值=None

如果在两次连续的特征添加或删除之间，分数增量不达到至少tol，则停止添加或删除。

当使用direction="backward"删除特征时，tol可以为负。在前向选择时，tol必须严格为正。在分数略微下降的情况下减少特征数量可能很有用。

仅当n_features_to_select为"auto"时，tol才启用。

1.1 版本新增。

direction{‘forward’（前向）, ‘backward’（后向）}, 默认值=’forward’

是执行前向选择还是后向选择。

scoring字符串或可调用对象, 默认值=None

用于交叉验证的评分方法。选项：

cv整型, 交叉验证生成器或可迭代对象, 默认值=None

确定交叉验证的拆分策略。cv 的可能输入为：

  • None，使用默认的5折交叉验证，

  • 整数，指定(Stratified)KFold中的折叠数量，

  • CV 分割器,

  • 一个生成（训练，测试）拆分的迭代器，作为索引数组。

对于整数/None 输入，如果估计器是分类器且y是二元或多类别，则使用StratifiedKFold。在所有其他情况下，使用KFold。这些分割器以shuffle=False实例化，因此在不同调用中拆分将相同。

有关此处可用的各种交叉验证策略，请参阅用户指南。

n_jobs整型, 默认值=None

并行运行的作业数量。在评估要添加或删除的新特征时，交叉验证过程会在折叠之间并行进行。None表示1，除非在joblib.parallel_backend上下文中。-1表示使用所有处理器。更多详情请参阅术语表。

属性:
n_features_in_整型

在拟合期间看到的特征数量。仅当底层估计器在拟合时公开此属性时才定义。

0.24 版本新增。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

在拟合期间看到的特征名称。仅当X的特征名称全部为字符串时才定义。

1.0 版本新增。

n_features_to_select_整型

已选择的特征数量。

support_形状为 (n_features,)，数据类型为 bool 的 ndarray

选定特征的掩码。

另请参见

GenericUnivariateSelect

具有可配置策略的单变量特征选择器。

RFE

基于重要性权重的递归特征消除。

RFECV

基于重要性权重的递归特征消除，并自动选择特征数量。

SelectFromModel

基于重要性权重阈值的特征选择。

示例

>>> from sklearn.feature_selection import SequentialFeatureSelector
>>> from sklearn.neighbors import KNeighborsClassifier
>>> from sklearn.datasets import load_iris
>>> X, y = load_iris(return_X_y=True)
>>> knn = KNeighborsClassifier(n_neighbors=3)
>>> sfs = SequentialFeatureSelector(knn, n_features_to_select=3)
>>> sfs.fit(X, y)
SequentialFeatureSelector(estimator=KNeighborsClassifier(n_neighbors=3),
                          n_features_to_select=3)
>>> sfs.get_support()
array([ True, False,  True,  True])
>>> sfs.transform(X).shape
(150, 3)
fit(X, y=None, **params)[source]#

从 X 中学习要选择的特征。

参数:
X形状为 (n_samples, n_features) 的类数组

训练向量，其中 n_samples 是样本数量，n_features 是预测器数量。

y形状为 (n_samples,) 的类数组, 默认值=None

目标值。对于无监督学习，此参数可能被忽略。

**params字典, 默认值=None

要传递给底层estimator、cv和scorer对象的参数。

1.6 版本新增：仅当enable_metadata_routing=True时可用，可通过使用sklearn.set_config(enable_metadata_routing=True)进行设置。有关更多详情，请参阅元数据路由用户指南。

返回:
self对象

返回实例本身。

fit_transform(X, y=None, **fit_params)[source]#

拟合数据，然后对其进行转换。

使用可选参数fit_params将转换器拟合到X和y，并返回X的转换版本。

参数:
X形状为 (n_samples, n_features) 的类数组

输入样本。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组, 默认值=None

目标值（对于无监督转换，为 None）。

**fit_params字典

额外的拟合参数。

返回:
X_new形状为 (n_samples, n_features_new) 的 ndarray 数组

转换后的数组。

get_feature_names_out(input_features=None)[source]#

根据选定特征遮罩特征名称。

参数:
input_features字符串的类数组或 None, 默认值=None

输入特征。

  • 如果input_features为None，则使用feature_names_in_作为输入特征名称。如果feature_names_in_未定义，则生成以下输入特征名称：["x0", "x1", ..., "x(n_features_in_ - 1)"]。

  • 如果input_features是类数组，则如果feature_names_in_已定义，则input_features必须与feature_names_in_匹配。

返回:
feature_names_out字符串对象的 ndarray

转换后的特征名称。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南以了解路由机制的工作原理。

1.6 版本新增。

返回:
routingMetadataRouter

封装路由信息的MetadataRouter。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deep布尔型, 默认值=True

如果为 True，将返回此估计器及其包含的作为估计器的子对象的参数。

返回:
params字典

参数名称及其对应的值。

get_support(indices=False)[source]#

获取选定特征的掩码或整数索引。

参数:
indices布尔型, 默认值=False

如果为 True，返回值将是整数数组，而不是布尔掩码。

返回:
support数组

一个从特征向量中选择保留特征的索引。如果indices为 False，则这是一个形状为 [# 输入特征] 的布尔数组，其中当且仅当其对应特征被选中保留时，该元素为 True。如果indices为 True，则这是一个形状为 [# 输出特征] 的整数数组，其值是输入特征向量的索引。

inverse_transform(X)[source]#

反转转换操作。

参数:
X形状为 [n_samples, n_selected_features] 的数组

输入样本。

返回:
X_original形状为 [n_samples, n_original_features] 的数组

通过transform移除特征后，在相应位置插入零列的X。

set_output(*, transform=None)[source]#

设置输出容器。

有关如何使用 API 的示例，请参阅set_output API 介绍。

参数:
transform{“default”, “pandas”, “polars”}, 默认值=None

配置transform和fit_transform的输出。

  • "default": 转换器的默认输出格式

  • "pandas": DataFrame 输出

  • "polars": Polars 输出

  • None: 转换配置不变

1.4 版本新增：添加了"polars"选项。

返回:
self估计器实例

估计器实例。

set_params(**params)[source]#

设置此估计器的参数。

该方法适用于简单估计器以及嵌套对象（例如Pipeline）。后者具有<component>__<parameter>形式的参数，因此可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

transform(X)[source]#

将 X 缩减为选定特征。

参数:
X形状为 [n_samples, n_features] 的数组

输入样本。

返回:
X_r形状为 [n_samples, n_selected_features] 的数组

仅包含选定特征的输入样本。