SequentialFeatureSelector#

class sklearn.feature_selection.SequentialFeatureSelector(estimator, *, n_features_to_select='auto', tol=None, direction='forward', scoring=None, cv=5, n_jobs=None)[source]#

执行顺序特征选择的转换器。

此 Sequential Feature Selector（顺序特征选择器）以贪婪方式添加（前向选择）或移除（后向选择）特征以形成特征子集。在每个阶段，此估计器根据估计器的交叉验证分数选择要添加或移除的最佳特征。在无监督学习的情况下，此顺序特征选择器只查看特征（X），而不查看所需的输出（y）。

在用户指南中了解更多信息。

0.24 版本新增。

参数:
estimatorestimator instance

一个未拟合的估计器。

n_features_to_select“auto”, int 或 float, default=”auto”

如果为 "auto"，则行为取决于 tol 参数

  • 如果 tol 不为 None，则当分数变化不超过 tol 时选择特征。

  • 否则，选择一半的特征。

如果是整数，则参数是要选择的特征的绝对数量。如果是在 0 到 1 之间的浮点数，则表示要选择的特征的比例。

版本 1.1 中新增： 选项 "auto" 在版本 1.1 中添加。

版本 1.3 中更改： 默认值从 "warn" 更改为 "auto"。

tolfloat, default=None

如果在连续两次添加或移除特征之间分数增量不小于 tol，则停止添加或移除。

使用 direction="backward" 移除特征时，tol 可以是负数。进行前向选择时，tol 要求严格为正。在以分数略微降低为代价减少特征数量时，这可能很有用。

仅当 n_features_to_select 为 "auto" 时启用 tol。

版本 1.1 中新增。

direction{‘forward’, ‘backward’}, default=’forward’

执行前向选择还是后向选择。

scoringstr 或可调用对象，默认=None

用于交叉验证的评分方法。选项

  • str: 有关选项，请参阅 String name scorers。

  • 可调用对象：具有签名 scorer(estimator, X, y) 并返回单个值的分数可调用对象（例如，函数）。有关详细信息，请参阅可调用分数器。

  • None：使用 estimator 的 默认评估标准。

cvint, cross-validation generator or an iterable, default=None

确定交叉验证拆分策略。cv 的可能输入包括

  • None，使用默认的 5 折交叉验证，

  • integer，指定 (Stratified)KFold 中的折数，

  • CV 分割器,

  • 一个可迭代对象，产生索引数组形式的 (训练集, 测试集) 拆分。

对于 integer/None 输入，如果估计器是分类器且 y 是二元或多类，则使用 StratifiedKFold。在所有其他情况下，使用 KFold。这些分割器以 shuffle=False 实例化，因此拆分在不同调用中将保持相同。

有关此处可使用的各种交叉验证策略，请参阅 用户指南。

n_jobsint, default=None

并行运行的作业数。当评估要添加或移除的新特征时，交叉验证过程在折叠上并行进行。None 表示 1，除非在 joblib.parallel_backend 上下文中。-1 表示使用所有处理器。有关详细信息，请参阅词汇表。

属性:
n_features_in_int

在 fit 期间看到的特征数。仅当底层估计器在拟合时暴露此属性时才定义。

0.24 版本新增。

feature_names_in_shape 为 (n_features_in_,) 的 ndarray

在 fit 期间看到的特征名称。仅当 X 具有全部为字符串的特征名称时才定义。

1.0 版本新增。

n_features_to_select_int

已选择的特征数量。

support_ndarray of shape (n_features,), dtype=bool

选定特征的掩码。

另请参阅

GenericUnivariateSelect

具有可配置策略的单变量特征选择器。

RFE

基于重要性权重的递归特征消除。

RFECV

基于重要性权重的递归特征消除，具有自动选择特征数量的功能。

SelectFromModel

基于重要性权重阈值的特征选择。

示例

>>> from sklearn.feature_selection import SequentialFeatureSelector
>>> from sklearn.neighbors import KNeighborsClassifier
>>> from sklearn.datasets import load_iris
>>> X, y = load_iris(return_X_y=True)
>>> knn = KNeighborsClassifier(n_neighbors=3)
>>> sfs = SequentialFeatureSelector(knn, n_features_to_select=3)
>>> sfs.fit(X, y)
SequentialFeatureSelector(estimator=KNeighborsClassifier(n_neighbors=3),
                          n_features_to_select=3)
>>> sfs.get_support()
array([ True, False,  True,  True])
>>> sfs.transform(X).shape
(150, 3)
fit(X, y=None, **params)[source]#

从 X 中学习要选择的特征。

参数:
Xshape 为 (n_samples, n_features) 的 array-like

训练向量，其中 n_samples 是样本数，n_features 是预测变量数。

yshape 为 (n_samples,), default=None 的 array-like

目标值。对于无监督学习，此参数可能会被忽略。

**paramsdict, default=None

要传递给底层 estimator、cv 和 scorer 对象的参数。

版本 1.6 中新增： 仅当 enable_metadata_routing=True 时可用，可通过使用 sklearn.set_config(enable_metadata_routing=True) 进行设置。有关详细信息，请参阅元数据路由用户指南。

返回:
selfobject

返回实例本身。

fit_transform(X, y=None, **fit_params)[source]#

拟合数据，然后对其进行转换。

使用可选参数 fit_params 将转换器拟合到 X 和 y，并返回 X 的转换版本。

参数:
Xshape 为 (n_samples, n_features) 的 array-like

输入样本。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组对象，默认=None

目标值（对于无监督转换，为 None）。

**fit_paramsdict

额外的拟合参数。仅当估计器在其 fit 方法中接受额外的参数时才传递。

返回:
X_newndarray array of shape (n_samples, n_features_new)

转换后的数组。

get_feature_names_out(input_features=None)[source]#

根据所选特征屏蔽特征名称。

参数:
input_featuresarray-like of str or None, default=None

输入特征。

  • 如果 input_features 为 None，则使用 feature_names_in_ 作为输入特征名称。如果 feature_names_in_ 未定义，则生成以下输入特征名称：["x0", "x1", ..., "x(n_features_in_ - 1)"]。

  • 如果 input_features 是 array-like，则如果定义了 feature_names_in_，input_features 必须与 feature_names_in_ 匹配。

返回:
feature_names_outstr 对象的 ndarray

转换后的特征名称。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查阅 用户指南，了解路由机制如何工作。

版本 1.6 中新增。

返回:
routingMetadataRouter

封装路由信息的 MetadataRouter。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deepbool, default=True

如果为 True，将返回此估计器以及包含的子对象（如果它们是估计器）的参数。

返回:
paramsdict

参数名称映射到其值。

get_support(indices=False)[source]#

获取所选特征的掩码或整数索引。

参数:
indicesbool, default=False

如果为 True，返回值将是一个整数数组，而不是布尔掩码。

返回:
supportarray

从特征向量中选择保留特征的索引。如果 indices 为 False，则这是一个形状为 [# input features] 的布尔数组，其中元素为 True 当且仅当其对应的特征被选中保留。如果 indices 为 True，则这是一个形状为 [# output features] 的整数数组，其值是输入特征向量中的索引。

inverse_transform(X)[source]#

反转转换操作。

参数:
Xarray of shape [n_samples, n_selected_features]

输入样本。

返回:
X_originalarray of shape [n_samples, n_original_features]

X，其中通过 transform 移除的特征位置插入了零列。

set_output(*, transform=None)[source]#

设置输出容器。

有关如何使用 API 的示例，请参阅引入 set_output API。

参数:
transform{“default”, “pandas”, “polars”}, default=None

配置 transform 和 fit_transform 的输出。

  • "default": 转换器的默认输出格式

  • "pandas": DataFrame 输出

  • "polars": Polars 输出

  • None: 转换配置保持不变

1.4 版本新增: 添加了 "polars" 选项。

返回:
selfestimator instance

估计器实例。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计器参数。

返回:
selfestimator instance

估计器实例。

transform(X)[source]#

将 X 减少到所选特征。

参数:
Xarray of shape [n_samples, n_features]

输入样本。

返回:
X_rarray of shape [n_samples, n_selected_features]

仅包含所选特征的输入样本。