BaggingClassifier#

class sklearn.ensemble.BaggingClassifier(estimator=None, n_estimators=10, *, max_samples=None, max_features=1.0, bootstrap=True, bootstrap_features=False, oob_score=False, warm_start=False, n_jobs=None, random_state=None, verbose=0)[source]#

Bagging 分类器。

Bagging分类器是一个集成元估计器，它在原始数据集的随机子集上拟合各个基础分类器，然后聚合它们的个体预测（通过投票或平均）以形成最终预测。这种元估计器通常可以用来减少黑盒估计器（例如决策树）的方差，通过在其构建过程中引入随机性，然后从中创建一个集成模型。

该算法涵盖了文献中的几项工作。当数据集的随机子集被抽取为样本的随机子集时，该算法被称为 Pasting [1]。如果样本是有放回抽取的，则该方法被称为 Bagging [2]。当数据集的随机子集被抽取为特征的随机子集时，该方法被称为 Random Subspaces [3]。最后，当基础估计器是在样本和特征的子集上构建时，该方法被称为 Random Patches [4]。

在用户指南中阅读更多内容。

Added in version 0.15.

参数:

estimatorobject, default=None

用于拟合数据集随机子集的基础估计器。如果为None，则基础估计器为DecisionTreeClassifier。

版本 1.2 中新增： base_estimator 已重命名为 estimator。

n_estimatorsint, default=10

The number of base estimators in the ensemble.

max_samplesint or float, default=None

从X中抽取的用于训练每个基础估计器的样本数量（默认有放回抽取，有关更多详细信息，请参阅bootstrap）。

如果为 None，则抽取 X.shape[0] 个样本，不考虑 sample_weight。
如果为 int，则抽取 max_samples 个样本。
如果是 float，则抽取 max_samples * X.shape[0] 个未加权样本或 max_samples * sample_weight.sum() 个加权样本。

max_featuresint or float, default=1.0

从X中抽取的用于训练每个基础估计器的特征数量（默认无放回抽取，有关更多详细信息，请参阅bootstrap_features）。

If int, then draw max_features features.
If float, then draw max(1, int(max_features * n_features_in_)) features.

bootstrapbool, default=True

样本是否进行有放回抽取。如果为 False，则执行无放回抽取。如果使用 sample_weight 进行拟合，强烈建议选择 True，因为只有有放回抽取才能确保 sample_weight 的预期频率语义。

bootstrap_featuresbool, default=False

特征是否进行有放回抽取。

oob_scorebool, default=False

是否使用袋外（out-of-bag）样本来估计泛化误差。仅在 bootstrap=True 时可用。

warm_startbool, default=False

设置为 True 时，重用上一次调用 fit 的解决方案，并向集成模型中添加更多估计器；否则，只拟合一个全新的集成模型。请参阅词汇表。

版本 0.17 中新增: warm_start 构造函数参数。

n_jobsint, default=None

为 fit 和 predict 并行运行的作业数。None 表示 1，除非在 joblib.parallel_backend 上下文中。-1 表示使用所有处理器。有关更多详细信息，请参阅词汇表。

random_stateint, RandomState instance or None, default=None

控制原始数据集的随机重采样（按样本和按特征）。如果基础估计器接受 random_state 属性，则为集成模型中的每个实例生成不同的种子。传递一个整数以在多次函数调用中获得可重现的输出。请参阅词汇表。

verboseint, default=0

控制拟合和预测时的详细程度。

属性:

estimator_estimator: 用于构建集成的基础估计器。

版本 1.2 中新增: base_estimator_ 已重命名为 estimator_。
n_features_in_int: 在拟合期间看到的特征数。

0.24 版本新增。
feature_names_in_shape 为 (n_features_in_,) 的 ndarray: 在 fit 期间看到的特征名称。仅当 X 具有全部为字符串的特征名称时才定义。

1.0 版本新增。
estimators_list of estimators: 拟合后的基础估计器集合。
estimators_samples_list of arrays: 每个基本估计器抽取的样本子集。
estimators_features_list of arrays: The subset of drawn features for each base estimator.
classes_ndarray of shape (n_classes,): 类别标签。
n_classes_int or list: 类的数量。
oob_score_float: 使用袋外估计获得的训练数据集分数。此属性仅当 oob_score 为 True 时存在。
oob_decision_function_ndarray of shape (n_samples, n_classes): 在训练集上使用袋外估计计算的决策函数。如果 n_estimators 很小，可能存在某个数据点在 bootstrap 期间从未被排除在外的情况。在这种情况下，oob_decision_function_ 可能包含 NaN。此属性仅当 oob_score 为 True 时存在。

另请参阅

BaggingRegressor: Bagging 回归器。

References

[1]

L. Breiman, “Pasting small votes for classification in large databases and on-line”, Machine Learning, 36(1), 85-103, 1999.

[2]

L. Breiman, “Bagging predictors”, Machine Learning, 24(2), 123-140, 1996.

[3]

T. Ho, “The random subspace method for constructing decision forests”, Pattern Analysis and Machine Intelligence, 20(8), 832-844, 1998.

[4]

G. Louppe and P. Geurts, “Ensembles on Random Patches”, Machine Learning and Knowledge Discovery in Databases, 346-361, 2012.

示例

>>> from sklearn.svm import SVC
>>> from sklearn.ensemble import BaggingClassifier
>>> from sklearn.datasets import make_classification
>>> X, y = make_classification(n_samples=100, n_features=4,
...                            n_informative=2, n_redundant=0,
...                            random_state=0, shuffle=False)
>>> clf = BaggingClassifier(estimator=SVC(),
...                         n_estimators=10, random_state=0).fit(X, y)
>>> clf.predict([[0, 0, 0, 0]])
array([1])

decision_function(X, **params)[source]#

基础分类器的决策函数平均值。

参数:

Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}: 训练输入样本。稀疏矩阵仅在基础估计器支持时才被接受。
**paramsdict: 通过元数据路由 API 路由到子估计器的 decision_function 方法的参数。

版本 1.7 中新增: 仅在设置 sklearn.set_config(enable_metadata_routing=True) 时可用。有关更多详细信息，请参阅元数据路由用户指南。

返回:

scorendarray of shape (n_samples, k): 输入样本的决策函数。列对应于按排序顺序排列的类，如属性 classes_ 中所示。回归和二元分类是特殊情况，其中 k == 1，否则 k==n_classes。

fit(X, y, sample_weight=None, **fit_params)[source]#

从训练集 (X, y) 构建 Bagging 估计器集成模型。

参数:

Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}: 训练输入样本。稀疏矩阵仅在基础估计器支持时才被接受。
yarray-like of shape (n_samples,): 目标值（分类中的类别标签，回归中的实数）。
sample_weightshape 为 (n_samples,) 的 array-like, default=None: 样本权重。如果为 None，则样本权重相等。用作对训练集进行采样的概率。请注意，sample_weight 参数的预期频率语义仅在有放回抽取 bootstrap=True 并使用浮点数或整数 max_samples（而不是默认的 max_samples=None）时才能满足。
**fit_paramsdict: Parameters to pass to the underlying estimators.

Added in version 1.5: Only available if enable_metadata_routing=True, which can be set by using sklearn.set_config(enable_metadata_routing=True). See Metadata Routing User Guide for more details.

返回:

selfobject: 拟合的估计器。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查阅用户指南，了解路由机制如何工作。

1.5 版本新增。

返回:

routingMetadataRouter: 封装路由信息的 MetadataRouter。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:

deepbool, default=True: 如果为 True，将返回此估计器以及包含的子对象（如果它们是估计器）的参数。

返回:

paramsdict: 参数名称映射到其值。

predict(X, **params)[source]#

预测 X 的类别。

输入样本的预测类别被计算为具有最高平均预测概率的类别。如果基础估计器没有实现 predict_proba 方法，则转而使用投票。

参数:

Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}: 训练输入样本。稀疏矩阵仅在基础估计器支持时才被接受。
**paramsdict: 通过元数据路由 API 路由到子估计器的 predict_proba（如果可用）或 predict 方法（否则）的参数。

版本 1.7 中新增: 仅在设置 sklearn.set_config(enable_metadata_routing=True) 时可用。有关更多详细信息，请参阅元数据路由用户指南。

返回:

yndarray of shape (n_samples,): 预测的类别。

predict_log_proba(X, **params)[source]#

预测 X 的类别对数概率。

输入样本的预测类别对数概率被计算为集成模型中基础估计器的平均预测类别概率的对数。

参数:

Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}: 训练输入样本。稀疏矩阵仅在基础估计器支持时才被接受。
**paramsdict: 通过元数据路由 API 路由到子估计器的 predict_log_proba、predict_proba 或 proba 方法的参数。路由按所提到的顺序尝试，具体取决于子估计器是否提供该方法。

版本 1.7 中新增: 仅在设置 sklearn.set_config(enable_metadata_routing=True) 时可用。有关更多详细信息，请参阅元数据路由用户指南。

返回:

pndarray of shape (n_samples, n_classes): 输入样本的类别对数概率。类的顺序对应于属性 classes_ 中的顺序。

predict_proba(X, **params)[source]#

预测 X 的类别概率。

输入样本的预测类别概率被计算为集成模型中基础估计器的平均预测类别概率。如果基础估计器没有实现 predict_proba 方法，则转而使用投票，输入样本的预测类别概率代表预测每个类别的估计器比例。

参数:

Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}: 训练输入样本。稀疏矩阵仅在基础估计器支持时才被接受。
**paramsdict: 通过元数据路由 API 路由到子估计器的 predict_proba（如果可用）或 predict 方法（否则）的参数。

版本 1.7 中新增: 仅在设置 sklearn.set_config(enable_metadata_routing=True) 时可用。有关更多详细信息，请参阅元数据路由用户指南。

返回:

pndarray of shape (n_samples, n_classes): 输入样本的类别概率。类的顺序对应于属性 classes_ 中的顺序。

score(X, y, sample_weight=None)[source]#

返回在提供的数据和标签上的准确率 (accuracy)。

在多标签分类中，这是子集准确率 (subset accuracy)，这是一个严格的指标，因为它要求每个样本的每个标签集都被正确预测。

参数:

Xshape 为 (n_samples, n_features) 的 array-like: 测试样本。
yshape 为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like: X 的真实标签。
sample_weightshape 为 (n_samples,) 的 array-like, default=None: 样本权重。

返回:

scorefloat: self.predict(X) 相对于 y 的平均准确率。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → BaggingClassifier[source]#

配置是否应请求元数据以传递给 fit 方法。

请注意，此方法仅在以下情况下相关：此估计器用作元估计器中的子估计器，并且通过 enable_metadata_routing=True 启用了元数据路由（请参阅 sklearn.set_config）。请查看用户指南以了解路由机制的工作原理。

每个参数的选项如下：

True：请求元数据，如果提供则传递给 fit。如果未提供元数据，则忽略该请求。
False：不请求元数据，元估计器不会将其传递给 fit。
None：不请求元数据，如果用户提供元数据，元估计器将引发错误。
str：应将元数据以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在版本 1.3 中新增。

参数:

sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED: fit 方法中 sample_weight 参数的元数据路由。

返回:

selfobject: 更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，以便可以更新嵌套对象的每个组件。

参数:

**paramsdict: 估计器参数。

返回:

selfestimator instance: 估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → BaggingClassifier[source]#

配置是否应请求元数据以传递给 score 方法。

请注意，此方法仅在以下情况下相关：此估计器用作元估计器中的子估计器，并且通过 enable_metadata_routing=True 启用了元数据路由（请参阅 sklearn.set_config）。请查看用户指南以了解路由机制的工作原理。

每个参数的选项如下：

True：请求元数据，如果提供则传递给 score。如果未提供元数据，则忽略该请求。
False：不请求元数据，元估计器不会将其传递给 score。
None：不请求元数据，如果用户提供元数据，元估计器将引发错误。
str：应将元数据以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在版本 1.3 中新增。

参数:

sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED: score 方法中 sample_weight 参数的元数据路由。

返回:

selfobject: 更新后的对象。

BaggingClassifier#

本页