BaggingClassifier#

class sklearn.ensemble.BaggingClassifier(estimator=None, n_estimators=10, *, max_samples=1.0, max_features=1.0, bootstrap=True, bootstrap_features=False, oob_score=False, warm_start=False, n_jobs=None, random_state=None, verbose=0)[source]#

Bagging 分类器。

Bagging 分类器是一种集成元估计器，它在原始数据集的随机子集上拟合基础分类器，然后聚合它们的单个预测（通过投票或平均）以形成最终预测。这种元估计器通常可以用作降低黑盒估计器（例如决策树）方差的一种方法，方法是在其构建过程中引入随机性，然后从中构建一个集成。

此算法包含文献中的几项工作。当数据集的随机子集被绘制为样本的随机子集时，该算法被称为 Pasting [1]。如果样本是有放回地抽取的，则该方法被称为 Bagging [2]。当数据集的随机子集被绘制为特征的随机子集时，该方法被称为随机子空间 [3]。最后，当基础估计器建立在样本和特征的子集上时，该方法被称为随机块 [4]。

在用户指南中了解更多信息。

版本 0.15 中添加。

参数：

estimator对象，默认为 None

要在数据集的随机子集上拟合的基础估计器。如果为 None，则基础估计器为 DecisionTreeClassifier。

版本 1.2 中添加： base_estimator 重命名为 estimator。

n_estimatorsint，默认为 10

集成中的基础估计器数量。

max_samplesint 或 float，默认为 1.0

从 X 中抽取用于训练每个基础估计器的样本数（默认情况下有放回，有关详细信息，请参见 bootstrap）。

如果为 int，则抽取 max_samples 个样本。
如果为 float，则抽取 max_samples * X.shape[0] 个样本。

max_featuresint 或 float，默认为 1.0

从 X 中抽取用于训练每个基础估计器的特征数（默认情况下不放回，有关详细信息，请参见 bootstrap_features）。

如果为 int，则抽取 max_features 个特征。
如果为 float，则抽取 max(1, int(max_features * n_features_in_)) 个特征。

bootstrapbool，默认为 True

样本是否是有放回地抽取的。如果为 False，则执行无放回抽样。

bootstrap_featuresbool，默认为 False

特征是否是有放回地抽取的。

oob_scorebool，默认为 False

是否使用包外样本估计泛化误差。仅当 bootstrap=True 时可用。

warm_startbool，默认为 False

设置为 True 时，重用先前对 fit 的调用的解决方案并向集成添加更多估计器，否则，只需拟合一个全新的集成。参见词汇表。

版本 0.17 中添加： warm_start 构造函数参数。

n_jobsint，默认为 None

用于 fit 和 predict 的并行运行的作业数。None 表示 1，除非在 joblib.parallel_backend 上下文中。-1 表示使用所有处理器。有关详细信息，请参见词汇表。

random_stateint、RandomState 实例或 None，默认为 None

控制原始数据集的随机重采样（样本方面和特征方面）。如果基础估计器接受 random_state 属性，则为集成中的每个实例生成不同的种子。传递一个 int 以在多次函数调用中获得可重现的输出。参见词汇表。

verboseint，默认为 0

控制拟合和预测时的详细程度。

属性：

estimator_估计器: 从中增长集成的基础估计器。

版本 1.2 中添加： base_estimator_ 重命名为 estimator_。
n_features_in_int: 在拟合过程中观察到的特征数量。

在 0.24 版本中添加。
feature_names_in_形状为 (n_features_in_,) 的ndarray: 在拟合过程中观察到的特征名称。仅当 X 的特征名称全部为字符串时才定义。

在 1.0 版本中添加。
estimators_估计器的列表: 已拟合的基估计器的集合。
estimators_samples_数组列表: 每个基估计器抽取的样本子集。
estimators_features_数组列表: 每个基估计器抽取的特征子集。
classes_形状为 (n_classes,) 的ndarray: 类别标签。
n_classes_整数或列表: 类别的数量。
oob_score_浮点数: 使用包外估计获得的训练数据集的得分。仅当 oob_score 为 True 时，此属性才存在。
oob_decision_function_形状为 (n_samples, n_classes) 的ndarray: 使用训练集上的包外估计计算的决策函数。如果 n_estimators 很小，则在自举过程中可能从未忽略某个数据点。在这种情况下，oob_decision_function_ 可能包含 NaN。仅当 oob_score 为 True 时，此属性才存在。

另请参见

BaggingRegressor: Bagging 回归器。

参考文献

[1]

L. Breiman，“在大型数据库和在线分类中粘贴小投票”，机器学习，36(1)，85-103，1999。

[2]

L. Breiman，“Bagging 预测器”，机器学习，24(2)，123-140，1996。

[3]

T. Ho，“用于构建决策森林的随机子空间方法”，模式分析与机器智能，20(8)，832-844，1998。

[4]

G. Louppe 和 P. Geurts，“随机补丁上的集成”，机器学习和数据库中的知识发现，346-361，2012。

示例

>>> from sklearn.svm import SVC
>>> from sklearn.ensemble import BaggingClassifier
>>> from sklearn.datasets import make_classification
>>> X, y = make_classification(n_samples=100, n_features=4,
...                            n_informative=2, n_redundant=0,
...                            random_state=0, shuffle=False)
>>> clf = BaggingClassifier(estimator=SVC(),
...                         n_estimators=10, random_state=0).fit(X, y)
>>> clf.predict([[0, 0, 0, 0]])
array([1])

decision_function(X)[source]#

基分类器的决策函数的平均值。

参数：

X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}: 训练输入样本。仅当基估计器支持稀疏矩阵时才接受稀疏矩阵。

返回:

score形状为 (n_samples, k) 的ndarray: 输入样本的决策函数。列对应于已排序的类，其顺序与属性 classes_ 中的顺序相同。回归和二元分类是 k == 1 的特例，否则 k==n_classes。

property estimators_samples_#

每个基估计器抽取的样本子集。

返回一个动态生成的索引列表，用于标识用于拟合集成每个成员的样本，即包内样本。

注意：为了减少对象内存占用而不存储采样数据，该列表在每次调用属性时都会重新创建。因此，获取属性的速度可能比预期慢。

fit(X, y, *, sample_weight=None, **fit_params)[source]#

从训练集 (X, y) 构建估计器的 Bagging 集成。

参数：

X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}: 训练输入样本。仅当基估计器支持稀疏矩阵时才接受稀疏矩阵。
y形状为 (n_samples,) 的类数组: 目标值（分类中的类别标签，回归中的实数）。
sample_weight形状为 (n_samples,) 的类数组，默认为 None: 样本权重。如果为 None，则样本的权重相等。请注意，只有在基估计器支持样本加权时才支持此功能。
**fit_params字典: 传递给底层估计器的参数。

在 1.5 版本中添加：仅当 enable_metadata_routing=True 时才可用，这可以通过使用 sklearn.set_config(enable_metadata_routing=True) 来设置。有关更多详细信息，请参阅元数据路由用户指南。

返回:

self对象: 已拟合的估计器。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南，了解路由机制的工作原理。

在 1.5 版本中添加。

返回:

routingMetadataRouter: 一个 MetadataRouter，封装了路由信息。

get_params(deep=True)[source]#

获取此估计器的参数。

参数：

deep布尔值，默认为 True: 如果为 True，则将返回此估计器和包含的作为估计器的子对象的参数。

返回:

params字典: 参数名称与其值的映射。

predict(X)[source]#

预测X的类别。

输入样本的预测类别是通过计算平均预测概率最高的类别来计算的。如果基础估计器没有实现predict_proba方法，则采用投票法。

参数：

X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}: 训练输入样本。仅当基估计器支持稀疏矩阵时才接受稀疏矩阵。

返回:

y形状为(n_samples,)的ndarray: 预测的类别。

predict_log_proba(X)[source]#

预测X的类别对数概率。

输入样本的预测类别对数概率计算为集成中基础估计器平均预测类别概率的对数。

参数：

X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}: 训练输入样本。仅当基估计器支持稀疏矩阵时才接受稀疏矩阵。

返回:

p形状为(n_samples, n_classes)的ndarray: 输入样本的类别对数概率。类别的顺序与属性classes_中的顺序一致。

predict_proba(X)[source]#

预测X的类别概率。

输入样本的预测类别概率计算为集成中基础估计器平均预测类别概率。如果基础估计器没有实现predict_proba方法，则采用投票法，输入样本的预测类别概率表示预测每个类别的估计器的比例。

参数：

X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}: 训练输入样本。仅当基估计器支持稀疏矩阵时才接受稀疏矩阵。

返回:

p形状为(n_samples, n_classes)的ndarray: 输入样本的类别概率。类别的顺序与属性classes_中的顺序一致。

score(X, y, sample_weight=None)[source]#

返回给定测试数据和标签的平均准确率。

在多标签分类中，这是子集准确率，这是一个严格的指标，因为您要求对每个样本正确预测每个标签集。

参数：

X形状为(n_samples, n_features)的类数组: 测试样本。
y形状为(n_samples,)或(n_samples, n_outputs)的类数组: X的真实标签。
sample_weight形状为 (n_samples,) 的类数组，默认为 None: 样本权重。

返回:

score浮点数: self.predict(X)相对于y的平均准确率。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → BaggingClassifier[source]#

请求传递给fit方法的元数据。

请注意，只有当enable_metadata_routing=True时（参见sklearn.set_config），此方法才相关。请参见用户指南，了解路由机制的工作原理。

每个参数的选项为

True：请求元数据，如果提供则传递给fit。如果未提供元数据，则忽略请求。
False：不请求元数据，元估计器不会将其传递给fit。
None：不请求元数据，如果用户提供元数据，元估计器将引发错误。
str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求而不对其他参数进行更改。

版本1.3中新增。

注意

仅当此估计器用作元估计器的子估计器（例如，在Pipeline中使用）时，此方法才相关。否则，它没有效果。

参数：

sample_weightstr、True、False 或 None，默认为sklearn.utils.metadata_routing.UNCHANGED: fit中sample_weight参数的元数据路由。

返回:

self对象: 更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（例如Pipeline）。后者具有<component>__<parameter>形式的参数，因此可以更新嵌套对象的每个组件。

参数：

**params字典: 估计器参数。

返回:

self估计器实例: 估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → BaggingClassifier[source]#

请求传递给score方法的元数据。

请注意，只有当enable_metadata_routing=True时（参见sklearn.set_config），此方法才相关。请参见用户指南，了解路由机制的工作原理。

每个参数的选项为

True：请求元数据，如果提供则传递给score。如果未提供元数据，则忽略此请求。
False：不请求元数据，元估计器不会将其传递给score。
None：不请求元数据，如果用户提供元数据，元估计器将引发错误。
str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求而不对其他参数进行更改。

版本1.3中新增。

注意

仅当此估计器用作元估计器的子估计器（例如，在Pipeline中使用）时，此方法才相关。否则，它没有效果。

参数：

sample_weightstr、True、False 或 None，默认为sklearn.utils.metadata_routing.UNCHANGED: score方法中sample_weight参数的元数据路由。

返回:

self对象: 更新后的对象。