投票分类器#

class sklearn.ensemble.VotingClassifier(estimators, *, voting='hard', weights=None, n_jobs=None, flatten_transform=True, verbose=False)[source]#

针对未拟合估计器的软投票/多数规则分类器。

更多信息请阅读用户指南。

0.17 版本新增。

参数：

estimators由 (str, estimator) 元组组成的列表: 在 VotingClassifier 上调用 fit 方法将拟合这些原始估计器的克隆，这些克隆将存储在类属性 self.estimators_ 中。可以使用 set_params 将估计器设置为 'drop'。

0.21 版本变更：已接受 'drop'。在 0.22 版本中弃用使用 None，并在 0.24 版本中删除了对它的支持。
voting{‘hard’, ‘soft’}, 默认值为 ‘hard’: 如果为 ‘hard’，则使用预测的类标签进行多数投票。否则如果为 ‘soft’，则根据预测概率之和的 argmax 预测类标签，这对于由良好校准的分类器组成的集成来说是推荐的方法。
weights形状为 (n_classifiers,) 的类数组，默认值为 None: 权重序列 (float 或 int)，用于对预测的类标签的出现次数 (hard 投票) 或平均之前的类概率 (soft 投票) 进行加权。如果为 None，则使用均匀权重。
n_jobsint，默认值为 None: 用于 fit 并行运行的作业数。None 表示 1，除非在 joblib.parallel_backend 上下文中。 -1 表示使用所有处理器。更多详情请参见词汇表。

0.18 版本新增。
flatten_transformbool，默认值为 True: 仅当 voting='soft' 时才影响 transform 输出的形状。如果 voting='soft' 且 flatten_transform=True，transform 方法返回形状为 (n_samples, n_classifiers * n_classes) 的矩阵。如果 flatten_transform=False，则返回 (n_classifiers, n_samples, n_classes)。
verbosebool，默认值为 False: 如果为 True，则在拟合完成后打印经过的时间。

0.23 版本新增。

属性：

estimators_分类器列表: 如 estimators 中定义的已拟合子估计器的集合，这些估计器不是 'drop'。
named_estimators_Bunch: 用于按名称访问任何已拟合子估计器的属性。

0.20 版本新增。
le_LabelEncoder: 用于在拟合期间编码标签并在预测期间解码的转换器。
classes_形状为 (n_classes,) 的 ndarray: 类标签。
n_features_in_int: 在拟合期间看到的特征数量。
feature_names_in_形状为 (n_features_in_,) 的 ndarray: 在拟合期间看到的特征名称。仅当底层估计器在拟合时公开此类属性时才定义。

1.0 版本新增。

另请参阅

VotingRegressor: 预测投票回归器。

示例

>>> import numpy as np
>>> from sklearn.linear_model import LogisticRegression
>>> from sklearn.naive_bayes import GaussianNB
>>> from sklearn.ensemble import RandomForestClassifier, VotingClassifier
>>> clf1 = LogisticRegression(random_state=1)
>>> clf2 = RandomForestClassifier(n_estimators=50, random_state=1)
>>> clf3 = GaussianNB()
>>> X = np.array([[-1, -1], [-2, -1], [-3, -2], [1, 1], [2, 1], [3, 2]])
>>> y = np.array([1, 1, 1, 2, 2, 2])
>>> eclf1 = VotingClassifier(estimators=[
...         ('lr', clf1), ('rf', clf2), ('gnb', clf3)], voting='hard')
>>> eclf1 = eclf1.fit(X, y)
>>> print(eclf1.predict(X))
[1 1 1 2 2 2]
>>> np.array_equal(eclf1.named_estimators_.lr.predict(X),
...                eclf1.named_estimators_['lr'].predict(X))
True
>>> eclf2 = VotingClassifier(estimators=[
...         ('lr', clf1), ('rf', clf2), ('gnb', clf3)],
...         voting='soft')
>>> eclf2 = eclf2.fit(X, y)
>>> print(eclf2.predict(X))
[1 1 1 2 2 2]

要删除估计器，可以使用 set_params 来移除它。在这里，我们删除了一个估计器，导致只有 2 个已拟合估计器。

>>> eclf2 = eclf2.set_params(lr='drop')
>>> eclf2 = eclf2.fit(X, y)
>>> len(eclf2.estimators_)
2

使用 voting='soft' 设置 flatten_transform=True 会使 transform 的输出形状扁平化。

>>> eclf3 = VotingClassifier(estimators=[
...        ('lr', clf1), ('rf', clf2), ('gnb', clf3)],
...        voting='soft', weights=[2,1,1],
...        flatten_transform=True)
>>> eclf3 = eclf3.fit(X, y)
>>> print(eclf3.predict(X))
[1 1 1 2 2 2]
>>> print(eclf3.transform(X).shape)
(6, 6)

fit(X, y, *, sample_weight=None, **fit_params)[source]#

拟合估计器。

参数：

X形状为 (n_samples, n_features) 的 {类数组，稀疏矩阵}: 训练向量，其中 n_samples 是样本数，n_features 是特征数。
y形状为 (n_samples,) 的类数组: 目标值。
sample_weight形状为 (n_samples,) 的类数组，默认值为 None: 样本权重。如果为 None，则样本权重相等。请注意，只有在所有底层估计器都支持样本权重的情况下，才支持此功能。

0.18 版本新增。
**fit_params**字典: 传递给底层估计器的参数。

版本 1.5 中新增：仅当 enable_metadata_routing=True 时可用，可以通过使用 sklearn.set_config(enable_metadata_routing=True) 设置。更多详情请参见元数据路由用户指南。

返回:

self对象: 返回实例本身。

fit_transform(X, y=None, **fit_params)[源代码]#

返回每个估计器的类别标签或概率。

返回每个估计器对 X 的预测结果。

参数：

X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵、数据框}: 输入样本。
y形状为 (n_samples,) 的 ndarray，默认为 None: 目标值（无监督转换时为 None）。
**fit_params**字典: 附加拟合参数。

返回:

X_new形状为 (n_samples, n_features_new) 的 ndarray 数组: 转换后的数组。

get_feature_names_out(input_features=None)[源代码]#

获取转换后的输出特征名称。

参数：

input_features字符串数组或 None，默认为 None: 未使用，出于 API 一致性的约定在此处显示。

返回:

feature_names_out字符串对象的 ndarray: 转换后的特征名称。

get_metadata_routing()[源代码]#

获取此对象的元数据路由。

请查看用户指南，了解路由机制的工作原理。

版本 1.5 中新增。

返回:

routingMetadataRouter: 一个 MetadataRouter，封装了路由信息。

get_params(deep=True)[源代码]#

获取集成中估计器的参数。

返回构造函数中给出的参数以及 estimators 参数中包含的估计器。

参数：

deep布尔值，默认为 True: 将其设置为 True 可获取各种估计器及其参数。

返回:

params字典: 参数和估计器名称与其值映射，或参数名称与其值映射。

属性 n_features_in_#: 在拟合期间看到的特征数量。

属性 named_estimators#

用于按名称访问任何已拟合子估计器的字典。

返回:

数据捆绑包 (Bunch)

predict(X)[源代码]#

预测 X 的类别标签。

参数：

X形状为 (n_samples, n_features) 的 {类数组，稀疏矩阵}: 输入样本。

返回:

maj形状为 (n_samples,) 的数组: 预测的类别标签。

predict_proba(X)[源代码]#

计算 X 中样本的可能结果的概率。

参数：

X形状为 (n_samples, n_features) 的 {类数组，稀疏矩阵}: 输入样本。

返回:

avg形状为 (n_samples, n_classes) 的数组: 每个样本每个类别的加权平均概率。

score(X, y, sample_weight=None)[源代码]#

返回给定测试数据和标签的平均准确率。

在多标签分类中，这是子集准确率，这是一个严格的指标，因为您需要对每个样本正确预测每个标签集。

参数：

X形状为 (n_samples, n_features) 的数组: 测试样本。
y形状为 (n_samples,) 或 (n_samples, n_outputs) 的数组: X 的真实标签。
sample_weight形状为 (n_samples,) 的类数组，默认值为 None: 样本权重。

返回:

score浮点数: self.predict(X) 相对于 y 的平均准确率。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → VotingClassifier[源代码]#

请求传递给 fit 方法的元数据。

请注意，此方法仅当 enable_metadata_routing=True 时才相关（参见 sklearn.set_config）。有关路由机制的工作原理，请参阅用户指南。

每个参数的选项如下：

True：请求元数据，如果提供则将其传递给 fit。如果未提供元数据，则忽略请求。
False：不请求元数据，元估计器不会将其传递给 fit。
None：不请求元数据，如果用户提供元数据，则元估计器将引发错误。
str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有的请求。这允许您更改某些参数的请求，而无需更改其他参数。

版本 1.3 中新增。

注意

仅当此估计器用作元估计器的子估计器时，此方法才相关，例如，在 Pipeline 中使用。否则，它无效。

参数：

sample_weightstr、True、False 或 None，默认值为 sklearn.utils.metadata_routing.UNCHANGED: 在 fit 中对 sample_weight 参数进行元数据路由。

返回:

self对象: 更新后的对象。

set_output(*, transform=None)[source]#

设置输出容器。

有关如何使用 API 的示例，请参阅介绍 set_output API。

参数：

transform{"default", "pandas", "polars"}，默认值为 None

配置 transform 和 fit_transform 的输出。

"default"：转换器的默认输出格式
"pandas"：DataFrame 输出
"polars"：Polars 输出
None：转换配置不变

版本 1.4 中新增： "polars" 选项已添加。

返回:

self估计器实例: 估计器实例。

set_params(**params)[source]#

从集成中设置估计器的参数。

可以使用 get_params() 列出有效的参数键。请注意，您可以直接设置包含在 estimators 中的估计器的参数。

参数：

**params关键字参数: 使用例如 set_params(parameter_name=new_value) 的特定参数。此外，除了设置估计器的参数外，还可以设置估计器的各个估计器，或者通过将其设置为“drop”来删除它们。

返回:

self对象: 估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → VotingClassifier[source]#

请求传递给 score 方法的元数据。

请注意，此方法仅当 enable_metadata_routing=True 时才相关（参见 sklearn.set_config）。有关路由机制的工作原理，请参阅用户指南。

每个参数的选项如下：

True：请求元数据，如果提供则将其传递给 score。如果未提供元数据，则忽略请求。
False：不请求元数据，元估计器不会将其传递给 score。
None：不请求元数据，如果用户提供元数据，则元估计器将引发错误。
str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有的请求。这允许您更改某些参数的请求，而无需更改其他参数。

版本 1.3 中新增。

注意

仅当此估计器用作元估计器的子估计器时，此方法才相关，例如，在 Pipeline 中使用。否则，它无效。

参数：

sample_weightstr、True、False 或 None，默认值为 sklearn.utils.metadata_routing.UNCHANGED: 在 score 中对 sample_weight 参数进行元数据路由。

返回:

self对象: 更新后的对象。

transform(X)[source]#

返回每个估计器的 X 的类别标签或概率。

参数：

X形状为 (n_samples, n_features) 的 {类数组，稀疏矩阵}: 训练向量，其中 n_samples 是样本数，n_features 是特征数。

返回:

概率或标签

如果 voting='soft' 且 flatten_transform=True: 返回形状为 (n_samples, n_classifiers * n_classes) 的 ndarray，即每个分类器计算的类概率。
如果 voting='soft' and `flatten_transform=False: 形状为 (n_classifiers, n_samples, n_classes) 的 ndarray
如果 voting='hard': 形状为 (n_samples, n_classifiers) 的 ndarray，即每个分类器预测的类别标签。

图库示例#

绘制 VotingClassifier 计算的类概率

绘制 VotingClassifier 的决策边界