校准分类器CV#

class sklearn.calibration.CalibratedClassifierCV(estimator=None, *, method='sigmoid', cv=None, n_jobs=None, ensemble='auto')[source]#

使用等距回归或逻辑回归进行概率校准。

此类使用交叉验证来估计分类器的参数，并随后校准分类器。默认情况下 ensemble=True，对于每个 cv 分割，它将基础估计器的副本拟合到训练子集，并使用测试子集对其进行校准。对于预测，预测概率在这些单独校准的分类器中取平均值。当 ensemble=False 时，使用交叉验证通过 cross_val_predict 获得无偏预测，然后将其用于校准。对于预测，使用使用所有数据训练的基础估计器。这是在 SVC 和 NuSVC 估计器中 probabilities=True 时实现的预测方法（详情请参阅 用户指南）。

已经拟合的分类器可以通过将模型包装在 FrozenEstimator 中来进行校准。在这种情况下，所有提供的数据都用于校准。用户必须手动确保模型拟合和校准的数据是不相交的。

校准基于 estimator 的 decision_function 方法（如果存在），否则基于 predict_proba。

在 用户指南 中了解更多信息。为了更多地了解 CalibratedClassifierCV 类，请参阅以下校准示例：分类器的概率校准、概率校准曲线 和 三类分类的概率校准。

参数：
estimator估计器实例，默认为 None

需要校准其输出以提供更准确的 predict_proba 输出的分类器。默认分类器是 LinearSVC。

1.2 版中新增。

method{'sigmoid', 'isotonic'}，默认为 'sigmoid'

用于校准的方法。可以是 'sigmoid'，对应于 Platt 方法（即逻辑回归模型），也可以是 'isotonic'，这是一种非参数方法。不建议使用过少的校准样本 (<<1000) 进行等距校准，因为它容易过拟合。

cv整数、交叉验证生成器或可迭代对象，默认为 None

确定交叉验证拆分策略。cv 的可能输入为

  • None，使用默认的 5 折交叉验证；

  • 整数，指定折叠数；

  • CV 分割器,

  • 一个可迭代对象，产生 (train, test) 分割作为索引数组。

对于整数/None 输入，如果 y 是二元或多类，则使用 StratifiedKFold。如果 y 既不是二元也不是多类，则使用 KFold。

有关此处可以使用各种交叉验证策略，请参阅 用户指南。

0.22 版中的更改： 如果为 None，则 cv 的默认值从 3 折更改为 5 折。

1.6 版中的更改： "prefit" 已弃用。请改用 FrozenEstimator。

n_jobs整数，默认为 None

并行运行的作业数。 None 表示 1，除非在 joblib.parallel_backend 上下文中。 -1 表示使用所有处理器。

基础估计器克隆在交叉验证迭代中并行拟合。因此，只有当 cv != "prefit" 时才会发生并行化。

有关更多详细信息，请参阅 词汇表。

0.24 版中新增。

ensemble布尔值或“auto”，默认为“auto”

确定校准器如何拟合。

如果 estimator 是 FrozenEstimator，“auto” 将使用 False，否则使用 True。

如果为 True，则对于每个 cv 折叠，使用训练数据拟合 estimator，并使用测试数据对其进行校准。最终估计器是由 n_cv 个拟合的分类器和校准器对组成的集成，其中 n_cv 是交叉验证折叠的数量。输出是所有对的平均预测概率。

如果为 False，则 cv 用于通过 cross_val_predict 计算无偏预测，然后将其用于校准。在预测时，使用的分类器是在所有数据上训练的 estimator。请注意，此方法也在 sklearn.svm 估计器中使用 probabilities=True 参数内部实现。

0.24 版中新增。

1.6 版中的更改： 添加了“auto”选项，并且是默认选项。

属性：
classes_形状为 (n_classes,) 的 ndarray

类别标签。

n_features_in_int

在 fit 期间看到的特征数量。只有在底层估计器在拟合时公开此类属性时才定义。

0.24 版中新增。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

在 fit 期间看到的特征名称。只有在底层估计器在拟合时公开此类属性时才定义。

版本 1.0 中新增。

calibrated_classifiers_列表 (长度等于 cv，如果 ensemble=False 则为 1)

分类器和校准器对的列表。

  • 当 ensemble=True 时，n_cv 个拟合的 estimator 和校准器对。n_cv 是交叉验证折叠的数量。

  • 当 ensemble=False 时，在所有数据上拟合的 estimator 和拟合的校准器。

版本 0.24 中更改: 当 ensemble=False 时的单个校准分类器情况。

另请参见

calibration_curve

计算校准曲线中的真实概率和预测概率。

参考文献

[1]

从决策树和朴素贝叶斯分类器中获取校准概率估计，B. Zadrozny & C. Elkan，ICML 2001

[2]

将分类器分数转换为精确的多类概率估计，B. Zadrozny & C. Elkan，(KDD 2002)

[3]

支持向量机的概率输出以及与正则化似然方法的比较，J. Platt，(1999)

[4]

使用监督学习预测良好的概率，A. Niculescu-Mizil & R. Caruana，ICML 2005

示例

>>> from sklearn.datasets import make_classification
>>> from sklearn.naive_bayes import GaussianNB
>>> from sklearn.calibration import CalibratedClassifierCV
>>> X, y = make_classification(n_samples=100, n_features=2,
...                            n_redundant=0, random_state=42)
>>> base_clf = GaussianNB()
>>> calibrated_clf = CalibratedClassifierCV(base_clf, cv=3)
>>> calibrated_clf.fit(X, y)
CalibratedClassifierCV(...)
>>> len(calibrated_clf.calibrated_classifiers_)
3
>>> calibrated_clf.predict_proba(X)[:5, :]
array([[0.110..., 0.889...],
       [0.072..., 0.927...],
       [0.928..., 0.071...],
       [0.928..., 0.071...],
       [0.071..., 0.928...]])
>>> from sklearn.model_selection import train_test_split
>>> X, y = make_classification(n_samples=100, n_features=2,
...                            n_redundant=0, random_state=42)
>>> X_train, X_calib, y_train, y_calib = train_test_split(
...        X, y, random_state=42
... )
>>> base_clf = GaussianNB()
>>> base_clf.fit(X_train, y_train)
GaussianNB()
>>> from sklearn.frozen import FrozenEstimator
>>> calibrated_clf = CalibratedClassifierCV(FrozenEstimator(base_clf))
>>> calibrated_clf.fit(X_calib, y_calib)
CalibratedClassifierCV(...)
>>> len(calibrated_clf.calibrated_classifiers_)
1
>>> calibrated_clf.predict_proba([[-0.5, 0.5]])
array([[0.936..., 0.063...]])
fit(X, y, sample_weight=None, **fit_params)[source]#

拟合校准模型。

参数：
X形状为 (n_samples, n_features) 的类数组

训练数据。

y形状为 (n_samples,) 的类数组

目标值。

sample_weight形状为 (n_samples,) 的类数组，默认为 None

样本权重。如果为 None，则样本权重相等。

**fit_paramsdict

传递给底层分类器的 fit 方法的参数。

返回:
self对象

返回 self 的实例。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看 用户指南，了解路由机制的工作原理。

返回:
routingMetadataRouter

一个 MetadataRouter，封装路由信息。

get_params(deep=True)[source]#

获取此估计器的参数。

参数：
deepbool，默认为 True

如果为 True，则将返回此估计器和作为估计器的包含子对象的参数。

返回:
paramsdict

参数名称与其值的映射。

predict(X)[source]#

预测新样本的目标。

预测的类别是概率最高的类别，因此可能与未校准分类器的预测不同。

参数：
X形状为 (n_samples, n_features) 的类数组

样本，被 estimator.predict 接受。

返回:
C形状为 (n_samples,) 的 ndarray

预测的类别。

predict_proba(X)[source]#

分类的校准概率。

此函数根据测试向量 X 数组上的每个类别返回分类的校准概率。

参数：
X形状为 (n_samples, n_features) 的类数组

样本，被 estimator.predict_proba 接受。

返回:
C形状为 (n_samples, n_classes) 的 ndarray

预测的概率。

score(X, y, sample_weight=None)[source]#

返回给定测试数据和标签上的平均准确率。

在多标签分类中，这是子集准确率，这是一个严格的指标，因为您要求每个样本的每个标签集都被正确预测。

参数：
X形状为 (n_samples, n_features) 的类数组

测试样本。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真实标签。

sample_weight形状为 (n_samples,) 的类数组，默认为 None

样本权重。

返回:
scorefloat

self.predict(X) 关于 y 的平均准确率。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → CalibratedClassifierCV[source]#

请求传递给fit方法的元数据。

请注意，只有当enable_metadata_routing=True时（参见sklearn.set_config），此方法才相关。请参阅用户指南了解路由机制的工作原理。

每个参数的选项：

  • True：请求元数据，并在提供时传递给fit。如果未提供元数据，则忽略请求。

  • False：不请求元数据，元估计器不会将其传递给fit。

  • None：不请求元数据，如果用户提供元数据，则元估计器将引发错误。

  • str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求，而无需更改其他参数。

版本1.3中新增。

注意

仅当此估计器用作元估计器的子估计器（例如，在Pipeline内部使用）时，此方法才相关。否则，它无效。

参数：
sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

fit方法中sample_weight参数的元数据路由。

返回:
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（例如Pipeline）。后者具有<component>__<parameter>形式的参数，因此可以更新嵌套对象的每个组件。

参数：
**paramsdict

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → CalibratedClassifierCV[source]#

请求传递给score方法的元数据。

请注意，只有当enable_metadata_routing=True时（参见sklearn.set_config），此方法才相关。请参阅用户指南了解路由机制的工作原理。

每个参数的选项：

  • True：请求元数据，并在提供时传递给score。如果未提供元数据，则忽略请求。

  • False：不请求元数据，元估计器不会将其传递给score。

  • None：不请求元数据，如果用户提供元数据，则元估计器将引发错误。

  • str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求，而无需更改其他参数。

版本1.3中新增。

注意

仅当此估计器用作元估计器的子估计器（例如，在Pipeline内部使用）时，此方法才相关。否则，它无效。

参数：
sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

score方法中sample_weight参数的元数据路由。

返回:
self对象

更新后的对象。