调优阈值分类器交叉验证#
- class sklearn.model_selection.TunedThresholdClassifierCV(estimator, *, scoring='balanced_accuracy', response_method='auto', thresholds=100, cv=None, refit=True, n_jobs=None, random_state=None, store_cv_results=False)[source]#
使用交叉验证对决策阈值进行后调优的分类器。
此估计器对用于将后验概率估计（即
predict_proba的输出）或决策分数（即decision_function的输出）转换为类标签的决策阈值（截止点）进行后调优。调优是通过优化二元指标（可能受另一个指标约束）来完成的。在 用户指南 中了解更多信息。
版本 1.5 中新增。
- 参数：
- estimator估计器实例
我们要为其优化
predict中使用的决策阈值的分类器（已拟合或未拟合）。- scoringstr 或 callable，默认为“balanced_accuracy”
要优化的目标指标。可以是：
与二元分类评分函数关联的字符串（参见 评分参数：定义模型评估规则）；
使用
make_scorer创建的评分器可调用对象；
- response_method{"auto", "decision_function", "predict_proba"}，默认为“auto”
分类器
estimator的方法，对应于我们要为其查找阈值的决策函数。它可以是：如果为
"auto"，它将尝试依次为每个分类器调用"predict_proba"或"decision_function"。否则，为
"predict_proba"或"decision_function"之一。如果分类器未实现该方法，则会引发错误。
- thresholdsint 或 array-like，默认为 100
在离散化分类器
method的输出时要使用的决策阈值数量。传递 array-like 以手动指定要使用的阈值。- cvint、float、交叉验证生成器、可迭代对象或“prefit”，默认为 None
确定用于训练分类器的交叉验证拆分策略。cv 的可能输入为：
None，使用默认的 5 折分层 K 折交叉验证；整数，指定分层 k 折中的折叠数；
浮点数，指定单个洗牌拆分。浮点数应在 (0, 1) 中，并表示验证集的大小；
用作交叉验证生成器的对象；
产生训练集、测试集拆分的可迭代对象；
"prefit"，绕过交叉验证。
有关此处可以使用各种交叉验证策略，请参考 用户指南。
警告
使用
cv="prefit"并为拟合estimator和调整截止点传递相同的数据集可能会导致意外过拟合。您可以参考 关于模型重拟合和交叉验证的注意事项 以了解示例。仅当用于拟合
estimator的集合与用于调整截止点（通过调用TunedThresholdClassifierCV.fit）的集合不同时，才应使用此选项。- refitbool，默认为 True
是否在找到决策阈值后在整个训练集上重新拟合分类器。请注意，在具有多个拆分的交叉验证上强制使用
refit=False将引发错误。同样，refit=True与cv="prefit"结合使用将引发错误。- n_jobsint，默认为 None
要并行运行的作业数。当
cv表示交叉验证策略时，每个数据拆分的拟合和评分将并行完成。None表示 1，除非在joblib.parallel_backend上下文中。-1表示使用所有处理器。有关详细信息，请参见 词汇表。- random_stateint、RandomState 实例或 None，默认为 None
当
cv为浮点数时，控制交叉验证的随机性。参见 词汇表。- store_cv_resultsbool，默认为 False
是否存储在交叉验证过程中计算的所有分数和阈值。
- 属性：
- estimator_估计器实例
预测时使用的已拟合分类器。
- best_threshold_float
新的决策阈值。
- best_score_float 或 None
目标指标的最优分数，在
best_threshold_处评估。- cv_results_dict 或 None
一个字典，包含在交叉验证过程中计算的分数和阈值。只有在
store_cv_results=True时才存在。键是"thresholds"和"scores"。classes_形状为 (n_classes,) 的ndarray类别标签。
- n_features_in_int
在fit期间看到的特征数量。只有在底层估计器在拟合时公开此类属性时才定义。
- feature_names_in_形状为 (
n_features_in_,) 的ndarray 在fit期间看到的特征名称。只有在底层估计器在拟合时公开此类属性时才定义。
另请参见
示例
>>> from sklearn.datasets import make_classification >>> from sklearn.ensemble import RandomForestClassifier >>> from sklearn.metrics import classification_report >>> from sklearn.model_selection import TunedThresholdClassifierCV, train_test_split >>> X, y = make_classification( ... n_samples=1_000, weights=[0.9, 0.1], class_sep=0.8, random_state=42 ... ) >>> X_train, X_test, y_train, y_test = train_test_split( ... X, y, stratify=y, random_state=42 ... ) >>> classifier = RandomForestClassifier(random_state=0).fit(X_train, y_train) >>> print(classification_report(y_test, classifier.predict(X_test))) precision recall f1-score support 0 0.94 0.99 0.96 224 1 0.80 0.46 0.59 26 accuracy 0.93 250 macro avg 0.87 0.72 0.77 250 weighted avg 0.93 0.93 0.92 250 >>> classifier_tuned = TunedThresholdClassifierCV( ... classifier, scoring="balanced_accuracy" ... ).fit(X_train, y_train) >>> print( ... f"Cut-off point found at {classifier_tuned.best_threshold_:.3f}" ... ) Cut-off point found at 0.342 >>> print(classification_report(y_test, classifier_tuned.predict(X_test))) precision recall f1-score support 0 0.96 0.95 0.96 224 1 0.61 0.65 0.63 26 accuracy 0.92 250 macro avg 0.78 0.80 0.79 250 weighted avg 0.92 0.92 0.92 250
- property classes_#
类别标签。
- decision_function(X)[source]#
使用拟合的估计器计算
X中样本的决策函数。- 参数：
- X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}
训练向量，其中
n_samples是样本数，n_features是特征数。
- 返回：
- decisions形状为 (n_samples,) 的ndarray
拟合估计器计算的决策函数。
- fit(X, y, **params)[source]#
拟合分类器。
- 参数：
- X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}
训练数据。
- y形状为 (n_samples,) 的类数组
目标值。
- **paramsdict
传递给底层分类器的
fit方法的参数。
- 返回：
- self对象
返回 self 的实例。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看用户指南，了解路由机制的工作原理。
- 返回：
- routingMetadataRouter
一个
MetadataRouter，封装路由信息。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数：
- deepbool，默认为 True
如果为 True，则将返回此估计器和包含的作为估计器的子对象的参数。
- 返回：
- paramsdict
参数名称与其值的映射。
- predict(X)[source]#
预测新样本的目标。
- 参数：
- X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}
样本，被
estimator.predict接受。
- 返回：
- class_labels形状为 (n_samples,) 的ndarray
预测的类别。
- predict_log_proba(X)[source]#
使用拟合的估计器预测
X的对数类别概率。- 参数：
- X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}
训练向量，其中
n_samples是样本数，n_features是特征数。
- 返回：
- log_probabilities形状为 (n_samples, n_classes) 的ndarray
输入样本的对数类别概率。
- predict_proba(X)[source]#
使用拟合的估计器预测
X的类别概率。- 参数：
- X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}
训练向量，其中
n_samples是样本数，n_features是特征数。
- 返回：
- probabilities形状为 (n_samples, n_classes) 的ndarray
输入样本的类别概率。
- score(X, y, sample_weight=None)[source]#
返回给定测试数据和标签上的平均准确率。
在多标签分类中，这是子集准确率，这是一个严格的指标，因为它要求对每个样本来说，每个标签集都必须被正确预测。
- 参数：
- X形状为 (n_samples, n_features) 的类数组
测试样本。
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组
X的真实标签。- sample_weight形状为 (n_samples,) 的类数组，默认为 None
样本权重。
- 返回：
- score浮点数
self.predict(X)关于y的平均准确率。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象（例如
Pipeline）。后者具有<component>__<parameter>形式的参数，因此可以更新嵌套对象的每个组件。- 参数：
- **paramsdict
估计器参数。
- 返回：
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') TunedThresholdClassifierCV[source]#
请求传递给
score方法的元数据。请注意，只有在
enable_metadata_routing=True时（参见sklearn.set_config）此方法才相关。请参阅 用户指南，了解路由机制的工作原理。每个参数的选项为
True：请求元数据，如果提供则传递给score。如果未提供元数据，则忽略请求。False：不请求元数据，元估计器不会将其传递给score。None：不请求元数据，如果用户提供元数据，则元估计器将引发错误。str：元数据应使用此给定的别名而不是原始名称传递给元估计器。
默认值（
sklearn.utils.metadata_routing.UNCHANGED）保留现有请求。这允许您更改某些参数的请求，而不会更改其他参数。版本 1.3 中新增。
注意
仅当将此估计器用作元估计器的子估计器时（例如，在
Pipeline中使用）此方法才相关。否则它无效。- 参数：
- sample_weightstr、True、False 或 None，默认为 sklearn.utils.metadata_routing.UNCHANGED
score中sample_weight参数的元数据路由。
- 返回：
- self对象
更新后的对象。
