极端随机树回归器#
- class sklearn.tree.ExtraTreeRegressor(*, criterion='squared_error', splitter='random', max_depth=None, min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_features=1.0, random_state=None, min_impurity_decrease=0.0, max_leaf_nodes=None, ccp_alpha=0.0, monotonic_cst=None)[source]#
- 极端随机树回归器。 - 极端随机树与经典决策树的构建方式不同。在寻找最佳分割点将节点样本分成两组时,会为每个随机选择的 - max_features特征随机抽取分割点,然后选择这些分割点中最好的一个。当- max_features设置为1时,这相当于构建一棵完全随机的决策树。- 警告:极端随机树应该只在集成方法中使用。 - 阅读更多内容,请参阅用户指南。 - 参数:
- criterion{“squared_error”, “friedman_mse”, “absolute_error”, “poisson”}, default=”squared_error”
- 用于衡量分割质量的函数。支持的准则包括:“squared_error”(均方误差),它等于方差减少作为特征选择标准,并使用每个终端节点的均值最小化L2损失;“friedman_mse”,它使用具有Friedman改进分数的均方误差来进行潜在分割;“absolute_error”(平均绝对误差),它使用每个终端节点的中位数最小化L1损失;以及“poisson”,它使用泊松偏差的减少来查找分割点。 - 0.18版本新增:平均绝对误差 (MAE) 准则。 - 0.24版本新增:泊松偏差准则。 
- splitter{“random”, “best”}, default=”random”
- 用于选择每个节点分割点的策略。支持的策略包括“best”(选择最佳分割点)和“random”(选择最佳随机分割点)。 
- max_depthint, default=None
- 树的最大深度。如果为None,则节点将一直扩展,直到所有叶子节点都是纯的,或者所有叶子节点包含的样本数都小于min_samples_split。 
- min_samples_splitint 或 float, default=2
- 分割内部节点所需的最小样本数。 - 如果为整数,则将其视为最小样本数。 
- 如果为浮点数,则 - min_samples_split是一个分数,- ceil(min_samples_split * n_samples)是每次分割的最小样本数。
 - 0.18版本变更:添加了浮点值以表示分数。 
- min_samples_leafint 或 float, default=1
- 叶子节点所需的最小样本数。只有当分割点在任何深度都能在左右分支中至少留下 - min_samples_leaf个训练样本时,才会考虑该分割点。这可能会使模型更加平滑,尤其是在回归中。- 如果为整数,则将其视为最小样本数。 
- 如果为浮点数,则 - min_samples_leaf是一个分数,- ceil(min_samples_leaf * n_samples)是每个节点的最小样本数。
 - 0.18版本变更:添加了浮点值以表示分数。 
- min_weight_fraction_leaffloat, default=0.0
- 叶子节点所需的总权重(所有输入样本的权重总和)的最小加权分数。当未提供sample_weight时,样本具有相等的权重。 
- max_featuresint, float, {“sqrt”, “log2”} 或 None, default=1.0
- 查找最佳分割时要考虑的特征数。 - 如果为整数,则每次分割时考虑 - max_features个特征。
- 如果为浮点数,则 - max_features是一个分数,- max(1, int(max_features * n_features_in_))个特征在每次分割时都被考虑。
- 如果为“sqrt”,则 - max_features=sqrt(n_features)。
- 如果为“log2”,则 - max_features=log2(n_features)。
- 如果为None,则 - max_features=n_features。
 - 1.1版本变更: - max_features的默认值已从- "auto"更改为- 1.0。- 注意:即使需要有效检查超过 - max_features个特征,搜索分割也不会停止,直到找到节点样本至少一个有效的划分。
- random_stateint, RandomState 实例或 None, default=None
- 用于随机选择每次分割时使用的 - max_features。详情请参阅词汇表。
- min_impurity_decreasefloat, default=0.0
- 如果此分割导致杂质减少大于或等于此值,则将分割节点。 - 加权杂质减少方程如下: - N_t / N * (impurity - N_t_R / N_t * right_impurity - N_t_L / N_t * left_impurity) - 其中 - N表示样本总数,- N_t表示当前节点的样本数,- N_t_L表示左子节点的样本数,- N_t_R表示右子节点的样本数。- 如果传递了 - sample_weight,则- N、- N_t、- N_t_R和- N_t_L均指加权和。- 0.19 版本新增。 
- max_leaf_nodesint,默认为 None
- 以最佳优先的方式生长一棵具有 - max_leaf_nodes个叶节点的树。最佳节点定义为杂质的相对减少量。如果为 None,则叶节点数量不限。
- ccp_alpha非负浮点数,默认为 0.0
- 用于最小成本复杂度剪枝的复杂度参数。将选择成本复杂度小于 - ccp_alpha且最大的子树。默认情况下,不执行剪枝。详情请参见最小成本复杂度剪枝。有关此类剪枝的示例,请参见使用成本复杂度剪枝后剪枝决策树。- 0.22 版本新增。 
- monotonic_cst形状为 (n_features,) 的整型数组,默认为 None
- 指示要对每个特征强制执行的单调性约束。
- 1:单调递增 
- 0:无约束 
- -1:单调递减 
 
 - 如果 monotonic_cst 为 None,则不应用任何约束。 - 不支持以下情况下的单调性约束:
- 多输出回归(即当 - n_outputs_ > 1时),
- 在具有缺失值的数据上训练的回归。 
 
 - 在用户指南中了解更多信息。 - 1.4 版本新增。 
 
- 属性:
- max_features_int
- max_features 的推断值。 
- n_features_in_int
- 在拟合期间看到的特征数量。 - 0.24 版本新增。 
- feature_names_in_形状为 (n_features_in_,) 的 ndarray
- 在拟合期间看到的特征名称。仅当 - X具有全是字符串的特征名称时才定义。- 1.0 版本新增。 
- feature_importances_形状为 (n_features,) 的 ndarray
- 返回特征重要性。 
- n_outputs_int
- 执行 - fit时的输出数量。
- tree_树实例
- 底层的树对象。请参考 - help(sklearn.tree._tree.Tree)了解树对象的属性,并参考理解决策树结构了解这些属性的基本用法。
 
 - 另请参见 - 极端随机树分类器 (ExtraTreeClassifier)
- 极端随机树分类器。 
- sklearn.ensemble.ExtraTreesClassifier
- 极端随机树分类器。 
- sklearn.ensemble.ExtraTreesRegressor
- 极端随机树回归器。 
 - 注释 - 控制树大小的参数(例如 - max_depth、- min_samples_leaf等)的默认值会导致完全生长且未剪枝的树,在某些数据集上可能非常大。为了减少内存消耗,应通过设置这些参数值来控制树的复杂性和大小。- 参考文献 [1]- P. Geurts, D. Ernst., and L. Wehenkel, “Extremely randomized trees”, Machine Learning, 63(1), 3-42, 2006。 - 示例 - >>> from sklearn.datasets import load_diabetes >>> from sklearn.model_selection import train_test_split >>> from sklearn.ensemble import BaggingRegressor >>> from sklearn.tree import ExtraTreeRegressor >>> X, y = load_diabetes(return_X_y=True) >>> X_train, X_test, y_train, y_test = train_test_split( ... X, y, random_state=0) >>> extra_tree = ExtraTreeRegressor(random_state=0) >>> reg = BaggingRegressor(extra_tree, random_state=0).fit( ... X_train, y_train) >>> reg.score(X_test, y_test) 0.33... - apply(X, check_input=True)[source]#
- 返回每个样本预测到的叶节点的索引。 - 0.17 版本新增。 - 参数:
- X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵}
- 输入样本。内部将将其转换为 - dtype=np.float32,如果提供稀疏矩阵,则转换为稀疏- csr_matrix。
- check_inputbool,默认为 True
- 允许绕过一些输入检查。除非您知道自己在做什么,否则不要使用此参数。 
 
- 返回:
- X_leaves形状为 (n_samples,) 的数组
- 对于 X 中的每个数据点 x,返回 x 结束所在的叶节点的索引。叶节点在 - [0; self.tree_.node_count)中编号,编号中可能存在间隙。
 
 
 - cost_complexity_pruning_path(X, y, sample_weight=None)[source]#
- 计算最小成本复杂度剪枝期间的剪枝路径。 - 有关剪枝过程的详细信息,请参见最小成本复杂度剪枝。 - 参数:
- X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵}
- 训练输入样本。内部将将其转换为 - dtype=np.float32,如果提供稀疏矩阵,则转换为稀疏- csc_matrix。
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的数组
- 目标值(类别标签)作为整数或字符串。 
- sample_weight形状为 (n_samples,) 的数组,默认为 None
- 样本权重。如果为 None,则样本权重相等。在搜索每个节点中的分割时,将忽略那些会创建净权重为零或负的子节点的分割。如果分割会导致任何单个类别在任何子节点中都带有负权重,则也会忽略这些分割。 
 
- 返回:
- ccp_pathBunch
- 类似字典的对象,具有以下属性。 - ccp_alphasndarray
- 剪枝过程中子树的有效 alpha 值。 
- impuritiesndarray
- 对于 - ccp_alphas中对应的 alpha 值,子树叶节点的杂质总和。
 
 
- ccp_path
 
 - decision_path(X, check_input=True)[source]#
- 返回树中的决策路径。 - 0.18 版本新增。 - 参数:
- X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵}
- 输入样本。内部将将其转换为 - dtype=np.float32,如果提供稀疏矩阵,则转换为稀疏- csr_matrix。
- check_inputbool,默认为 True
- 允许绕过一些输入检查。除非您知道自己在做什么,否则不要使用此参数。 
 
- 返回:
- indicator形状为 (n_samples, n_nodes) 的稀疏矩阵
- 返回一个节点指示符 CSR 矩阵,其中非零元素表示样本经过这些节点。 
 
 
 - property feature_importances_#
- 返回特征重要性。 - 特征的重要性计算为该特征带来的标准(归一化)总减少量。它也称为基尼重要性。 - 警告:对于高基数特征(许多唯一值),基于杂质的特征重要性可能会产生误导。请参见 - sklearn.inspection.permutation_importance作为替代方法。- 返回:
- feature_importances_形状为 (n_features,) 的 ndarray
- 特征带来的标准总减少量(基尼重要性)。 
 
 
 - fit(X, y, sample_weight=None, check_input=True)[source]#
- 根据训练集 (X, y) 构建决策树回归器。 - 参数:
- X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵}
- 训练输入样本。内部将将其转换为 - dtype=np.float32,如果提供稀疏矩阵,则转换为稀疏- csc_matrix。
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的数组
- 目标值(实数)。为了获得最大效率,请使用 - dtype=np.float64和- order='C'。
- sample_weight形状为 (n_samples,) 的数组,默认为 None
- 样本权重。如果为 None,则样本权重相等。在搜索每个节点的分割时,会忽略那些会创建净权重为零或负的子节点的分割。 
- check_inputbool,默认为 True
- 允许绕过一些输入检查。除非您知道自己在做什么,否则不要使用此参数。 
 
- 返回:
- selfDecisionTreeRegressor
- 拟合后的估计器。 
 
 
 - get_metadata_routing()[source]#
- 获取此对象的元数据路由。 - 请查看 用户指南,了解路由机制的工作原理。 - 返回:
- routingMetadataRequest
- 一个 - MetadataRequest封装了路由信息。
 
 
 - get_params(deep=True)[source]#
- 获取此估计器的参数。 - 参数:
- deepbool,默认为 True
- 如果为 True,则将返回此估计器和包含的作为估计器的子对象的参数。 
 
- 返回:
- paramsdict
- 参数名称与其值的映射。 
 
 
 - predict(X, check_input=True)[source]#
- 预测 X 的类别或回归值。 - 对于分类模型,将返回 X 中每个样本的预测类别。对于回归模型,将返回基于 X 的预测值。 - 参数:
- X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵}
- 输入样本。内部将将其转换为 - dtype=np.float32,如果提供稀疏矩阵,则转换为稀疏- csr_matrix。
- check_inputbool,默认为 True
- 允许绕过一些输入检查。除非您知道自己在做什么,否则不要使用此参数。 
 
- 返回:
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的数组
- 预测的类别或预测值。 
 
 
 - score(X, y, sample_weight=None)[source]#
- 返回预测的决定系数。 - 决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 - ((y_true - y_pred)** 2).sum(),而 \(v\) 是总平方和- ((y_true - y_true.mean()) ** 2).sum()。最佳分数为 1.0,也可能为负数(因为模型可以任意地更差)。一个始终预测- y的期望值的常数模型(忽略输入特征)将获得 0.0 的 \(R^2\) 分数。- 参数:
- X形状为 (n_samples, n_features) 的类数组
- 测试样本。对于某些估计器,这可能是预计算的核矩阵或形状为 - (n_samples, n_samples_fitted)的泛型对象列表,其中- n_samples_fitted是估计器拟合中使用的样本数。
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的数组
- X的真值。
- sample_weight形状为 (n_samples,) 的数组,默认为 None
- 样本权重。 
 
- 返回:
- scorefloat
- \(R^2\) of - self.predict(X)关于- y。
 
 - 注释 - 从 0.23 版本开始,在回归器上调用 - score时使用的 \(R^2\) 分数使用- multioutput='uniform_average',以保持与- r2_score的默认值一致。这会影响所有多输出回归器的- score方法(- MultiOutputRegressor除外)。
 - set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ExtraTreeRegressor[source]#
- 传递给 - fit方法的请求元数据。- 请注意,只有在 - enable_metadata_routing=True时,此方法才相关(参见- sklearn.set_config)。请参阅 用户指南,了解路由机制的工作原理。- 每个参数的选项为 - True:请求元数据,如果提供则传递给- fit。如果未提供元数据,则忽略请求。
- False:不请求元数据,元估计器不会将其传递给- fit。
- None:不请求元数据,如果用户提供元数据,则元估计器将引发错误。
- str:元数据应使用此给定的别名而不是原始名称传递给元估计器。
 - 默认值( - sklearn.utils.metadata_routing.UNCHANGED)保留现有的请求。这允许您更改某些参数的请求而无需更改其他参数。- 1.3 版本中添加。 - 注意 - 只有在此估计器用作元估计器的子估计器时(例如,在 - Pipeline中使用),此方法才相关。否则,它无效。- 参数:
- sample_weightstr, True, False, 或 None,默认为 sklearn.utils.metadata_routing.UNCHANGED
- fit中- sample_weight参数的元数据路由。
 
- 返回:
- selfobject
- 更新后的对象。 
 
 
 - set_params(**params)[source]#
- 设置此估计器的参数。 - 此方法适用于简单的估计器以及嵌套对象(例如 - Pipeline)。后者具有- <component>__<parameter>形式的参数,因此可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
- 估计器参数。 
 
- 返回:
- selfestimator instance
- 估计器实例。 
 
 
 - set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ExtraTreeRegressor[source]#
- 传递给 - score方法的请求元数据。- 请注意,只有在 - enable_metadata_routing=True时,此方法才相关(参见- sklearn.set_config)。请参阅 用户指南,了解路由机制的工作原理。- 每个参数的选项为 - True:请求元数据,如果提供则传递给- score。如果未提供元数据,则忽略请求。
- False:不请求元数据,元估计器不会将其传递给- score。
- None:不请求元数据,如果用户提供元数据,则元估计器将引发错误。
- str:元数据应使用此给定的别名而不是原始名称传递给元估计器。
 - 默认值( - sklearn.utils.metadata_routing.UNCHANGED)保留现有的请求。这允许您更改某些参数的请求而无需更改其他参数。- 1.3 版本中添加。 - 注意 - 只有在此估计器用作元估计器的子估计器时(例如,在 - Pipeline中使用),此方法才相关。否则,它无效。- 参数:
- sample_weightstr, True, False, 或 None,默认为 sklearn.utils.metadata_routing.UNCHANGED
- score中- sample_weight参数的元数据路由。
 
- 返回:
- selfobject
- 更新后的对象。 
 
 
 
