多任务弹性网络交叉验证 (MultiTaskElasticNetCV)#

class sklearn.linear_model.MultiTaskElasticNetCV(*, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, fit_intercept=True, max_iter=1000, tol=0.0001, cv=None, copy_X=True, verbose=0, n_jobs=None, random_state=None, selection='cyclic')[source]#

具有内置交叉验证的多任务L1/L2 ElasticNet。

参见交叉验证估计器的词汇表条目。

MultiTaskElasticNet 的优化目标是

(1 / (2 * n_samples)) * ||Y - XW||^Fro_2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行的范数之和。

在用户指南中了解更多信息。

在0.15版本中添加。

参数：
l1_ratio浮点数或浮点数列表，默认为0.5

ElasticNet 混合参数，其中 0 < l1_ratio <= 1。对于 l1_ratio = 1，惩罚项是 L1/L2 惩罚项。对于 l1_ratio = 0，它是 L2 惩罚项。对于0 < l1_ratio < 1，惩罚项是 L1/L2 和 L2 的组合。此参数可以是列表，在这种情况下，通过交叉验证测试不同的值，并使用给出最佳预测分数的值。请注意，l1_ratio 值列表的一个好选择通常是将更多值放在接近 1（即 Lasso）的位置，而较少放在接近 0（即 Ridge）的位置，例如[.1, .5, .7, .9, .95, .99, 1]。

eps浮点数，默认为1e-3

路径长度。eps=1e-3 表示alpha_min / alpha_max = 1e-3。

n_alphas整数，默认为100

正则化路径上的 alpha 数量。

alphas数组型，默认为None

计算模型的 alpha 列表。如果未提供，则自动设置。

fit_intercept布尔值，默认为True

是否计算此模型的截距。如果设置为 false，则计算中不使用截距（即数据应居中）。

max_iter整数，默认为1000

最大迭代次数。

tol浮点数，默认为1e-4

优化的容差：如果更新小于tol，则优化代码检查对偶间隙的最优性，并继续直到它小于tol。

cv整数、交叉验证生成器或可迭代对象，默认为None

确定交叉验证拆分策略。cv 的可能输入为

  • None，使用默认的 5 折交叉验证，

  • 整数，指定折叠数。

  • CV 分割器,

  • 一个可迭代对象，它产生 (train, test) 分割作为索引数组。

对于 int/None 输入，使用KFold。

参考用户指南了解此处可使用的各种交叉验证策略。

0.22版本中的更改：如果为 None，则cv 的默认值从 3 折更改为 5 折。

copy_X布尔值，默认为True

如果True，则会复制 X；否则，它可能会被覆盖。

verbose布尔值或整数，默认为0

详细程度。

n_jobs整数，默认为None

在交叉验证期间使用的 CPU 数量。请注意，只有在给出 l1_ratio 的多个值时才使用此值。None 表示 1，除非在joblib.parallel_backend 上下文中。-1 表示使用所有处理器。有关更多详细信息，请参见词汇表。

random_state整数、RandomState 实例，默认为None

选择随机特征进行更新的伪随机数生成器的种子。当selection == ‘random’ 时使用。传递一个整数以在多次函数调用中获得可重现的输出。参见词汇表。

selection{'cyclic', 'random'}，默认为'cyclic'

如果设置为 'random'，则每次迭代都会更新一个随机系数，而不是默认情况下按顺序循环遍历特征。这（设置为 'random'）通常会导致更快的收敛，尤其是在 tol 高于 1e-4 时。

属性：
intercept_形状为 (n_targets,) 的 ndarray

决策函数中的独立项。

coef_形状为 (n_targets, n_features) 的 ndarray

参数向量（成本函数公式中的 W）。请注意，coef_ 存储 W 的转置，W.T。

alpha_浮点数

通过交叉验证选择的惩罚量。

mse_path_形状为 (n_alphas, n_folds) 或 (n_l1_ratio, n_alphas, n_folds) 的 ndarray

测试集在每个折叠上的均方误差，变化的 alpha。

alphas_形状为 (n_alphas,) 或 (n_l1_ratio, n_alphas) 的 ndarray

用于拟合的 alpha 网格，针对每个 l1_ratio。

l1_ratio_浮点数

通过交叉验证获得的最佳 l1_ratio。

n_iter_整数

坐标下降求解器为达到最佳 alpha 的指定容差而运行的迭代次数。

dual_gap_浮点数

针对最佳 alpha 的优化结束时的对偶间隙。

n_features_in_整数

在 拟合 期间看到的特征数量。

0.24 版本中添加。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

在 拟合 期间看到的特征名称。仅当 X 的特征名称全部为字符串时定义。

1.0 版本中添加。

另请参见

MultiTaskElasticNet

具有内置交叉验证的多任务L1/L2 ElasticNet。

ElasticNetCV

通过交叉验证进行最佳模型选择的弹性网络模型。

MultiTaskLassoCV

使用 L1 范数作为正则化器并内置交叉验证的训练的多任务 Lasso 模型。

备注

用于拟合模型的算法是坐标下降。

在 fit 中，一旦通过交叉验证找到最佳参数 l1_ratio 和 alpha，则使用整个训练集再次拟合模型。

为了避免不必要的内存复制，fit 方法的 X 和 y 参数应直接作为 Fortran 连续的 numpy 数组传递。

示例

>>> from sklearn import linear_model
>>> clf = linear_model.MultiTaskElasticNetCV(cv=3)
>>> clf.fit([[0,0], [1, 1], [2, 2]],
...         [[0, 0], [1, 1], [2, 2]])
MultiTaskElasticNetCV(cv=3)
>>> print(clf.coef_)
[[0.52875032 0.46958558]
 [0.52875032 0.46958558]]
>>> print(clf.intercept_)
[0.00166409 0.00166409]
fit(X, y, **params)[source]#

使用坐标下降拟合 MultiTaskElasticNet 模型。

拟合是在 alpha 网格上进行的，最佳 alpha 通过交叉验证估计。

参数：
X形状为 (n_samples, n_features) 的 ndarray

训练数据。

y形状为 (n_samples, n_targets) 的 ndarray

训练目标变量。如有必要，将转换为 X 的 dtype。

**params字典，默认为 None

要传递给 CV 分割器的参数。

1.4 版本中添加： 仅当 enable_metadata_routing=True 时可用，这可以通过使用 sklearn.set_config(enable_metadata_routing=True) 来设置。有关更多详细信息，请参见 元数据路由用户指南。

返回：
self对象

返回 MultiTaskElasticNet 实例。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看 用户指南，了解路由机制的工作原理。

1.4 版本中添加。

返回：
routingMetadataRouter

一个 MetadataRouter，封装了路由信息。

get_params(deep=True)[source]#

获取此估计器的参数。

参数：
deep布尔值，默认为 True

如果为 True，则将返回此估计器和包含的作为估计器的子对象的参数。

返回：
params字典

参数名称与其值的映射。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]#

使用坐标下降计算弹性网络路径。

弹性网络优化函数对于单输出和多输出有所不同。

对于单输出任务，它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务，它是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行的范数之和。

在 用户指南 中了解更多信息。

参数：
X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵}

训练数据。直接作为 Fortran 连续数据传递，以避免不必要的内存复制。如果 y 是单输出，则 X 可以是稀疏的。

y形状为 (n_samples,) 或 (n_samples, n_targets) 的 {数组、稀疏矩阵}

目标值。

l1_ratio浮点数，默认为 0.5

传递给弹性网络的 0 到 1 之间的数字（l1 和 l2 惩罚之间的缩放）。l1_ratio=1 对应于 Lasso。

eps浮点数，默认为1e-3

路径长度。eps=1e-3 表示alpha_min / alpha_max = 1e-3。

n_alphas整数，默认为100

正则化路径上的 alpha 数量。

alphas数组型，默认为None

计算模型的 alpha 列表。如果为 None，则自动设置 alpha。

precompute‘auto’，bool 或形状为 (n_features, n_features) 的 array-like，默认值为 ‘auto’

是否使用预计算的 Gram 矩阵来加速计算。如果设置为 'auto'，则由系统决定。Gram 矩阵也可以作为参数传递。

Xy形状为 (n_features,) 或 (n_features, n_targets) 的 array-like，默认值为 None

Xy = np.dot(X.T, y)，可以预计算。只有在预计算 Gram 矩阵时才有用。

copy_X布尔值，默认为True

如果True，则会复制 X；否则，它可能会被覆盖。

coef_init形状为 (n_features,) 的 array-like，默认值为 None

系数的初始值。

verbosebool 或 int，默认值为 False

详细程度。

return_n_iterbool，默认值为 False

是否返回迭代次数。

positivebool，默认值为 False

如果设置为 True，则强制系数为正。（仅当 y.ndim == 1 时允许）。

check_inputbool，默认值为 True

如果设置为 False，则跳过输入验证检查（包括提供的 Gram 矩阵）。假定这些检查由调用者处理。

**paramskwargs

传递给坐标下降求解器的关键字参数。

返回：
alphas形状为 (n_alphas,) 的 ndarray

计算模型的路径上的 alphas。

coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

路径上的系数。

dual_gaps形状为 (n_alphas,) 的 ndarray

每个 alpha 优化结束时的对偶间隙。

n_iters整数列表

坐标下降优化器为每个 alpha 达到指定容差所花费的迭代次数。（当 return_n_iter 设置为 True 时返回）。

另请参见

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则化器的多任务弹性网络模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务L1/L2 ElasticNet。

ElasticNet

具有组合 L1 和 L2 先验作为正则化器的线性回归。

ElasticNetCV

沿正则化路径进行迭代拟合的弹性网络模型。

备注

例如，请参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])
predict(X)[source]#

使用线性模型进行预测。

参数：
Xarray-like 或稀疏矩阵，形状为 (n_samples, n_features)

样本。

返回：
C数组，形状为 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回预测的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\)，其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()，而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分数为 1.0，但也可能为负数（因为模型可能任意差）。始终预测 y 的期望值的常数模型，忽略输入特征，其 \(R^2\) 分数为 0.0。

参数：
X形状为 (n_samples, n_features) 的 array-like

测试样本。对于某些估计器，这可能是预计算的核矩阵，或者形状为 (n_samples, n_samples_fitted) 的泛型对象列表，其中 n_samples_fitted 是估计器拟合中使用的样本数。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like

X 的真值。

sample_weight形状为 (n_samples,) 的 array-like，默认值为 None

样本权重。

返回：
score浮点数

self.predict(X) 相对于 y 的 \(R^2\)。

备注

从 0.23 版本开始，在回归器上调用 score 时使用的 \(R^2\) 分数使用 multioutput='uniform_average'，以保持与 r2_score 的默认值一致。这会影响所有多输出回归器的 score 方法（MultiOutputRegressor 除外）。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → MultiTaskElasticNetCV[source]#

向fit方法请求传递的元数据。

请注意，只有在enable_metadata_routing=True时（参见sklearn.set_config），此方法才相关。请参阅用户指南了解路由机制的工作原理。

每个参数的选项为：

  • True：请求元数据，如果提供则传递给fit。如果未提供元数据，则忽略请求。

  • False：不请求元数据，元估计器不会将其传递给fit。

  • None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

  • str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求，而不对其他参数进行更改。

1.3版本中新增。

注意

仅当此估计器用作元估计器的子估计器（例如，在Pipeline内部使用）时，此方法才相关。否则，它无效。

参数：
sample_weightstr, True, False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

fit中的sample_weight参数的元数据路由。

返回：
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（例如Pipeline）。后者具有<component>__<parameter>形式的参数，因此可以更新嵌套对象的每个组件。

参数：
**paramsdict

估计器参数。

返回：
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → MultiTaskElasticNetCV[source]#

向score方法请求传递的元数据。

请注意，只有在enable_metadata_routing=True时（参见sklearn.set_config），此方法才相关。请参阅用户指南了解路由机制的工作原理。

每个参数的选项为：

  • True：请求元数据，如果提供则传递给score。如果未提供元数据，则忽略请求。

  • False：不请求元数据，元估计器不会将其传递给score。

  • None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

  • str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求，而不对其他参数进行更改。

1.3版本中新增。

注意

仅当此估计器用作元估计器的子估计器（例如，在Pipeline内部使用）时，此方法才相关。否则，它无效。

参数：
sample_weightstr, True, False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

score中的sample_weight参数的元数据路由。

返回：
self对象

更新后的对象。