MultiTaskElasticNet#

class sklearn.linear_model.MultiTaskElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, random_state=None, selection='cyclic')[source]#

使用 L1/L2 混合范数作为正则项训练的 MultiTaskElasticNet 模型。

MultiTaskElasticNet 的优化目标是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = sum_i sqrt(sum_j W_ij ^ 2)

即每行范数之和。

在《用户指南》中阅读更多内容。

参数:
alpha浮点型, 默认值=1.0

乘以 L1/L2 项的常数。默认值为 1.0。

l1_ratio浮点型, 默认值=0.5

ElasticNet 混合参数,取值范围为 0 < l1_ratio <= 1。当 l1_ratio = 1 时,惩罚项为 L1/L2 惩罚。当 l1_ratio = 0 时,惩罚项为 L2 惩罚。当 0 < l1_ratio < 1 时,惩罚项是 L1/L2 和 L2 的组合。

fit_intercept布尔型, 默认值=True

是否为该模型计算截距。如果设置为 False,则计算中不使用截距(即数据应已中心化)。

copy_X布尔型, 默认值=True

如果为 True,则复制 X;否则,X 可能会被覆盖。

max_iter整型, 默认值=1000

最大迭代次数。

tol浮点型, 默认值=1e-4

优化的容差:如果更新量小于 tol,优化代码会检查对偶间隙以判断最优性,并继续迭代直到对偶间隙小于 tol

warm_start布尔型, 默认值=False

当设置为 True 时,重用上一次调用 fit 的解决方案作为初始化;否则,擦除之前的解决方案。参见术语表

random_state整型, RandomState 实例, 默认值=None

伪随机数生成器的种子,用于选择要更新的随机特征。当 selection == ‘random’ 时使用。传入一个整数可在多次函数调用中获得可复现的输出。参见术语表

selection{‘cyclic’, ‘random’}, 默认值=’cyclic’

如果设置为 ‘random’,则每次迭代更新一个随机系数,而不是默认情况下按顺序遍历特征。这(设置为 ‘random’)通常会显著加快收敛速度,尤其是在容差 `tol` 大于 1e-4 时。

属性:
intercept_ndarray 数组,形状为 (n_targets,)

决策函数中的独立项。

coef_ndarray 数组,形状为 (n_targets, n_features)

参数向量(成本函数公式中的 W)。如果在 fit 时传入一维 y(非多任务使用),coef_ 则是一个一维数组。请注意,coef_ 存储的是 W 的转置,即 W.T

n_iter_整型

坐标下降求解器达到指定容差所运行的迭代次数。

dual_gap_浮点型

优化结束时的对偶间隙。

eps_浮点型

根据目标 y 的方差进行缩放后的容差。

sparse_coef_稀疏矩阵,形状为 (n_features,) 或 (n_targets, n_features)

拟合的 coef_ 的稀疏表示。

n_features_in_整型

fit 期间看到的特征数量。

0.24 版本新增。

feature_names_in_ndarray 数组,形状为 (n_features_in_,)

fit 期间看到的特征名称。仅当 X 的所有特征名称均为字符串时定义。

1.0 版本新增。

另请参阅

MultiTaskElasticNetCV

具有内置交叉验证的多任务 L1/L2 ElasticNet。

ElasticNet

以 L1 和 L2 先验组合作为正则项的线性回归。

MultiTaskLasso

使用 L1/L2 混合范数作为正则项训练的多任务 Lasso 模型。

注意事项

用于拟合模型的算法是坐标下降法。

为了避免不必要的内存复制,`fit` 方法的 X 和 y 参数应直接作为 Fortran 连续的 NumPy 数组传入。

示例

>>> from sklearn import linear_model
>>> clf = linear_model.MultiTaskElasticNet(alpha=0.1)
>>> clf.fit([[0,0], [1, 1], [2, 2]], [[0, 0], [1, 1], [2, 2]])
MultiTaskElasticNet(alpha=0.1)
>>> print(clf.coef_)
[[0.45663524 0.45612256]
 [0.45663524 0.45612256]]
>>> print(clf.intercept_)
[0.0872422 0.0872422]
fit(X, y)[source]#

使用坐标下降法拟合 MultiTaskElasticNet 模型。

参数:
Xndarray 数组,形状为 (n_samples, n_features)

数据。

yndarray 数组,形状为 (n_samples, n_targets)

目标。如有必要,将转换为 X 的数据类型。

返回:
self对象

拟合的估计器。

注意事项

坐标下降是一种一次考虑数据每一列的算法,因此如有必要,它会自动将 X 输入转换为 Fortran 连续的 NumPy 数组。

为了避免内存重新分配,建议直接使用该格式在内存中分配初始数据。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南了解路由机制的工作原理。

返回:
routingMetadataRequest

封装路由信息的 MetadataRequest 对象。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deep布尔型, 默认值=True

如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。

返回:
params字典

参数名称映射到其值。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]#

使用坐标下降法计算 Elastic Net 路径。

Elastic Net 优化函数因单输出和多输出任务而异。

对于单输出任务,它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务,它是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行范数之和。

在《用户指南》中阅读更多内容。

参数:
X{类数组, 稀疏矩阵},形状为 (n_samples, n_features)

训练数据。直接作为 Fortran 连续数据传入,以避免不必要的内存复制。如果 y 是单输出,则 X 可以是稀疏的。

y{类数组, 稀疏矩阵},形状为 (n_samples,) 或 (n_samples, n_targets)

目标值。

l1_ratio浮点型, 默认值=0.5

传递给 Elastic Net 的 0 到 1 之间的数字(l1 和 l2 惩罚之间的缩放)。l1_ratio=1 对应于 Lasso。

eps浮点型, 默认值=1e-3

路径的长度。eps=1e-3 意味着 alpha_min / alpha_max = 1e-3

n_alphas整型, 默认值=100

正则化路径上 alpha 的数量。

alphas类数组, 默认值=None

计算模型的 alpha 列表。如果为 None,则自动设置 alpha。

precompute‘auto’, 布尔型或类数组,形状为 (n_features, n_features), 默认值=’auto’

是否使用预计算的 Gram 矩阵来加速计算。如果设置为 'auto',则由我们决定。Gram 矩阵也可以作为参数传入。

Xy类数组,形状为 (n_features,) 或 (n_features, n_targets), 默认值=None

Xy = np.dot(X.T, y),可以预计算。仅当 Gram 矩阵已预计算时有用。

copy_X布尔型, 默认值=True

如果为 True,则复制 X;否则,X 可能会被覆盖。

coef_init类数组,形状为 (n_features, ), 默认值=None

系数的初始值。

verbose布尔型或整型, 默认值=False

详细程度。

return_n_iter布尔型, 默认值=False

是否返回迭代次数。

positive布尔型, 默认值=False

如果设置为 True,则强制系数为正。(仅当 y.ndim == 1 时允许)。

check_input布尔型, 默认值=True

如果设置为 False,则跳过输入验证检查(包括提供 Gram 矩阵时的检查)。假定它们由调用者处理。

**paramskwargs

传递给坐标下降求解器的关键字参数。

返回:
alphasndarray 数组,形状为 (n_alphas,)

模型计算路径上的 alpha 值。

coefsndarray 数组,形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas)

路径上的系数。

dual_gapsndarray 数组,形状为 (n_alphas,)

每个 alpha 优化结束时的对偶间隙。

n_iters整型列表

坐标下降优化器为每个 alpha 达到指定容差所花费的迭代次数。(当 return_n_iter 设置为 True 时返回)。

另请参阅

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则项训练的 MultiTaskElasticNet 模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务 L1/L2 ElasticNet。

ElasticNet

以 L1 和 L2 先验组合作为正则项的线性回归。

ElasticNetCV

沿正则化路径迭代拟合的 Elastic Net 模型。

注意事项

有关示例,请参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9, 45.7])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.,  0.787,  0.568],
        [ 0.,  1.120,  0.620],
        [-0., -2.129, -1.128],
        [ 0., 23.046, 88.939],
        [ 0., 10.637, 41.566]])
predict(X)[source]#

使用线性模型进行预测。

参数:
X类数组或稀疏矩阵,形状为 (n_samples, n_features)

样本。

返回:
C数组,形状为 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回测试数据上的决定系数

决定系数,\(R^2\),定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum(),而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳可能得分为 1.0,并且它可以是负数(因为模型可能任意差)。一个始终预测 y 预期值而忽略输入特征的常数模型将获得 0.0 的 \(R^2\) 分数。

参数:
X类数组,形状为 (n_samples, n_features)

测试样本。对于某些估计器,这可能是预计算的核矩阵,或者是一个通用对象列表,其形状为 (n_samples, n_samples_fitted),其中 n_samples_fitted 是用于估计器拟合的样本数量。

y类数组,形状为 (n_samples,) 或 (n_samples, n_outputs)

X 的真实值。

sample_weight类数组,形状为 (n_samples,), 默认值=None

样本权重。

返回:
score浮点型

self.predict(X) 相对于 y\(R^2\) 值。

注意事项

在回归器上调用 score 时使用的 \(R^2\) 分数从 0.23 版本开始使用 multioutput='uniform_average',以与 r2_score 的默认值保持一致。这会影响所有多输出回归器(MultiOutputRegressor 除外)的 score 方法。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNet[source]#

请求传递给 fit 方法的元数据。

请注意,此方法仅在 enable_metadata_routing=True(参见 sklearn.set_config)时才相关。请参见用户指南了解路由机制的工作原理。

每个参数的选项是

  • True:请求元数据,如果提供则传递给 fit。如果未提供元数据,则忽略该请求。

  • False:不请求元数据,元估计器不会将其传递给 fit

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应以此给定别名而非原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

1.3 版本新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时才相关,例如在 Pipeline 中使用。否则,它没有效果。

参数:
sample_weight字符串、布尔型或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象(如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,以便可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNet[source]#

请求传递给 score 方法的元数据。

请注意,此方法仅在 enable_metadata_routing=True(参见 sklearn.set_config)时才相关。请参见用户指南了解路由机制的工作原理。

每个参数的选项是

  • True:请求元数据,如果提供则传递给 score。如果未提供元数据,则忽略该请求。

  • False:不请求元数据,元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应以此给定别名而非原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

1.3 版本新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时才相关,例如在 Pipeline 中使用。否则,它没有效果。

参数:
sample_weight字符串、布尔型或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。