ElasticNet#

class sklearn.linear_model.ElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, precompute=False, max_iter=1000, copy_X=True, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')[source]#

带有 L1 和 L2 先验结合作为正则项的线性回归。

最小化目标函数

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

如果你希望分别控制 L1 和 L2 惩罚项，请记住这等同于

a * ||w||_1 + 0.5 * b * ||w||_2^2

其中

alpha = a + b and l1_ratio = a / (a + b)

参数 l1_ratio 对应于 glmnet R 包中的 alpha，而 alpha 对应于 glmnet 中的 lambda 参数。具体来说，l1_ratio = 1 是 Lasso 惩罚。目前，除非你提供自己的 alpha 序列，否则 l1_ratio <= 0.01 不可靠。

更多信息请参阅用户指南。

参数:
alpha浮点型，默认值=1.0

惩罚项的乘数常数。默认值为 1.0。此参数的确切数学含义请参阅注释。alpha = 0 等同于普通最小二乘法，由 LinearRegression 对象求解。出于数值原因，不建议将 alpha = 0 与 Lasso 对象一起使用。鉴于此，你应该使用 LinearRegression 对象。

l1_ratio浮点型，默认值=0.5

ElasticNet 混合参数，取值范围为 0 <= l1_ratio <= 1。当 l1_ratio = 0 时，惩罚项为 L2 惩罚。当 l1_ratio = 1 时，惩罚项为 L1 惩罚。当 0 < l1_ratio < 1 时，惩罚项是 L1 和 L2 的组合。

fit_intercept布尔型，默认值=True

是否估计截距项。如果为 False，则假定数据已中心化。

precompute布尔型或形如 (n_features, n_features) 的类数组，默认值=False

是否使用预计算的 Gram 矩阵以加快计算。Gram 矩阵也可以作为参数传入。对于稀疏输入，此选项始终为 False 以保持稀疏性。有关详细信息，请查看如何在 ElasticNet 中使用预计算 Gram 矩阵的示例。

max_iter整型，默认值=1000

最大迭代次数。

copy_X布尔型，默认值=True

如果为 True，X 将被复制；否则，它可能会被覆盖。

tol浮点型，默认值=1e-4

优化的容差：如果更新量小于 tol，优化代码会检查对偶间隙以判断最优性，并继续迭代直到其小于 tol，详见下文注释。

warm_start布尔型，默认值=False

设置为 True 时，重用上次调用 fit 的解决方案作为初始化；否则，擦除之前的解决方案。详见术语表。

positive布尔型，默认值=False

设置为 True 时，强制系数为正。

random_state整型、RandomState 实例，默认值=None

伪随机数生成器的种子，用于选择要更新的随机特征。当 selection == 'random' 时使用。传入一个整型以在多次函数调用中获得可重现的输出。详见术语表。

selection{‘cyclic’（循环）, ‘random’（随机）}，默认值=’cyclic’

如果设置为 ‘random’，则每次迭代都会更新一个随机系数，而不是默认的按顺序遍历特征。这种设置（设置为 ‘random’）通常会显著加快收敛速度，尤其是在容差 tol 大于 1e-4 时。

属性:
coef_形如 (n_features,) 或 (n_targets, n_features) 的 ndarray

参数向量（成本函数公式中的 w）。

sparse_coef_形如 (n_features,) 或 (n_targets, n_features) 的稀疏矩阵

拟合的 coef_ 的稀疏表示。

intercept_浮点型或形如 (n_targets,) 的 ndarray

决策函数中的独立项。

n_iter_整型列表

坐标下降求解器为达到指定容差而运行的迭代次数。

dual_gap_浮点型或形如 (n_targets,) 的 ndarray

给定参数 alpha，优化结束时的对偶间隙，与 y 的每个观测值形状相同。

n_features_in_整型

在拟合（fit）期间看到的特征数量。

0.24 版本新增。

feature_names_in_形如 (n_features_in_,) 的 ndarray

在拟合（fit）期间看到的特征名称。仅当 X 的所有特征名称均为字符串时才定义。

1.0 版本新增。

另请参阅

ElasticNetCV

具有通过交叉验证进行最佳模型选择的弹性网络模型。

SGDRegressor

实现带增量训练的弹性网络回归。

SGDClassifier

实现带弹性网络惩罚的逻辑回归（SGDClassifier(loss="log_loss", penalty="elasticnet")）。

注意

为避免不必要的内存复制，fit 方法的 X 参数应直接作为 Fortran 连续的 numpy 数组传入。

基于 tol 的精确停止标准如下：首先，检查最大坐标更新量，即 \(\max_j |w_j^{new} - w_j^{old}|\) 是否小于 tol 乘以最大绝对系数 \(\max_j |w_j|\)。如果是，则额外检查对偶间隙是否小于 tol 乘以 \(||y||_2^2 / n_{ ext{samples}}\)。

示例

>>> from sklearn.linear_model import ElasticNet
>>> from sklearn.datasets import make_regression

>>> X, y = make_regression(n_features=2, random_state=0)
>>> regr = ElasticNet(random_state=0)
>>> regr.fit(X, y)
ElasticNet(random_state=0)
>>> print(regr.coef_)
[18.83816048 64.55968825]
>>> print(regr.intercept_)
1.451
>>> print(regr.predict([[0, 0]]))
[1.451]
fit(X, y, sample_weight=None, check_input=True)[source]#

使用坐标下降法拟合模型。

参数:
X{ndarray, sparse matrix, sparse array}，形如 (n_samples, n_features)

数据。

请注意，不接受需要 int64 索引的大型稀疏矩阵和数组。

y形如 (n_samples,) 或 (n_samples, n_targets) 的 ndarray

目标值。如有必要，将转换为 X 的 dtype。

sample_weight浮点型或形如 (n_samples,) 的类数组，默认值=None

样本权重。在内部，sample_weight 向量将被重新缩放，使其总和为 n_samples。

0.23 版本新增。

check_input布尔型，默认值=True

允许绕过多项输入检查。除非你知道自己在做什么，否则不要使用此参数。

返回:
self对象

拟合好的估计器。

注意

坐标下降是一种逐列处理数据的算法，因此如有必要，它会自动将 X 输入转换为 Fortran 连续的 numpy 数组。

为避免内存重新分配，建议直接使用该格式在内存中分配初始数据。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南，了解路由机制的工作原理。

返回:
routingMetadataRequest

一个封装路由信息的 MetadataRequest 对象。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deep布尔型，默认值=True

如果为 True，将返回此估计器及其包含的作为估计器的子对象的参数。

返回:
params字典

参数名称及其对应的值。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]#

使用坐标下降法计算弹性网络路径。

弹性网络优化函数对于单输出和多输出任务有所不同。

对于单输出任务，它为

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务，它为

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行范数的和。

更多信息请参阅用户指南。

参数:
X{类数组, 稀疏矩阵}，形如 (n_samples, n_features)

训练数据。直接作为 Fortran 连续数据传入，以避免不必要的内存复制。如果 y 是单输出，则 X 可以是稀疏的。

y{类数组, 稀疏矩阵}，形如 (n_samples,) 或 (n_samples, n_targets)

目标值。

l1_ratio浮点型，默认值=0.5

传入弹性网络的一个介于 0 和 1 之间的数字（用于 l1 和 l2 惩罚项之间的缩放）。l1_ratio=1 对应于 Lasso。

eps浮点型，默认值=1e-3

路径长度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3。

n_alphas整型，默认值=100

沿正则化路径的 alpha 数量。

alphas类数组，默认值=None

用于计算模型的 alpha 列表。如果为 None，alpha 将自动设置。

precompute‘auto’，布尔型或形如 (n_features, n_features) 的类数组，默认值=’auto’

是否使用预计算的 Gram 矩阵以加快计算。如果设置为 'auto'，则由我们决定。Gram 矩阵也可以作为参数传入。

Xy形如 (n_features,) 或 (n_features, n_targets) 的类数组，默认值=None

Xy = np.dot(X.T, y)，可以预计算。仅当 Gram 矩阵预计算时才有用。

copy_X布尔型，默认值=True

如果为 True，X 将被复制；否则，它可能会被覆盖。

coef_init形如 (n_features, ) 的类数组，默认值=None

系数的初始值。

verbose布尔型或整型，默认值=False

详细程度。

return_n_iter布尔型，默认值=False

是否返回迭代次数。

positive布尔型，默认值=False

如果设置为 True，强制系数为正。（仅当 y.ndim == 1 时允许）。

check_input布尔型，默认值=True

如果设置为 False，将跳过输入验证检查（包括在提供 Gram 矩阵时）。假定这些检查由调用者处理。

**paramskwargs

传递给坐标下降求解器的关键字参数。

返回:
alphas形如 (n_alphas,) 的 ndarray

沿路径计算模型的 alpha 值。

coefs形如 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

沿路径的系数。

dual_gaps形如 (n_alphas,) 的 ndarray

每个 alpha 优化结束时的对偶间隙。

n_iters整型列表

坐标下降优化器为每个 alpha 达到指定容差所花费的迭代次数。（当 return_n_iter 设置为 True 时返回）。

另请参阅

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则项训练的多任务弹性网络模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务 L1/L2 弹性网络。

ElasticNet

带有 L1 和 L2 先验结合作为正则项的线性回归。

ElasticNetCV

沿正则化路径迭代拟合的弹性网络模型。

注意

有关示例，请参阅examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9, 45.7])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.,  0.787,  0.568],
        [ 0.,  1.120,  0.620],
        [-0., -2.129, -1.128],
        [ 0., 23.046, 88.939],
        [ 0., 10.637, 41.566]])
predict(X)[source]#

使用线性模型进行预测。

参数:
X类数组或稀疏矩阵，形如 (n_samples, n_features)

样本。

返回:
C数组，形如 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回测试数据上的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\)，其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()，\(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最好的分数是 1.0，它也可以是负值（因为模型可能任意地差）。一个总是预测 y 期望值而不考虑输入特征的常数模型将得到 0.0 的 \(R^2\) 分数。

参数:
X形如 (n_samples, n_features) 的类数组

测试样本。对于某些估计器，这可能是一个预计算的核矩阵，或者是一个通用对象列表，形如 (n_samples, n_samples_fitted)，其中 n_samples_fitted 是估计器拟合中使用的样本数量。

y形如 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真实值。

sample_weight形如 (n_samples,) 的类数组，默认值=None

样本权重。

返回:
score浮点型

self.predict(X) 相对于 y 的 \(R^2\) 值。

注意

回归器在调用 score 时使用的 \(R^2\) 分数，从 0.23 版本开始使用 multioutput='uniform_average'，以与 r2_score 的默认值保持一致。这会影响所有多输出回归器（MultiOutputRegressor 除外）的 score 方法。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → ElasticNet[source]#

请求传递给 fit 方法的元数据。

请注意，此方法仅在 enable_metadata_routing=True 时才有效（参阅 sklearn.set_config）。请参阅用户指南，了解路由机制的工作原理。

每个参数的选项为

  • True：请求元数据，如果提供则传递给 fit。如果未提供元数据，则请求被忽略。

  • False：不请求元数据，元估计器也不会将其传递给 fit。

  • None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

  • str：元数据应以给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有请求。这允许你更改某些参数的请求而不更改其他参数。

1.3 版本新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时才相关，例如在 Pipeline 内部使用时。否则它没有效果。

参数:
sample_weight字符串、True、False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象（如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，因此可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → ElasticNet[source]#

请求传递给 score 方法的元数据。

请注意，此方法仅在 enable_metadata_routing=True 时才有效（参阅 sklearn.set_config）。请参阅用户指南，了解路由机制的工作原理。

每个参数的选项为

  • True：请求元数据，如果提供则传递给 score。如果未提供元数据，则请求被忽略。

  • False：不请求元数据，元估计器也不会将其传递给 score。

  • None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

  • str：元数据应以给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有请求。这允许你更改某些参数的请求而不更改其他参数。

1.3 版本新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时才相关，例如在 Pipeline 内部使用时。否则它没有效果。

参数:
sample_weight字符串、True、False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。