弹性网络

class sklearn.linear_model.ElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, precompute=False, max_iter=1000, copy_X=True, tol=0.0001, warm_start=False, positive=False, random_state=None, selection='cyclic')

结合 L1 和 L2 先验作为正则化项的线性回归。

最小化目标函数：

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

如果您希望分别控制 L1 和 L2 惩罚，请记住这等价于：

a * ||w||_1 + 0.5 * b * ||w||_2^2

其中：

alpha = a + b and l1_ratio = a / (a + b)

参数 `l1_ratio` 对应于 glmnet R 包中的 alpha，而 alpha 对应于 glmnet 中的 lambda 参数。具体来说，`l1_ratio = 1` 是 lasso 惩罚。目前，除非您提供自己的 alpha 序列，否则 `l1_ratio <= 0.01` 并不可靠。

更多信息请阅读 用户指南。

参数：

alpha浮点数，默认值=1.0

乘以惩罚项的常数。默认为 1.0。请参阅注释以了解此参数的确切数学含义。alpha = 0 等效于由 LinearRegression 对象求解的普通最小二乘法。出于数值原因，建议不要使用 alpha = 0 和 Lasso 对象。鉴于此，您应该使用 LinearRegression 对象。

l1_ratio浮点数，默认值=0.5

ElasticNet 混合参数，其中 0 <= l1_ratio <= 1。对于 l1_ratio = 0，惩罚项为 L2 惩罚项。对于 l1_ratio = 1，它是 L1 惩罚项。对于 0 < l1_ratio < 1，惩罚项是 L1 和 L2 的组合。

fit_intercept布尔值，默认值=True

是否应该估计截距。如果 False，则假设数据已居中。

precompute布尔值或形状为 (n_features, n_features) 的数组，默认值=False

是否使用预计算的 Gram 矩阵来加快计算速度。Gram 矩阵也可以作为参数传递。对于稀疏输入，此选项始终为 False 以保持稀疏性。查看 有关如何在 ElasticNet 中使用预计算的 Gram 矩阵的示例，了解详细信息。

max_iter整数，默认值=1000

最大迭代次数。

copy_X布尔值，默认值=True

如果 True，则将复制 X；否则，可能会覆盖 X。

tol浮点数，默认值=1e-4

优化的容差：如果更新小于 tol，则优化代码检查对偶间隙的最优性，并继续直到它小于 tol，请参见下面的注释。

warm_start布尔值，默认值=False

设置为 True 时，将重用先前对 fit 的调用的解决方案作为初始化，否则，只需清除先前的解决方案。请参阅 词汇表。

positive布尔值，默认值=False

设置为 True 时，强制系数为正。

random_state整数、RandomState 实例，默认值=None

选择随机特征进行更新的伪随机数生成器的种子。当 selection == ‘random’ 时使用。传递整数可在多次函数调用中获得可重复的输出。请参阅 词汇表。

selection{'cyclic', 'random'}，默认值='cyclic'

如果设置为 'random'，则每次迭代都会更新一个随机系数，而不是默认情况下按顺序循环遍历特征。这（设置为 'random'）通常会导致显着更快的收敛，尤其是在 tol 高于 1e-4 时。

属性：

coef_形状为 (n_features,) 或 (n_targets, n_features) 的 ndarray

参数向量（成本函数公式中的 w）。

sparse_coef_形状为 (n_features,) 或 (n_targets, n_features) 的稀疏矩阵

拟合的 coef_ 的稀疏表示。

intercept_浮点数或形状为 (n_targets,) 的 ndarray

决策函数中的独立项。

n_iter_整数列表

坐标下降求解器为达到指定的容差而运行的迭代次数。

dual_gap_浮点数或形状为 (n_targets,) 的 ndarray

给定参数 alpha，优化结束时的对偶间隙，与 y 的每个观测值的形状相同。

n_features_in_整数

在 拟合期间看到的特征数量。

在 0.24 版本中添加。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

在 拟合期间看到的特征名称。仅当 X 具有全是字符串的特征名称时才定义。

在 1.0 版本中添加。

另请参阅

ElasticNetCV

通过交叉验证进行最佳模型选择的弹性网络模型。

SGDRegressor

实现具有增量训练的弹性网络回归。

SGDClassifier

实现具有弹性网络惩罚的逻辑回归 (SGDClassifier(loss="log_loss", penalty="elasticnet"))。

注释

为了避免不必要的内存重复，fit 方法的 X 参数应直接作为 Fortran 连续的 numpy 数组传递。

基于 tol 的精确停止标准如下：首先，检查最大坐标更新，即 \(\max_j |w_j^{new} - w_j^{old}|\) 是否小于 tol 乘以最大绝对系数 \(\max_j |w_j|\)。如果是，则另外检查对偶间隙是否小于 tol 乘以 \(||y||_2^2 / n_{ ext{samples}}\)。

示例

>>> from sklearn.linear_model import ElasticNet
>>> from sklearn.datasets import make_regression

>>> X, y = make_regression(n_features=2, random_state=0)
>>> regr = ElasticNet(random_state=0)
>>> regr.fit(X, y)
ElasticNet(random_state=0)
>>> print(regr.coef_)
[18.83816048 64.55968825]
>>> print(regr.intercept_)
1.451...
>>> print(regr.predict([[0, 0]]))
[1.451...]

fit(X, y, sample_weight=None, check_input=True)

使用坐标下降拟合模型。

参数：

X(n_samples, n_features) 的 {ndarray，稀疏矩阵，稀疏数组}

数据。

请注意，不接受需要 int64 索引的大型稀疏矩阵和数组。

y形状为 (n_samples,) 或 (n_samples, n_targets) 的 ndarray

目标值。必要时将转换为 X 的数据类型。

sample_weight浮点数或形状为 (n_samples,) 的类数组，默认为 None

样本权重。内部，sample_weight 向量将被重新缩放，使其总和为 n_samples。

0.23 版本新增。

check_input布尔值，默认为 True

允许绕过多个输入检查。除非您知道自己在做什么，否则不要使用此参数。

返回:

self对象

已拟合的估计器。

注释

坐标下降是一种一次考虑数据每一列的算法，因此必要时它会自动将 X 输入转换为 Fortran 连续的 NumPy 数组。

为了避免内存重新分配，建议直接使用该格式在内存中分配初始数据。

get_metadata_routing()

获取此对象的元数据路由。

请查看 用户指南，了解路由机制的工作原理。

返回:

routingMetadataRequest

一个 MetadataRequest 封装了路由信息。

get_params(deep=True)

获取此估计器的参数。

参数：

deep布尔值，默认为 True

如果为 True，则将返回此估计器和包含的作为估计器的子对象的参数。

返回:

params字典

参数名称与其值的映射。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)

使用坐标下降法计算弹性网络路径。

弹性网络优化函数对于单输出和多输出的情况有所不同。

对于单输出任务，它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务，它是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行的范数之和。

更多信息请阅读 用户指南。

参数：

X形状为 (n_samples, n_features) 的{类数组，稀疏矩阵}

训练数据。直接作为 Fortran 连续数据传递，以避免不必要的内存复制。如果 y 是单输出，则 X 可以是稀疏的。

y形状为 (n_samples,) 或 (n_samples, n_targets) 的{类数组，稀疏矩阵}

目标值。

l1_ratio浮点数，默认值=0.5

传递给弹性网络的 0 到 1 之间的数字（l1 和 l2 惩罚之间的缩放）。l1_ratio=1 对应于 Lasso。

eps浮点数，默认为 1e-3

路径的长度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3。

n_alphas整数，默认为 100

正则化路径上的 alpha 数量。

alphas类数组，默认为 None

计算模型的 alpha 列表。如果为 None，则自动设置 alpha。

precompute‘auto’、布尔值或形状为 (n_features, n_features) 的类数组，默认为 ‘auto’

是否使用预计算的 Gram 矩阵来加快计算速度。如果设置为 'auto'，则由我们决定。Gram 矩阵也可以作为参数传递。

Xy形状为 (n_features,) 或 (n_features, n_targets) 的类数组，默认为 None

Xy = np.dot(X.T, y) 可以预计算。仅当预计算 Gram 矩阵时才有用。

copy_X布尔值，默认值=True

如果 True，则将复制 X；否则，可能会覆盖 X。

coef_init形状为 (n_features,) 的类数组，默认为 None

系数的初始值。

verbose布尔值或整数，默认为 False

详细程度。

return_n_iter布尔值，默认为 False

是否返回迭代次数。

positive布尔值，默认值=False

如果设置为 True，则强制系数为正。（仅当 y.ndim == 1 时允许）。

check_input布尔值，默认为 True

如果设置为 False，则跳过输入验证检查（包括提供的 Gram 矩阵）。假定这些检查由调用方处理。

参数kwargs

传递给坐标下降求解器的关键字参数。

返回:

alphas形状为 (n_alphas,) 的 ndarray

计算模型的路径上的 alphas。

coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

路径上的系数。

dual_gaps形状为 (n_alphas,) 的 ndarray

每个 alpha 优化结束时的对偶间隙。

n_iters整数列表

坐标下降优化器为达到每个 alpha 的指定容差所用的迭代次数。（当return_n_iter设置为 True 时返回）。

另请参阅

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则化器的多任务 ElasticNet 模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务 L1/L2 ElasticNet。

ElasticNet

结合 L1 和 L2 先验作为正则化项的线性回归。

ElasticNetCV

沿正则化路径进行迭代拟合的 Elastic Net 模型。

注释

例如，请参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])

predict(X)

使用线性模型进行预测。

参数：

X类数组或稀疏矩阵，形状为 (n_samples, n_features)

样本。

返回:

C数组，形状为 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)

返回预测的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\)，其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()，而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分数为 1.0，也可能为负数（因为模型可以任意地更差）。始终预测 y 的期望值而不考虑输入特征的常数模型将获得 0.0 的 \(R^2\) 分数。

参数：

X形状为 (n_samples, n_features) 的类数组

测试样本。对于某些估计器，这可能是预先计算的核矩阵或形状为 (n_samples, n_samples_fitted) 的泛型对象列表，其中 n_samples_fitted 是估计器拟合中使用的样本数。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真值。

sample_weight形状为 (n_samples,) 的类数组，默认为 None

样本权重。

返回:

score浮点数

self.predict(X) 关于 y 的 \(R^2\)。

注释

从 0.23 版本开始，调用回归器的 score 方法时使用的 \(R^2\) 分数使用 multioutput='uniform_average'，以保持与 r2_score 的默认值一致。这会影响所有多输出回归器的 score 方法（MultiOutputRegressor 除外）。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → ElasticNet

请求传递给 fit 方法的元数据。

请注意，只有在 enable_metadata_routing=True 时（参见 sklearn.set_config）此方法才相关。请参阅 用户指南，了解路由机制的工作原理。

每个参数的选项为

• True：请求元数据，如果提供则传递给 fit。如果未提供元数据，则忽略请求。

• False：不请求元数据，元估计器不会将其传递给 fit。

• None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

• str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求，而其他参数保持不变。

版本 1.3 中新增。

注意

只有当此估计器用作元估计器的子估计器时（例如，在 Pipeline 中使用），此方法才相关。否则，它无效。

参数：

sample_weightstr、True、False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回:

self对象

更新后的对象。

set_params(**params)

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（例如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，因此可以更新嵌套对象的每个组件。

参数：

**paramsdict

估计器参数。

返回:

self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → ElasticNet

请求传递给 score 方法的元数据。

请注意，只有在 enable_metadata_routing=True 时（参见 sklearn.set_config）此方法才相关。请参阅 用户指南，了解路由机制的工作原理。

每个参数的选项为

• True：请求元数据，如果提供则传递给 score。如果未提供元数据，则忽略请求。

• False：不请求元数据，元估计器不会将其传递给 score。

• None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

• str：元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值（sklearn.utils.metadata_routing.UNCHANGED）保留现有的请求。这允许您更改某些参数的请求，而其他参数保持不变。

版本 1.3 中新增。

注意

只有当此估计器用作元估计器的子估计器时（例如，在 Pipeline 中使用），此方法才相关。否则，它无效。

参数：

sample_weightstr、True、False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:

self对象

更新后的对象。

property sparse_coef_

拟合的 coef_ 的稀疏表示。

示例库

scikit-learn 0.23 版本亮点

scikit-learn 0.23 版本亮点

使用预计算 Gram 矩阵和加权样本拟合弹性网络

使用预计算 Gram 矩阵和加权样本拟合弹性网络

用于稀疏信号的基于 L1 的模型

用于稀疏信号的基于 L1 的模型

模型正则化对训练和测试误差的影响

模型正则化对训练和测试误差的影响

使用预计算 Gram 矩阵和加权样本拟合弹性网络

使用预计算 Gram 矩阵和加权样本拟合弹性网络