ElasticNetCV#

class sklearn.linear_model.ElasticNetCV(*, l1_ratio=0.5, eps=0.001, alphas=100, fit_intercept=True, precompute='auto', max_iter=1000, tol=0.0001, cv=None, copy_X=True, verbose=0, n_jobs=None, positive=False, random_state=None, selection='cyclic')[源码]#

具有沿正则化路径迭代拟合的 Elastic Net 模型。

参见词汇表条目 交叉验证估计器。

在用户指南中阅读更多内容。

参数:
l1_ratiofloat 或 float 列表，默认=0.5

传递给 ElasticNet 的 0 到 1 之间的浮点数（用于缩放 l1 和 l2 惩罚项）。当 l1_ratio = 0 时，惩罚项为 L2 惩罚。当 l1_ratio = 1 时，惩罚项为 L1 惩罚。对于 0 < l1_ratio < 1，惩罚项是 L1 和 L2 的组合。该参数可以是一个列表，在这种情况下，将通过交叉验证测试不同的值，并使用给出最佳预测得分的值。注意，l1_ratio 的一个好的取值列表通常是在靠近 1（即 Lasso）的地方放置更多值，在靠近 0（即 Ridge）的地方放置较少值，例如 [.1, .5, .7, .9, .95, .99, 1]。

epsfloat, default=1e-3

路径的长度。eps=1e-3表示alpha_min / alpha_max = 1e-3。

alphas类数组或 int，默认=100

在正则化路径上测试的 alpha 值，用于每个 l1_ratio。如果是 int，则自动生成 alphas 值。如果是类数组，则为要使用的 alpha 值列表。

Changed in version 1.7: alphas accepts an integer value which removes the need to pass n_alphas.

fit_interceptbool, default=True

Whether to calculate the intercept for this model. If set to false, no intercept will be used in calculations (i.e. data is expected to be centered).

precompute‘auto’, bool or array-like of shape (n_features, n_features), default=’auto’

是否使用预计算的Gram矩阵来加快计算速度。如果设置为'auto'，则由我们决定。Gram矩阵也可以作为参数传入。

max_iterint, default=1000

最大迭代次数。

tolfloat, default=1e-4

The tolerance for the optimization: if the updates are smaller or equal to tol, the optimization code checks the dual gap for optimality and continues until it is smaller or equal to tol.

cvint, cross-validation generator or iterable, default=None

确定交叉验证拆分策略。cv 的可能输入包括

  • None，使用默认的 5 折交叉验证，

  • int，指定折数，

  • CV 分割器,

  • 产生（训练，测试）拆分作为索引数组的可迭代对象。

For int/None inputs, KFold is used.

有关此处可使用的各种交叉验证策略，请参阅 用户指南。

版本 0.22 中已更改：如果为 None，cv 默认值从 3 折更改为 5 折。

copy_Xbool, default=True

如果为True，X将被复制；否则，它可能会被覆盖。

verbosebool 或 int，默认=0

冗余度级别。

n_jobsint, default=None

Number of CPUs to use during the cross validation. None means 1 unless in a joblib.parallel_backend context. -1 means using all processors. See Glossary for more details.

positivebool, default=False

设置为True时，强制系数为正。

random_stateint, RandomState instance, default=None

选择要更新的随机特征的伪随机数生成器种子。当selection == ‘random’时使用。传入一个整数可以在多次函数调用中获得可重现的输出。请参阅词汇表。

selection{‘cyclic’, ‘random’}, default=’cyclic’

如果设置为‘random’，则每次迭代更新一个随机系数，而不是默认按顺序遍历特征。这（设置为‘random’）通常会导致显著更快的收敛，尤其当tol高于1e-4时。

属性:
alpha_float

The amount of penalization chosen by cross validation.

l1_ratio_float

通过交叉验证选择的 l1 和 l2 惩罚之间的折中值。

coef_ndarray of shape (n_features,) or (n_targets, n_features)

参数向量（成本函数公式中的w）。

intercept_float 或形状为 (n_targets, n_features) 的 ndarray

决策函数中的独立项。

mse_path_形状为 (n_l1_ratio, n_alpha, n_folds) 的 ndarray

每一折测试集的均方误差，随 l1_ratio 和 alpha 变化。

alphas_形状为 (n_alphas,) 或 (n_l1_ratio, n_alphas) 的 ndarray

用于拟合的 alpha 网格，针对每个 l1_ratio。

dual_gap_float

优化结束时最优 alpha 的对偶间隙（dual gaps）。

n_iter_int

Number of iterations run by the coordinate descent solver to reach the specified tolerance for the optimal alpha.

n_features_in_int

在 拟合 期间看到的特征数。

0.24 版本新增。

feature_names_in_shape 为 (n_features_in_,) 的 ndarray

在 fit 期间看到的特征名称。仅当 X 具有全部为字符串的特征名称时才定义。

1.0 版本新增。

另请参阅

enet_path

使用坐标下降计算 elastic net 路径。

ElasticNet

具有组合 L1 和 L2 先验作为正则化项的线性回归。

注意事项

在 fit 中，一旦通过交叉验证找到了最佳参数 l1_ratio 和 alpha，模型会使用整个训练集重新拟合。

为了避免不必要的内存复制，fit 方法的 X 参数应直接作为 Fortran 连续的 numpy 数组传入。

参数 l1_ratio 对应于 glmnet R 包中的 alpha，而 alpha 对应于 glmnet 中的 lambda 参数。具体而言，优化目标为：

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

如果您有兴趣分别控制 L1 和 L2 惩罚，请记住这等同于：

a * L1 + b * L2

对于：

alpha = a + b and l1_ratio = a / (a + b).

示例请参阅 examples/linear_model/plot_lasso_model_selection.py。

底层的坐标下降求解器使用间隙安全筛选规则来加快拟合时间，请参阅坐标下降用户指南。

示例

>>> from sklearn.linear_model import ElasticNetCV
>>> from sklearn.datasets import make_regression

>>> X, y = make_regression(n_features=2, random_state=0)
>>> regr = ElasticNetCV(cv=5, random_state=0)
>>> regr.fit(X, y)
ElasticNetCV(cv=5, random_state=0)
>>> print(regr.alpha_)
0.199
>>> print(regr.intercept_)
0.398
>>> print(regr.predict([[0, 0]]))
[0.398]
fit(X, y, sample_weight=None, **params)[源码]#

使用坐标下降法拟合 ElasticNet 模型。

Fit is on grid of alphas and best alpha estimated by cross-validation.

参数:
Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}

训练数据。直接以 Fortran 连续数据格式传递以避免不必要的内存复制。如果 y 是单输出的，X 可以是稀疏矩阵。注意，不支持需要 int64 索引的大型稀疏矩阵和数组。

yarray-like of shape (n_samples,)

目标值。

sample_weightfloat or array-like of shape (n_samples,), default=None

用于拟合和评估每个 cv 折叠的加权均方误差的样本权重。请注意，最终用于找到最佳模型的交叉验证 MSE 是每个测试折叠（加权）MSE 的非加权平均值。

**paramsdict, default=None

Parameters to be passed to the CV splitter.

Added in version 1.4: Only available if enable_metadata_routing=True, which can be set by using sklearn.set_config(enable_metadata_routing=True). See Metadata Routing User Guide for more details.

返回:
selfobject

返回已拟合模型的实例。

get_metadata_routing()[源码]#

获取此对象的元数据路由。

请查阅 用户指南，了解路由机制如何工作。

1.4 版本新增。

返回:
routingMetadataRouter

封装路由信息的 MetadataRouter。

get_params(deep=True)[源码]#

获取此估计器的参数。

参数:
deepbool, default=True

如果为 True，将返回此估计器以及包含的子对象（如果它们是估计器）的参数。

返回:
paramsdict

参数名称映射到其值。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas='deprecated', alphas='warn', precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[源码]#

使用坐标下降计算 elastic net 路径。

弹性网络优化函数对于单输出和多输出任务有所不同。

对于单输出任务，它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务，它是

1 / (2 * n_samples) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每一行（任务）的 L2 范数之和 (i=特征, j=任务)

在用户指南中阅读更多内容。

参数:
Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}

训练数据。直接作为Fortran连续数据传递以避免不必要的内存复制。如果y是单输出，则X可以是稀疏的。

y{array-like, sparse matrix} of shape (n_samples,) or (n_samples, n_targets)

目标值。

l1_ratiofloat, default=0.5

传递给弹性网络的值介于0和1之间（L1和L2惩罚之间的缩放）。l1_ratio=1对应于Lasso。

epsfloat, default=1e-3

路径的长度。eps=1e-3表示alpha_min / alpha_max = 1e-3。

n_alphasint, default=100

正则化路径上alpha的数量。

alphasarray-like, default=None

计算模型的alpha列表。如果为None，则自动设置alphas。

precompute‘auto’, bool or array-like of shape (n_features, n_features), default=’auto’

是否使用预计算的Gram矩阵来加快计算速度。如果设置为'auto'，则由我们决定。Gram矩阵也可以作为参数传入。

Xyarray-like of shape (n_features,) or (n_features, n_targets), default=None

可以预计算的Xy = np.dot(X.T, y)。仅当Gram矩阵预计算时有用。

copy_Xbool, default=True

如果为True，X将被复制；否则，它可能会被覆盖。

coef_initarray-like of shape (n_features, ), default=None

系数的初始值。

verbosebool or int, default=False

冗余度级别。

return_n_iterbool, default=False

是否返回迭代次数。

positivebool, default=False

如果设置为True，强制系数为正。（仅当y.ndim == 1时允许）。

check_inputbool, default=True

如果设置为False，则跳过输入验证检查（包括提供的Gram矩阵）。假设这些检查由调用者处理。

**paramskwargs

传递给坐标下降求解器的关键字参数。

返回:
alphasndarray of shape (n_alphas,)

计算模型的路径上的alphas。

coefsndarray of shape (n_features, n_alphas) or (n_targets, n_features, n_alphas)

路径上的系数。

dual_gapsndarray of shape (n_alphas,)

每个alpha优化结束时的对偶间隙。

n_iterslist of int

坐标下降优化器为达到每个alpha的指定容忍度所花费的迭代次数。（当return_n_iter设置为True时返回）。

另请参阅

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则化项训练的多任务 ElasticNet 模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务 L1/L2 ElasticNet。

ElasticNet

具有组合 L1 和 L2 先验作为正则化项的线性回归。

ElasticNetCV

具有沿正则化路径迭代拟合的 Elastic Net 模型。

注意事项

有关示例，请参阅examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。

底层的坐标下降求解器使用间隙安全筛选规则来加快拟合时间，请参阅坐标下降用户指南。

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9, 45.7])
>>> alphas, estimated_coef, _ = enet_path(X, y, alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.,  0.787,  0.568],
        [ 0.,  1.120,  0.620],
        [-0., -2.129, -1.128],
        [ 0., 23.046, 88.939],
        [ 0., 10.637, 41.566]])
predict(X)[源码]#

使用线性模型进行预测。

参数:
X形状为 (n_samples, n_features) 的类数组或稀疏矩阵

样本。

返回:
C形状为 (n_samples,) 或 (n_samples, n_outputs) 的 ndarray

预测值。

score(X, y, sample_weight=None)[源码]#

返回测试数据的 决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\)，其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()，\(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳得分是 1.0，得分也可能是负数（因为模型可能表现得任意差）。一个总是预测 y 期望值的常数模型，忽略输入特征，其 \(R^2\) 得分为 0.0。

参数:
Xshape 为 (n_samples, n_features) 的 array-like

测试样本。对于某些估计器，这可能是一个预先计算的核矩阵或一个通用对象列表，形状为 (n_samples, n_samples_fitted)，其中 n_samples_fitted 是用于估计器拟合的样本数。

yshape 为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like

X 的真实值。

sample_weightshape 为 (n_samples,) 的 array-like, default=None

样本权重。

返回:
scorefloat

self.predict(X) 相对于 y 的 \(R^2\)。

注意事项

在 0.23 版本中，调用回归器的 score 方法时使用的 \(R^2\) 得分采用了 multioutput='uniform_average'，以与 r2_score 的默认值保持一致。这会影响所有多输出回归器的 score 方法（除了 MultiOutputRegressor）。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → ElasticNetCV[源码]#

配置是否应请求元数据以传递给 fit 方法。

请注意，此方法仅在以下情况下相关：此估计器用作 元估计器 中的子估计器，并且通过 enable_metadata_routing=True 启用了元数据路由（请参阅 sklearn.set_config）。请查看 用户指南 以了解路由机制的工作原理。

每个参数的选项如下：

  • True：请求元数据，如果提供则传递给 fit。如果未提供元数据，则忽略该请求。

  • False：不请求元数据，元估计器不会将其传递给 fit。

  • None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

  • str：应将元数据以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在版本 1.3 中新增。

参数:
sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回:
selfobject

更新后的对象。

set_params(**params)[源码]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计器参数。

返回:
selfestimator instance

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → ElasticNetCV[源码]#

配置是否应请求元数据以传递给 score 方法。

请注意，此方法仅在以下情况下相关：此估计器用作 元估计器 中的子估计器，并且通过 enable_metadata_routing=True 启用了元数据路由（请参阅 sklearn.set_config）。请查看 用户指南 以了解路由机制的工作原理。

每个参数的选项如下：

  • True：请求元数据，如果提供则传递给 score。如果未提供元数据，则忽略该请求。

  • False：不请求元数据，元估计器不会将其传递给 score。

  • None：不请求元数据，如果用户提供元数据，元估计器将引发错误。

  • str：应将元数据以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在版本 1.3 中新增。

参数:
sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:
selfobject

更新后的对象。