弹性网络交叉验证#

class sklearn.linear_model.ElasticNetCV(*, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, fit_intercept=True, precompute='auto', max_iter=1000, tol=0.0001, cv=None, copy_X=True, verbose=0, n_jobs=None, positive=False, random_state=None, selection='cyclic')[source]#

沿正则化路径进行迭代拟合的弹性网络模型。

参见交叉验证估计器的词汇表条目。

用户指南中了解更多信息。

参数:
l1_ratio浮点数或浮点数列表,默认为0.5

传递给ElasticNet的0到1之间的浮点数(l1和l2惩罚之间的缩放)。对于l1_ratio = 0,惩罚是L2惩罚。对于l1_ratio = 1,它是L1惩罚。对于0 < l1_ratio < 1,惩罚是L1和L2的组合。此参数可以是列表,在这种情况下,通过交叉验证测试不同的值,并使用给出最佳预测分数的值。请注意,l1_ratio值的良好选择通常是在1附近(即Lasso)设置更多值,而在0附近(即Ridge)设置更少的值,例如[.1, .5, .7, .9, .95, .99, 1]

eps浮点数,默认为1e-3

路径的长度。eps=1e-3表示alpha_min / alpha_max = 1e-3

n_alphas整数,默认为100

沿正则化路径的alpha数量,用于每个l1_ratio。

alphas类数组,默认为None

计算模型的alpha列表。如果为None,则自动设置alphas。

fit_intercept布尔值,默认为True

是否计算此模型的截距。如果设置为false,则计算中将不使用截距(即,数据应居中)。

precompute‘auto’、布尔值或形状为(n_features, n_features)的类数组,默认为’auto’

是否使用预计算的Gram矩阵来加快计算速度。如果设置为'auto',则让我们决定。Gram矩阵也可以作为参数传递。

max_iter整数,默认为1000

最大迭代次数。

tol浮点数,默认为1e-4

优化的容差:如果更新小于tol,则优化代码检查对偶间隙的最优性,并继续直到它小于tol

cv整数、交叉验证生成器或迭代器,默认为None

确定交叉验证拆分策略。cv的可能输入为:

  • None,使用默认的5折交叉验证;

  • 整数,指定折叠数;

  • CV拆分器,

  • 产生(train, test)拆分的可迭代索引数组。

对于int/None输入,使用KFold

有关此处可使用的各种交叉验证策略,请参阅用户指南

0.22版本中的更改: 如果为None,则cv的默认值从3折更改为5折。

copy_X布尔值,默认为True

如果为True,则将复制X;否则,它可能会被覆盖。

verbose布尔值或整数,默认为0

冗余量。

n_jobs整数,默认为None

在交叉验证期间使用的CPU数量。None表示1(除非在joblib.parallel_backend上下文中)。-1表示使用所有处理器。有关更多详细信息,请参见词汇表

positive布尔值,默认为False

设置为True时,强制系数为正。

random_state整数、RandomState实例,默认为None

伪随机数生成器的种子,用于选择要更新的随机特征。当 selection == ‘random’ 时使用。传入一个整数,以便在多次函数调用中获得可重复的结果。参见 词汇表

selection{‘cyclic’, ‘random’}, default=’cyclic’

如果设置为 ‘random’,则每次迭代都会更新一个随机系数,而不是默认情况下按顺序循环遍历特征。这(设置为 ‘random’)通常会导致更快的收敛速度,尤其是在 tol 大于 1e-4 时。

属性:
alpha_float

通过交叉验证选择的惩罚量。

l1_ratio_float

通过交叉验证选择的 L1 和 L2 惩罚之间的折衷。

coef_ndarray of shape (n_features,) or (n_targets, n_features)

参数向量(成本函数公式中的 w)。

intercept_float or ndarray of shape (n_targets, n_features)

决策函数中的独立项。

mse_path_ndarray of shape (n_l1_ratio, n_alpha, n_folds)

每个fold上测试集的均方误差,变化的l1_ratio和alpha。

alphas_ndarray of shape (n_alphas,) or (n_l1_ratio, n_alphas)

用于拟合的 alpha 网格,对于每个 l1_ratio。

dual_gap_float

优化结束时最佳 alpha 的对偶间隙。

n_iter_int

坐标下降求解器为达到最佳 alpha 的指定容差而运行的迭代次数。

n_features_in_int

拟合过程中看到的特征数量。

0.24 版本新增。

feature_names_in_ndarray of shape (n_features_in_,)

拟合过程中看到的特征名称。仅当 X 的特征名称全部为字符串时才定义。

1.0 版本新增。

另请参见

enet_path

使用坐标下降计算弹性网络路径。

ElasticNet

使用组合的 L1 和 L2 先验作为正则化器的线性回归。

备注

fit 中,一旦通过交叉验证找到最佳参数 l1_ratioalpha,模型就会使用整个训练集再次进行拟合。

为了避免不必要的内存重复,fit 方法的 X 参数应该直接作为 Fortran 连续的 numpy 数组传递。

参数 l1_ratio 对应于 glmnet R 包中的 alpha,而 alpha 对应于 glmnet 中的 lambda 参数。更具体地说,优化目标是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

如果您有兴趣分别控制 L1 和 L2 惩罚,请记住这等效于

a * L1 + b * L2

对于

alpha = a + b and l1_ratio = a / (a + b).

例如,参见 examples/linear_model/plot_lasso_model_selection.py

示例

>>> from sklearn.linear_model import ElasticNetCV
>>> from sklearn.datasets import make_regression
>>> X, y = make_regression(n_features=2, random_state=0)
>>> regr = ElasticNetCV(cv=5, random_state=0)
>>> regr.fit(X, y)
ElasticNetCV(cv=5, random_state=0)
>>> print(regr.alpha_)
0.199...
>>> print(regr.intercept_)
0.398...
>>> print(regr.predict([[0, 0]]))
[0.398...]
fit(X, y, sample_weight=None, **params)[source]#

使用坐标下降拟合弹性网络模型。

拟合是在 alpha 网格上进行的,最佳 alpha 由交叉验证估计。

参数:
X{array-like, sparse matrix} of shape (n_samples, n_features)

训练数据。直接作为 Fortran 连续数据传递,以避免不必要的内存重复。如果 y 是单输出,X 可以是稀疏的。请注意,不需要 int64 索引的大型稀疏矩阵和数组不被接受。

yarray-like of shape (n_samples,)

目标值。

sample_weightfloat or array-like of shape (n_samples,), default=None

用于拟合和评估每个 cv-fold 的加权均方误差的样本权重。请注意,最终用于查找最佳模型的交叉验证 MSE 是每个测试 fold 的(加权)MSE 的未加权平均值。

**paramsdict, default=None

要传递给 CV 分割器的参数。

1.4 版本新增:仅当 enable_metadata_routing=True 时可用,可以通过使用 sklearn.set_config(enable_metadata_routing=True) 来设置。有关更多详细信息,请参阅 元数据路由用户指南

返回:
selfobject

返回已拟合模型的实例。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看 用户指南,了解路由机制的工作原理。

1.4 版本新增。

返回:
routingMetadataRouter

一个 MetadataRouter 封装路由信息。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deepbool, default=True

如果为 True,则将返回此估计器和作为估计器的包含子对象的参数。

返回:
paramsdict

参数名称与其值的映射。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]#

使用坐标下降计算弹性网络路径。

弹性网络优化函数对于单输出和多输出任务有所不同。

对于单输出任务,其公式为:

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务,其公式为:

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行的范数之和。

用户指南中了解更多信息。

参数:
X{array-like, sparse matrix} of shape (n_samples, n_features)

训练数据。为了避免不必要的内存复制,请直接以 Fortran 连续数据传递。如果 y 是单输出,则 X 可以是稀疏的。

y形状为 (n_samples,) 或 (n_samples, n_targets) 的 {数组、稀疏矩阵}

目标值。

l1_ratio浮点数,默认为 0.5

传递给弹性网络的 0 到 1 之间的数字(l1 和 l2 惩罚之间的缩放)。l1_ratio=1 对应于 Lasso。

eps浮点数,默认为1e-3

路径的长度。eps=1e-3表示alpha_min / alpha_max = 1e-3

n_alphas整数,默认为100

正则化路径上的 alpha 个数。

alphas类数组,默认为None

计算模型的alpha列表。如果为None,则自动设置alphas。

precompute‘auto’、布尔值或形状为(n_features, n_features)的类数组,默认为’auto’

是否使用预计算的Gram矩阵来加快计算速度。如果设置为'auto',则让我们决定。Gram矩阵也可以作为参数传递。

Xy形状为 (n_features,) 或 (n_features, n_targets) 的数组,默认为 None

Xy = np.dot(X.T, y) 可以预先计算。只有在预先计算了 Gram 矩阵时才有用。

copy_X布尔值,默认为True

如果为True,则将复制X;否则,它可能会被覆盖。

coef_init形状为 (n_features,) 的数组,默认为 None

系数的初始值。

verbose布尔值或整数,默认为 False

冗余量。

return_n_iter布尔值,默认为 False

是否返回迭代次数。

positive布尔值,默认为False

如果设置为 True,则强制系数为正。(只有在 y.ndim == 1 时才允许)。

check_input布尔值,默认为 True

如果设置为 False,则跳过输入验证检查(包括提供的 Gram 矩阵)。假设这些检查由调用者处理。

**params关键字参数

传递给坐标下降求解器的关键字参数。

返回:
alphas形状为 (n_alphas,) 的 ndarray

计算模型的路径上的 alphas。

coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

路径上的系数。

dual_gaps形状为 (n_alphas,) 的 ndarray

每个 alpha 优化结束时的对偶间隙。

n_iters整数列表

坐标下降优化器为达到每个 alpha 的指定容差而进行的迭代次数。(当 return_n_iter 设置为 True 时返回)。

另请参见

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则化器的多任务弹性网络模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务 L1/L2 弹性网络。

ElasticNet

使用组合的 L1 和 L2 先验作为正则化器的线性回归。

ElasticNetCV

沿正则化路径进行迭代拟合的弹性网络模型。

备注

例如,参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])
predict(X)[source]#

使用线性模型进行预测。

参数:
X形状为 (n_samples, n_features) 的数组或稀疏矩阵

样本。

返回:
C形状为 (n_samples,) 的数组

返回预测值。

score(X, y, sample_weight=None)[source]#

返回预测的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum(),而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分数为 1.0,也可能为负值(因为模型可以任意差)。始终预测 y 期望值的常数模型,忽略输入特征,其 \(R^2\) 分数为 0.0。

参数:
X形状为 (n_samples, n_features) 的类数组

测试样本。对于某些估计器,这可能是一个预先计算的核矩阵,或者是一个形状为 (n_samples, n_samples_fitted) 的泛型对象列表,其中 n_samples_fitted 是估计器拟合中使用的样本数。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真实值。

sample_weight形状为 (n_samples,) 的类数组,默认值=None

样本权重。

返回:
score浮点数

self.predict(X) 关于 y\(R^2\)

备注

从 0.23 版本开始,调用回归器的 score 方法时使用的 \(R^2\) 分数使用 multioutput='uniform_average',以保持与 r2_score 的默认值一致。这会影响所有多输出回归器(MultiOutputRegressor 除外)的 score 方法。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNetCV[source]#

传递给 fit 方法的请求元数据。

请注意,只有在 enable_metadata_routing=True 时(参见 sklearn.set_config),此方法才相关。请参阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,如果提供则传递给 fit。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给 fit

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有的请求。这允许您更改某些参数的请求,而不对其他参数进行更改。

1.3 版本中新增。

注意

仅当将此估计器用作元估计器的子估计器(例如,在 Pipeline 中使用)时,此方法才相关。否则,它无效。

参数:
sample_weightstr、True、False 或 None,默认值=sklearn.utils.metadata_routing.UNCHANGED

fitsample_weight 参数的元数据路由。

返回:
selfobject

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象(例如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,因此可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ElasticNetCV[source]#

传递给 score 方法的请求元数据。

请注意,只有在 enable_metadata_routing=True 时(参见 sklearn.set_config),此方法才相关。请参阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,如果提供则传递给 score。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有的请求。这允许您更改某些参数的请求,而不对其他参数进行更改。

1.3 版本中新增。

注意

仅当将此估计器用作元估计器的子估计器(例如,在 Pipeline 中使用)时,此方法才相关。否则,它无效。

参数:
sample_weightstr、True、False 或 None,默认值=sklearn.utils.metadata_routing.UNCHANGED

sample_weight 参数在 score 中的元数据路由。

返回:
selfobject

更新后的对象。