LassoCV#

class sklearn.linear_model.LassoCV(*, eps=0.001, n_alphas='deprecated', alphas='warn', fit_intercept=True, precompute='auto', max_iter=1000, tol=0.0001, copy_X=True, cv=None, verbose=False, n_jobs=None, positive=False, random_state=None, selection='cyclic')[source]#

带有沿正则化路径迭代拟合的 Lasso 线性模型。

请参阅术语表中的交叉验证估计器。

通过交叉验证选择最佳模型。

Lasso 的优化目标是

(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1

详情请参阅用户指南。

参数:
eps浮点型，默认值=1e-3

路径长度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3。

n_alphas整型，默认值=100

沿正则化路径的 alpha 数量。

自 1.7 版本弃用：n_alphas 在 1.7 版本中已弃用，并将在 1.9 版本中移除。请改用 alphas。

alphas类数组或整型，默认值=None

沿正则化路径要测试的 alpha 值。如果为整型，alphas 值将自动生成。如果为类数组，则为要使用的 alpha 值列表。

1.7 版本修改：alphas 接受一个整数值，这消除了传递 n_alphas 的需要。

自 1.7 版本弃用：alphas=None 在 1.7 版本中已弃用，并将在 1.9 版本中移除，届时默认值将设置为 100。

fit_intercept布尔型，默认值=True

是否为该模型计算截距。如果设置为 False，则计算中不使用截距（即数据应已中心化）。

precompute‘auto’、布尔型或形状为 (n_features, n_features) 的类数组，默认值=‘auto’

是否使用预计算的 Gram 矩阵以加快计算速度。如果设置为 'auto'，则由我们决定。Gram 矩阵也可以作为参数传入。

max_iter整型，默认值=1000

最大迭代次数。

tol浮点型，默认值=1e-4

优化的容差：如果更新量小于 tol，则优化代码会检查对偶间隙以判断最优性，并继续直到它小于 tol。

copy_X布尔型，默认值=True

如果为 True，X 将被复制；否则，它可能会被覆盖。

cv整型、交叉验证生成器或可迭代对象，默认值=None

确定交叉验证的分割策略。cv 的可能输入为

  • None，使用默认的 5 折交叉验证，

  • 整型，指定折叠数量。

  • CV 分割器,

  • 一个生成 (训练集, 测试集) 分割的迭代器，以索引数组的形式。

对于整型/None 输入，将使用 KFold。

有关可在此处使用的各种交叉验证策略，请参阅用户指南。

0.22 版本修改：如果为 None，cv 的默认值从 3 折改为 5 折。

verbose布尔型或整型，默认值=False

详细程度。

n_jobs整型，默认值=None

交叉验证期间使用的 CPU 数量。None 表示 1，除非在 joblib.parallel_backend 上下文中。-1 表示使用所有处理器。更多详情请参阅术语表。

positive布尔型，默认值=False

如果为 True，则限制回归系数为正值。

random_state整型，RandomState 实例，默认值=None

用于选择要更新的随机特征的伪随机数生成器的种子。当 selection == ‘random’ 时使用。传入一个整型可在多次函数调用中获得可重现的输出。请参阅术语表。

selection{‘cyclic’, ‘random’}，默认值=‘cyclic’

如果设置为 ‘random’，则每次迭代都会更新一个随机系数，而不是默认的按特征顺序循环。这（设置为 ‘random’）通常会显著加快收敛速度，尤其是在容差大于 1e-4 时。

属性:
alpha_浮点型

通过交叉验证选择的惩罚量。

coef_形状为 (n_features,) 或 (n_targets, n_features) 的 ndarray

参数向量（成本函数公式中的 w）。

intercept_浮点型或形状为 (n_targets,) 的 ndarray

决策函数中的独立项。

mse_path_形状为 (n_alphas, n_folds) 的 ndarray

每个折叠上测试集的均方误差，alpha 值各异。

alphas_形状为 (n_alphas,) 的 ndarray

用于拟合的 alpha 网格。

dual_gap_浮点型或形状为 (n_targets,) 的 ndarray

在最佳 alpha (alpha_) 优化结束时的对偶间隙。

n_iter_整型

坐标下降求解器为达到最佳 alpha 的指定容差而运行的迭代次数。

n_features_in_整型

在 拟合 期间看到的特征数量。

0.24 版本新增。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

在 拟合 期间看到的特征名称。仅当 X 的所有特征名称均为字符串时定义。

1.0 版本新增。

另请参阅

lars_path

使用 LARS 算法计算最小角回归或 Lasso 路径。

lasso_path

使用坐标下降法计算 Lasso 路径。

Lasso

Lasso 是一种估计稀疏系数的线性模型。

LassoLars

使用最小角回归（Lars）拟合的 Lasso 模型。

LassoCV

带有沿正则化路径迭代拟合的 Lasso 线性模型。

LassoLarsCV

使用 LARS 算法进行交叉验证的 Lasso。

备注

在 fit 中，一旦通过交叉验证找到最佳参数 alpha，模型将使用整个训练集再次拟合。

为避免不必要的内存复制，fit 方法的 X 参数应直接作为 Fortran 连续的 numpy 数组传递。

示例请参阅 examples/linear_model/plot_lasso_model_selection.py。

LassoCV 与使用 GridSearchCV 结合 Lasso 模型进行超参数搜索会产生不同的结果。在 LassoCV 中，对于给定惩罚 alpha 的模型，会利用正则化路径上最接近的模型（在前一次迭代中训练）的系数进行“热启动”。这有助于加快超参数搜索。

示例

>>> from sklearn.linear_model import LassoCV
>>> from sklearn.datasets import make_regression
>>> X, y = make_regression(noise=4, random_state=0)
>>> reg = LassoCV(cv=5, random_state=0).fit(X, y)
>>> reg.score(X, y)
0.9993
>>> reg.predict(X[:1,])
array([-78.4951])
fit(X, y, sample_weight=None, **params)[source]#

使用坐标下降法拟合 Lasso 模型。

拟合基于 alpha 网格，并通过交叉验证估计最佳 alpha。

参数:
X形状为 (n_samples, n_features) 的 {类数组, 稀疏矩阵}

训练数据。直接作为 Fortran 连续数据传递，以避免不必要的内存复制。如果 y 是单输出，X 可以是稀疏的。请注意，不接受大型稀疏矩阵和需要 int64 索引的数组。

y形状为 (n_samples,) 的类数组

目标值。

sample_weight浮点型或形状为 (n_samples,) 的类数组，默认值=None

用于拟合和评估每个 CV 折叠的加权均方误差的样本权重。请注意，最终用于寻找最佳模型的交叉验证 MSE 是每个测试折叠的（加权）MSE 的非加权平均值。

**params字典，默认值=None

要传递给 CV 分割器的参数。

1.4 版本新增：仅当 enable_metadata_routing=True 时可用，该值可以通过 sklearn.set_config(enable_metadata_routing=True) 设置。更多详情请参阅元数据路由用户指南。

返回:
self对象

返回拟合模型的实例。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南了解路由机制的工作原理。

1.4 版本新增。

返回:
routingMetadataRouter

一个封装路由信息的 MetadataRouter。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deep布尔型，默认值=True

如果为 True，将返回此估计器及其包含的子对象（如果它们是估计器）的参数。

返回:
params字典

参数名称及其对应值。

static path(X, y, *, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, **params)[source]#

使用坐标下降法计算 Lasso 路径。

Lasso 优化函数因单输出和多输出任务而异。

对于单输出任务，它是

(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1

对于多输出任务，它是

(1 / (2 * n_samples)) * ||Y - XW||^2_Fro + alpha * ||W||_21

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行范数的和。

详情请参阅用户指南。

参数:
X形状为 (n_samples, n_features) 的 {类数组, 稀疏矩阵}

训练数据。直接作为 Fortran 连续数据传递，以避免不必要的内存复制。如果 y 是单输出，则 X 可以是稀疏的。

y形状为 (n_samples,) 或 (n_samples, n_targets) 的 {类数组, 稀疏矩阵}

目标值。

eps浮点型，默认值=1e-3

路径长度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3。

n_alphas整型，默认值=100

沿正则化路径的 alpha 数量。

alphas类数组，默认值=None

计算模型的 alpha 值列表。如果为 None，则 alpha 值会自动设置。

precompute‘auto’、布尔型或形状为 (n_features, n_features) 的类数组，默认值=‘auto’

是否使用预计算的 Gram 矩阵以加快计算速度。如果设置为 'auto'，则由我们决定。Gram 矩阵也可以作为参数传入。

Xy形状为 (n_features,) 或 (n_features, n_targets) 的类数组，默认值=None

Xy = np.dot(X.T, y)，可以预计算。仅当 Gram 矩阵预计算时才有用。

copy_X布尔型，默认值=True

如果为 True，X 将被复制；否则，它可能会被覆盖。

coef_init形状为 (n_features, ) 的类数组，默认值=None

系数的初始值。

verbose布尔型或整型，默认值=False

详细程度。

return_n_iter布尔型，默认值=False

是否返回迭代次数。

positive布尔型，默认值=False

如果设置为 True，强制系数为正值。（仅当 y.ndim == 1 时允许）。

**params关键字参数

传递给坐标下降求解器的关键字参数。

返回:
alphas形状为 (n_alphas,) 的 ndarray

沿路径计算模型的 alpha 值。

coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

沿路径的系数。

dual_gaps形状为 (n_alphas,) 的 ndarray

每个 alpha 优化结束时的对偶间隙。

n_iters整型列表

坐标下降优化器为达到每个 alpha 的指定容差所花费的迭代次数。

另请参阅

lars_path

使用 LARS 算法计算最小角回归或 Lasso 路径。

Lasso

Lasso 是一种估计稀疏系数的线性模型。

LassoLars

使用最小角回归（Lars）拟合的 Lasso 模型。

LassoCV

带有沿正则化路径迭代拟合的 Lasso 线性模型。

LassoLarsCV

使用 LARS 算法进行交叉验证的 Lasso。

sklearn.decomposition.sparse_encode

可用于将信号转换为固定原子稀疏线性组合的估计器。

备注

示例请参阅 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。

为避免不必要的内存复制，fit 方法的 X 参数应直接作为 Fortran 连续的 numpy 数组传递。

请注意，在某些情况下，Lars 求解器实现此功能可能显著更快。特别是，可以使用线性插值来检索 lars_path 输出值之间的模型系数

示例

比较 lasso_path 和 lars_path（带插值）

>>> import numpy as np
>>> from sklearn.linear_model import lasso_path
>>> X = np.array([[1, 2, 3.1], [2.3, 5.4, 4.3]]).T
>>> y = np.array([1, 2, 3.1])
>>> # Use lasso_path to compute a coefficient path
>>> _, coef_path, _ = lasso_path(X, y, alphas=[5., 1., .5])
>>> print(coef_path)
[[0.         0.         0.46874778]
 [0.2159048  0.4425765  0.23689075]]

>>> # Now use lars_path and 1D linear interpolation to compute the
>>> # same path
>>> from sklearn.linear_model import lars_path
>>> alphas, active, coef_path_lars = lars_path(X, y, method='lasso')
>>> from scipy import interpolate
>>> coef_path_continuous = interpolate.interp1d(alphas[::-1],
...                                             coef_path_lars[:, ::-1])
>>> print(coef_path_continuous([5., 1., .5]))
[[0.         0.         0.46915237]
 [0.2159048  0.4425765  0.23668876]]
predict(X)[source]#

使用线性模型进行预测。

参数:
X形状为 (n_samples, n_features) 的类数组或稀疏矩阵

样本。

返回:
C数组，形状为 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回测试数据上的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\)，其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()，\(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳可能分数为 1.0，并且可能为负值（因为模型可能任意差）。一个始终预测 y 期望值而不考虑输入特征的常数模型，将获得 0.0 的 \(R^2\) 分数。

参数:
X形状为 (n_samples, n_features) 的类数组

测试样本。对于某些估计器，这可能是预计算的核矩阵，或者是由通用对象组成的列表，其形状为 (n_samples, n_samples_fitted)，其中 n_samples_fitted 是估计器拟合中使用的样本数量。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真实值。

sample_weight形状为 (n_samples,) 的类数组，默认值=None

样本权重。

返回:
score浮点型

self.predict(X) 相对于 y 的 \(R^2\) 分数。

备注

在回归器上调用 score 时使用的 \(R^2\) 分数从 0.23 版本开始使用 multioutput='uniform_average'，以与 r2_score 的默认值保持一致。这会影响所有多输出回归器（除了 MultiOutputRegressor）的 score 方法。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → LassoCV[source]#

请求传递给 fit 方法的元数据。

请注意，此方法仅在 enable_metadata_routing=True 时相关（参见 sklearn.set_config）。请参阅用户指南了解路由机制的工作原理。

每个参数的选项是

  • True：请求元数据，如果提供则传递给 fit。如果未提供元数据，则忽略该请求。

  • False：不请求元数据，且元估计器不会将其传递给 fit。

  • None：不请求元数据，如果用户提供，元估计器将引发错误。

  • str：元数据应以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

1.3 版本新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时才相关，例如在 Pipeline 内部使用时。否则，它没有效果。

参数:
sample_weight字符串、True、False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象（如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，以便可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') → LassoCV[source]#

请求传递给 score 方法的元数据。

请注意，此方法仅在 enable_metadata_routing=True 时相关（参见 sklearn.set_config）。请参阅用户指南了解路由机制的工作原理。

每个参数的选项是

  • True：请求元数据，如果提供则传递给 score。如果未提供元数据，则忽略该请求。

  • False：不请求元数据，且元估计器不会将其传递给 score。

  • None：不请求元数据，如果用户提供，元估计器将引发错误。

  • str：元数据应以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

1.3 版本新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时才相关，例如在 Pipeline 内部使用时。否则，它没有效果。

参数:
sample_weight字符串、True、False 或 None，默认值=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。