LassoCV#
- class sklearn.linear_model.LassoCV(*, eps=0.001, n_alphas=100, alphas=None, fit_intercept=True, precompute='auto', max_iter=1000, tol=0.0001, copy_X=True, cv=None, verbose=False, n_jobs=None, positive=False, random_state=None, selection='cyclic')[source]#
具有迭代拟合正则化路径的Lasso线性模型。
参见交叉验证估计器的词汇表条目。
最佳模型由交叉验证选择。
Lasso 的优化目标是
(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1
在用户指南中了解更多信息。
- 参数:
- epsfloat, default=1e-3
路径长度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphasint, default=100
正则化路径上的 alpha 个数。
- alphasarray-like, default=None
计算模型的 alpha 列表。如果为
None
,则自动设置 alpha。- fit_interceptbool, default=True
是否计算此模型的截距。如果设置为 false,则计算中不使用截距(即,数据应居中)。
- precompute‘auto’,bool 或 array-like,形状为 (n_features, n_features),default='auto'
是否使用预计算的 Gram 矩阵来加快计算速度。如果设置为
'auto'
,则由我们决定。Gram 矩阵也可以作为参数传递。- max_iterint, default=1000
最大迭代次数。
- tolfloat, default=1e-4
优化的容差:如果更新小于
tol
,则优化代码检查对偶间隙的最优性,并继续直到它小于tol
。- copy_Xbool, default=True
如果为
True
,则复制 X;否则,它可能会被覆盖。- cvint,交叉验证生成器或可迭代对象,default=None
确定交叉验证分割策略。cv 的可能输入为
None,使用默认的 5 折交叉验证,
int,指定折叠数。
一个可迭代对象,产生 (train, test) 分割作为索引数组。
对于 int/None 输入,使用
KFold
。有关此处可使用的各种交叉验证策略,请参阅用户指南。
0.22 版本中的更改: 如果为 None,则
cv
的默认值从 3 折更改为 5 折。- verbosebool 或 int,default=False
详细程度。
- n_jobsint, default=None
在交叉验证期间使用的 CPU 数量。
None
表示 1,除非在joblib.parallel_backend
上下文中。-1
表示使用所有处理器。有关更多详细信息,请参见词汇表。- positivebool, default=False
如果为正,则将回归系数限制为正。
- random_stateint,RandomState 实例,default=None
选择随机特征进行更新的伪随机数生成器的种子。当
selection
== ‘random’ 时使用。传递一个整数以在多次函数调用中获得可重复的输出。参见词汇表。- selection{'cyclic', 'random'},default='cyclic'
如果设置为 'random',则每次迭代都会更新一个随机系数,而不是默认情况下按顺序循环遍历特征。这(设置为“random”)通常会导致更快的收敛,尤其是在 tol 高于 1e-4 时。
- 属性:
- alpha_float
通过交叉验证选择的惩罚量。
- coef_形状为 (n_features,) 或 (n_targets, n_features) 的 ndarray
参数向量(代价函数公式中的 w)。
- intercept_float 或形状为 (n_targets,) 的 ndarray
决策函数中的独立项。
- mse_path_形状为 (n_alphas, n_folds) 的 ndarray
不同 alpha 值下,测试集在每个 fold 上的均方误差。
- alphas_形状为 (n_alphas,) 的 ndarray
用于拟合的 alpha 值网格。
- dual_gap_浮点数或形状为 (n_targets,) 的 ndarray
对于最佳 alpha 值 (
alpha_
),优化结束时的对偶间隙。- n_iter_int
坐标下降求解器为达到最佳 alpha 值的指定容差而运行的迭代次数。
- n_features_in_int
在 fit 期间看到的特征数量。
0.24 版本新增。
- feature_names_in_形状为 (
n_features_in_
,) 的 ndarray 在 fit 期间看到的特征名称。仅当
X
的特征名称全部为字符串时定义。1.0 版本新增。
另请参阅
lars_path
使用 LARS 算法计算最小角回归或 Lasso 路径。
lasso_path
使用坐标下降计算 Lasso 路径。
Lasso
Lasso 是一种线性模型,它估计稀疏系数。
LassoLars
使用最小角回归 (也称为 Lars) 拟合的 Lasso 模型。
LassoCV
具有迭代拟合正则化路径的Lasso线性模型。
LassoLarsCV
使用 LARS 算法进行交叉验证的 Lasso。
备注
在
fit
中,一旦通过交叉验证找到最佳参数alpha
,模型就会使用整个训练集再次拟合。为了避免不必要的内存复制,
fit
方法的X
参数应该直接作为 Fortran 连续的 numpy 数组传递。例如,请参阅 examples/linear_model/plot_lasso_model_selection.py。
LassoCV
的结果与使用GridSearchCV
和Lasso
模型进行超参数搜索的结果不同。在LassoCV
中,给定惩罚alpha
的模型使用正则化路径上最接近的模型(在之前的迭代中训练)的系数进行热启动。这往往可以加快超参数搜索速度。示例
>>> from sklearn.linear_model import LassoCV >>> from sklearn.datasets import make_regression >>> X, y = make_regression(noise=4, random_state=0) >>> reg = LassoCV(cv=5, random_state=0).fit(X, y) >>> reg.score(X, y) 0.9993... >>> reg.predict(X[:1,]) array([-78.4951...])
- fit(X, y, sample_weight=None, **params)[source]#
使用坐标下降拟合 Lasso 模型。
拟合是在 alpha 值网格上进行的,最佳 alpha 值由交叉验证估计。
- 参数:
- X形状为 (n_samples, n_features) 的 {array-like, sparse matrix}
训练数据。直接作为 Fortran 连续数据传递以避免不必要的内存复制。如果 y 是单输出,X 可以是稀疏的。请注意,不需要
int64
索引的大型稀疏矩阵和数组不被接受。- y形状为 (n_samples,) 的 array-like
目标值。
- sample_weight浮点数或形状为 (n_samples,) 的 array-like,默认为 None
用于拟合和评估每个 cv-fold 的加权均方误差的样本权重。请注意,最终用于寻找最佳模型的交叉验证 MSE 是每个测试 fold 的(加权)MSE 的未加权平均值。
- **paramsdict,默认为 None
要传递给 CV 分割器的参数。
1.4 版本新增: 仅当
enable_metadata_routing=True
时可用,可以通过使用sklearn.set_config(enable_metadata_routing=True)
来设置。更多详情请参见 元数据路由用户指南。
- 返回::
- self对象
返回已拟合模型的实例。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看 用户指南,了解路由机制的工作原理。
1.4 版本新增。
- 返回::
- routingMetadataRouter
一个
MetadataRouter
,封装了路由信息。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool,默认为 True
如果为 True,则将返回此估计器和包含的子对象(也是估计器)的参数。
- 返回::
- paramsdict
参数名称与其值的映射。
- static path(X, y, *, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, **params)[source]#
使用坐标下降计算 Lasso 路径。
Lasso 优化函数对于单输出和多输出任务有所不同。
对于单输出任务,它是:
(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1
对于多输出任务,它是:
(1 / (2 * n_samples)) * ||Y - XW||^2_Fro + alpha * ||W||_21
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每行的范数之和。
在用户指南中了解更多信息。
- 参数:
- X形状为 (n_samples, n_features) 的 {array-like, sparse matrix}
训练数据。直接作为 Fortran 连续数据传递,以避免不必要的内存复制。如果
y
是单输出,则X
可以是稀疏的。- y形状为 (n_samples,) 或 (n_samples, n_targets) 的 {数组、稀疏矩阵}
目标值。
- epsfloat, default=1e-3
路径长度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphasint, default=100
正则化路径上的 alpha 个数。
- alphasarray-like, default=None
计算模型的 alpha 列表。如果为
None
,则自动设置 alpha。- precompute‘auto’,bool 或 array-like,形状为 (n_features, n_features),default='auto'
是否使用预计算的 Gram 矩阵来加快计算速度。如果设置为
'auto'
,则由我们决定。Gram 矩阵也可以作为参数传递。- Xy形状为 (n_features,) 或 (n_features, n_targets) 的数组,默认为 None
Xy = np.dot(X.T, y),可以预先计算。仅当预先计算了 Gram 矩阵时才有用。
- copy_Xbool, default=True
如果为
True
,则复制 X;否则,它可能会被覆盖。- coef_init形状为 (n_features,) 的数组,默认为 None
系数的初始值。
- verbosebool 或 int,default=False
详细程度。
- return_n_iter布尔值,默认为 False
是否返回迭代次数。
- positivebool, default=False
如果设置为 True,则强制系数为正。(仅当
y.ndim == 1
时允许)。- **params关键字参数
传递给坐标下降求解器的关键字参数。
- 返回::
- alphas形状为 (n_alphas,) 的 ndarray
计算模型的路径上的 alphas。
- coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray
路径上的系数。
- dual_gaps形状为 (n_alphas,) 的 ndarray
每个 alpha 优化结束时的对偶间隙。
- n_iters整数列表
坐标下降优化器为每个 alpha 达到指定容差所花费的迭代次数。
另请参阅
lars_path
使用 LARS 算法计算最小角回归或 Lasso 路径。
Lasso
Lasso 是一种线性模型,它估计稀疏系数。
LassoLars
使用最小角回归 (也称为 Lars) 拟合的 Lasso 模型。
LassoCV
具有迭代拟合正则化路径的Lasso线性模型。
LassoLarsCV
使用 LARS 算法进行交叉验证的 Lasso。
sklearn.decomposition.sparse_encode
可以用来将信号转换为固定原子稀疏线性组合的估计器。
备注
例如,参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。
为了避免不必要的内存复制,fit 方法的 X 参数应直接作为 Fortran 连续的 NumPy 数组传递。
请注意,在某些情况下,Lars 求解器可能在实现此功能方面显著更快。特别是,可以使用线性插值来检索 lars_path 输出值之间的模型系数。
示例
比较 lasso_path 和 lars_path 与插值
>>> import numpy as np >>> from sklearn.linear_model import lasso_path >>> X = np.array([[1, 2, 3.1], [2.3, 5.4, 4.3]]).T >>> y = np.array([1, 2, 3.1]) >>> # Use lasso_path to compute a coefficient path >>> _, coef_path, _ = lasso_path(X, y, alphas=[5., 1., .5]) >>> print(coef_path) [[0. 0. 0.46874778] [0.2159048 0.4425765 0.23689075]]
>>> # Now use lars_path and 1D linear interpolation to compute the >>> # same path >>> from sklearn.linear_model import lars_path >>> alphas, active, coef_path_lars = lars_path(X, y, method='lasso') >>> from scipy import interpolate >>> coef_path_continuous = interpolate.interp1d(alphas[::-1], ... coef_path_lars[:, ::-1]) >>> print(coef_path_continuous([5., 1., .5])) [[0. 0. 0.46915237] [0.2159048 0.4425765 0.23668876]]
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- X形状为 (n_samples, n_features) 的类数组或稀疏矩阵
样本。
- 返回::
- C形状为 (n_samples,) 的数组
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回预测的决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳分数为 1.0,也可能为负数(因为模型可以任意差)。始终预测y
的期望值的常数模型,忽略输入特征,其 \(R^2\) 分数为 0.0。- 参数:
- X形状为 (n_samples, n_features) 的类数组
测试样本。对于某些估计器,这可能是预先计算的核矩阵或形状为
(n_samples, n_samples_fitted)
的泛型对象列表,其中n_samples_fitted
是估计器拟合中使用的样本数。- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组
X
的真实值。- sample_weight形状为 (n_samples,) 的类数组,默认为 None
样本权重。
- 返回::
- score浮点数
\(R^2\) of
self.predict(X)
关于y
。
备注
从 0.23 版本开始,调用回归器的
score
方法时使用的 \(R^2\) 分数使用multioutput='uniform_average'
,以保持与r2_score
的默认值一致。这会影响所有多输出回归器的score
方法(MultiOutputRegressor
除外)。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LassoCV [source]#
请求传递到
fit
方法的元数据。请注意,只有当
enable_metadata_routing=True
时(参见sklearn.set_config
),此方法才相关。请参阅 用户指南,了解路由机制的工作原理。每个参数的选项为:
True
:请求元数据,如果提供则传递到fit
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递到fit
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应使用此给定的别名而不是原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有的请求。这允许您更改某些参数的请求,而无需更改其他参数。1.3 版本中新增。
注意
仅当将此估计器用作元估计器的子估计器(例如,在
Pipeline
中使用)时,此方法才相关。否则,它无效。- 参数:
- sample_weightstr、True、False 或 None,默认为 sklearn.utils.metadata_routing.UNCHANGED
fit
中sample_weight
参数的元数据路由。
- 返回::
- self对象
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(例如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,因此可以更新嵌套对象的每个组件。- 参数:
- **params字典
估计器参数。
- 返回::
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LassoCV [source]#
请求传递到
score
方法的元数据。请注意,只有当
enable_metadata_routing=True
时(参见sklearn.set_config
),此方法才相关。请参阅 用户指南,了解路由机制的工作原理。每个参数的选项为:
True
:请求元数据,如果提供则传递到score
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递到score
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应使用此给定的别名而不是原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有的请求。这允许您更改某些参数的请求,而无需更改其他参数。1.3 版本中新增。
注意
仅当将此估计器用作元估计器的子估计器(例如,在
Pipeline
中使用)时,此方法才相关。否则,它无效。- 参数:
- sample_weightstr、True、False 或 None,默认为 sklearn.utils.metadata_routing.UNCHANGED
score
中sample_weight
参数的元数据路由。
- 返回::
- self对象
更新后的对象。