LassoLarsIC#

class sklearn.linear_model.LassoLarsIC(criterion='aic', *, fit_intercept=True, verbose=False, precompute='auto', max_iter=500, eps=np.float64(2.220446049250313e-16), copy_X=True, positive=False, noise_variance=None)[source]#

使用 Lars 拟合 Lasso 模型,并使用 BIC 或 AIC 进行模型选择。

Lasso 的优化目标是

(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1

AIC 是赤池信息准则 [2],BIC 是贝叶斯信息准则 [3]。这些准则通过在拟合优度和模型复杂度之间进行权衡,有助于选择正则化参数的值。一个好的模型应该既能很好地解释数据又保持简单。

用户指南中阅读更多内容。

参数:
criterion{‘aic’, ‘bic’},默认=’aic’

要使用的准则类型。

fit_intercept布尔值,默认=True

是否为该模型计算截距。如果设置为 False,计算中将不使用截距(即数据应已中心化)。

verbose布尔值或整型,默认=False

设置详细程度。

precompute布尔值,‘auto’ 或 array-like,默认=’auto’

是否使用预计算的 Gram 矩阵以加快计算。如果设置为 'auto',则由我们决定。Gram 矩阵也可以作为参数传递。

max_iter整型,默认=500

执行的最大迭代次数。可用于提前停止。

eps浮点型,默认=np.finfo(float).eps

Cholesky 对角因子计算中的机器精度正则化。对于病态系统,请增加此值。与某些基于迭代优化的算法中的 tol 参数不同,此参数不控制优化容差。

copy_X布尔值,默认=True

如果为 True,X 将被复制;否则,可能会被覆盖。

positive布尔值,默认=False

限制系数 >= 0。请注意,您可能希望移除默认为 True 的 fit_intercept。在正限制下,模型系数在 alpha 值较小时不会收敛到普通最小二乘解。只有通过逐步 Lars-Lasso 算法达到的最小 alpha 值(当 fit_path=True 时为 alphas_[alphas_ > 0.].min())之前的系数通常与坐标下降 Lasso 估计器的解一致。因此,使用 LassoLarsIC 仅适用于预期和/或获得稀疏解的问题。

noise_variance浮点型,默认=None

数据的估计噪声方差。如果为 None,则通过 OLS 模型计算无偏估计。但是,这仅在 n_samples > n_features + fit_intercept 的情况下才可能。

版本 1.1 中新增。

属性:
coef_形状为 (n_features,) 的 array-like

参数向量(公式中的 w)

intercept_浮点型

决策函数中的独立项。

alpha_浮点型

由信息准则选择的 alpha 参数。

alphas_形状为 (n_alphas + 1,) 的 array-like 或此类数组的列表

每次迭代中协方差的最大值(绝对值)。n_alphasmax_itern_features 或路径中 alpha >= alpha_min 的节点数中较小的一个。如果为列表,则长度为 n_targets

n_iter_整型

lars_path 查找 alpha 网格运行的迭代次数。

criterion_形状为 (n_alphas,) 的 array-like

所有 alpha 下的信息准则(“aic”、“bic”)的值。选择信息准则最小的 alpha,如 [1] 中所述。

noise_variance_浮点型

用于计算准则的数据中估计的噪声方差。

版本 1.1 中新增。

n_features_in_整型

fit 期间看到的特征数量。

版本 0.24 中新增。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

fit 期间看到的特征名称。仅当 X 的所有特征名称均为字符串时才定义。

版本 1.0 中新增。

另请参阅

lars_path

使用 LARS 算法计算最小角回归或 Lasso 路径。

lasso_path

使用坐标下降法计算 Lasso 路径。

Lasso

使用 L1 先验作为正则化项训练的线性模型(即 Lasso)。

LassoCV

沿正则化路径迭代拟合的 Lasso 线性模型。

LassoLars

使用最小角回归(即 Lars)拟合的 Lasso 模型。

LassoLarsCV

使用 LARS 算法的交叉验证 Lasso。

sklearn.decomposition.sparse_encode

稀疏编码。

备注

自由度计算方式如 [1] 所示。

要获取关于 AIC 和 BIC 准则数学公式的更多详细信息,请参阅用户指南

参考文献

示例

>>> from sklearn import linear_model
>>> reg = linear_model.LassoLarsIC(criterion='bic')
>>> X = [[-2, 2], [-1, 1], [0, 0], [1, 1], [2, 2]]
>>> y = [-2.2222, -1.1111, 0, -1.1111, -2.2222]
>>> reg.fit(X, y)
LassoLarsIC(criterion='bic')
>>> print(reg.coef_)
[ 0.  -1.11]
fit(X, y, copy_X=None)[source]#

使用 X, y 作为训练数据拟合模型。

参数:
X形状为 (n_samples, n_features) 的 array-like

训练数据。

y形状为 (n_samples,) 的 array-like

目标值。如有必要,将转换为 X 的 dtype。

copy_X布尔值,默认=None

如果提供,此参数将覆盖实例创建时选择的 copy_X。如果为 True,X 将被复制;否则,可能会被覆盖。

返回:
self对象

返回 self 的实例。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南了解路由机制如何工作。

返回:
routingMetadataRequest

封装路由信息的 MetadataRequest 对象。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deep布尔值,默认=True

如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。

返回:
params字典

参数名称映射到其值。

predict(X)[source]#

使用线性模型进行预测。

参数:
Xarray-like 或稀疏矩阵,形状为 (n_samples, n_features)

样本。

返回:
C数组,形状为 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回测试数据上的决定系数

决定系数 \(R^2\) 定义为 \( (1 - \frac{u}{v}) \),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum(),\(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳可能分数为 1.0,并且可能为负值(因为模型可能任意地差)。一个始终预测 y 预期值而忽略输入特征的常数模型将获得 0.0 的 \(R^2\) 分数。

参数:
X形状为 (n_samples, n_features) 的 array-like

测试样本。对于某些估计器,这可能是一个预计算的核矩阵或一个通用对象列表,其形状为 (n_samples, n_samples_fitted),其中 n_samples_fitted 是用于估计器拟合的样本数量。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like

X 的真实值。

sample_weight形状为 (n_samples,) 的 array-like,默认=None

样本权重。

返回:
score浮点型

self.predict(X) 相对于 y 的 \(R^2\)。

备注

在版本 0.23 中,回归器调用 score 时使用的 \(R^2\) 分数采用 multioutput='uniform_average',以与 r2_score 的默认值保持一致。这会影响所有多输出回归器(除了 MultiOutputRegressor)的 score 方法。

set_fit_request(*, copy_X: bool | None | str = '$UNCHANGED$') LassoLarsIC[source]#

请求传递给 fit 方法的元数据。

请注意,此方法仅在 enable_metadata_routing=True 时才相关(请参阅 sklearn.set_config)。请参阅用户指南了解路由机制的工作原理。

每个参数的选项有

  • True: 请求元数据,如果提供则传递给 fit。如果未提供元数据,则忽略该请求。

  • False: 不请求元数据,并且元估计器不会将其传递给 fit

  • None: 不请求元数据,并且如果用户提供元数据,则元估计器将引发错误。

  • str: 元数据应使用此给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

版本 1.3 中新增。

备注

此方法仅当此估计器用作元估计器的子估计器时才相关,例如在 Pipeline 中使用时。否则,它没有效果。

参数:
copy_X字符串、True、False 或 None,默认=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 copy_X 参数的元数据路由。

返回:
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象(如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,以便可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LassoLarsIC[source]#

请求传递给 score 方法的元数据。

请注意,此方法仅在 enable_metadata_routing=True 时才相关(请参阅 sklearn.set_config)。请参阅用户指南了解路由机制的工作原理。

每个参数的选项有

  • True: 请求元数据,如果提供则传递给 score。如果未提供元数据,则忽略该请求。

  • False: 不请求元数据,并且元估计器不会将其传递给 score

  • None: 不请求元数据,并且如果用户提供元数据,则元估计器将引发错误。

  • str: 元数据应使用此给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

版本 1.3 中新增。

备注

此方法仅当此估计器用作元估计器的子估计器时才相关,例如在 Pipeline 中使用时。否则,它没有效果。

参数:
sample_weight字符串、True、False 或 None,默认=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。