LassoLarsIC#
- class sklearn.linear_model.LassoLarsIC(criterion='aic', *, fit_intercept=True, verbose=False, precompute='auto', max_iter=500, eps=np.float64(2.220446049250313e-16), copy_X=True, positive=False, noise_variance=None)[source]#
使用 Lars 拟合 Lasso 模型,并使用 BIC 或 AIC 进行模型选择。
Lasso 的优化目标是
(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1
AIC 是赤池信息准则 [2],BIC 是贝叶斯信息准则 [3]。这些准则通过在拟合优度和模型复杂度之间进行权衡,有助于选择正则化参数的值。一个好的模型应该既能很好地解释数据又保持简单。
在用户指南中阅读更多内容。
- 参数:
- criterion{‘aic’, ‘bic’},默认=’aic’
要使用的准则类型。
- fit_intercept布尔值,默认=True
是否为该模型计算截距。如果设置为 False,计算中将不使用截距(即数据应已中心化)。
- verbose布尔值或整型,默认=False
设置详细程度。
- precompute布尔值,‘auto’ 或 array-like,默认=’auto’
是否使用预计算的 Gram 矩阵以加快计算。如果设置为
'auto'
,则由我们决定。Gram 矩阵也可以作为参数传递。- max_iter整型,默认=500
执行的最大迭代次数。可用于提前停止。
- eps浮点型,默认=np.finfo(float).eps
Cholesky 对角因子计算中的机器精度正则化。对于病态系统,请增加此值。与某些基于迭代优化的算法中的
tol
参数不同,此参数不控制优化容差。- copy_X布尔值,默认=True
如果为 True,X 将被复制;否则,可能会被覆盖。
- positive布尔值,默认=False
限制系数 >= 0。请注意,您可能希望移除默认为 True 的 fit_intercept。在正限制下,模型系数在 alpha 值较小时不会收敛到普通最小二乘解。只有通过逐步 Lars-Lasso 算法达到的最小 alpha 值(当 fit_path=True 时为
alphas_[alphas_ > 0.].min()
)之前的系数通常与坐标下降 Lasso 估计器的解一致。因此,使用 LassoLarsIC 仅适用于预期和/或获得稀疏解的问题。- noise_variance浮点型,默认=None
数据的估计噪声方差。如果为
None
,则通过 OLS 模型计算无偏估计。但是,这仅在n_samples > n_features + fit_intercept
的情况下才可能。版本 1.1 中新增。
- 属性:
- coef_形状为 (n_features,) 的 array-like
参数向量(公式中的 w)
- intercept_浮点型
决策函数中的独立项。
- alpha_浮点型
由信息准则选择的 alpha 参数。
- alphas_形状为 (n_alphas + 1,) 的 array-like 或此类数组的列表
每次迭代中协方差的最大值(绝对值)。
n_alphas
是max_iter
、n_features
或路径中alpha >= alpha_min
的节点数中较小的一个。如果为列表,则长度为n_targets
。- n_iter_整型
lars_path 查找 alpha 网格运行的迭代次数。
- criterion_形状为 (n_alphas,) 的 array-like
所有 alpha 下的信息准则(“aic”、“bic”)的值。选择信息准则最小的 alpha,如 [1] 中所述。
- noise_variance_浮点型
用于计算准则的数据中估计的噪声方差。
版本 1.1 中新增。
- n_features_in_整型
fit 期间看到的特征数量。
版本 0.24 中新增。
- feature_names_in_形状为 (
n_features_in_
,) 的 ndarray fit 期间看到的特征名称。仅当
X
的所有特征名称均为字符串时才定义。版本 1.0 中新增。
另请参阅
lars_path
使用 LARS 算法计算最小角回归或 Lasso 路径。
lasso_path
使用坐标下降法计算 Lasso 路径。
Lasso
使用 L1 先验作为正则化项训练的线性模型(即 Lasso)。
LassoCV
沿正则化路径迭代拟合的 Lasso 线性模型。
LassoLars
使用最小角回归(即 Lars)拟合的 Lasso 模型。
LassoLarsCV
使用 LARS 算法的交叉验证 Lasso。
sklearn.decomposition.sparse_encode
稀疏编码。
备注
自由度计算方式如 [1] 所示。
要获取关于 AIC 和 BIC 准则数学公式的更多详细信息,请参阅用户指南。
参考文献
示例
>>> from sklearn import linear_model >>> reg = linear_model.LassoLarsIC(criterion='bic') >>> X = [[-2, 2], [-1, 1], [0, 0], [1, 1], [2, 2]] >>> y = [-2.2222, -1.1111, 0, -1.1111, -2.2222] >>> reg.fit(X, y) LassoLarsIC(criterion='bic') >>> print(reg.coef_) [ 0. -1.11]
- fit(X, y, copy_X=None)[source]#
使用 X, y 作为训练数据拟合模型。
- 参数:
- X形状为 (n_samples, n_features) 的 array-like
训练数据。
- y形状为 (n_samples,) 的 array-like
目标值。如有必要,将转换为 X 的 dtype。
- copy_X布尔值,默认=None
如果提供,此参数将覆盖实例创建时选择的 copy_X。如果为
True
,X 将被复制;否则,可能会被覆盖。
- 返回:
- self对象
返回 self 的实例。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看用户指南了解路由机制如何工作。
- 返回:
- routingMetadataRequest
封装路由信息的
MetadataRequest
对象。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deep布尔值,默认=True
如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。
- 返回:
- params字典
参数名称映射到其值。
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- Xarray-like 或稀疏矩阵,形状为 (n_samples, n_features)
样本。
- 返回:
- C数组,形状为 (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回测试数据上的决定系数。
决定系数 \(R^2\) 定义为 \( (1 - \frac{u}{v}) \),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,\(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳可能分数为 1.0,并且可能为负值(因为模型可能任意地差)。一个始终预测y
预期值而忽略输入特征的常数模型将获得 0.0 的 \(R^2\) 分数。- 参数:
- X形状为 (n_samples, n_features) 的 array-like
测试样本。对于某些估计器,这可能是一个预计算的核矩阵或一个通用对象列表,其形状为
(n_samples, n_samples_fitted)
,其中n_samples_fitted
是用于估计器拟合的样本数量。- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like
X
的真实值。- sample_weight形状为 (n_samples,) 的 array-like,默认=None
样本权重。
- 返回:
- score浮点型
self.predict(X)
相对于y
的 \(R^2\)。
备注
在版本 0.23 中,回归器调用
score
时使用的 \(R^2\) 分数采用multioutput='uniform_average'
,以与r2_score
的默认值保持一致。这会影响所有多输出回归器(除了MultiOutputRegressor
)的score
方法。
- set_fit_request(*, copy_X: bool | None | str = '$UNCHANGED$') LassoLarsIC [source]#
请求传递给
fit
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时才相关(请参阅sklearn.set_config
)。请参阅用户指南了解路由机制的工作原理。每个参数的选项有
True
: 请求元数据,如果提供则传递给fit
。如果未提供元数据,则忽略该请求。False
: 不请求元数据,并且元估计器不会将其传递给fit
。None
: 不请求元数据,并且如果用户提供元数据,则元估计器将引发错误。str
: 元数据应使用此给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。版本 1.3 中新增。
备注
此方法仅当此估计器用作元估计器的子估计器时才相关,例如在
Pipeline
中使用时。否则,它没有效果。- 参数:
- copy_X字符串、True、False 或 None,默认=sklearn.utils.metadata_routing.UNCHANGED
fit
方法中copy_X
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单估计器以及嵌套对象(如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **params字典
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LassoLarsIC [source]#
请求传递给
score
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时才相关(请参阅sklearn.set_config
)。请参阅用户指南了解路由机制的工作原理。每个参数的选项有
True
: 请求元数据,如果提供则传递给score
。如果未提供元数据,则忽略该请求。False
: 不请求元数据,并且元估计器不会将其传递给score
。None
: 不请求元数据,并且如果用户提供元数据,则元估计器将引发错误。str
: 元数据应使用此给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。版本 1.3 中新增。
备注
此方法仅当此估计器用作元估计器的子估计器时才相关,例如在
Pipeline
中使用时。否则,它没有效果。- 参数:
- sample_weight字符串、True、False 或 None,默认=sklearn.utils.metadata_routing.UNCHANGED
score
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。