多任务LassoCV#

class sklearn.linear_model.MultiTaskLassoCV(*, eps=0.001, n_alphas=100, alphas=None, fit_intercept=True, max_iter=1000, tol=0.0001, copy_X=True, cv=None, verbose=False, n_jobs=None, random_state=None, selection='cyclic')[source]#

使用L1/L2混合范数作为正则化器的多任务Lasso模型。

参见交叉验证估计器词汇表条目。

MultiTaskLasso 的优化目标是

(1 / (2 * n_samples)) * ||Y - XW||^Fro_2 + alpha * ||W||_21

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每一行的范数之和。

更多信息请参见 用户指南

0.15 版本新增。

参数:
eps浮点数,默认值=1e-3

路径长度。 eps=1e-3 表示 alpha_min / alpha_max = 1e-3

n_alphas整数,默认值=100

正则化路径上的 alpha 数量。

alphas类数组,默认值=None

用于计算模型的 alpha 列表。如果未提供,则自动设置。

fit_intercept布尔值,默认值=True

是否计算此模型的截距。如果设置为 False,则计算中不使用截距(即数据应居中)。

max_iter整数,默认值=1000

最大迭代次数。

tol浮点数,默认值=1e-4

优化的容差:如果更新小于 tol,则优化代码检查对偶间隙的最优性,并继续直到其小于 tol

copy_X布尔值,默认值=True

如果 True,则复制 X;否则,可能会被覆盖。

cv整数、交叉验证生成器或可迭代对象,默认值=None

确定交叉验证拆分策略。cv 的可能输入是

  • None,使用默认的 5 折交叉验证,

  • 整数,指定折叠数。

  • CV 分割器,

  • 一个可迭代对象,产生 (train, test) 拆分作为索引数组。

对于 int/None 输入,使用 KFold

有关此处可使用的各种交叉验证策略,请参阅 用户指南

0.22 版本变更: cv 的默认值如果为 None,则从 3 折更改为 5 折。

verbose布尔值或整数,默认值=False

详细程度。

n_jobs整数,默认值=None

在交叉验证期间使用的 CPU 数量。请注意,只有在给出 l1_ratio 的多个值时才使用此参数。 None 表示 1,除非在 joblib.parallel_backend 上下文中。 -1 表示使用所有处理器。更多详情请参见 词汇表

random_state整数、RandomState 实例,默认值=None

选择随机特征进行更新的伪随机数生成器的种子。当 selection == ‘random’ 时使用。传递整数可在多次函数调用中获得可重复的输出。参见 词汇表

selection{'cyclic', 'random'},默认值='cyclic'

如果设置为 'random',则每次迭代都会更新一个随机系数,而不是默认情况下按顺序循环遍历特征。这(设置为 'random')通常会导致更快的收敛,尤其是在 tol 高于 1e-4 时。

属性:
intercept_形状为 (n_targets,) 的 ndarray

决策函数中的独立项。

coef_形状为 (n_targets, n_features) 的 ndarray

参数向量(代价函数公式中的 W)。请注意,coef_ 存储 W 的转置,W.T

alpha_浮点数

通过交叉验证选择的惩罚量。

mse_path_形状为 (n_alphas, n_folds) 的 ndarray

测试集在每个折叠上的均方误差,变化的 alpha。

alphas_形状为 (n_alphas,) 的 ndarray

用于拟合的 alpha 网格。

n_iter_整数

坐标下降求解器为达到最佳 alpha 的指定容差而运行的迭代次数。

dual_gap_浮点数

在最佳 alpha 的优化结束时的对偶间隙。

n_features_in_整数

拟合期间看到的特征数量。

0.24 版本新增。

feature_names_in_形状为 (n_features_in_,) 的 ndarray

拟合期间看到的特征名称。仅当 X 具有全是字符串的特征名称时定义。

1.0 版本新增。

另见

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则化器的多任务 ElasticNet 模型。

ElasticNetCV

通过交叉验证进行最佳模型选择的弹性网络模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务 L1/L2 ElasticNet。

备注

用于拟合模型的算法是坐标下降。

fit 中,一旦通过交叉验证找到最佳参数 alpha,则使用整个训练集再次拟合模型。

为了避免不必要的内存复制,fit 方法的 Xy 参数应直接作为 Fortran 连续的 numpy 数组传递。

示例

>>> from sklearn.linear_model import MultiTaskLassoCV
>>> from sklearn.datasets import make_regression
>>> from sklearn.metrics import r2_score
>>> X, y = make_regression(n_targets=2, noise=4, random_state=0)
>>> reg = MultiTaskLassoCV(cv=5, random_state=0).fit(X, y)
>>> r2_score(y, reg.predict(X))
0.9994...
>>> reg.alpha_
np.float64(0.5713...)
>>> reg.predict(X[:1,])
array([[153.7971...,  94.9015...]])
fit(X, y, **params)[source]#

使用坐标下降拟合 MultiTaskLasso 模型。

拟合是在 alpha 网格上进行的,最佳 alpha 由交叉验证估计。

参数:
X形状为 (n_samples, n_features) 的 ndarray

数据。

y形状为 (n_samples, n_targets) 的 ndarray

目标。如有必要,将转换为 X 的 dtype。

**params字典,默认值=None

要传递给 CV 分割器的参数。

1.4 版本新增: 仅当 enable_metadata_routing=True 时才可用,这可以通过使用 sklearn.set_config(enable_metadata_routing=True) 来设置。更多详情请参见 元数据路由用户指南

返回值:
self对象

返回拟合模型的实例。

get_metadata_routing()[源代码]#

获取此对象的元数据路由。

请查看 用户指南,了解路由机制的工作原理。

版本 1.4 中添加。

返回值:
routingMetadataRouter

一个 MetadataRouter 封装了路由信息。

get_params(deep=True)[源代码]#

获取此估计器的参数。

参数:
deep布尔值,默认为 True

如果为 True,则将返回此估计器和包含的作为估计器的子对象的参数。

返回值:
params字典

参数名称与其值的映射。

静态 path(X, y, *, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, **params)[源代码]#

使用坐标下降法计算 Lasso 路径。

Lasso 优化函数对于单输出和多输出有所不同。

对于单输出任务,它是

(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1

对于多输出任务,它是

(1 / (2 * n_samples)) * ||Y - XW||^2_Fro + alpha * ||W||_21

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每一行的范数之和。

用户指南 中了解更多信息。

参数:
X形状为 (n_samples, n_features) 的 {数组、稀疏矩阵}

训练数据。直接作为 Fortran 连续数据传递,以避免不必要的内存复制。如果 y 是单输出,则 X 可以是稀疏的。

y形状为 (n_samples,) 或 (n_samples, n_targets) 的 {数组、稀疏矩阵}

目标值。

eps浮点数,默认值=1e-3

路径长度。 eps=1e-3 表示 alpha_min / alpha_max = 1e-3

n_alphas整数,默认值=100

正则化路径上的 alpha 数量。

alphas类数组,默认值=None

计算模型的 alpha 列表。如果为 None,则自动设置 alpha。

precompute‘auto’、布尔值或形状为 (n_features, n_features) 的数组,默认为 ‘auto’

是否使用预计算的 Gram 矩阵来加快计算速度。如果设置为 'auto',则由我们决定。Gram 矩阵也可以作为参数传递。

Xy形状为 (n_features,) 或 (n_features, n_targets) 的数组,默认为 None

Xy = np.dot(X.T, y),可以预计算。只有在预计算 Gram 矩阵时才有用。

copy_X布尔值,默认值=True

如果 True,则复制 X;否则,可能会被覆盖。

coef_init形状为 (n_features,) 的数组,默认为 None

系数的初始值。

verbose布尔值或整数,默认值=False

详细程度。

return_n_iter布尔值,默认为 False

是否返回迭代次数。

positive布尔值,默认为 False

如果设置为 True,则强制系数为正。(仅当 y.ndim == 1 时允许)。

**params关键字参数

传递给坐标下降求解器的关键字参数。

返回值:
alphas形状为 (n_alphas,) 的 ndarray

计算模型的路径上的 alphas。

coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray

路径上的系数。

dual_gaps形状为 (n_alphas,) 的 ndarray

每个 alpha 优化结束时的对偶间隙。

n_iters整数列表

坐标下降优化器为每个 alpha 达到指定容差所需的迭代次数。

另见

lars_path

使用 LARS 算法计算最小角回归或 Lasso 路径。

Lasso

Lasso 是一种估计稀疏系数的线性模型。

LassoLars

使用最小角回归(也称为 Lars)拟合的 Lasso 模型。

LassoCV

具有沿正则化路径迭代拟合的 Lasso 线性模型。

LassoLarsCV

使用 LARS 算法进行交叉验证的 Lasso。

sklearn.decomposition.sparse_encode

可用于将信号转换为来自固定值的原子的稀疏线性组合的估计器。

备注

例如,请参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py

为了避免不必要的内存复制,fit 方法的 X 参数应直接作为 Fortran 连续的 numpy 数组传递。

请注意,在某些情况下,Lars 求解器实现此功能的速度可能要快得多。特别是,可以使用线性插值来检索 lars_path 输出值之间的模型系数。

示例

比较 lasso_path 和 lars_path 与插值

>>> import numpy as np
>>> from sklearn.linear_model import lasso_path
>>> X = np.array([[1, 2, 3.1], [2.3, 5.4, 4.3]]).T
>>> y = np.array([1, 2, 3.1])
>>> # Use lasso_path to compute a coefficient path
>>> _, coef_path, _ = lasso_path(X, y, alphas=[5., 1., .5])
>>> print(coef_path)
[[0.         0.         0.46874778]
 [0.2159048  0.4425765  0.23689075]]
>>> # Now use lars_path and 1D linear interpolation to compute the
>>> # same path
>>> from sklearn.linear_model import lars_path
>>> alphas, active, coef_path_lars = lars_path(X, y, method='lasso')
>>> from scipy import interpolate
>>> coef_path_continuous = interpolate.interp1d(alphas[::-1],
...                                             coef_path_lars[:, ::-1])
>>> print(coef_path_continuous([5., 1., .5]))
[[0.         0.         0.46915237]
 [0.2159048  0.4425765  0.23668876]]
predict(X)[source]#

使用线性模型进行预测。

参数:
X类数组或稀疏矩阵,形状 (n_samples, n_features)

样本。

返回值:
C数组,形状 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回预测的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum(),而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分数为 1.0,也可能为负数(因为模型可以任意差)。始终预测 y 期望值的常数模型,忽略输入特征,其 \(R^2\) 分数为 0.0。

参数:
X形状为 (n_samples, n_features) 的类数组

测试样本。对于某些估计器,这可能是预计算的核矩阵,或者形状为 (n_samples, n_samples_fitted) 的泛型对象列表,其中 n_samples_fitted 是估计器拟合中使用的样本数。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真值。

sample_weight形状为 (n_samples,) 的类数组,默认为 None

样本权重。

返回值:
score浮点数

self.predict(X) 关于 y\(R^2\)

备注

从 0.23 版本开始,调用回归器的 score 时使用的 \(R^2\) 分数使用 multioutput='uniform_average',以保持与 r2_score 的默认值一致。这会影响所有多输出回归器的 score 方法(MultiOutputRegressor 除外)。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskLassoCV[source]#

请求传递给 fit 方法的元数据。

请注意,只有在 enable_metadata_routing=True 时(参见 sklearn.set_config)此方法才相关。请参阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,如果提供则传递给 fit。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给 fit

  • None:不请求元数据,如果用户提供元数据,则元估计器将引发错误。

  • str:元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有的请求。这允许您更改某些参数的请求,而不对其他参数进行更改。

1.3 版中新增。

注意

此方法仅当该估计器用作元估计器的子估计器时才相关,例如,在 Pipeline 中使用。否则,它无效。

参数:
sample_weightstr、True、False 或 None,默认值=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回值:
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象(例如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计器参数。

返回值:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskLassoCV[source]#

请求传递给 score 方法的元数据。

请注意,只有在 enable_metadata_routing=True 时(参见 sklearn.set_config)此方法才相关。请参阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,如果提供则将其传递给 score。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供元数据,则元估计器将引发错误。

  • str:元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有的请求。这允许您更改某些参数的请求,而不对其他参数进行更改。

1.3 版中新增。

注意

此方法仅当该估计器用作元估计器的子估计器时才相关,例如,在 Pipeline 中使用。否则,它无效。

参数:
sample_weightstr、True、False 或 None,默认值=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回值:
self对象

更新后的对象。