多任务Lasso#

class sklearn.linear_model.MultiTaskLasso(alpha=1.0, *, fit_intercept=True, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, random_state=None, selection='cyclic')[source]#

使用L1/L2混合范数作为正则化器的多任务Lasso模型。

Lasso的优化目标是

(1 / (2 * n_samples)) * ||Y - XW||^2_Fro + alpha * ||W||_21

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行的范数之和。

用户指南中了解更多信息。

参数:
alphafloat, default=1.0

乘以L1/L2项的常数。默认为1.0。

fit_interceptbool, default=True

是否计算此模型的截距。如果设置为false,则计算中将不使用截距(即,数据应居中)。

copy_Xbool, default=True

如果True,则会复制X;否则,它可能会被覆盖。

max_iterint, default=1000

最大迭代次数。

tolfloat, default=1e-4

优化的容差:如果更新小于tol,则优化代码检查对偶间隙的最优性,并继续直到它小于tol

warm_startbool, default=False

设置为True时,重用先前对拟合的调用的解作为初始化,否则,只需删除先前的解。参见词汇表

random_stateint, RandomState instance, default=None

选择要更新的随机特征的伪随机数生成器的种子。当selection == ‘random’时使用。传递一个整数以在多次函数调用中获得可重复的输出。参见词汇表

selection{‘cyclic’, ‘random’}, default=’cyclic’

如果设置为“random”,则每次迭代都会更新一个随机系数,而不是默认情况下按顺序循环遍历特征。这(设置为“random”)通常会导致更快的收敛,尤其是在tol高于1e-4时。

属性:
coef_ndarray of shape (n_targets, n_features)

参数向量(成本函数公式中的W)。请注意,coef_存储W的转置,W.T

intercept_ndarray of shape (n_targets,)

决策函数中的独立项。

n_iter_int

坐标下降求解器为达到指定的容差而运行的迭代次数。

dual_gap_ndarray of shape (n_alphas,)

每个alpha优化结束时的对偶间隙。

eps_float

目标y方差缩放的容差。

sparse_coef_sparse matrix of shape (n_features,) or (n_targets, n_features)

拟合的coef_的稀疏表示。

n_features_in_int

拟合期间看到的特征数量。

在0.24版本中添加。

feature_names_in_ndarray of shape (n_features_in_,)

拟合期间看到的特征名称。仅当X具有全部为字符串的特征名称时才定义。

在1.0版本中添加。

另请参阅

Lasso

使用L1先验作为正则化器的线性模型(又名Lasso)。

MultiTaskLassoCV

具有内置交叉验证的多任务L1正则化线性模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务L1/L2 ElasticNet。

备注

用于拟合模型的算法是坐标下降。

为了避免不必要的内存复制,fit方法的X和y参数应直接作为Fortran连续的numpy数组传递。

示例

>>> from sklearn import linear_model
>>> clf = linear_model.MultiTaskLasso(alpha=0.1)
>>> clf.fit([[0, 1], [1, 2], [2, 4]], [[0, 0], [1, 1], [2, 3]])
MultiTaskLasso(alpha=0.1)
>>> print(clf.coef_)
[[0.         0.60809415]
[0.         0.94592424]]
>>> print(clf.intercept_)
[-0.41888636 -0.87382323]
fit(X, y)[source]#

使用坐标下降拟合MultiTaskElasticNet模型。

参数:
Xndarray of shape (n_samples, n_features)

数据。

yndarray of shape (n_samples, n_targets)

目标。如有必要,将转换为X的数据类型。

返回值:
selfobject

拟合的估计器。

备注

坐标下降是一种一次考虑数据每一列的算法,因此它将根据需要自动将X输入转换为Fortran连续的numpy数组。

为了避免内存重新分配,建议直接使用该格式在内存中分配初始数据。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看 用户指南,了解路由机制的工作原理。

返回值:
routingMetadataRequest

一个 MetadataRequest 封装了路由信息。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deepbool, default=True

如果为 True,则将返回此估计器和包含的子对象(也是估计器)的参数。

返回值:
paramsdict

参数名称与其值的映射。

static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]#

使用坐标下降法计算弹性网路径。

弹性网优化函数对于单输出和多输出有所不同。

对于单输出任务,它是

1 / (2 * n_samples) * ||y - Xw||^2_2
+ alpha * l1_ratio * ||w||_1
+ 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2

对于多输出任务,它是

(1 / (2 * n_samples)) * ||Y - XW||_Fro^2
+ alpha * l1_ratio * ||W||_21
+ 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2

其中

||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}

即每行的范数之和。

更多信息请阅读 用户指南

参数:
X{array-like, sparse matrix} of shape (n_samples, n_features)

训练数据。直接作为 Fortran 连续数据传递,以避免不必要的内存复制。如果 y 是单输出,则 X 可以是稀疏的。

y{array-like, sparse matrix} of shape (n_samples,) or (n_samples, n_targets)

目标值。

l1_ratiofloat, default=0.5

传递给弹性网的 0 到 1 之间的数字(l1 和 l2 惩罚之间的缩放)。l1_ratio=1 对应于 Lasso。

epsfloat, default=1e-3

路径的长度。eps=1e-3 表示 alpha_min / alpha_max = 1e-3

n_alphasint, default=100

正则化路径上的 alpha 数量。

alphasarray-like, default=None

计算模型的 alpha 列表。如果为 None,则自动设置 alpha。

precompute‘auto’, bool or array-like of shape (n_features, n_features), default=’auto’

是否使用预计算的 Gram 矩阵来加速计算。如果设置为 'auto',则由我们决定。Gram 矩阵也可以作为参数传递。

Xyarray-like of shape (n_features,) or (n_features, n_targets), default=None

Xy = np.dot(X.T, y) 可以预计算。仅当预计算 Gram 矩阵时才有用。

copy_Xbool, default=True

如果True,则会复制X;否则,它可能会被覆盖。

coef_initarray-like of shape (n_features, ), default=None

系数的初始值。

verbosebool or int, default=False

详细程度。

return_n_iterbool, default=False

是否返回迭代次数。

positivebool, default=False

如果设置为 True,则强制系数为正。(仅当 y.ndim == 1 时允许)。

check_inputbool, default=True

如果设置为 False,则跳过输入验证检查(包括提供的 Gram 矩阵)。假设它们由调用者处理。

**paramskwargs

传递给坐标下降求解器的关键字参数。

返回值:
alphasndarray of shape (n_alphas,)

计算模型的路径上的 alphas。

coefsndarray of shape (n_features, n_alphas) or (n_targets, n_features, n_alphas)

路径上的系数。

dual_gapsndarray of shape (n_alphas,)

每个alpha优化结束时的对偶间隙。

n_iterslist of int

对于每个 alpha,坐标下降优化器达到指定容差所迭代的次数。(当return_n_iter设置为 True 时返回)。

另请参阅

MultiTaskElasticNet

使用 L1/L2 混合范数作为正则化器的多任务 ElasticNet 模型。

MultiTaskElasticNetCV

具有内置交叉验证的多任务L1/L2 ElasticNet。

ElasticNet

使用组合 L1 和 L2 先验作为正则化的线性回归。

ElasticNetCV

沿正则化路径进行迭代拟合的 Elastic Net 模型。

备注

例如,参见examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py

示例

>>> from sklearn.linear_model import enet_path
>>> from sklearn.datasets import make_regression
>>> X, y, true_coef = make_regression(
...    n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0
... )
>>> true_coef
array([ 0.        ,  0.        ,  0.        , 97.9..., 45.7...])
>>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3)
>>> alphas.shape
(3,)
>>> estimated_coef
 array([[ 0.        ,  0.78...,  0.56...],
        [ 0.        ,  1.12...,  0.61...],
        [-0.        , -2.12..., -1.12...],
        [ 0.        , 23.04..., 88.93...],
        [ 0.        , 10.63..., 41.56...]])
predict(X)[source]#

使用线性模型进行预测。

参数:
X类数组或稀疏矩阵,形状 (n_samples, n_features)

样本。

返回值:
C数组,形状 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回预测的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum(),而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分数是 1.0,也可能为负值(因为模型可能任意差)。始终预测 y 期望值的常数模型(忽略输入特征)将获得 0.0 的 \(R^2\) 分数。

参数:
X形状为 (n_samples, n_features) 的类数组

测试样本。对于某些估计器,这可能是预计算的核矩阵,或者形状为 (n_samples, n_samples_fitted) 的泛型对象列表,其中 n_samples_fitted 是估计器拟合中使用的样本数。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真值。

sample_weight形状为 (n_samples,) 的类数组,默认为 None

样本权重。

返回值:
score浮点数

self.predict(X) 关于 y\(R^2\)

备注

从 0.23 版本开始,在回归器上调用 score 时使用的 \(R^2\) 分数使用 multioutput='uniform_average',以保持与 r2_score 的默认值一致。这会影响所有多输出回归器的 score 方法(MultiOutputRegressor 除外)。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskLasso[source]#

请求传递给 fit 方法的元数据。

请注意,只有在 enable_metadata_routing=True 时(参见 sklearn.set_config)此方法才相关。请参阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,并在提供时传递给 fit。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给 fit

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有请求。这允许您更改某些参数的请求,而其他参数不变。

版本 1.3 中添加。

注意

只有当此估计器用作元估计器的子估计器时,此方法才相关,例如,在Pipeline中使用。否则,它无效。

参数:
sample_weightstr、True、False 或 None,默认值为 sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回值:
selfobject

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象(例如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,因此可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计器参数。

返回值:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskLasso[source]#

请求传递给 score 方法的元数据。

请注意,只有在 enable_metadata_routing=True 时(参见 sklearn.set_config)此方法才相关。请参阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,如果提供则传递给 score。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有请求。这允许您更改某些参数的请求,而其他参数不变。

版本 1.3 中添加。

注意

只有当此估计器用作元估计器的子估计器时,此方法才相关,例如,在Pipeline中使用。否则,它无效。

参数:
sample_weightstr、True、False 或 None,默认值为 sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回值:
selfobject

更新后的对象。

property sparse_coef_#

拟合的coef_的稀疏表示。