MultiTaskLassoCV#
- class sklearn.linear_model.MultiTaskLassoCV(*, eps=0.001, n_alphas='deprecated', alphas='warn', fit_intercept=True, max_iter=1000, tol=0.0001, copy_X=True, cv=None, verbose=False, n_jobs=None, random_state=None, selection='cyclic')[source]#
使用 L1/L2 混合范数作为正则化器训练的多任务 Lasso 模型。
请参见交叉验证估计器的术语表条目。
MultiTaskLasso 的优化目标是
(1 / (2 * n_samples)) * ||Y - XW||^Fro_2 + alpha * ||W||_21
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每行的范数之和。
在用户指南中阅读更多信息。
始于版本 0.15。
- 参数:
- eps浮点型, 默认值=1e-3
路径长度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphas整型, 默认值=100
正则化路径上的 alpha 数量。
自版本 1.7 起已废弃:
n_alphas
在 1.7 版本中已废弃,并将在 1.9 版本中移除。请改用alphas
。- alphas类数组或整型, 默认值=None
正则化路径上要测试的 alpha 值。如果为整型,
alphas
值将自动生成。如果为类数组,则为要使用的 alpha 值列表。自版本 1.7 变更:
alphas
接受一个整数值,从而无需传递n_alphas
。自版本 1.7 起已废弃:
alphas=None
在 1.7 版本中已废弃,并将在 1.9 版本中移除,届时默认值将设置为 100。- fit_intercept布尔型, 默认值=True
是否为该模型计算截距。如果设置为 False,则计算中不使用截距(即数据预期为中心化的)。
- max_iter整型, 默认值=1000
最大迭代次数。
- tol浮点型, 默认值=1e-4
优化的容差:如果更新量小于
tol
,优化代码将检查对偶间隙以确定最优性,并继续直到其小于tol
。- copy_X布尔型, 默认值=True
如果为
True
,X 将被复制;否则,可能会被覆盖。- cv整型, 交叉验证生成器或可迭代对象, 默认值=None
确定交叉验证分割策略。cv 的可能输入包括:
None,使用默认的 5 折交叉验证,
整型,指定折叠数。
一个可迭代对象,产生作为索引数组的 (训练集, 测试集) 分割。
对于整型/None 输入,使用
KFold
。请参阅用户指南,了解此处可使用的各种交叉验证策略。
自版本 0.22 变更: 如果为 None,
cv
的默认值从 3 折更改为 5 折。- verbose布尔型或整型, 默认值=False
冗余度。
- n_jobs整型, 默认值=None
交叉验证期间使用的 CPU 数量。请注意,这仅在给定多个 l1_ratio 值时使用。
None
表示 1,除非在joblib.parallel_backend
上下文中。-1
表示使用所有处理器。有关更多详细信息,请参见术语表。- random_state整型, RandomState 实例, 默认值=None
选择要更新的随机特征的伪随机数生成器的种子。当
selection
== 'random' 时使用。传入一个整型值以在多次函数调用中获得可重现的输出。请参见术语表。- selection{'cyclic', 'random'}, 默认值='cyclic'
如果设置为 'random',则每次迭代更新一个随机系数,而不是默认按顺序遍历特征。这(设置为 'random')通常会导致显著更快的收敛,尤其当 tol 高于 1e-4 时。
- 属性:
- intercept_形状为 (n_targets,) 的 ndarray
决策函数中的独立项。
- coef_形状为 (n_targets, n_features) 的 ndarray
参数向量(成本函数公式中的 W)。请注意,
coef_
存储的是W
的转置,即W.T
。- alpha_浮点型
通过交叉验证选择的惩罚量。
- mse_path_形状为 (n_alphas, n_folds) 的 ndarray
各折叠测试集的均方误差,alpha 值可变。
- alphas_形状为 (n_alphas,) 的 ndarray
用于拟合的 alpha 网格。
- n_iter_整型
坐标下降求解器为达到最优 alpha 的指定容差而运行的迭代次数。
- dual_gap_浮点型
最优 alpha 优化结束时的对偶间隙。
- n_features_in_整型
fit 期间遇到的特征数量。
始于版本 0.24。
- feature_names_in_形状为 (
n_features_in_
,) 的 ndarray fit 期间遇到的特征名称。仅当
X
的所有特征名称均为字符串时才定义。始于版本 1.0。
另请参见
MultiTaskElasticNet
使用 L1/L2 混合范数作为正则化器训练的多任务 ElasticNet 模型。
ElasticNetCV
通过交叉验证选择最佳模型的 Elastic net 模型。
MultiTaskElasticNetCV
具有内置交叉验证的多任务 L1/L2 ElasticNet。
注意
用于拟合模型的算法是坐标下降法。
在
fit
中,一旦通过交叉验证找到最佳参数alpha
,模型将使用整个训练集再次拟合。为避免不必要的内存复制,
fit
方法的X
和y
参数应直接作为 Fortran 连续的 NumPy 数组传入。示例
>>> from sklearn.linear_model import MultiTaskLassoCV >>> from sklearn.datasets import make_regression >>> from sklearn.metrics import r2_score >>> X, y = make_regression(n_targets=2, noise=4, random_state=0) >>> reg = MultiTaskLassoCV(cv=5, random_state=0).fit(X, y) >>> r2_score(y, reg.predict(X)) 0.9994 >>> reg.alpha_ np.float64(0.5713) >>> reg.predict(X[:1,]) array([[153.7971, 94.9015]])
- fit(X, y, **params)[source]#
使用坐标下降拟合 MultiTaskLasso 模型。
拟合是在 alpha 网格上进行的,最佳 alpha 通过交叉验证估算。
- 参数:
- X形状为 (n_samples, n_features) 的 ndarray
数据。
- y形状为 (n_samples, n_targets) 的 ndarray
目标。如有必要,将转换为 X 的 dtype。
- **params字典, 默认值=None
传递给 CV 分割器的参数。
始于版本 1.4: 仅当
enable_metadata_routing=True
时可用,这可以通过sklearn.set_config(enable_metadata_routing=True)
进行设置。有关更多详细信息,请参阅元数据路由用户指南。
- 返回:
- self对象
返回拟合模型的实例。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查阅用户指南,了解路由机制的工作原理。
始于版本 1.4。
- 返回:
- routingMetadataRouter
一个封装路由信息的
MetadataRouter
。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deep布尔型, 默认值=True
如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。
- 返回:
- params字典
参数名称及其对应的值。
- static path(X, y, *, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, **params)[source]#
使用坐标下降计算 Lasso 路径。
Lasso 优化函数在单输出和多输出任务中有所不同。
对于单输出任务,它是
(1 / (2 * n_samples)) * ||y - Xw||^2_2 + alpha * ||w||_1
对于多输出任务,它是
(1 / (2 * n_samples)) * ||Y - XW||^2_Fro + alpha * ||W||_21
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每行的范数之和。
在用户指南中阅读更多信息。
- 参数:
- X形状为 (n_samples, n_features) 的 {类数组, 稀疏矩阵}
训练数据。直接作为 Fortran 连续数据传入,以避免不必要的内存复制。如果
y
是单输出,则X
可以是稀疏的。- y形状为 (n_samples,) 或 (n_samples, n_targets) 的 {类数组, 稀疏矩阵}
目标值。
- eps浮点型, 默认值=1e-3
路径长度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphas整型, 默认值=100
正则化路径上的 alpha 数量。
- alphas类数组, 默认值=None
计算模型的 alpha 列表。如果为
None
,alpha 将自动设置。- precompute'auto', 布尔型或形状为 (n_features, n_features) 的类数组, 默认值='auto'
是否使用预先计算的 Gram 矩阵来加速计算。如果设置为
'auto'
,则由我们决定。Gram 矩阵也可以作为参数传入。- Xy形状为 (n_features,) 或 (n_features, n_targets) 的类数组, 默认值=None
Xy = np.dot(X.T, y)
可以预先计算。仅当 Gram 矩阵预先计算时才有用。- copy_X布尔型, 默认值=True
如果为
True
,X 将被复制;否则,可能会被覆盖。- coef_init形状为 (n_features, ) 的类数组, 默认值=None
系数的初始值。
- verbose布尔型或整型, 默认值=False
冗余度。
- return_n_iter布尔型, 默认值=False
是否返回迭代次数。
- positive布尔型, 默认值=False
如果设置为 True,强制系数为正。(仅当
y.ndim == 1
时允许)。- **paramskwargs
传递给坐标下降求解器的关键字参数。
- 返回:
- alphas形状为 (n_alphas,) 的 ndarray
模型计算路径上的 alpha 值。
- coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray
路径上的系数。
- dual_gaps形状为 (n_alphas,) 的 ndarray
各 alpha 优化结束时的对偶间隙。
- n_iters整型列表
坐标下降优化器达到各 alpha 指定容差所需的迭代次数。
另请参见
lars_path
使用 LARS 算法计算最小角回归或 Lasso 路径。
Lasso
Lasso 是一种估计稀疏系数的线性模型。
LassoLars
使用最小角回归(又称 Lars)拟合的 Lasso 模型。
LassoCV
沿着正则化路径迭代拟合的 Lasso 线性模型。
LassoLarsCV
使用 LARS 算法进行交叉验证的 Lasso。
sklearn.decomposition.sparse_encode
可用于将信号转换为固定原子稀疏线性组合的估计器。
注意
有关示例,请参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。
为避免不必要的内存复制,`fit` 方法的 X 参数应直接作为 Fortran 连续的 NumPy 数组传入。
请注意,在某些情况下,Lars 求解器实现此功能可能明显更快。特别是,线性插值可用于在
lars_path
输出值之间检索模型系数示例
比较
lasso_path
和lars_path
与插值>>> import numpy as np >>> from sklearn.linear_model import lasso_path >>> X = np.array([[1, 2, 3.1], [2.3, 5.4, 4.3]]).T >>> y = np.array([1, 2, 3.1]) >>> # Use lasso_path to compute a coefficient path >>> _, coef_path, _ = lasso_path(X, y, alphas=[5., 1., .5]) >>> print(coef_path) [[0. 0. 0.46874778] [0.2159048 0.4425765 0.23689075]]
>>> # Now use lars_path and 1D linear interpolation to compute the >>> # same path >>> from sklearn.linear_model import lars_path >>> alphas, active, coef_path_lars = lars_path(X, y, method='lasso') >>> from scipy import interpolate >>> coef_path_continuous = interpolate.interp1d(alphas[::-1], ... coef_path_lars[:, ::-1]) >>> print(coef_path_continuous([5., 1., .5])) [[0. 0. 0.46915237] [0.2159048 0.4425765 0.23668876]]
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- X类数组或稀疏矩阵, 形状为 (n_samples, n_features)
样本。
- 返回:
- C数组, 形状为 (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回测试数据上的决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,\(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳得分是 1.0,也可能为负(因为模型可能任意差)。一个总是预测y
期望值而不考虑输入特征的常数模型将得到 0.0 的 \(R^2\) 分数。- 参数:
- X形状为 (n_samples, n_features) 的类数组
测试样本。对于某些估计器,这可能是预先计算的核矩阵,或者是一个通用对象列表,其形状为
(n_samples, n_samples_fitted)
,其中n_samples_fitted
是估计器拟合中使用的样本数量。- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组
X
的真实值。- sample_weight形状为 (n_samples,) 的类数组, 默认值=None
样本权重。
- 返回:
- score浮点型
self.predict(X)
相对于y
的 \(R^2\) 分数。
注意
对回归器调用
score
时使用的 \(R^2\) 分数自版本 0.23 起使用multioutput='uniform_average'
,以与r2_score
的默认值保持一致。这会影响所有多输出回归器(MultiOutputRegressor
除外)的score
方法。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskLassoCV [source]#
请求传递给
fit
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时才相关(参见sklearn.set_config
)。请查阅用户指南,了解路由机制的工作原理。每个参数的选项为
True
:请求元数据,如果提供则传递给fit
。如果未提供元数据,则忽略该请求。False
:不请求元数据,且元估计器不会将其传递给fit
。None
:不请求元数据,如果用户提供,元估计器将引发错误。str
:元数据应以给定别名而非原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。始于版本 1.3。
注意
此方法仅当此估计器用作元估计器(例如在
Pipeline
内部使用)的子估计器时才相关。否则它没有效果。- 参数:
- sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
fit
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
该方法适用于简单估计器以及嵌套对象(如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,因此可以更新嵌套对象的每个组件。- 参数:
- **params字典
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskLassoCV [source]#
请求传递给
score
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时才相关(参见sklearn.set_config
)。请查阅用户指南,了解路由机制的工作原理。每个参数的选项为
True
:请求元数据,如果提供则传递给score
。如果未提供元数据,则忽略该请求。False
:不请求元数据,且元估计器不会将其传递给score
。None
:不请求元数据,如果用户提供,元估计器将引发错误。str
:元数据应以给定别名而非原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。始于版本 1.3。
注意
此方法仅当此估计器用作元估计器(例如在
Pipeline
内部使用)的子估计器时才相关。否则它没有效果。- 参数:
- sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
score
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。