MultiTaskElasticNet#
- class sklearn.linear_model.MultiTaskElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, random_state=None, selection='cyclic')[source]#
使用 L1/L2 混合范数作为正则项训练的 MultiTaskElasticNet 模型。
MultiTaskElasticNet 的优化目标是
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中
||W||_21 = sum_i sqrt(sum_j W_ij ^ 2)
即每行范数之和。
在《用户指南》中阅读更多内容。
- 参数:
- alpha浮点型, 默认值=1.0
乘以 L1/L2 项的常数。默认值为 1.0。
- l1_ratio浮点型, 默认值=0.5
ElasticNet 混合参数,取值范围为 0 < l1_ratio <= 1。当 l1_ratio = 1 时,惩罚项为 L1/L2 惩罚。当 l1_ratio = 0 时,惩罚项为 L2 惩罚。当
0 < l1_ratio < 1
时,惩罚项是 L1/L2 和 L2 的组合。- fit_intercept布尔型, 默认值=True
是否为该模型计算截距。如果设置为 False,则计算中不使用截距(即数据应已中心化)。
- copy_X布尔型, 默认值=True
如果为
True
,则复制 X;否则,X 可能会被覆盖。- max_iter整型, 默认值=1000
最大迭代次数。
- tol浮点型, 默认值=1e-4
优化的容差:如果更新量小于
tol
,优化代码会检查对偶间隙以判断最优性,并继续迭代直到对偶间隙小于tol
。- warm_start布尔型, 默认值=False
当设置为
True
时,重用上一次调用 fit 的解决方案作为初始化;否则,擦除之前的解决方案。参见术语表。- random_state整型, RandomState 实例, 默认值=None
伪随机数生成器的种子,用于选择要更新的随机特征。当
selection
== ‘random’ 时使用。传入一个整数可在多次函数调用中获得可复现的输出。参见术语表。- selection{‘cyclic’, ‘random’}, 默认值=’cyclic’
如果设置为 ‘random’,则每次迭代更新一个随机系数,而不是默认情况下按顺序遍历特征。这(设置为 ‘random’)通常会显著加快收敛速度,尤其是在容差 `tol` 大于 1e-4 时。
- 属性:
- intercept_ndarray 数组,形状为 (n_targets,)
决策函数中的独立项。
- coef_ndarray 数组,形状为 (n_targets, n_features)
参数向量(成本函数公式中的 W)。如果在 fit 时传入一维 y(非多任务使用),
coef_
则是一个一维数组。请注意,coef_
存储的是 W 的转置,即W.T
。- n_iter_整型
坐标下降求解器达到指定容差所运行的迭代次数。
- dual_gap_浮点型
优化结束时的对偶间隙。
- eps_浮点型
根据目标
y
的方差进行缩放后的容差。sparse_coef_
稀疏矩阵,形状为 (n_features,) 或 (n_targets, n_features)拟合的
coef_
的稀疏表示。- n_features_in_整型
在 fit 期间看到的特征数量。
0.24 版本新增。
- feature_names_in_ndarray 数组,形状为 (
n_features_in_
,) 在 fit 期间看到的特征名称。仅当
X
的所有特征名称均为字符串时定义。1.0 版本新增。
另请参阅
MultiTaskElasticNetCV
具有内置交叉验证的多任务 L1/L2 ElasticNet。
ElasticNet
以 L1 和 L2 先验组合作为正则项的线性回归。
MultiTaskLasso
使用 L1/L2 混合范数作为正则项训练的多任务 Lasso 模型。
注意事项
用于拟合模型的算法是坐标下降法。
为了避免不必要的内存复制,`fit` 方法的 X 和 y 参数应直接作为 Fortran 连续的 NumPy 数组传入。
示例
>>> from sklearn import linear_model >>> clf = linear_model.MultiTaskElasticNet(alpha=0.1) >>> clf.fit([[0,0], [1, 1], [2, 2]], [[0, 0], [1, 1], [2, 2]]) MultiTaskElasticNet(alpha=0.1) >>> print(clf.coef_) [[0.45663524 0.45612256] [0.45663524 0.45612256]] >>> print(clf.intercept_) [0.0872422 0.0872422]
- fit(X, y)[source]#
使用坐标下降法拟合 MultiTaskElasticNet 模型。
- 参数:
- Xndarray 数组,形状为 (n_samples, n_features)
数据。
- yndarray 数组,形状为 (n_samples, n_targets)
目标。如有必要,将转换为 X 的数据类型。
- 返回:
- self对象
拟合的估计器。
注意事项
坐标下降是一种一次考虑数据每一列的算法,因此如有必要,它会自动将 X 输入转换为 Fortran 连续的 NumPy 数组。
为了避免内存重新分配,建议直接使用该格式在内存中分配初始数据。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看用户指南了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
封装路由信息的
MetadataRequest
对象。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deep布尔型, 默认值=True
如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。
- 返回:
- params字典
参数名称映射到其值。
- static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]#
使用坐标下降法计算 Elastic Net 路径。
Elastic Net 优化函数因单输出和多输出任务而异。
对于单输出任务,它是
1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
对于多输出任务,它是
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每行范数之和。
在《用户指南》中阅读更多内容。
- 参数:
- X{类数组, 稀疏矩阵},形状为 (n_samples, n_features)
训练数据。直接作为 Fortran 连续数据传入,以避免不必要的内存复制。如果
y
是单输出,则X
可以是稀疏的。- y{类数组, 稀疏矩阵},形状为 (n_samples,) 或 (n_samples, n_targets)
目标值。
- l1_ratio浮点型, 默认值=0.5
传递给 Elastic Net 的 0 到 1 之间的数字(l1 和 l2 惩罚之间的缩放)。
l1_ratio=1
对应于 Lasso。- eps浮点型, 默认值=1e-3
路径的长度。
eps=1e-3
意味着alpha_min / alpha_max = 1e-3
。- n_alphas整型, 默认值=100
正则化路径上 alpha 的数量。
- alphas类数组, 默认值=None
计算模型的 alpha 列表。如果为 None,则自动设置 alpha。
- precompute‘auto’, 布尔型或类数组,形状为 (n_features, n_features), 默认值=’auto’
是否使用预计算的 Gram 矩阵来加速计算。如果设置为
'auto'
,则由我们决定。Gram 矩阵也可以作为参数传入。- Xy类数组,形状为 (n_features,) 或 (n_features, n_targets), 默认值=None
Xy = np.dot(X.T, y),可以预计算。仅当 Gram 矩阵已预计算时有用。
- copy_X布尔型, 默认值=True
如果为
True
,则复制 X;否则,X 可能会被覆盖。- coef_init类数组,形状为 (n_features, ), 默认值=None
系数的初始值。
- verbose布尔型或整型, 默认值=False
详细程度。
- return_n_iter布尔型, 默认值=False
是否返回迭代次数。
- positive布尔型, 默认值=False
如果设置为 True,则强制系数为正。(仅当
y.ndim == 1
时允许)。- check_input布尔型, 默认值=True
如果设置为 False,则跳过输入验证检查(包括提供 Gram 矩阵时的检查)。假定它们由调用者处理。
- **paramskwargs
传递给坐标下降求解器的关键字参数。
- 返回:
- alphasndarray 数组,形状为 (n_alphas,)
模型计算路径上的 alpha 值。
- coefsndarray 数组,形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas)
路径上的系数。
- dual_gapsndarray 数组,形状为 (n_alphas,)
每个 alpha 优化结束时的对偶间隙。
- n_iters整型列表
坐标下降优化器为每个 alpha 达到指定容差所花费的迭代次数。(当
return_n_iter
设置为 True 时返回)。
另请参阅
MultiTaskElasticNet
使用 L1/L2 混合范数作为正则项训练的 MultiTaskElasticNet 模型。
MultiTaskElasticNetCV
具有内置交叉验证的多任务 L1/L2 ElasticNet。
ElasticNet
以 L1 和 L2 先验组合作为正则项的线性回归。
ElasticNetCV
沿正则化路径迭代拟合的 Elastic Net 模型。
注意事项
有关示例,请参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。
示例
>>> from sklearn.linear_model import enet_path >>> from sklearn.datasets import make_regression >>> X, y, true_coef = make_regression( ... n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0 ... ) >>> true_coef array([ 0. , 0. , 0. , 97.9, 45.7]) >>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3) >>> alphas.shape (3,) >>> estimated_coef array([[ 0., 0.787, 0.568], [ 0., 1.120, 0.620], [-0., -2.129, -1.128], [ 0., 23.046, 88.939], [ 0., 10.637, 41.566]])
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- X类数组或稀疏矩阵,形状为 (n_samples, n_features)
样本。
- 返回:
- C数组,形状为 (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回测试数据上的决定系数。
决定系数,\(R^2\),定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳可能得分为 1.0,并且它可以是负数(因为模型可能任意差)。一个始终预测y
预期值而忽略输入特征的常数模型将获得 0.0 的 \(R^2\) 分数。- 参数:
- X类数组,形状为 (n_samples, n_features)
测试样本。对于某些估计器,这可能是预计算的核矩阵,或者是一个通用对象列表,其形状为
(n_samples, n_samples_fitted)
,其中n_samples_fitted
是用于估计器拟合的样本数量。- y类数组,形状为 (n_samples,) 或 (n_samples, n_outputs)
X
的真实值。- sample_weight类数组,形状为 (n_samples,), 默认值=None
样本权重。
- 返回:
- score浮点型
self.predict(X)
相对于y
的 \(R^2\) 值。
注意事项
在回归器上调用
score
时使用的 \(R^2\) 分数从 0.23 版本开始使用multioutput='uniform_average'
,以与r2_score
的默认值保持一致。这会影响所有多输出回归器(MultiOutputRegressor
除外)的score
方法。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNet [source]#
请求传递给
fit
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
(参见sklearn.set_config
)时才相关。请参见用户指南了解路由机制的工作原理。每个参数的选项是
True
:请求元数据,如果提供则传递给fit
。如果未提供元数据,则忽略该请求。False
:不请求元数据,元估计器不会将其传递给fit
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应以此给定别名而非原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。1.3 版本新增。
注意
此方法仅在将此估计器用作元估计器的子估计器时才相关,例如在
Pipeline
中使用。否则,它没有效果。- 参数:
- sample_weight字符串、布尔型或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
fit
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单估计器以及嵌套对象(如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **params字典
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNet [source]#
请求传递给
score
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
(参见sklearn.set_config
)时才相关。请参见用户指南了解路由机制的工作原理。每个参数的选项是
True
:请求元数据,如果提供则传递给score
。如果未提供元数据,则忽略该请求。False
:不请求元数据,元估计器不会将其传递给score
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应以此给定别名而非原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。1.3 版本新增。
注意
此方法仅在将此估计器用作元估计器的子估计器时才相关,例如在
Pipeline
中使用。否则,它没有效果。- 参数:
- sample_weight字符串、布尔型或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
score
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。