多任务弹性网络#
- class sklearn.linear_model.MultiTaskElasticNet(alpha=1.0, *, l1_ratio=0.5, fit_intercept=True, copy_X=True, max_iter=1000, tol=0.0001, warm_start=False, random_state=None, selection='cyclic')[source]#
使用L1/L2混合范数作为正则化项的多任务ElasticNet模型。
MultiTaskElasticNet的优化目标是:
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中
||W||_21 = sum_i sqrt(sum_j W_ij ^ 2)
即每一行的范数之和。
更多信息请阅读用户指南。
- 参数:
- alphafloat, default=1.0
乘以L1/L2项的常数。默认为1.0。
- l1_ratiofloat, default=0.5
ElasticNet混合参数,其中0 < l1_ratio <= 1。对于l1_ratio = 1,惩罚项为L1/L2惩罚。对于l1_ratio = 0,惩罚项为L2惩罚。对于
0 < l1_ratio < 1
,惩罚项是L1/L2和L2的组合。- fit_interceptbool, default=True
是否计算该模型的截距。如果设置为false,则计算中不使用截距(即数据应居中)。
- copy_Xbool, default=True
如果
True
,则复制X;否则,可能会被覆盖。- max_iterint, default=1000
最大迭代次数。
- tolfloat, default=1e-4
优化的容差:如果更新小于
tol
,优化代码会检查对偶间隙的优化性,并持续进行直到它小于tol
。- warm_startbool, default=False
设置为
True
时,重复使用先前fit调用结果作为初始化,否则,清除之前的解。参见术语表。- random_stateint, RandomState instance, default=None
选择要更新的随机特征的伪随机数生成器的种子。当
selection
== ‘random’时使用。传递一个整数以在多次函数调用中获得可重复的输出。参见术语表。- selection{‘cyclic’, ‘random’}, default=’cyclic’
如果设置为'random',则每次迭代都会更新一个随机系数,而不是默认情况下按顺序循环遍历特征。这(设置为'random')通常会导致更快的收敛,尤其是在tol高于1e-4时。
- 属性:
- intercept_ndarray of shape (n_targets,)
判定函数中的独立项。
- coef_ndarray of shape (n_targets, n_features)
参数向量(代价函数公式中的W)。如果在拟合时传入一维y(非多任务用法),则
coef_
为一维数组。请注意,coef_
存储W
的转置W.T
。- n_iter_int
坐标下降求解器为达到指定容差而运行的迭代次数。
- dual_gap_float
优化结束时的对偶间隙。
- eps_float
由目标
y
的方差缩放的容差。sparse_coef_
sparse matrix of shape (n_features,) or (n_targets, n_features)拟合的
coef_
的稀疏表示。- n_features_in_int
在拟合期间看到的特征数量。
版本0.24中添加。
- feature_names_in_ndarray of shape (
n_features_in_
,) 在拟合期间看到的特征名称。仅当
X
具有全是字符串的特征名称时定义。版本1.0中添加。
另请参见
MultiTaskElasticNetCV
具有内置交叉验证的多任务L1/L2 ElasticNet。
ElasticNet
使用组合的L1和L2先验作为正则化项的线性回归。
MultiTaskLasso
使用L1/L2混合范数作为正则化项的多任务Lasso模型。
备注
用于拟合模型的算法是坐标下降。
为了避免不必要的内存重复,fit方法的X和y参数应直接作为Fortran连续的numpy数组传递。
示例
>>> from sklearn import linear_model >>> clf = linear_model.MultiTaskElasticNet(alpha=0.1) >>> clf.fit([[0,0], [1, 1], [2, 2]], [[0, 0], [1, 1], [2, 2]]) MultiTaskElasticNet(alpha=0.1) >>> print(clf.coef_) [[0.45663524 0.45612256] [0.45663524 0.45612256]] >>> print(clf.intercept_) [0.0872422 0.0872422]
- fit(X, y)[source]#
使用坐标下降拟合MultiTaskElasticNet模型。
- 参数:
- X形状为 (n_samples, n_features) 的 ndarray
数据。
- y形状为 (n_samples, n_targets) 的 ndarray
目标值。如有必要,将被转换为 X 的 dtype。
- 返回:
- self对象
已拟合的估计器。
备注
坐标下降是一种一次考虑数据每一列的算法,因此它会在必要时自动将 X 输入转换为 Fortran 连续的 NumPy 数组。
为了避免内存重新分配,建议直接使用这种格式在内存中分配初始数据。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看 用户指南,了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
一个
MetadataRequest
封装了路由信息。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool,默认为 True
如果为 True,则将返回此估计器和包含的作为估计器的子对象的参数。
- 返回:
- paramsdict
参数名称与其值的映射。
- static path(X, y, *, l1_ratio=0.5, eps=0.001, n_alphas=100, alphas=None, precompute='auto', Xy=None, copy_X=True, coef_init=None, verbose=False, return_n_iter=False, positive=False, check_input=True, **params)[source]#
使用坐标下降计算弹性网路径。
弹性网优化函数在单输出和多输出情况下有所不同。
对于单输出任务,它是
1 / (2 * n_samples) * ||y - Xw||^2_2 + alpha * l1_ratio * ||w||_1 + 0.5 * alpha * (1 - l1_ratio) * ||w||^2_2
对于多输出任务,它是
(1 / (2 * n_samples)) * ||Y - XW||_Fro^2 + alpha * l1_ratio * ||W||_21 + 0.5 * alpha * (1 - l1_ratio) * ||W||_Fro^2
其中
||W||_21 = \sum_i \sqrt{\sum_j w_{ij}^2}
即每行的范数之和。
在 用户指南 中了解更多信息。
- 参数:
- X形状为 (n_samples, n_features) 的 {array-like, sparse matrix}
训练数据。直接作为 Fortran 连续数据传递以避免不必要的内存复制。如果
y
是单输出,则X
可以是稀疏的。- y形状为 (n_samples,) 或 (n_samples, n_targets) 的 {array-like, sparse matrix}
目标值。
- l1_ratiofloat, default=0.5
传递给弹性网的 0 到 1 之间的数字(l1 和 l2 惩罚之间的缩放)。
l1_ratio=1
对应于 Lasso。- epsfloat,默认为 1e-3
路径的长度。
eps=1e-3
表示alpha_min / alpha_max = 1e-3
。- n_alphasint,默认为 100
正则化路径上的 alpha 个数。
- alphasarray-like,默认为 None
计算模型的 alpha 列表。如果为 None,则自动设置 alpha。
- precompute‘auto’、bool 或形状为 (n_features, n_features) 的 array-like,默认为 ‘auto’
是否使用预计算的 Gram 矩阵来加快计算速度。如果设置为
'auto'
,则由我们决定。Gram 矩阵也可以作为参数传递。- Xy形状为 (n_features,) 或 (n_features, n_targets) 的 array-like,默认为 None
Xy = np.dot(X.T, y) 可以预计算。仅当预计算 Gram 矩阵时才有用。
- copy_Xbool, default=True
如果
True
,则复制X;否则,可能会被覆盖。- coef_init形状为 (n_features,) 的 array-like,默认为 None
系数的初始值。
- verbosebool 或 int,默认为 False
详细程度。
- return_n_iterbool,默认为 False
是否返回迭代次数。
- positivebool,默认为 False
如果设置为 True,则强制系数为正。(仅当
y.ndim == 1
时允许)。- check_inputbool,默认为 True
如果设置为 False,则跳过输入验证检查(包括提供的 Gram 矩阵)。假定这些检查由调用者处理。
- **params**kwargs
传递给坐标下降求解器的关键字参数。
- 返回:
- alphas形状为 (n_alphas,) 的 ndarray
计算模型的路径上的 alphas 值。
- coefs形状为 (n_features, n_alphas) 或 (n_targets, n_features, n_alphas) 的 ndarray
路径上的系数。
- dual_gaps形状为 (n_alphas,) 的 ndarray
每个 alpha 的优化结束时的对偶间隙。
- n_iters整数列表
坐标下降优化器为达到每个 alpha 的指定容差所用的迭代次数。(当
return_n_iter
设置为 True 时返回)。
另请参见
MultiTaskElasticNet
使用L1/L2混合范数作为正则化项的多任务ElasticNet模型。
MultiTaskElasticNetCV
具有内置交叉验证的多任务L1/L2 ElasticNet。
ElasticNet
使用组合的L1和L2先验作为正则化项的线性回归。
ElasticNetCV
具有沿正则化路径迭代拟合功能的弹性网络模型。
备注
例如,请参见 examples/linear_model/plot_lasso_lasso_lars_elasticnet_path.py。
示例
>>> from sklearn.linear_model import enet_path >>> from sklearn.datasets import make_regression >>> X, y, true_coef = make_regression( ... n_samples=100, n_features=5, n_informative=2, coef=True, random_state=0 ... ) >>> true_coef array([ 0. , 0. , 0. , 97.9..., 45.7...]) >>> alphas, estimated_coef, _ = enet_path(X, y, n_alphas=3) >>> alphas.shape (3,) >>> estimated_coef array([[ 0. , 0.78..., 0.56...], [ 0. , 1.12..., 0.61...], [-0. , -2.12..., -1.12...], [ 0. , 23.04..., 88.93...], [ 0. , 10.63..., 41.56...]])
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- X类数组或稀疏矩阵,形状为 (n_samples, n_features)
样本。
- 返回:
- C数组,形状为 (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回预测结果的决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳分数为 1.0,也可能为负数(因为模型可以任意差)。始终预测y
的期望值而不考虑输入特征的常数模型将获得 0.0 的 \(R^2\) 分数。- 参数:
- X形状为 (n_samples, n_features) 的类数组
测试样本。对于某些估计器,这可能是预计算的核矩阵,或者形状为
(n_samples, n_samples_fitted)
的泛型对象列表,其中n_samples_fitted
是估计器拟合中使用的样本数。- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组
X
的真实值。- sample_weight形状为 (n_samples,) 的类数组,默认为 None
样本权重。
- 返回:
- score浮点数
self.predict(X)
关于y
的 \(R^2\)。
备注
从 0.23 版本开始,调用回归器的
score
时使用的 \(R^2\) 分数使用multioutput='uniform_average'
,以保持与r2_score
的默认值一致。这会影响所有多输出回归器的score
方法(MultiOutputRegressor
除外)。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNet [source]#
请求传递给
fit
方法的元数据。请注意,只有当
enable_metadata_routing=True
时(参见sklearn.set_config
),此方法才相关。请参阅 用户指南,了解路由机制的工作原理。每个参数的选项为
True
:请求元数据,如果提供则传递给fit
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递给fit
。None
:不请求元数据,如果用户提供元数据,则元估计器将引发错误。str
:元数据应使用此给定的别名而不是原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有的请求。这允许您更改某些参数的请求,而无需更改其他参数。1.3 版本中新增。
注意
仅当此估计器用作元估计器的子估计器时(例如,在
Pipeline
中使用)此方法才相关。否则,它无效。- 参数:
- sample_weightstr、True、False 或 None,默认为 sklearn.utils.metadata_routing.UNCHANGED
fit
中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(例如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **params**dict
估计器参数。
- 返回:
- selfestimator instance
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') MultiTaskElasticNet [source]#
请求传递给
score
方法的元数据。请注意,只有当
enable_metadata_routing=True
时(参见sklearn.set_config
),此方法才相关。请参阅 用户指南,了解路由机制的工作原理。每个参数的选项为
True
:请求元数据,如果提供则传递给score
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递给score
。None
:不请求元数据,如果用户提供元数据,则元估计器将引发错误。str
:元数据应使用此给定的别名而不是原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有的请求。这允许您更改某些参数的请求,而无需更改其他参数。1.3 版本中新增。
注意
仅当此估计器用作元估计器的子估计器时(例如,在
Pipeline
中使用)此方法才相关。否则,它无效。- 参数:
- sample_weightstr、True、False 或 None,默认为 sklearn.utils.metadata_routing.UNCHANGED
score
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
- property sparse_coef_#
拟合的
coef_
的稀疏表示。