ARD回归#
- class sklearn.linear_model.ARDRegression(*, max_iter=300, tol=0.001, alpha_1=1e-06, alpha_2=1e-06, lambda_1=1e-06, lambda_2=1e-06, compute_score=False, threshold_lambda=10000.0, fit_intercept=True, copy_X=True, verbose=False)[源]#
贝叶斯 ARD 回归。
使用ARD先验拟合回归模型的权重。回归模型的权重假定服从高斯分布。同时估计参数lambda(权重分布的精度)和alpha(噪声分布的精度)。估计通过迭代过程(证据最大化)完成。
在用户指南中阅读更多信息。
- 参数:
- max_iterint, default=300
最大迭代次数。
版本1.3中更改。
- tolfloat, default=1e-3
如果w已收敛,则停止算法。
- alpha_1浮点数, 默认值=1e-6
超参数:alpha参数上的Gamma分布先验的形状参数。
- alpha_2浮点数, 默认值=1e-6
超参数:alpha参数上的Gamma分布先验的逆尺度参数(比率参数)。
- lambda_1浮点数, 默认值=1e-6
超参数:lambda参数上的Gamma分布先验的形状参数。
- lambda_2浮点数, 默认值=1e-6
超参数:lambda参数上的Gamma分布先验的逆尺度参数(比率参数)。
- compute_score布尔值, 默认值=False
如果为True,则在模型的每一步计算目标函数。
- threshold_lambda浮点数, 默认值=10 000
用于从计算中移除(修剪)高精度权重的阈值。
- fit_interceptbool, default=True
Whether to calculate the intercept for this model. If set to false, no intercept will be used in calculations (i.e. data is expected to be centered).
- copy_Xbool, default=True
如果为 True,X 将被复制;否则,它可能会被覆盖。
- verbosebool, default=False
拟合模型时的详细模式。
- 属性:
- coef_array-like of shape (n_features,)
回归模型的系数(分布的均值)
- alpha_float
噪声的估计精度。
- lambda_形状为 (n_features,) 的类数组
权重的估计精度。
- sigma_形状为 (n_features, n_features) 的类数组
权重的估计方差-协方差矩阵
- scores_浮点数
如果计算,目标函数的值(待最大化)
- n_iter_int
The actual number of iterations to reach the stopping criterion.
在版本 1.3 中新增。
- intercept_float
决策函数中的独立项。如果
fit_intercept = False,则设置为0.0。- X_offset_浮点数
如果
fit_intercept=True,用于将数据中心化为零均值的偏移量。否则设置为 np.zeros(n_features)。- X_scale_浮点数
设置为 np.ones(n_features)。
- n_features_in_int
在 拟合 期间看到的特征数。
0.24 版本新增。
- feature_names_in_shape 为 (
n_features_in_,) 的 ndarray 在 fit 期间看到的特征名称。仅当
X具有全部为字符串的特征名称时才定义。1.0 版本新增。
另请参阅
BayesianRidge贝叶斯岭回归。
References
D. J. C. MacKay, 用于预测竞赛的贝叶斯非线性建模, ASHRAE学报, 1994。
R. Salakhutdinov, 统计机器学习讲义, http://www.utstat.toronto.edu/~rsalakhu/sta4273/notes/Lecture2.pdf#page=15 他们的beta是我们的
self.alpha_他们的alpha是我们的self.lambda_ARD与幻灯片略有不同:只有self.lambda_ < self.threshold_lambda的维度/特征被保留,其余的被丢弃。示例
>>> from sklearn import linear_model >>> clf = linear_model.ARDRegression() >>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2]) ARDRegression() >>> clf.predict([[1, 1]]) array([1.])
比较线性贝叶斯回归器演示了ARD回归。
基于L1的稀疏信号模型展示了ARD回归以及Lasso和Elastic-Net在存在噪声的情况下处理稀疏、相关信号的示例。
- fit(X, y)[源]#
根据给定的训练数据和参数拟合模型。
最大化证据的迭代过程
- 参数:
- Xshape 为 (n_samples, n_features) 的 array-like
训练向量,其中
n_samples是样本数,n_features是特征数。- yarray-like of shape (n_samples,)
目标值(整数)。如有必要,将被转换为X的数据类型。
- 返回:
- selfobject
拟合的估计器。
- get_metadata_routing()[源]#
获取此对象的元数据路由。
请查阅 用户指南,了解路由机制如何工作。
- 返回:
- routingMetadataRequest
封装路由信息的
MetadataRequest。
- get_params(deep=True)[源]#
获取此估计器的参数。
- 参数:
- deepbool, default=True
如果为 True,将返回此估计器以及包含的子对象(如果它们是估计器)的参数。
- 返回:
- paramsdict
参数名称映射到其值。
- predict(X, return_std=False)[源]#
使用线性模型进行预测。
除了预测分布的均值之外,还可以返回其标准差。
- 参数:
- Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}
样本。
- return_stdbool, default=False
是否返回后验预测的标准差。
- 返回:
- y_mean形状为 (n_samples,) 的类数组
查询点的预测分布均值。
- y_std形状为 (n_samples,) 的类数组
查询点的预测分布的标准差。
- score(X, y, sample_weight=None)[源]#
返回测试数据的 决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum(),\(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()。最佳可能分数为1.0,并且可能为负值(因为模型可能任意差)。一个总是预测y期望值而忽略输入特征的常数模型,将获得0.0的 \(R^2\) 分数。- 参数:
- Xshape 为 (n_samples, n_features) 的 array-like
测试样本。对于某些估计器,这可能是一个预先计算的核矩阵或一个通用对象列表,形状为
(n_samples, n_samples_fitted),其中n_samples_fitted是用于估计器拟合的样本数。- yshape 为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like
X的真实值。- sample_weightshape 为 (n_samples,) 的 array-like, default=None
样本权重。
- 返回:
- scorefloat
self.predict(X)相对于y的 \(R^2\)。
注意事项
在回归器上调用
score时使用的 \(R^2\) 分数从0.23版开始使用multioutput='uniform_average',以与r2_score的默认值保持一致。这会影响所有多输出回归器(MultiOutputRegressor除外)的score方法。
- set_params(**params)[源]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(如
Pipeline)。后者具有<component>__<parameter>形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
估计器参数。
- 返回:
- selfestimator instance
估计器实例。
- set_predict_request(*, return_std: 布尔值 | 无 | 字符串 = '$UNCHANGED$') ARDRegression[源]#
配置是否应请求元数据以传递给
predict方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给predict。如果未提供元数据,则忽略该请求。False:不请求元数据,并且元估计器不会将其传递给predict。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- return_stdstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
predict中return_std参数的元数据路由。
- 返回:
- selfobject
更新后的对象。
- set_score_request(*, sample_weight: 布尔值 | 无 | 字符串 = '$UNCHANGED$') ARDRegression[源]#
配置是否应请求元数据以传递给
score方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给score。如果未提供元数据,则忽略该请求。False:不请求元数据,元估计器不会将其传递给score。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
score方法中sample_weight参数的元数据路由。
- 返回:
- selfobject
更新后的对象。