ARDRegression#
- class sklearn.linear_model.ARDRegression(*, max_iter=300, tol=0.001, alpha_1=1e-06, alpha_2=1e-06, lambda_1=1e-06, lambda_2=1e-06, compute_score=False, threshold_lambda=10000.0, fit_intercept=True, copy_X=True, verbose=False)[source]#
贝叶斯 ARD 回归。
使用 ARD 先验拟合回归模型的权重。回归模型的权重假定服从高斯分布。同时估计参数 lambda(权重分布的精度)和 alpha(噪声分布的精度)。估计通过迭代过程(证据最大化)完成。
在用户指南中阅读更多内容。
- 参数:
- max_iterint, default=300
最大迭代次数。
版本 1.3 中已更改。
- tolfloat, default=1e-3
如果 w 已收敛,则停止算法。
- alpha_1float, default=1e-6
超参数:alpha 参数的 Gamma 分布先验的形状参数。
- alpha_2float, default=1e-6
超参数:alpha 参数的 Gamma 分布先验的逆尺度参数(速率参数)。
- lambda_1float, default=1e-6
超参数:lambda 参数的 Gamma 分布先验的形状参数。
- lambda_2float, default=1e-6
超参数:lambda 参数的 Gamma 分布先验的逆尺度参数(速率参数)。
- compute_scorebool, default=False
如果为 True,则在模型的每个步骤计算目标函数。
- threshold_lambdafloat, default=10 000
用于从计算中移除(剪枝)高精度权重的阈值。
- fit_interceptbool, default=True
Whether to calculate the intercept for this model. If set to false, no intercept will be used in calculations (i.e. data is expected to be centered).
- copy_Xbool, default=True
如果为 True,X 将被复制;否则,它可能会被覆盖。
- verbosebool, default=False
拟合模型时的详细模式。
- 属性:
- coef_array-like of shape (n_features,)
回归模型的系数(分布均值)
- alpha_float
估计的噪声精度。
- lambda_array-like of shape (n_features,)
估计的权重精度。
- sigma_array-like of shape (n_features, n_features)
估计的权重方差-协方差矩阵。
- scores_float
如果已计算,则为目标函数(待最大化)的值。
- n_iter_int
The actual number of iterations to reach the stopping criterion.
在版本 1.3 中新增。
- intercept_float
决策函数中的独立项。如果
fit_intercept = False,则设置为0.0。- X_offset_float
如果
fit_intercept=True,则为用于将数据中心化为零均值的偏移量。否则设置为 np.zeros(n_features)。- X_scale_float
设置为 np.ones(n_features)。
- n_features_in_int
在 拟合 期间看到的特征数。
0.24 版本新增。
- feature_names_in_shape 为 (
n_features_in_,) 的 ndarray 在 fit 期间看到的特征名称。仅当
X具有全部为字符串的特征名称时才定义。1.0 版本新增。
另请参阅
BayesianRidge贝叶斯岭回归。
References
D. J. C. MacKay, Bayesian nonlinear modeling for the prediction competition, ASHRAE Transactions, 1994.
R. Salakhutdinov, Lecture notes on Statistical Machine Learning, http://www.utstat.toronto.edu/~rsalakhu/sta4273/notes/Lecture2.pdf#page=15 他们的 beta 是我们的
self.alpha_他们的 alpha 是我们的self.lambda_ARD 与幻灯片略有不同:只保留self.lambda_ < self.threshold_lambda的维度/特征,其余的被丢弃。示例
>>> from sklearn import linear_model >>> clf = linear_model.ARDRegression() >>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2]) ARDRegression() >>> clf.predict([[1, 1]]) array([1.])
比较线性贝叶斯回归器演示了 ARD 回归。
用于稀疏信号的基于 L1 的模型展示了 ARD 回归与 Lasso 和 Elastic-Net 在存在噪声的稀疏、相关信号情况下的比较。
- fit(X, y)[source]#
根据给定的训练数据和参数拟合模型。
用于最大化证据的迭代过程。
- 参数:
- Xshape 为 (n_samples, n_features) 的 array-like
训练向量,其中
n_samples是样本数,n_features是特征数。- yarray-like of shape (n_samples,)
目标值(整数)。如有必要,将转换为 X 的 dtype。
- 返回:
- selfobject
拟合的估计器。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查阅 用户指南,了解路由机制如何工作。
- 返回:
- routingMetadataRequest
封装路由信息的
MetadataRequest。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool, default=True
如果为 True,将返回此估计器以及包含的子对象(如果它们是估计器)的参数。
- 返回:
- paramsdict
参数名称映射到其值。
- predict(X, return_std=False)[source]#
使用线性模型进行预测。
除了预测分布的均值之外,还可以返回其标准差。
- 参数:
- Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}
样本。
- return_stdbool, default=False
是否返回后验预测的标准差。
- 返回:
- y_meanarray-like of shape (n_samples,)
查询点的预测分布均值。
- y_stdarray-like of shape (n_samples,)
查询点的预测分布的标准差。
- score(X, y, sample_weight=None)[source]#
返回测试数据的 决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum(),\(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()。最佳可能分数为 1.0,分数可以为负值(因为模型可能任意地差)。一个总是预测y期望值(不考虑输入特征)的常数模型将获得 \(R^2\) 分数 0.0。- 参数:
- Xshape 为 (n_samples, n_features) 的 array-like
测试样本。对于某些估计器,这可能是一个预先计算的核矩阵或一个通用对象列表,形状为
(n_samples, n_samples_fitted),其中n_samples_fitted是用于估计器拟合的样本数。- yshape 为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like
X的真实值。- sample_weightshape 为 (n_samples,) 的 array-like, default=None
样本权重。
- 返回:
- scorefloat
self.predict(X)相对于y的 \(R^2\)。
注意事项
从版本 0.23 开始,在对回归器调用
score时使用的 \(R^2\) 分数使用multioutput='uniform_average',以与r2_score的默认值保持一致。这会影响所有多输出回归器(除了MultiOutputRegressor)的score方法。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(如
Pipeline)。后者具有<component>__<parameter>形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
估计器参数。
- 返回:
- selfestimator instance
估计器实例。
- set_predict_request(*, return_std: bool | None | str = '$UNCHANGED$') ARDRegression[source]#
配置是否应请求元数据以传递给
predict方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给predict。如果未提供元数据,则忽略该请求。False:不请求元数据,并且元估计器不会将其传递给predict。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- return_stdstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
predict中return_std参数的元数据路由。
- 返回:
- selfobject
更新后的对象。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ARDRegression[source]#
配置是否应请求元数据以传递给
score方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给score。如果未提供元数据,则忽略该请求。False:不请求元数据,元估计器不会将其传递给score。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
score方法中sample_weight参数的元数据路由。
- 返回:
- selfobject
更新后的对象。