ARDRegression#

class sklearn.linear_model.ARDRegression(*, max_iter=300, tol=0.001, alpha_1=1e-06, alpha_2=1e-06, lambda_1=1e-06, lambda_2=1e-06, compute_score=False, threshold_lambda=10000.0, fit_intercept=True, copy_X=True, verbose=False)[source]#

贝叶斯ARD回归。

使用ARD先验拟合回归模型的权重。回归模型的权重假定服从高斯分布。同时估计参数lambda(权重分布的精度)和alpha(噪声分布的精度)。估计通过迭代过程(证据最大化)完成。

用户指南中阅读更多信息。

参数:
max_iterint, 默认值=300

最大迭代次数。

版本1.3中更改。

tolfloat, 默认值=1e-3

如果w已收敛,则停止算法。

alpha_1float, 默认值=1e-6

超参数:Gamma分布先验中alpha参数的形状参数。

alpha_2float, 默认值=1e-6

超参数:Gamma分布先验中alpha参数的逆尺度参数(速率参数)。

lambda_1float, 默认值=1e-6

超参数:Gamma分布先验中lambda参数的形状参数。

lambda_2float, 默认值=1e-6

超参数:Gamma分布先验中lambda参数的逆尺度参数(速率参数)。

compute_scorebool, 默认值=False

如果为True,则在模型的每一步计算目标函数。

threshold_lambdafloat, 默认值=10 000

用于从计算中移除(修剪)高精度权重的阈值。

fit_interceptbool, 默认值=True

是否为该模型计算截距。如果设置为false,则计算中不使用截距(即数据预期已中心化)。

copy_Xbool, 默认值=True

如果为True,则X将被复制;否则,可能会被覆盖。

verbosebool, 默认值=False

拟合模型时的详细模式。

属性:
coef_形状为 (n_features,) 的类数组对象

回归模型的系数(分布的均值)

alpha_float

噪声的估计精度。

lambda_形状为 (n_features,) 的类数组对象

权重的估计精度。

sigma_形状为 (n_features, n_features) 的类数组对象

权重的估计方差-协方差矩阵

scores_float

如果已计算,目标函数的值(待最大化)

n_iter_int

达到停止标准的实际迭代次数。

版本1.3中新增。

intercept_float

决策函数中的独立项。如果fit_intercept = False,则设置为0.0。

X_offset_float

如果fit_intercept=True,则为使数据中心化为零均值而减去的偏移量。否则设置为np.zeros(n_features)。

X_scale_float

设置为np.ones(n_features)。

n_features_in_int

拟合期间看到的特征数量。

版本0.24中新增。

feature_names_in_形状为 (n_features_in_,) 的ndarray

拟合期间看到的特征名称。仅当X的特征名称全为字符串时定义。

版本1.0中新增。

另请参阅

BayesianRidge

贝叶斯岭回归。

注意

有关示例,请参见examples/linear_model/plot_ard.py

参考文献

D. J. C. MacKay, 《用于预测竞赛的贝叶斯非线性建模》,ASHRAE Transactions,1994年。

R. Salakhutdinov, 统计机器学习讲义, http://www.utstat.toronto.edu/~rsalakhu/sta4273/notes/Lecture2.pdf#page=15 他们的beta是我们的self.alpha_,他们的alpha是我们的self.lambda_。ARD与幻灯片略有不同:只保留self.lambda_ < self.threshold_lambda的维度/特征,其余被丢弃。

示例

>>> from sklearn import linear_model
>>> clf = linear_model.ARDRegression()
>>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2])
ARDRegression()
>>> clf.predict([[1, 1]])
array([1.])
fit(X, y)[source]#

根据给定的训练数据和参数拟合模型。

最大化证据的迭代过程

参数:
X形状为 (n_samples, n_features) 的类数组对象

训练向量,其中n_samples是样本数量,n_features是特征数量。

y形状为 (n_samples,) 的类数组对象

目标值(整数)。如有必要,将转换为X的数据类型。

返回:
selfobject

已拟合的估计器。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查阅用户指南,了解路由机制的工作原理。

返回:
routingMetadataRequest

一个封装路由信息的MetadataRequest

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deepbool, 默认值=True

如果为True,将返回此估计器及其包含的作为估计器的子对象的参数。

返回:
paramsdict

参数名称及其对应的值。

predict(X, return_std=False)[source]#

使用线性模型进行预测。

除了预测分布的均值,还可以返回其标准差。

参数:
X形状为 (n_samples, n_features) 的 {类数组对象, 稀疏矩阵}

样本。

return_stdbool, 默认值=False

是否返回后验预测的标准差。

返回:
y_mean形状为 (n_samples,) 的类数组对象

查询点的预测分布均值。

y_std形状为 (n_samples,) 的类数组对象

查询点的预测分布标准差。

score(X, y, sample_weight=None)[source]#

返回测试数据上的决定系数

决定系数\(R^2\)定义为\((1 - \frac{u}{v})\),其中\(u\)是残差平方和((y_true - y_pred)** 2).sum()\(v\)是总平方和((y_true - y_true.mean()) ** 2).sum()。最佳得分是1.0,它也可以是负值(因为模型可能任意糟糕)。一个总是预测y的期望值,而不考虑输入特征的常数模型,将获得0.0的\(R^2\)得分。

参数:
X形状为 (n_samples, n_features) 的类数组对象

测试样本。对于某些估计器,这可能是一个预计算的核矩阵,或者是一个通用对象列表,其形状为(n_samples, n_samples_fitted),其中n_samples_fitted是用于估计器拟合的样本数量。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组对象

X的真实值。

sample_weight形状为 (n_samples,) 的类数组对象, 默认值=None

样本权重。

返回:
scorefloat

相对于yself.predict(X)\(R^2\)得分。

注意

在回归器上调用score时使用的\(R^2\)得分从版本0.23开始使用multioutput='uniform_average',以与r2_score的默认值保持一致。这影响了所有多输出回归器(除了MultiOutputRegressor)的score方法。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象(例如Pipeline)。后者具有<component>__<parameter>形式的参数,以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计器参数。

返回:
self估计器实例

估计器实例。

set_predict_request(*, return_std: bool | None | str = '$UNCHANGED$') ARDRegression[source]#

请求传递给predict方法的元数据。

请注意,此方法仅在enable_metadata_routing=True时相关(参见sklearn.set_config)。请参阅用户指南,了解路由机制的工作原理。

每个参数的选项是

  • True:请求元数据,如果提供则传递给predict。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给predict

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应以给定别名而非原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

版本1.3中新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时相关,例如在Pipeline内部使用时。否则无效。

参数:
return_stdstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

predict方法中return_std参数的元数据路由。

返回:
selfobject

更新后的对象。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ARDRegression[source]#

请求传递给score方法的元数据。

请注意,此方法仅在enable_metadata_routing=True时相关(参见sklearn.set_config)。请参阅用户指南,了解路由机制的工作原理。

每个参数的选项是

  • True:请求元数据,如果提供则传递给score。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给score

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应以给定别名而非原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

版本1.3中新增。

注意

此方法仅在将此估计器用作元估计器的子估计器时相关,例如在Pipeline内部使用时。否则无效。

参数:
sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

score方法中sample_weight参数的元数据路由。

返回:
selfobject

更新后的对象。