ARDRegression#
- class sklearn.linear_model.ARDRegression(*, max_iter=300, tol=0.001, alpha_1=1e-06, alpha_2=1e-06, lambda_1=1e-06, lambda_2=1e-06, compute_score=False, threshold_lambda=10000.0, fit_intercept=True, copy_X=True, verbose=False)[source]#
贝叶斯ARD回归。
使用ARD先验拟合回归模型的权重。回归模型的权重假定服从高斯分布。同时估计参数lambda(权重分布的精度)和alpha(噪声分布的精度)。估计通过迭代过程(证据最大化)完成。
在用户指南中阅读更多信息。
- 参数:
- max_iterint, 默认值=300
最大迭代次数。
版本1.3中更改。
- tolfloat, 默认值=1e-3
如果w已收敛,则停止算法。
- alpha_1float, 默认值=1e-6
超参数:Gamma分布先验中alpha参数的形状参数。
- alpha_2float, 默认值=1e-6
超参数:Gamma分布先验中alpha参数的逆尺度参数(速率参数)。
- lambda_1float, 默认值=1e-6
超参数:Gamma分布先验中lambda参数的形状参数。
- lambda_2float, 默认值=1e-6
超参数:Gamma分布先验中lambda参数的逆尺度参数(速率参数)。
- compute_scorebool, 默认值=False
如果为True,则在模型的每一步计算目标函数。
- threshold_lambdafloat, 默认值=10 000
用于从计算中移除(修剪)高精度权重的阈值。
- fit_interceptbool, 默认值=True
是否为该模型计算截距。如果设置为false,则计算中不使用截距(即数据预期已中心化)。
- copy_Xbool, 默认值=True
如果为True,则X将被复制;否则,可能会被覆盖。
- verbosebool, 默认值=False
拟合模型时的详细模式。
- 属性:
- coef_形状为 (n_features,) 的类数组对象
回归模型的系数(分布的均值)
- alpha_float
噪声的估计精度。
- lambda_形状为 (n_features,) 的类数组对象
权重的估计精度。
- sigma_形状为 (n_features, n_features) 的类数组对象
权重的估计方差-协方差矩阵
- scores_float
如果已计算,目标函数的值(待最大化)
- n_iter_int
达到停止标准的实际迭代次数。
版本1.3中新增。
- intercept_float
决策函数中的独立项。如果
fit_intercept = False
,则设置为0.0。- X_offset_float
如果
fit_intercept=True
,则为使数据中心化为零均值而减去的偏移量。否则设置为np.zeros(n_features)。- X_scale_float
设置为np.ones(n_features)。
- n_features_in_int
在拟合期间看到的特征数量。
版本0.24中新增。
- feature_names_in_形状为 (
n_features_in_
,) 的ndarray 在拟合期间看到的特征名称。仅当
X
的特征名称全为字符串时定义。版本1.0中新增。
另请参阅
BayesianRidge
贝叶斯岭回归。
注意
有关示例,请参见examples/linear_model/plot_ard.py。
参考文献
D. J. C. MacKay, 《用于预测竞赛的贝叶斯非线性建模》,ASHRAE Transactions,1994年。
R. Salakhutdinov, 统计机器学习讲义, http://www.utstat.toronto.edu/~rsalakhu/sta4273/notes/Lecture2.pdf#page=15 他们的beta是我们的
self.alpha_
,他们的alpha是我们的self.lambda_
。ARD与幻灯片略有不同:只保留self.lambda_ < self.threshold_lambda
的维度/特征,其余被丢弃。示例
>>> from sklearn import linear_model >>> clf = linear_model.ARDRegression() >>> clf.fit([[0,0], [1, 1], [2, 2]], [0, 1, 2]) ARDRegression() >>> clf.predict([[1, 1]]) array([1.])
- fit(X, y)[source]#
根据给定的训练数据和参数拟合模型。
最大化证据的迭代过程
- 参数:
- X形状为 (n_samples, n_features) 的类数组对象
训练向量,其中
n_samples
是样本数量,n_features
是特征数量。- y形状为 (n_samples,) 的类数组对象
目标值(整数)。如有必要,将转换为X的数据类型。
- 返回:
- selfobject
已拟合的估计器。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查阅用户指南,了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
一个封装路由信息的
MetadataRequest
。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool, 默认值=True
如果为True,将返回此估计器及其包含的作为估计器的子对象的参数。
- 返回:
- paramsdict
参数名称及其对应的值。
- predict(X, return_std=False)[source]#
使用线性模型进行预测。
除了预测分布的均值,还可以返回其标准差。
- 参数:
- X形状为 (n_samples, n_features) 的 {类数组对象, 稀疏矩阵}
样本。
- return_stdbool, 默认值=False
是否返回后验预测的标准差。
- 返回:
- y_mean形状为 (n_samples,) 的类数组对象
查询点的预测分布均值。
- y_std形状为 (n_samples,) 的类数组对象
查询点的预测分布标准差。
- score(X, y, sample_weight=None)[source]#
返回测试数据上的决定系数。
决定系数\(R^2\)定义为\((1 - \frac{u}{v})\),其中\(u\)是残差平方和
((y_true - y_pred)** 2).sum()
,\(v\)是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳得分是1.0,它也可以是负值(因为模型可能任意糟糕)。一个总是预测y
的期望值,而不考虑输入特征的常数模型,将获得0.0的\(R^2\)得分。- 参数:
- X形状为 (n_samples, n_features) 的类数组对象
测试样本。对于某些估计器,这可能是一个预计算的核矩阵,或者是一个通用对象列表,其形状为
(n_samples, n_samples_fitted)
,其中n_samples_fitted
是用于估计器拟合的样本数量。- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组对象
X
的真实值。- sample_weight形状为 (n_samples,) 的类数组对象, 默认值=None
样本权重。
- 返回:
- scorefloat
相对于
y
,self.predict(X)
的\(R^2\)得分。
注意
在回归器上调用
score
时使用的\(R^2\)得分从版本0.23开始使用multioutput='uniform_average'
,以与r2_score
的默认值保持一致。这影响了所有多输出回归器(除了MultiOutputRegressor
)的score
方法。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单估计器以及嵌套对象(例如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_predict_request(*, return_std: bool | None | str = '$UNCHANGED$') ARDRegression [source]#
请求传递给
predict
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时相关(参见sklearn.set_config
)。请参阅用户指南,了解路由机制的工作原理。每个参数的选项是
True
:请求元数据,如果提供则传递给predict
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递给predict
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应以给定别名而非原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。版本1.3中新增。
注意
此方法仅在将此估计器用作元估计器的子估计器时相关,例如在
Pipeline
内部使用时。否则无效。- 参数:
- return_stdstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
在
predict
方法中return_std
参数的元数据路由。
- 返回:
- selfobject
更新后的对象。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') ARDRegression [source]#
请求传递给
score
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时相关(参见sklearn.set_config
)。请参阅用户指南,了解路由机制的工作原理。每个参数的选项是
True
:请求元数据,如果提供则传递给score
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递给score
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应以给定别名而非原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。版本1.3中新增。
注意
此方法仅在将此估计器用作元估计器的子估计器时相关,例如在
Pipeline
内部使用时。否则无效。- 参数:
- sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
在
score
方法中sample_weight
参数的元数据路由。
- 返回:
- selfobject
更新后的对象。