KernelRidge#
- class sklearn.kernel_ridge.KernelRidge(alpha=1, *, kernel='linear', gamma=None, degree=3, coef0=1, kernel_params=None)[source]#
核岭回归。
核岭回归(KRR)结合了岭回归(带有l2范数正则化的线性最小二乘法)和核技巧。因此,它在由相应核和数据所诱导的空间中学习一个线性函数。对于非线性核,这对应于原始空间中的非线性函数。
KRR学习到的模型形式与支持向量回归(SVR)相同。然而,它们使用了不同的损失函数:KRR使用平方误差损失,而支持向量回归使用epsilon不敏感损失,两者都结合了l2正则化。与SVR相比,拟合KRR模型可以以封闭形式完成,对于中等大小的数据集通常更快。另一方面,学习到的模型是非稀疏的,因此在预测时比SVR慢,后者对于epsilon > 0会学习一个稀疏模型。
该估计器内置支持多变量回归(即,当y是形状为[n_samples, n_targets]的二维数组时)。
在用户指南中阅读更多内容。
- 参数:
- alphafloat or array-like of shape (n_targets,), default=1.0
正则化强度;必须是一个正浮点数。正则化改善了问题的条件性并减少了估计的方差。值越大表示正则化越强。Alpha对应于其他线性模型中的
1 / (2C),例如LogisticRegression或LinearSVC。如果传入一个数组,则假定惩罚是针对特定目标的。因此它们的数量必须对应。请参阅岭回归和分类以获取公式。- kernelstr or callable, default=”linear”
内部使用的核映射。此参数直接传递给
pairwise_kernels。如果kernel是字符串,它必须是pairwise.PAIRWISE_KERNEL_FUNCTIONS中的度量之一,或者是“precomputed”。如果kernel是“precomputed”,则假定X是核矩阵。另外,如果kernel是一个可调用函数,它将作用于每一对实例(行),并记录结果值。该可调用函数应以X中的两行为输入,并返回相应的核值作为单个数字。这意味着sklearn.metrics.pairwise中的可调用函数是不允许的,因为它们对矩阵而不是单个样本进行操作。请改用标识核的字符串。- gammafloat, default=None
RBF、拉普拉斯、多项式、指数chi2和sigmoid核的Gamma参数。默认值的解释留给核本身;请参阅sklearn.metrics.pairwise的文档。其他核会忽略此参数。
- degreefloat, default=3
版本 1.1 中更改: 添加了新的标记方法 'cluster_qr'。
- coef0float, default=1
多项式核的度数。其他核忽略。
- kernel_paramsdict, default=None
作为可调用对象传入的核函数的附加参数(关键字参数)。
- 属性:
- dual_coef_ndarray of shape (n_samples,) or (n_samples, n_targets)
核空间中权重向量的表示
- X_fit_{ndarray, sparse matrix} of shape (n_samples, n_features)
训练数据,预测也需要它。如果kernel == “precomputed”,这 instead is the precomputed training matrix, of shape (n_samples, n_samples)。
- n_features_in_int
在 拟合 期间看到的特征数。
0.24 版本新增。
- feature_names_in_shape 为 (
n_features_in_,) 的 ndarray 在 fit 期间看到的特征名称。仅当
X具有全部为字符串的特征名称时才定义。1.0 版本新增。
另请参阅
sklearn.gaussian_process.GaussianProcessRegressor高斯过程回归器,提供自动核超参数调整和预测不确定性。
sklearn.linear_model.Ridge线性岭回归。
sklearn.linear_model.RidgeCV具有内置交叉验证的 Ridge 回归。
sklearn.svm.SVR支持向量回归,接受各种核。
References
Kevin P. Murphy “Machine Learning: A Probabilistic Perspective”, The MIT Press chapter 14.4.3, pp. 492-493
示例
>>> from sklearn.kernel_ridge import KernelRidge >>> import numpy as np >>> n_samples, n_features = 10, 5 >>> rng = np.random.RandomState(0) >>> y = rng.randn(n_samples) >>> X = rng.randn(n_samples, n_features) >>> krr = KernelRidge(alpha=1.0) >>> krr.fit(X, y) KernelRidge(alpha=1.0)
- fit(X, y, sample_weight=None)[source]#
拟合核岭回归模型。
- 参数:
- Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}
训练数据。如果kernel == “precomputed”,这 instead is a precomputed kernel matrix, of shape (n_samples, n_samples)。
- yshape 为 (n_samples,) 或 (n_samples, n_targets) 的 array-like
目标值。
- sample_weightfloat or array-like of shape (n_samples,), default=None
每个样本的个体权重,如果传入None则忽略。
- 返回:
- selfobject
返回实例本身。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查阅 用户指南,了解路由机制如何工作。
- 返回:
- routingMetadataRequest
封装路由信息的
MetadataRequest。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool, default=True
如果为 True,将返回此估计器以及包含的子对象(如果它们是估计器)的参数。
- 返回:
- paramsdict
参数名称映射到其值。
- predict(X)[source]#
使用核岭模型进行预测。
- 参数:
- Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}
样本。如果kernel == “precomputed”,这 instead is a precomputed kernel matrix, shape = [n_samples, n_samples_fitted], where n_samples_fitted is the number of samples used in the fitting for this estimator。
- 返回:
- Cndarray of shape (n_samples,) or (n_samples, n_targets)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回测试数据的 决定系数。
决定系数\(R^2\)定义为\((1 - \frac{u}{v})\),其中\(u\)是残差平方和
((y_true - y_pred)** 2).sum(),\(v\)是总平方和((y_true - y_true.mean()) ** 2).sum()。最佳得分是1.0,它也可以是负数(因为模型可能任意糟糕)。一个总是预测y的期望值而忽略输入特征的常数模型将获得0.0的\(R^2\)得分。- 参数:
- Xshape 为 (n_samples, n_features) 的 array-like
测试样本。对于某些估计器,这可能是一个预先计算的核矩阵或一个通用对象列表,形状为
(n_samples, n_samples_fitted),其中n_samples_fitted是用于估计器拟合的样本数。- yshape 为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like
X的真实值。- sample_weightshape 为 (n_samples,) 的 array-like, default=None
样本权重。
- 返回:
- scorefloat
self.predict(X)相对于y的 \(R^2\)。
注意事项
在版本0.23中,调用回归器的
score方法时使用的\(R^2\)得分使用了multioutput='uniform_average',以与r2_score的默认值保持一致。这会影响所有多输出回归器(除了MultiOutputRegressor)的score方法。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') KernelRidge[source]#
配置是否应请求元数据以传递给
fit方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给fit。如果未提供元数据,则忽略该请求。False:不请求元数据,元估计器不会将其传递给fit。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
fit方法中sample_weight参数的元数据路由。
- 返回:
- selfobject
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(如
Pipeline)。后者具有<component>__<parameter>形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
估计器参数。
- 返回:
- selfestimator instance
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') KernelRidge[source]#
配置是否应请求元数据以传递给
score方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给score。如果未提供元数据,则忽略该请求。False:不请求元数据,元估计器不会将其传递给score。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
score方法中sample_weight参数的元数据路由。
- 返回:
- selfobject
更新后的对象。