LinearSVR#
- class sklearn.svm.LinearSVR(*, epsilon=0.0, tol=0.0001, C=1.0, loss='epsilon_insensitive', fit_intercept=True, intercept_scaling=1.0, dual='auto', verbose=0, random_state=None, max_iter=1000)[source]#
线性支持向量回归。
类似于带有参数 kernel='linear' 的 SVR,但它是用 liblinear 而不是 libsvm 实现的,因此在选择惩罚项和损失函数时具有更大的灵活性,并且应能更好地扩展到大量样本。
LinearSVR和SVR之间的主要区别在于默认使用的损失函数,以及两种实现对截距正则化的处理方式。该类支持密集和稀疏输入。
请在用户指南中阅读更多内容。
在版本 0.16 中新增。
- 参数:
- epsilonfloat, default=0.0
epsilon 不敏感损失函数中的 epsilon 参数。请注意,此参数的值取决于目标变量 y 的尺度。如果不确定,请设置
epsilon=0。- tolfloat, default=1e-4
停止标准的容忍度。
- Cfloat, default=1.0
正则化参数。正则化的强度与 C 成反比。必须严格为正。
- loss{‘epsilon_insensitive’, ‘squared_epsilon_insensitive’}, default=’epsilon_insensitive’
指定损失函数。epsilon 不敏感损失(标准 SVR)是 L1 损失,而平方 epsilon 不敏感损失(‘squared_epsilon_insensitive’)是 L2 损失。
- fit_interceptbool, default=True
是否拟合截距。如果设置为 True,特征向量将扩展为包含一个截距项:
[x_1, ..., x_n, 1],其中 1 对应于截距。如果设置为 False,则计算中不使用截距(即数据应已居中)。- intercept_scalingfloat, 默认值为 1.0
当
fit_intercept为 True 时,实例向量 x 变为[x_1, ..., x_n, intercept_scaling],即一个常量值等于intercept_scaling的“合成”特征被附加到实例向量中。截距变为 intercept_scaling * 合成特征权重。请注意,liblinear 内部对截距进行惩罚,将其视为特征向量中的任何其他项。为了减少正则化对截距的影响,可以将intercept_scaling参数设置为大于 1 的值;intercept_scaling的值越高,正则化对截距的影响越小。然后,权重变为[w_x_1, ..., w_x_n, w_intercept*intercept_scaling],其中w_x_1, ..., w_x_n代表特征权重,截距权重按intercept_scaling进行缩放。这种缩放允许截距项具有与S其他特征不同的正则化行为。- dual“auto” or bool, default=”auto”
选择用于解决对偶或原始优化问题的算法。当 n_samples > n_features 时,首选 dual=False。
dual="auto"将根据n_samples、n_features和loss的值自动选择参数值。如果n_samples<n_features且优化器支持所选的loss,则 dual 将设置为 True,否则将设置为 False。版本 1.3 中的更改:
"auto"选项是在版本 1.3 中添加的,并将成为版本 1.5 中的默认值。- verboseint, default=0
启用详细输出。请注意,此设置利用 liblinear 中的进程运行时设置,如果启用,在多线程环境中可能无法正常工作。
- random_stateint, RandomState instance or None, default=None
控制用于打乱数据的伪随机数生成。传入一个 int 以在多次函数调用中获得可重现的输出。请参阅词汇表。
- max_iterint, default=1000
要运行的最大迭代次数。
- 属性:
- coef_ndarray of shape (n_features) if n_classes == 2 else (n_classes, n_features)
分配给特征的权重(原始问题中的系数)。
coef_是从raw_coef_派生出的只读属性,它遵循 liblinear 的内部内存布局。- intercept_ndarray of shape (1) if n_classes == 2 else (n_classes)
决策函数中的常数。
- n_features_in_int
在 拟合 期间看到的特征数。
0.24 版本新增。
- feature_names_in_shape 为 (
n_features_in_,) 的 ndarray 在 fit 期间看到的特征名称。仅当
X具有全部为字符串的特征名称时才定义。1.0 版本新增。
- n_iter_int
在所有类中运行的最大迭代次数。
另请参阅
LinearSVC使用与此类相同的库 (liblinear) 实现的支持向量机分类器。
SVR使用 libsvm 实现的支持向量机回归:核函数可以是S非线性的,但其 SMO 算法无法像
LinearSVR那样扩展到大量样本。sklearn.linear_model.SGDRegressorSGDRegressor 可以通过调整 penalty 和 loss 参数来优化与 LinearSVR 相同的成本函数。此外,它需要更少的内存,允许增量(在线)学习,并实现各种损失函数和正则化方案。
示例
>>> from sklearn.svm import LinearSVR >>> from sklearn.pipeline import make_pipeline >>> from sklearn.preprocessing import StandardScaler >>> from sklearn.datasets import make_regression >>> X, y = make_regression(n_features=4, random_state=0) >>> regr = make_pipeline(StandardScaler(), ... LinearSVR(random_state=0, tol=1e-5)) >>> regr.fit(X, y) Pipeline(steps=[('standardscaler', StandardScaler()), ('linearsvr', LinearSVR(random_state=0, tol=1e-05))])
>>> print(regr.named_steps['linearsvr'].coef_) [18.582 27.023 44.357 64.522] >>> print(regr.named_steps['linearsvr'].intercept_) [-4.] >>> print(regr.predict([[0, 0, 0, 0]])) [-2.384]
- fit(X, y, sample_weight=None)[source]#
根据给定的训练数据拟合模型。
- 参数:
- Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}
训练向量,其中
n_samples是样本数,n_features是特征数。- yarray-like of shape (n_samples,)
相对于 X 的目标向量。
- sample_weightshape 为 (n_samples,) 的 array-like, default=None
分配给单个样本的权重数组。如果未提供,则每个样本都被赋予单位权重。
版本 0.18 新增。
- 返回:
- selfobject
估计器的一个实例。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查阅 用户指南,了解路由机制如何工作。
- 返回:
- routingMetadataRequest
封装路由信息的
MetadataRequest。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool, default=True
如果为 True,将返回此估计器以及包含的子对象(如果它们是估计器)的参数。
- 返回:
- paramsdict
参数名称映射到其值。
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- Xarray-like or sparse matrix, shape (n_samples, n_features)
样本。
- 返回:
- Carray, shape (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回测试数据的 决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum(),\(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()。最佳得分为 1.0,它也可以是负值(因为模型可能任意差)。一个始终预测y期望值而不考虑输入特征的常数模型将获得 \(R^2\) 分数 0.0。- 参数:
- Xshape 为 (n_samples, n_features) 的 array-like
测试样本。对于某些估计器,这可能是一个预先计算的核矩阵或一个通用对象列表,形状为
(n_samples, n_samples_fitted),其中n_samples_fitted是用于估计器拟合的样本数。- yshape 为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like
X的真实值。- sample_weightshape 为 (n_samples,) 的 array-like, default=None
样本权重。
- 返回:
- scorefloat
self.predict(X)相对于y的 \(R^2\)。
注意事项
在对回归器调用
score时使用的 \(R^2\) 分数从版本 0.23 开始使用multioutput='uniform_average',以与r2_score的默认值保持一致。这会影响所有多输出回归器(MultiOutputRegressor除外)的score方法。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR[source]#
配置是否应请求元数据以传递给
fit方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给fit。如果未提供元数据,则忽略该请求。False:不请求元数据,元估计器不会将其传递给fit。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
fit方法中sample_weight参数的元数据路由。
- 返回:
- selfobject
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(如
Pipeline)。后者具有<component>__<parameter>形式的参数,以便可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
估计器参数。
- 返回:
- selfestimator instance
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR[source]#
配置是否应请求元数据以传递给
score方法。请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过
enable_metadata_routing=True启用了元数据路由(请参阅sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。每个参数的选项如下:
True:请求元数据,如果提供则传递给score。如果未提供元数据,则忽略该请求。False:不请求元数据,元估计器不会将其传递给score。None:不请求元数据,如果用户提供元数据,元估计器将引发错误。str:应将元数据以给定别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在版本 1.3 中新增。
- 参数:
- sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED
score方法中sample_weight参数的元数据路由。
- 返回:
- selfobject
更新后的对象。