LinearSVR#

class sklearn.svm.LinearSVR(*, epsilon=0.0, tol=0.0001, C=1.0, loss='epsilon_insensitive', fit_intercept=True, intercept_scaling=1.0, dual='auto', verbose=0, random_state=None, max_iter=1000)[source]#

线性支持向量回归。

与参数 kernel='linear' 的 SVR 相似,但它基于 liblinear 而非 libsvm 实现,因此在选择惩罚项和损失函数方面更灵活,并且应能更好地扩展到大量样本。

LinearSVRSVR 的主要区别在于默认使用的损失函数,以及这两种实现对截距正则化的处理方式。

此类别支持密集和稀疏输入。

请查阅《用户指南》了解更多信息。

在 0.16 版本中新增。

参数:
epsilon浮点型,默认值=0.0

epsilon-不敏感损失函数中的 epsilon 参数。请注意,此参数的值取决于目标变量 y 的尺度。如果不确定,请设置 epsilon=0

tol浮点型,默认值=1e-4

停止标准的容差。

C浮点型,默认值=1.0

正则化参数。正则化强度与 C 成反比。必须为严格正数。

loss{'epsilon_insensitive', 'squared_epsilon_insensitive'},默认值='epsilon_insensitive'

指定损失函数。epsilon-不敏感损失(标准 SVR)是 L1 损失,而平方 epsilon-不敏感损失('squared_epsilon_insensitive')是 L2 损失。

fit_intercept布尔型,默认值=True

是否拟合截距。如果设置为 True,特征向量将扩展为包含一个截距项:[x_1, ..., x_n, 1],其中 1 对应于截距。如果设置为 False,计算中将不使用截距(即数据预计已中心化)。

intercept_scaling浮点型,默认值=1.0

fit_intercept 为 True 时,实例向量 x 变为 [x_1, ..., x_n, intercept_scaling],即一个常数值等于 intercept_scaling 的“合成”特征被附加到实例向量中。截距变为 intercept_scaling * 合成特征权重。请注意,liblinear 内部会对截距进行惩罚,将其视为特征向量中的任何其他项。为了减少正则化对截距的影响,intercept_scaling 参数可以设置为大于 1 的值;intercept_scaling 的值越高,正则化对其影响越小。然后,权重变为 [w_x_1, ..., w_x_n, w_intercept*intercept_scaling],其中 w_x_1, ..., w_x_n 表示特征权重,截距权重按 intercept_scaling 缩放。这种缩放使得截距项与其它特征相比具有不同的正则化行为。

dual“auto” 或 布尔型,默认值=”auto”

选择算法来解决对偶或原始优化问题。当 n_samples > n_features 时,推荐使用 dual=False。dual="auto" 将根据 n_samplesn_featuresloss 的值自动选择参数值。如果 n_samples < n_features 且优化器支持所选的 loss,则 dual 将设置为 True,否则将设置为 False。

1.3 版本中的变更: "auto" 选项在 1.3 版本中添加,并将在 1.5 版本中成为默认值。

verbose整型,默认值=0

启用详细输出。请注意,此设置利用了 liblinear 中的一个每进程运行时设置,如果启用,在多线程环境中可能无法正常工作。

random_state整型,RandomState 实例或 None,默认值=None

控制数据洗牌的伪随机数生成。传入一个整型以在多次函数调用中获得可重现的输出。请参阅术语表

max_iter整型,默认值=1000

要运行的最大迭代次数。

属性:
coef_ndarray,如果 n_classes == 2 则形状为 (n_features),否则为 (n_classes, n_features)

分配给特征的权重(原始问题中的系数)。

coef_ 是从 raw_coef_ 派生出的只读属性,它遵循 liblinear 的内部内存布局。

intercept_ndarray,如果 n_classes == 2 则形状为 (1),否则为 (n_classes)

决策函数中的常数。

n_features_in_整型

fit期间看到的特征数量。

在 0.24 版本中新增。

feature_names_in_ndarray,形状为 (n_features_in_,)

fit期间看到的特征名称。仅当 X 的所有特征名称均为字符串时才定义。

在 1.0 版本中新增。

n_iter_整型

所有类别中运行的最大迭代次数。

另请参阅

LinearSVC

使用与此类别(liblinear)相同的库实现的支持向量机分类器。

SVR

使用 libsvm 实现的支持向量机回归:核函数可以是非线性的,但其 SMO 算法不能像 LinearSVR 那样扩展到大量样本。

sklearn.linear_model.SGDRegressor

SGDRegressor 可以通过调整惩罚和损失参数来优化与 LinearSVR 相同的成本函数。此外,它需要更少的内存,允许增量(在线)学习,并实现各种损失函数和正则化方案。

示例

>>> from sklearn.svm import LinearSVR
>>> from sklearn.pipeline import make_pipeline
>>> from sklearn.preprocessing import StandardScaler
>>> from sklearn.datasets import make_regression
>>> X, y = make_regression(n_features=4, random_state=0)
>>> regr = make_pipeline(StandardScaler(),
...                      LinearSVR(random_state=0, tol=1e-5))
>>> regr.fit(X, y)
Pipeline(steps=[('standardscaler', StandardScaler()),
                ('linearsvr', LinearSVR(random_state=0, tol=1e-05))])
>>> print(regr.named_steps['linearsvr'].coef_)
[18.582 27.023 44.357 64.522]
>>> print(regr.named_steps['linearsvr'].intercept_)
[-4.]
>>> print(regr.predict([[0, 0, 0, 0]]))
[-2.384]
fit(X, y, sample_weight=None)[source]#

根据给定的训练数据拟合模型。

参数:
X{类数组,稀疏矩阵},形状为 (n_samples, n_features)

训练向量,其中 n_samples 是样本数量,n_features 是特征数量。

y类数组,形状为 (n_samples,)

相对于 X 的目标向量。

sample_weight类数组,形状为 (n_samples,),默认值=None

分配给单个样本的权重数组。如果未提供,则每个样本都被赋予单位权重。

在 0.18 版本中新增。

返回:
self对象

估计器的一个实例。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查阅《用户指南》了解路由机制的工作原理。

返回:
routingMetadataRequest

一个封装路由信息的 MetadataRequest

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deep布尔型,默认值=True

如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。

返回:
params字典

参数名称映射到其值。

predict(X)[source]#

使用线性模型进行预测。

参数:
X类数组或稀疏矩阵,形状为 (n_samples, n_features)

样本。

返回:
C数组,形状为 (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回测试数据的决定系数

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()\(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分数是 1.0,它也可以是负数(因为模型可能任意差)。一个忽略输入特征,始终预测 y 期望值的常量模型,将得到 0.0 的 \(R^2\) 分数。

参数:
X类数组,形状为 (n_samples, n_features)

测试样本。对于某些估计器,这可能是一个预先计算的核矩阵或一个通用对象列表,其形状为 (n_samples, n_samples_fitted),其中 n_samples_fitted 是估计器拟合中使用的样本数量。

y类数组,形状为 (n_samples,) 或 (n_samples, n_outputs)

X 的真实值。

sample_weight类数组,形状为 (n_samples,),默认值=None

样本权重。

返回:
score浮点型

self.predict(X) 相对于 y\(R^2\)

注意

在回归器上调用 score 时使用的 \(R^2\) 分数自 0.23 版本起使用 multioutput='uniform_average',以与 r2_score 的默认值保持一致。这影响了所有多输出回归器(除了 MultiOutputRegressor)的 score 方法。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR[source]#

请求传递给 fit 方法的元数据。

请注意,此方法仅在 enable_metadata_routing=True 时(参见 sklearn.set_config)才相关。请查阅《用户指南》了解路由机制的工作原理。

每个参数的选项如下:

  • True:请求元数据,如果提供则传递给 fit。如果未提供元数据,则请求被忽略。

  • False:不请求元数据,元估计器不会将其传递给 fit

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:应将元数据以给定别名而非原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在 1.3 版本中新增。

注意

此方法仅在估计器作为元估计器的子估计器使用时才相关,例如在 Pipeline 内部使用。否则它没有效果。

参数:
sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

fitsample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象(例如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,因此可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR[source]#

请求传递给 score 方法的元数据。

请注意,此方法仅在 enable_metadata_routing=True 时(参见 sklearn.set_config)才相关。请查阅《用户指南》了解路由机制的工作原理。

每个参数的选项如下:

  • True:请求元数据,如果提供则传递给 score。如果未提供元数据,则请求被忽略。

  • False:不请求元数据,元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:应将元数据以给定别名而非原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在 1.3 版本中新增。

注意

此方法仅在估计器作为元估计器的子估计器使用时才相关,例如在 Pipeline 内部使用。否则它没有效果。

参数:
sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED

scoresample_weight 参数的元数据路由。

返回:
self对象

更新后的对象。