LinearSVR#
- class sklearn.svm.LinearSVR(*, epsilon=0.0, tol=0.0001, C=1.0, loss='epsilon_insensitive', fit_intercept=True, intercept_scaling=1.0, dual='auto', verbose=0, random_state=None, max_iter=1000)[source]#
线性支持向量回归。
与参数 kernel='linear' 的 SVR 相似,但它基于 liblinear 而非 libsvm 实现,因此在选择惩罚项和损失函数方面更灵活,并且应能更好地扩展到大量样本。
LinearSVR
和SVR
的主要区别在于默认使用的损失函数,以及这两种实现对截距正则化的处理方式。此类别支持密集和稀疏输入。
请查阅《用户指南》了解更多信息。
在 0.16 版本中新增。
- 参数:
- epsilon浮点型,默认值=0.0
epsilon-不敏感损失函数中的 epsilon 参数。请注意,此参数的值取决于目标变量 y 的尺度。如果不确定,请设置
epsilon=0
。- tol浮点型,默认值=1e-4
停止标准的容差。
- C浮点型,默认值=1.0
正则化参数。正则化强度与 C 成反比。必须为严格正数。
- loss{'epsilon_insensitive', 'squared_epsilon_insensitive'},默认值='epsilon_insensitive'
指定损失函数。epsilon-不敏感损失(标准 SVR)是 L1 损失,而平方 epsilon-不敏感损失('squared_epsilon_insensitive')是 L2 损失。
- fit_intercept布尔型,默认值=True
是否拟合截距。如果设置为 True,特征向量将扩展为包含一个截距项:
[x_1, ..., x_n, 1]
,其中 1 对应于截距。如果设置为 False,计算中将不使用截距(即数据预计已中心化)。- intercept_scaling浮点型,默认值=1.0
当
fit_intercept
为 True 时,实例向量 x 变为[x_1, ..., x_n, intercept_scaling]
,即一个常数值等于intercept_scaling
的“合成”特征被附加到实例向量中。截距变为 intercept_scaling * 合成特征权重。请注意,liblinear 内部会对截距进行惩罚,将其视为特征向量中的任何其他项。为了减少正则化对截距的影响,intercept_scaling
参数可以设置为大于 1 的值;intercept_scaling
的值越高,正则化对其影响越小。然后,权重变为[w_x_1, ..., w_x_n, w_intercept*intercept_scaling]
,其中w_x_1, ..., w_x_n
表示特征权重,截距权重按intercept_scaling
缩放。这种缩放使得截距项与其它特征相比具有不同的正则化行为。- dual“auto” 或 布尔型,默认值=”auto”
选择算法来解决对偶或原始优化问题。当 n_samples > n_features 时,推荐使用 dual=False。
dual="auto"
将根据n_samples
、n_features
和loss
的值自动选择参数值。如果n_samples
<n_features
且优化器支持所选的loss
,则 dual 将设置为 True,否则将设置为 False。1.3 版本中的变更: "auto" 选项在 1.3 版本中添加,并将在 1.5 版本中成为默认值。
- verbose整型,默认值=0
启用详细输出。请注意,此设置利用了 liblinear 中的一个每进程运行时设置,如果启用,在多线程环境中可能无法正常工作。
- random_state整型,RandomState 实例或 None,默认值=None
控制数据洗牌的伪随机数生成。传入一个整型以在多次函数调用中获得可重现的输出。请参阅术语表。
- max_iter整型,默认值=1000
要运行的最大迭代次数。
- 属性:
- coef_ndarray,如果 n_classes == 2 则形状为 (n_features),否则为 (n_classes, n_features)
分配给特征的权重(原始问题中的系数)。
coef_
是从raw_coef_
派生出的只读属性,它遵循 liblinear 的内部内存布局。- intercept_ndarray,如果 n_classes == 2 则形状为 (1),否则为 (n_classes)
决策函数中的常数。
- n_features_in_整型
在fit期间看到的特征数量。
在 0.24 版本中新增。
- feature_names_in_ndarray,形状为 (
n_features_in_
,) 在fit期间看到的特征名称。仅当
X
的所有特征名称均为字符串时才定义。在 1.0 版本中新增。
- n_iter_整型
所有类别中运行的最大迭代次数。
另请参阅
LinearSVC
使用与此类别(liblinear)相同的库实现的支持向量机分类器。
SVR
使用 libsvm 实现的支持向量机回归:核函数可以是非线性的,但其 SMO 算法不能像
LinearSVR
那样扩展到大量样本。sklearn.linear_model.SGDRegressor
SGDRegressor 可以通过调整惩罚和损失参数来优化与 LinearSVR 相同的成本函数。此外,它需要更少的内存,允许增量(在线)学习,并实现各种损失函数和正则化方案。
示例
>>> from sklearn.svm import LinearSVR >>> from sklearn.pipeline import make_pipeline >>> from sklearn.preprocessing import StandardScaler >>> from sklearn.datasets import make_regression >>> X, y = make_regression(n_features=4, random_state=0) >>> regr = make_pipeline(StandardScaler(), ... LinearSVR(random_state=0, tol=1e-5)) >>> regr.fit(X, y) Pipeline(steps=[('standardscaler', StandardScaler()), ('linearsvr', LinearSVR(random_state=0, tol=1e-05))])
>>> print(regr.named_steps['linearsvr'].coef_) [18.582 27.023 44.357 64.522] >>> print(regr.named_steps['linearsvr'].intercept_) [-4.] >>> print(regr.predict([[0, 0, 0, 0]])) [-2.384]
- fit(X, y, sample_weight=None)[source]#
根据给定的训练数据拟合模型。
- 参数:
- X{类数组,稀疏矩阵},形状为 (n_samples, n_features)
训练向量,其中
n_samples
是样本数量,n_features
是特征数量。- y类数组,形状为 (n_samples,)
相对于 X 的目标向量。
- sample_weight类数组,形状为 (n_samples,),默认值=None
分配给单个样本的权重数组。如果未提供,则每个样本都被赋予单位权重。
在 0.18 版本中新增。
- 返回:
- self对象
估计器的一个实例。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查阅《用户指南》了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
一个封装路由信息的
MetadataRequest
。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deep布尔型,默认值=True
如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。
- 返回:
- params字典
参数名称映射到其值。
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- X类数组或稀疏矩阵,形状为 (n_samples, n_features)
样本。
- 返回:
- C数组,形状为 (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回测试数据的决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,\(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳分数是 1.0,它也可以是负数(因为模型可能任意差)。一个忽略输入特征,始终预测y
期望值的常量模型,将得到 0.0 的 \(R^2\) 分数。- 参数:
- X类数组,形状为 (n_samples, n_features)
测试样本。对于某些估计器,这可能是一个预先计算的核矩阵或一个通用对象列表,其形状为
(n_samples, n_samples_fitted)
,其中n_samples_fitted
是估计器拟合中使用的样本数量。- y类数组,形状为 (n_samples,) 或 (n_samples, n_outputs)
X
的真实值。- sample_weight类数组,形状为 (n_samples,),默认值=None
样本权重。
- 返回:
- score浮点型
self.predict(X)
相对于y
的 \(R^2\)。
注意
在回归器上调用
score
时使用的 \(R^2\) 分数自 0.23 版本起使用multioutput='uniform_average'
,以与r2_score
的默认值保持一致。这影响了所有多输出回归器(除了MultiOutputRegressor
)的score
方法。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR [source]#
请求传递给
fit
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时(参见sklearn.set_config
)才相关。请查阅《用户指南》了解路由机制的工作原理。每个参数的选项如下:
True
:请求元数据,如果提供则传递给fit
。如果未提供元数据,则请求被忽略。False
:不请求元数据,元估计器不会将其传递给fit
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:应将元数据以给定别名而非原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在 1.3 版本中新增。
注意
此方法仅在估计器作为元估计器的子估计器使用时才相关,例如在
Pipeline
内部使用。否则它没有效果。- 参数:
- sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
在
fit
中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单估计器以及嵌套对象(例如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,因此可以更新嵌套对象的每个组件。- 参数:
- **params字典
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearSVR [source]#
请求传递给
score
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时(参见sklearn.set_config
)才相关。请查阅《用户指南》了解路由机制的工作原理。每个参数的选项如下:
True
:请求元数据,如果提供则传递给score
。如果未提供元数据,则请求被忽略。False
:不请求元数据,元估计器不会将其传递给score
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:应将元数据以给定别名而非原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有请求。这允许您更改某些参数的请求而不更改其他参数。在 1.3 版本中新增。
注意
此方法仅在估计器作为元估计器的子估计器使用时才相关,例如在
Pipeline
内部使用。否则它没有效果。- 参数:
- sample_weightstr, True, False, 或 None, 默认值=sklearn.utils.metadata_routing.UNCHANGED
在
score
中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。