LinearRegression#

class sklearn.linear_model.LinearRegression(*, fit_intercept=True, copy_X=True, tol=1e-06, n_jobs=None, positive=False)[source]#

普通最小二乘线性回归。

LinearRegression 通过拟合具有系数 w = (w1, …, wp) 的线性模型,以最小化数据集中观察到的目标值与线性近似预测的目标值之间的残差平方和。

参数:
fit_interceptbool, default=True

是否为模型计算截距。如果设置为 False,则计算中不使用截距(即数据应为中心化的)。

copy_Xbool, default=True

如果为 True,X 将被复制;否则,它可能会被覆盖。

tolfloat, default=1e-6

解 (coef_) 的精度由 tol 决定,它为 lsqr 求解器指定了不同的收敛标准。当对稀疏训练数据进行拟合时,tol 设置为 scipy.sparse.linalg.lsqratolbtol。当对密集数据进行拟合时,此参数无效。

在版本 1.7 中新增。

n_jobsint, default=None

用于计算的作业数。这仅在问题足够大的情况下才能提供加速,即首先 n_targets > 1 其次 X 是稀疏的,或者 positive 设置为 True。除非在 joblib.parallel_backend 上下文中,None 表示 1。-1 表示使用所有处理器。有关详细信息,请参阅 词汇表

positivebool, default=False

当设置为 True 时,强制系数为正数。此选项仅支持密集数组。

有关对回归系数施加正约束的线性回归模型与没有此类约束的线性回归模型的比较,请参阅 非负最小二乘法

0.24 版本新增。

属性:
coef_shape 为 (n_features, ) 或 (n_targets, n_features) 的数组

线性回归问题的估计系数。如果在拟合期间传递了多个目标(y 为 2D),则这是一个形状为 (n_targets, n_features) 的 2D 数组;如果只传递了一个目标,则这是一个长度为 n_features 的 1D 数组。

rank_int

矩阵 X 的秩。仅当 X 为密集时可用。

singular_shape 为 (min(X, y),) 的数组

X 的奇异值。仅当 X 为密集时可用。

intercept_float 或 shape 为 (n_targets,) 的数组

线性模型中的独立项。如果 fit_intercept = False,则设置为 0.0。

n_features_in_int

拟合 期间看到的特征数。

0.24 版本新增。

feature_names_in_shape 为 (n_features_in_,) 的 ndarray

fit 期间看到的特征名称。仅当 X 具有全部为字符串的特征名称时才定义。

1.0 版本新增。

另请参阅

Ridge

岭回归通过使用 l2 正则化对系数大小施加惩罚来解决普通最小二乘法的一些问题。

Lasso

Lasso 是一种使用 l1 正则化估计稀疏系数的线性模型。

ElasticNet

Elastic-Net 是一种使用 l1 和 l2 范数正则化系数进行训练的线性回归模型。

注意事项

从实现的角度来看,这只是普通的普通最小二乘法 (scipy.linalg.lstsq) 或非负最小二乘法 (scipy.optimize.nnls) 包装成预测器对象。

示例

>>> import numpy as np
>>> from sklearn.linear_model import LinearRegression
>>> X = np.array([[1, 1], [1, 2], [2, 2], [2, 3]])
>>> # y = 1 * x_0 + 2 * x_1 + 3
>>> y = np.dot(X, np.array([1, 2])) + 3
>>> reg = LinearRegression().fit(X, y)
>>> reg.score(X, y)
1.0
>>> reg.coef_
array([1., 2.])
>>> reg.intercept_
np.float64(3.0)
>>> reg.predict(np.array([[3, 5]]))
array([16.])
fit(X, y, sample_weight=None)[source]#

拟合线性模型。

参数:
Xshape 为 (n_samples, n_features) 的 {array-like, sparse matrix}

训练数据。

yshape 为 (n_samples,) 或 (n_samples, n_targets) 的 array-like

目标值。如有必要,将被转换为 X 的 dtype。

sample_weightshape 为 (n_samples,) 的 array-like, default=None

每个样本的个体权重。

版本 0.17 中新增:对 LinearRegression 的参数 sample_weight 支持。

返回:
selfobject

拟合后的估计器。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查阅 用户指南,了解路由机制如何工作。

返回:
routingMetadataRequest

封装路由信息的 MetadataRequest

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deepbool, default=True

如果为 True,将返回此估计器以及包含的子对象(如果它们是估计器)的参数。

返回:
paramsdict

参数名称映射到其值。

predict(X)[source]#

使用线性模型进行预测。

参数:
Xarray-like or sparse matrix, shape (n_samples, n_features)

样本。

返回:
Carray, shape (n_samples,)

返回预测值。

score(X, y, sample_weight=None)[source]#

返回测试数据的 决定系数

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum()\(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳得分为 1.0,它也可以是负数(因为模型可能任意糟糕)。一个总是预测 y 期望值,而忽略输入特征的常数模型将得到 0.0 的 \(R^2\) 分数。

参数:
Xshape 为 (n_samples, n_features) 的 array-like

测试样本。对于某些估计器,这可能是一个预先计算的核矩阵或一个通用对象列表,形状为 (n_samples, n_samples_fitted),其中 n_samples_fitted 是用于估计器拟合的样本数。

yshape 为 (n_samples,) 或 (n_samples, n_outputs) 的 array-like

X 的真实值。

sample_weightshape 为 (n_samples,) 的 array-like, default=None

样本权重。

返回:
scorefloat

self.predict(X) 相对于 y\(R^2\)

注意事项

从版本 0.23 开始,调用 regressor 的 score 时使用的 \(R^2\) 分数使用 multioutput='uniform_average',以与 r2_score 的默认值保持一致。这会影响所有多输出回归器(MultiOutputRegressor 除外)的 score 方法。

set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearRegression[source]#

配置是否应请求元数据以传递给 fit 方法。

请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过 enable_metadata_routing=True 启用了元数据路由(请参阅 sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。

每个参数的选项如下:

  • True:请求元数据,如果提供则传递给 fit。如果未提供元数据,则忽略该请求。

  • False:不请求元数据,元估计器不会将其传递给 fit

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:应将元数据以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在版本 1.3 中新增。

参数:
sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

fit 方法中 sample_weight 参数的元数据路由。

返回:
selfobject

更新后的对象。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象(如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,以便可以更新嵌套对象的每个组件。

参数:
**paramsdict

估计器参数。

返回:
selfestimator instance

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearRegression[source]#

配置是否应请求元数据以传递给 score 方法。

请注意,此方法仅在以下情况下相关:此估计器用作 元估计器 中的子估计器,并且通过 enable_metadata_routing=True 启用了元数据路由(请参阅 sklearn.set_config)。请查看 用户指南 以了解路由机制的工作原理。

每个参数的选项如下:

  • True:请求元数据,如果提供则传递给 score。如果未提供元数据,则忽略该请求。

  • False:不请求元数据,元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:应将元数据以给定别名而不是原始名称传递给元估计器。

默认值 (sklearn.utils.metadata_routing.UNCHANGED) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。

在版本 1.3 中新增。

参数:
sample_weightstr, True, False, or None, default=sklearn.utils.metadata_routing.UNCHANGED

score 方法中 sample_weight 参数的元数据路由。

返回:
selfobject

更新后的对象。