LinearRegression#
- class sklearn.linear_model.LinearRegression(*, fit_intercept=True, copy_X=True, tol=1e-06, n_jobs=None, positive=False)[source]#
普通最小二乘线性回归。
LinearRegression 通过系数 w = (w1, ..., wp) 拟合一个线性模型,以最小化数据集中观测目标与线性近似预测目标之间的残差平方和。
- 参数:
- fit_interceptbool, 默认=True
是否为该模型计算截距。如果设置为 False,则计算中不使用截距(即数据预期已中心化)。
- copy_Xbool, 默认=True
如果为 True,X 将被复制;否则,它可能会被覆盖。
- tolfloat, 默认=1e-6
解(
coef_
)的精度由tol
决定,它为lsqr
求解器指定了不同的收敛准则。tol
在稀疏训练数据上拟合时被设置为scipy.sparse.linalg.lsqr
的atol
和btol
。当在密集数据上拟合时,此参数无效。版本 1.7 新增。
- n_jobsint, 默认=None
用于计算的作业数。这仅在问题足够大时才能提供加速,即首先
n_targets > 1
其次X
为稀疏矩阵或positive
设置为True
时。除非在joblib.parallel_backend
上下文中,否则None
表示 1。-1
表示使用所有处理器。有关更多详细信息,请参阅词汇表。- positivebool, 默认=False
当设置为
True
时,强制系数为正。此选项仅支持密集数组。有关回归系数具有正约束的线性回归模型与没有此类约束的线性回归模型之间的比较,请参阅非负最小二乘。
版本 0.24 新增。
- 属性:
- coef_形状为 (n_features, ) 或 (n_targets, n_features) 的数组
线性回归问题的估计系数。如果拟合时传入多个目标 (y 为 2D),则这是一个形状为 (n_targets, n_features) 的 2D 数组;如果只传入一个目标,则这是一个长度为 n_features 的 1D 数组。
- rank_int
矩阵
X
的秩。仅当X
为密集时可用。- singular_形状为 (min(X, y),) 的数组
X
的奇异值。仅当X
为密集时可用。- intercept_float 或形状为 (n_targets,) 的数组
线性模型中的独立项。如果
fit_intercept = False
,则设置为 0.0。- n_features_in_int
拟合期间看到的特征数量。
版本 0.24 新增。
- feature_names_in_形状为 (
n_features_in_
,) 的 ndarray 拟合期间看到的特征名称。仅当
X
的所有特征名称均为字符串时才定义。版本 1.0 新增。
另请参阅
Ridge
岭回归通过对系数大小施加 l2 正则化惩罚来解决普通最小二乘法的一些问题。
Lasso
Lasso 是一种线性模型,通过 l1 正则化估计稀疏系数。
ElasticNet
Elastic-Net 是一种线性回归模型,使用 l1 和 l2 范数正则化系数进行训练。
注意事项
从实现的角度来看,这只是普通的最小二乘法(scipy.linalg.lstsq)或非负最小二乘法(scipy.optimize.nnls)包装成一个预测器对象。
示例
>>> import numpy as np >>> from sklearn.linear_model import LinearRegression >>> X = np.array([[1, 1], [1, 2], [2, 2], [2, 3]]) >>> # y = 1 * x_0 + 2 * x_1 + 3 >>> y = np.dot(X, np.array([1, 2])) + 3 >>> reg = LinearRegression().fit(X, y) >>> reg.score(X, y) 1.0 >>> reg.coef_ array([1., 2.]) >>> reg.intercept_ np.float64(3.0) >>> reg.predict(np.array([[3, 5]])) array([16.])
- fit(X, y, sample_weight=None)[source]#
拟合线性模型。
- 参数:
- X{array-like, 稀疏矩阵},形状为 (n_samples, n_features)
训练数据。
- yarray-like,形状为 (n_samples,) 或 (n_samples, n_targets)
目标值。如果需要,将转换为 X 的 dtype。
- sample_weightarray-like,形状为 (n_samples,), 默认=None
每个样本的个体权重。
版本 0.17 新增: LinearRegression 支持参数 sample_weight。
- 返回:
- self对象
拟合的估计器。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看用户指南,了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
封装路由信息的
MetadataRequest
对象。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool, 默认=True
如果为 True,将返回此估计器及其包含的作为估计器的子对象的参数。
- 返回:
- paramsdict
参数名称映射到其值。
- predict(X)[source]#
使用线性模型进行预测。
- 参数:
- Xarray-like 或稀疏矩阵,形状为 (n_samples, n_features)
样本。
- 返回:
- Carray,形状为 (n_samples,)
返回预测值。
- score(X, y, sample_weight=None)[source]#
返回测试数据上的决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,\(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳可能分数为 1.0,并且可能为负(因为模型可能任意差)。一个总是预测y
期望值(不考虑输入特征)的常数模型将获得 0.0 的 \(R^2\) 分数。- 参数:
- Xarray-like,形状为 (n_samples, n_features)
测试样本。对于某些估计器,这可能是一个预计算的核矩阵或一个通用对象列表,形状为
(n_samples, n_samples_fitted)
,其中n_samples_fitted
是估计器拟合中使用的样本数。- yarray-like,形状为 (n_samples,) 或 (n_samples, n_outputs)
X
的真实值。- sample_weightarray-like,形状为 (n_samples,), 默认=None
样本权重。
- 返回:
- scorefloat
self.predict(X)
相对于y
的 \(R^2\) 值。
注意事项
回归器调用
score
时使用的 \(R^2\) 分数从 0.23 版本开始使用multioutput='uniform_average'
,以与r2_score
的默认值保持一致。这会影响所有多输出回归器(除了MultiOutputRegressor
)的score
方法。
- set_fit_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearRegression [source]#
请求传递给
fit
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时相关(请参阅sklearn.set_config
)。请参阅用户指南,了解路由机制的工作原理。每个参数的选项有:
True
: 请求元数据,如果提供则传递给fit
。如果未提供元数据,则忽略请求。False
: 不请求元数据,元估计器不会将其传递给fit
。None
: 不请求元数据,如果用户提供元数据,元估计器将引发错误。str
: 元数据应以给定的别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。版本 1.3 新增。
注意
此方法仅在此估计器用作元估计器的子估计器时(例如,在
Pipeline
内部使用)才相关。否则,它没有效果。- 参数:
- sample_weightstr, True, False, 或 None, 默认=sklearn.utils.metadata_routing.UNCHANGED
fit
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单估计器以及嵌套对象(例如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,因此可以更新嵌套对象的每个组件。- 参数:
- **paramsdict
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') LinearRegression [source]#
请求传递给
score
方法的元数据。请注意,此方法仅在
enable_metadata_routing=True
时相关(请参阅sklearn.set_config
)。请参阅用户指南,了解路由机制的工作原理。每个参数的选项有:
True
: 请求元数据,如果提供则传递给score
。如果未提供元数据,则忽略请求。False
: 不请求元数据,元估计器不会将其传递给score
。None
: 不请求元数据,如果用户提供元数据,元估计器将引发错误。str
: 元数据应以给定的别名而不是原始名称传递给元估计器。
默认值 (
sklearn.utils.metadata_routing.UNCHANGED
) 保留现有请求。这允许您更改某些参数的请求而不更改其他参数。版本 1.3 新增。
注意
此方法仅在此估计器用作元估计器的子估计器时(例如,在
Pipeline
内部使用)才相关。否则,它没有效果。- 参数:
- sample_weightstr, True, False, 或 None, 默认=sklearn.utils.metadata_routing.UNCHANGED
score
方法中sample_weight
参数的元数据路由。
- 返回:
- self对象
更新后的对象。