K近邻回归器#
- class sklearn.neighbors.KNeighborsRegressor(n_neighbors=5, *, weights='uniform', algorithm='auto', leaf_size=30, p=2, metric='minkowski', metric_params=None, n_jobs=None)[source]#
基于 k 近邻的回归。
目标值通过对训练集中最近邻的目标值的局部插值来预测。
更多信息请参见 用户指南。
版本 0.9 中新增。
- 参数:
- n_neighborsint, default=5
默认情况下,
kneighbors
查询使用的邻居数。- weights{‘uniform’, ‘distance’}, callable 或 None, default=’uniform’
预测中使用的权重函数。可能的值:
‘uniform’ : 均匀权重。每个邻域中的所有点权重相等。
‘distance’ : 根据距离的倒数对点加权。在这种情况下,查询点的较近邻域比较远邻域的影响更大。
[callable] : 用户自定义函数,接受距离数组,并返回包含权重的相同形状的数组。
默认情况下使用均匀权重。
有关不同加权方案对预测的影响演示,请参见以下示例: 最近邻回归。
- algorithm{‘auto’, ‘ball_tree’, ‘kd_tree’, ‘brute’}, default=’auto’
用于计算最近邻的算法
注意:对稀疏输入进行拟合将覆盖此参数的设置,使用蛮力。
- leaf_sizeint, default=30
传递给 BallTree 或 KDTree 的叶子大小。这会影响构建和查询的速度,以及存储树所需的内存。最佳值取决于问题的性质。
- pfloat, default=2
Minkowski 度量的幂参数。当 p = 1 时,这等效于使用 manhattan_distance (l1),而 p = 2 时则使用 euclidean_distance (l2)。对于任意 p,使用 minkowski_distance (l_p)。
- metricstr, DistanceMetric 对象或 callable, default=’minkowski’
用于距离计算的度量。默认为“minkowski”,当 p = 2 时,结果为标准欧几里德距离。有关有效的度量值,请参见 scipy.spatial.distance 的文档和
distance_metrics
中列出的度量。如果 metric 为“precomputed”,则假定 X 为距离矩阵,并且在拟合过程中必须为方阵。X 可以是 稀疏图,在这种情况下,只有“非零”元素可以被视为邻居。
如果 metric 是可调用函数,则它将两个表示一维向量的数组作为输入,并且必须返回一个值,指示这些向量之间的距离。这适用于 Scipy 的度量,但效率不如将度量名称作为字符串传递。
如果 metric 是 DistanceMetric 对象,则它将直接传递给底层计算例程。
- metric_paramsdict, default=None
度量函数的其他关键字参数。
- n_jobsint, default=None
为邻居搜索运行的并行作业数。
None
表示 1,除非在joblib.parallel_backend
上下文中。-1
表示使用所有处理器。有关更多详细信息,请参见 词汇表。不影响fit
方法。
- 属性:
- effective_metric_str 或 callable
要使用的距离度量。它将与
metric
参数相同,或者它是metric
参数的同义词,例如,如果metric
参数设置为 ‘minkowski’ 并且p
参数设置为 2,则为 ‘euclidean’。- effective_metric_params_dict
度量函数的其他关键字参数。对于大多数度量,它将与
metric_params
参数相同,但如果effective_metric_
属性设置为 ‘minkowski’,则还可能包含p
参数值。- n_features_in_int
在 拟合期间看到的特征数。
版本 0.24 中新增。
- feature_names_in_ndarray of shape (
n_features_in_
,) 在 拟合期间看到的特征名称。仅当
X
具有全是字符串的特征名称时才定义。版本 1.0 中新增。
- n_samples_fit_int
拟合数据中的样本数。
备注
有关算法和`leaf_size`的选择,请参阅在线文档中最近邻部分的讨论。
警告
关于最近邻算法,如果发现两个邻居,邻居
k+1
和k
具有相同的距离但标签不同,则结果将取决于训练数据的顺序。https://en.wikipedia.org/wiki/K-nearest_neighbors_algorithm
示例
>>> X = [[0], [1], [2], [3]] >>> y = [0, 0, 1, 1] >>> from sklearn.neighbors import KNeighborsRegressor >>> neigh = KNeighborsRegressor(n_neighbors=2) >>> neigh.fit(X, y) KNeighborsRegressor(...) >>> print(neigh.predict([[1.5]])) [0.5]
- fit(X, y)[source]#
从训练数据集拟合k近邻回归器。
- 参数:
- X形状为(n_samples, n_features)的{类数组,稀疏矩阵},如果metric='precomputed',则为(n_samples, n_samples)
训练数据。
- y形状为(n_samples,)或(n_samples, n_outputs)的{类数组,稀疏矩阵}
目标值。
- 返回:
- selfKNeighborsRegressor
拟合的k近邻回归器。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看用户指南,了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
一个
MetadataRequest
,封装了路由信息。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool,默认为True
如果为True,则将返回此估计器和包含的作为估计器的子对象的的参数。
- 返回:
- paramsdict
参数名称映射到其值。
- kneighbors(X=None, n_neighbors=None, return_distance=True)[source]#
查找一个点的K近邻。
返回每个点的邻居的索引和距离。
- 参数:
- X形状为(n_queries, n_features)的{类数组,稀疏矩阵},如果metric == 'precomputed',则为(n_queries, n_indexed),默认为None
查询点或点。如果未提供,则返回每个索引点的邻居。在这种情况下,查询点不被认为是其自身的邻居。
- n_neighborsint,默认为None
每个样本所需的邻居数。默认为传递给构造函数的值。
- return_distancebool,默认为True
是否返回距离。
- 返回:
- neigh_dist形状为(n_queries, n_neighbors)的ndarray
表示到点的长度的数组,仅当return_distance=True时才存在。
- neigh_ind形状为(n_queries, n_neighbors)的ndarray
总体矩阵中最近点的索引。
示例
在下面的例子中,我们从一个代表我们数据集的数组构造一个NearestNeighbors类,并询问哪个点最接近[1,1,1]
>>> samples = [[0., 0., 0.], [0., .5, 0.], [1., 1., .5]] >>> from sklearn.neighbors import NearestNeighbors >>> neigh = NearestNeighbors(n_neighbors=1) >>> neigh.fit(samples) NearestNeighbors(n_neighbors=1) >>> print(neigh.kneighbors([[1., 1., 1.]])) (array([[0.5]]), array([[2]]))
如你所见,它返回[[0.5]]和[[2]],这意味着该元素的距离为0.5,并且是样本的第三个元素(索引从0开始)。你也可以查询多个点。
>>> X = [[0., 1., 0.], [1., 0., 1.]] >>> neigh.kneighbors(X, return_distance=False) array([[1], [2]]...)
- kneighbors_graph(X=None, n_neighbors=None, mode='connectivity')[source]#
计算X中点的k近邻的(加权)图。
- 参数:
- X形状为(n_queries, n_features)的{类数组,稀疏矩阵},如果metric == 'precomputed',则为(n_queries, n_indexed),默认为None
查询点或点。如果未提供,则返回每个索引点的邻居。在这种情况下,查询点不被认为是其自身的邻居。对于
metric='precomputed'
,形状应为(n_queries, n_indexed)。否则,形状应为(n_queries, n_features)。- n_neighborsint,默认为None
每个样本的邻居数。默认为传递给构造函数的值。
- mode{'connectivity', 'distance'},默认为'connectivity'
返回矩阵的类型:'connectivity'将返回具有1和0的连接矩阵,在'distance'中,边是点之间的距离,距离的类型取决于NearestNeighbors类中选择的metric参数。
- 返回:
- A形状为(n_queries, n_samples_fit)的稀疏矩阵
n_samples_fit
表示拟合数据中的样本数。A[i, j]
表示连接i
到j
的边的权重。该矩阵采用 CSR 格式。
另请参见
NearestNeighbors.radius_neighbors_graph
计算 X 中点的邻居的(加权)图。
示例
>>> X = [[0], [3], [1]] >>> from sklearn.neighbors import NearestNeighbors >>> neigh = NearestNeighbors(n_neighbors=2) >>> neigh.fit(X) NearestNeighbors(n_neighbors=2) >>> A = neigh.kneighbors_graph(X) >>> A.toarray() array([[1., 0., 1.], [0., 1., 1.], [1., 0., 1.]])
- predict(X)[source]#
预测提供的数据的目标值。
- 参数:
- X形状为 (n_queries, n_features) 的类数组或稀疏矩阵,如果 metric == ‘precomputed’,则形状为 (n_queries, n_indexed),或者为 None
测试样本。如果为
None
,则返回所有已索引点的预测值;在这种情况下,点不被认为是其自身的邻居。
- 返回:
- y形状为 (n_queries,) 或 (n_queries, n_outputs) 的 ndarray,dtype=int
目标值。
- score(X, y, sample_weight=None)[source]#
返回预测值的决定系数。
决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和
((y_true - y_pred)** 2).sum()
,而 \(v\) 是总平方和((y_true - y_true.mean()) ** 2).sum()
。最佳分数为 1.0,也可能为负值(因为模型可以任意差)。一个始终预测 y 的期望值的常数模型,忽略输入特征,其 \(R^2\) 分数为 0.0。- 参数:
- X形状为 (n_samples, n_features) 的类数组
测试样本。对于某些估计器,这可能是预计算的核矩阵,或者形状为
(n_samples, n_samples_fitted)
的泛型对象列表,其中n_samples_fitted
是估计器拟合中使用的样本数。- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组
X 的真实值。
- sample_weight形状为 (n_samples,) 的类数组,默认为 None
样本权重。
- 返回:
- score浮点数
self.predict(X)
关于 y 的 \(R^2\)。
备注
从 0.23 版本开始,在回归器上调用 score 方法时使用的 \(R^2\) 分数使用
multioutput='uniform_average'
,以保持与r2_score
的默认值一致。这会影响所有多输出回归器的score
方法(MultiOutputRegressor
除外)。
- set_params(**params)[source]#
设置此估计器的参数。
此方法适用于简单的估计器以及嵌套对象(例如
Pipeline
)。后者具有<component>__<parameter>
形式的参数,因此可以更新嵌套对象的每个组件。- 参数:
- **params字典
估计器参数。
- 返回:
- self估计器实例
估计器实例。
- set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') KNeighborsRegressor [source]#
请求传递给
score
方法的元数据。请注意,只有在
enable_metadata_routing=True
时(参见sklearn.set_config
)此方法才相关。请参阅 用户指南,了解路由机制的工作原理。每个参数的选项为
True
:请求元数据,如果提供则将其传递给score
。如果未提供元数据,则忽略请求。False
:不请求元数据,元估计器不会将其传递给score
。None
:不请求元数据,如果用户提供元数据,元估计器将引发错误。str
:元数据应使用此给定的别名而不是原始名称传递给元估计器。
默认值(
sklearn.utils.metadata_routing.UNCHANGED
)保留现有的请求。这允许您更改某些参数的请求,而其他参数则不更改。1.3 版本中新增。
注意
此方法仅当该估计器用作元估计器的子估计器时才相关,例如,在
Pipeline
中使用。否则,它无效。- 参数:
- sample_weightstr、True、False 或 None,默认值为 sklearn.utils.metadata_routing.UNCHANGED
score
中sample_weight
参数的元数据路由。
- 返回:
- self对象
已更新的对象。