K近邻回归器#

class sklearn.neighbors.KNeighborsRegressor(n_neighbors=5, *, weights='uniform', algorithm='auto', leaf_size=30, p=2, metric='minkowski', metric_params=None, n_jobs=None)[source]#

基于 k 近邻的回归。

目标值通过对训练集中最近邻的目标值的局部插值来预测。

更多信息请参见 用户指南

版本 0.9 中新增。

参数:
n_neighborsint, default=5

默认情况下,kneighbors 查询使用的邻居数。

weights{‘uniform’, ‘distance’}, callable 或 None, default=’uniform’

预测中使用的权重函数。可能的值:

  • ‘uniform’ : 均匀权重。每个邻域中的所有点权重相等。

  • ‘distance’ : 根据距离的倒数对点加权。在这种情况下,查询点的较近邻域比较远邻域的影响更大。

  • [callable] : 用户自定义函数,接受距离数组,并返回包含权重的相同形状的数组。

默认情况下使用均匀权重。

有关不同加权方案对预测的影响演示,请参见以下示例: 最近邻回归

algorithm{‘auto’, ‘ball_tree’, ‘kd_tree’, ‘brute’}, default=’auto’

用于计算最近邻的算法

  • ‘ball_tree’ 将使用 BallTree

  • ‘kd_tree’ 将使用 KDTree

  • ‘brute’ 将使用蛮力搜索。

  • ‘auto’ 将尝试根据传递给 fit 方法的值确定最合适的算法。

注意:对稀疏输入进行拟合将覆盖此参数的设置,使用蛮力。

leaf_sizeint, default=30

传递给 BallTree 或 KDTree 的叶子大小。这会影响构建和查询的速度,以及存储树所需的内存。最佳值取决于问题的性质。

pfloat, default=2

Minkowski 度量的幂参数。当 p = 1 时,这等效于使用 manhattan_distance (l1),而 p = 2 时则使用 euclidean_distance (l2)。对于任意 p,使用 minkowski_distance (l_p)。

metricstr, DistanceMetric 对象或 callable, default=’minkowski’

用于距离计算的度量。默认为“minkowski”,当 p = 2 时,结果为标准欧几里德距离。有关有效的度量值,请参见 scipy.spatial.distance 的文档和 distance_metrics 中列出的度量。

如果 metric 为“precomputed”,则假定 X 为距离矩阵,并且在拟合过程中必须为方阵。X 可以是 稀疏图,在这种情况下,只有“非零”元素可以被视为邻居。

如果 metric 是可调用函数,则它将两个表示一维向量的数组作为输入,并且必须返回一个值,指示这些向量之间的距离。这适用于 Scipy 的度量,但效率不如将度量名称作为字符串传递。

如果 metric 是 DistanceMetric 对象,则它将直接传递给底层计算例程。

metric_paramsdict, default=None

度量函数的其他关键字参数。

n_jobsint, default=None

为邻居搜索运行的并行作业数。None 表示 1,除非在 joblib.parallel_backend 上下文中。-1 表示使用所有处理器。有关更多详细信息,请参见 词汇表。不影响 fit 方法。

属性:
effective_metric_str 或 callable

要使用的距离度量。它将与 metric 参数相同,或者它是 metric 参数的同义词,例如,如果 metric 参数设置为 ‘minkowski’ 并且 p 参数设置为 2,则为 ‘euclidean’。

effective_metric_params_dict

度量函数的其他关键字参数。对于大多数度量,它将与 metric_params 参数相同,但如果 effective_metric_ 属性设置为 ‘minkowski’,则还可能包含 p 参数值。

n_features_in_int

拟合期间看到的特征数。

版本 0.24 中新增。

feature_names_in_ndarray of shape (n_features_in_,)

拟合期间看到的特征名称。仅当 X 具有全是字符串的特征名称时才定义。

版本 1.0 中新增。

n_samples_fit_int

拟合数据中的样本数。

另请参见

最近邻

用于实现邻居搜索的无监督学习器。

半径近邻回归器

基于固定半径内的邻居的回归。

K近邻分类器

实现 k 近邻投票的分类器。

半径近邻分类器

实现给定半径内邻居投票的分类器。

备注

有关算法和`leaf_size`的选择,请参阅在线文档中最近邻部分的讨论。

警告

关于最近邻算法,如果发现两个邻居,邻居k+1k具有相同的距离但标签不同,则结果将取决于训练数据的顺序。

https://en.wikipedia.org/wiki/K-nearest_neighbors_algorithm

示例

>>> X = [[0], [1], [2], [3]]
>>> y = [0, 0, 1, 1]
>>> from sklearn.neighbors import KNeighborsRegressor
>>> neigh = KNeighborsRegressor(n_neighbors=2)
>>> neigh.fit(X, y)
KNeighborsRegressor(...)
>>> print(neigh.predict([[1.5]]))
[0.5]
fit(X, y)[source]#

从训练数据集拟合k近邻回归器。

参数:
X形状为(n_samples, n_features)的{类数组,稀疏矩阵},如果metric='precomputed',则为(n_samples, n_samples)

训练数据。

y形状为(n_samples,)或(n_samples, n_outputs)的{类数组,稀疏矩阵}

目标值。

返回:
selfKNeighborsRegressor

拟合的k近邻回归器。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南,了解路由机制的工作原理。

返回:
routingMetadataRequest

一个MetadataRequest,封装了路由信息。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:
deepbool,默认为True

如果为True,则将返回此估计器和包含的作为估计器的子对象的的参数。

返回:
paramsdict

参数名称映射到其值。

kneighbors(X=None, n_neighbors=None, return_distance=True)[source]#

查找一个点的K近邻。

返回每个点的邻居的索引和距离。

参数:
X形状为(n_queries, n_features)的{类数组,稀疏矩阵},如果metric == 'precomputed',则为(n_queries, n_indexed),默认为None

查询点或点。如果未提供,则返回每个索引点的邻居。在这种情况下,查询点不被认为是其自身的邻居。

n_neighborsint,默认为None

每个样本所需的邻居数。默认为传递给构造函数的值。

return_distancebool,默认为True

是否返回距离。

返回:
neigh_dist形状为(n_queries, n_neighbors)的ndarray

表示到点的长度的数组,仅当return_distance=True时才存在。

neigh_ind形状为(n_queries, n_neighbors)的ndarray

总体矩阵中最近点的索引。

示例

在下面的例子中,我们从一个代表我们数据集的数组构造一个NearestNeighbors类,并询问哪个点最接近[1,1,1]

>>> samples = [[0., 0., 0.], [0., .5, 0.], [1., 1., .5]]
>>> from sklearn.neighbors import NearestNeighbors
>>> neigh = NearestNeighbors(n_neighbors=1)
>>> neigh.fit(samples)
NearestNeighbors(n_neighbors=1)
>>> print(neigh.kneighbors([[1., 1., 1.]]))
(array([[0.5]]), array([[2]]))

如你所见,它返回[[0.5]]和[[2]],这意味着该元素的距离为0.5,并且是样本的第三个元素(索引从0开始)。你也可以查询多个点。

>>> X = [[0., 1., 0.], [1., 0., 1.]]
>>> neigh.kneighbors(X, return_distance=False)
array([[1],
       [2]]...)
kneighbors_graph(X=None, n_neighbors=None, mode='connectivity')[source]#

计算X中点的k近邻的(加权)图。

参数:
X形状为(n_queries, n_features)的{类数组,稀疏矩阵},如果metric == 'precomputed',则为(n_queries, n_indexed),默认为None

查询点或点。如果未提供,则返回每个索引点的邻居。在这种情况下,查询点不被认为是其自身的邻居。对于metric='precomputed',形状应为(n_queries, n_indexed)。否则,形状应为(n_queries, n_features)。

n_neighborsint,默认为None

每个样本的邻居数。默认为传递给构造函数的值。

mode{'connectivity', 'distance'},默认为'connectivity'

返回矩阵的类型:'connectivity'将返回具有1和0的连接矩阵,在'distance'中,边是点之间的距离,距离的类型取决于NearestNeighbors类中选择的metric参数。

返回:
A形状为(n_queries, n_samples_fit)的稀疏矩阵

n_samples_fit 表示拟合数据中的样本数。A[i, j] 表示连接ij的边的权重。该矩阵采用 CSR 格式。

另请参见

NearestNeighbors.radius_neighbors_graph

计算 X 中点的邻居的(加权)图。

示例

>>> X = [[0], [3], [1]]
>>> from sklearn.neighbors import NearestNeighbors
>>> neigh = NearestNeighbors(n_neighbors=2)
>>> neigh.fit(X)
NearestNeighbors(n_neighbors=2)
>>> A = neigh.kneighbors_graph(X)
>>> A.toarray()
array([[1., 0., 1.],
       [0., 1., 1.],
       [1., 0., 1.]])
predict(X)[source]#

预测提供的数据的目标值。

参数:
X形状为 (n_queries, n_features) 的类数组或稀疏矩阵,如果 metric == ‘precomputed’,则形状为 (n_queries, n_indexed),或者为 None

测试样本。如果为None,则返回所有已索引点的预测值;在这种情况下,点不被认为是其自身的邻居。

返回:
y形状为 (n_queries,) 或 (n_queries, n_outputs) 的 ndarray,dtype=int

目标值。

score(X, y, sample_weight=None)[source]#

返回预测值的决定系数。

决定系数 \(R^2\) 定义为 \((1 - \frac{u}{v})\),其中 \(u\) 是残差平方和 ((y_true - y_pred)** 2).sum(),而 \(v\) 是总平方和 ((y_true - y_true.mean()) ** 2).sum()。最佳分数为 1.0,也可能为负值(因为模型可以任意差)。一个始终预测 y 的期望值的常数模型,忽略输入特征,其 \(R^2\) 分数为 0.0。

参数:
X形状为 (n_samples, n_features) 的类数组

测试样本。对于某些估计器,这可能是预计算的核矩阵,或者形状为 (n_samples, n_samples_fitted) 的泛型对象列表,其中 n_samples_fitted 是估计器拟合中使用的样本数。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组

X 的真实值。

sample_weight形状为 (n_samples,) 的类数组,默认为 None

样本权重。

返回:
score浮点数

self.predict(X) 关于 y 的 \(R^2\)

备注

从 0.23 版本开始,在回归器上调用 score 方法时使用的 \(R^2\) 分数使用 multioutput='uniform_average',以保持与 r2_score 的默认值一致。这会影响所有多输出回归器的 score 方法(MultiOutputRegressor 除外)。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象(例如 Pipeline)。后者具有 <component>__<parameter> 形式的参数,因此可以更新嵌套对象的每个组件。

参数:
**params字典

估计器参数。

返回:
self估计器实例

估计器实例。

set_score_request(*, sample_weight: bool | None | str = '$UNCHANGED$') KNeighborsRegressor[source]#

请求传递给 score 方法的元数据。

请注意,只有在 enable_metadata_routing=True 时(参见 sklearn.set_config)此方法才相关。请参阅 用户指南,了解路由机制的工作原理。

每个参数的选项为

  • True:请求元数据,如果提供则将其传递给 score。如果未提供元数据,则忽略请求。

  • False:不请求元数据,元估计器不会将其传递给 score

  • None:不请求元数据,如果用户提供元数据,元估计器将引发错误。

  • str:元数据应使用此给定的别名而不是原始名称传递给元估计器。

默认值(sklearn.utils.metadata_routing.UNCHANGED)保留现有的请求。这允许您更改某些参数的请求,而其他参数则不更改。

1.3 版本中新增。

注意

此方法仅当该估计器用作元估计器的子估计器时才相关,例如,在Pipeline中使用。否则,它无效。

参数:
sample_weightstr、True、False 或 None,默认值为 sklearn.utils.metadata_routing.UNCHANGED

scoresample_weight 参数的元数据路由。

返回:
self对象

已更新的对象。