邻域成分分析#

class sklearn.neighbors.NeighborhoodComponentsAnalysis(n_components=None, *, init='auto', warm_start=False, max_iter=50, tol=1e-05, callback=None, verbose=0, random_state=None)[source]#

邻域成分分析。

邻域成分分析 (NCA) 是一种用于度量学习的机器学习算法。它以监督方式学习线性变换，以提高变换空间中随机最近邻规则的分类精度。

更多信息请参见用户指南。

参数：
n_componentsint，默认为None

投影空间的首选维数。如果为 None，则将其设置为n_features。

init{'auto', 'pca', 'lda', 'identity', 'random'} 或 shape 为 (n_features_a, n_features_b) 的 ndarray，默认为 'auto'

线性变换的初始化。可能的选项包括'auto'、'pca'、'lda'、'identity'、'random' 和 shape 为 (n_features_a, n_features_b) 的 numpy 数组。

  • 'auto'

    根据n_components，选择最合理的初始化方式。如果n_components <= min(n_features, n_classes - 1)，则使用'lda'，因为它使用标签信息。如果不是，但n_components < min(n_features, n_samples)，则使用'pca'，因为它将数据投影到有意义的方向（方差较大的方向）。否则，我们只使用'identity'。

  • 'pca'

    传递给fit 的输入的n_components 个主成分将用于初始化变换。（参见PCA）

  • 'lda'

    传递给fit 的输入的min(n_components, n_classes) 个最具区分度的成分将用于初始化变换。（如果n_components > n_classes，其余成分将为零。）（参见LinearDiscriminantAnalysis）

  • 'identity'

    如果n_components严格小于传递给fit 的输入的维数，则单位矩阵将被截断为前n_components行。

  • 'random'

    初始变换将是一个 shape 为(n_components, n_features)的随机数组。每个值都是从标准正态分布中采样的。

  • numpy 数组

    n_features_b必须与传递给fit 的输入的维数匹配，并且 n_features_a 必须小于或等于该维数。如果n_components不为None，则n_features_a必须与它匹配。

warm_startbool，默认为 False

如果为True并且之前已调用fit，则先前调用fit 的解将用作初始线性变换（n_components和init将被忽略）。

max_iterint，默认为 50

优化过程中的最大迭代次数。

tolfloat，默认为 1e-5

优化的收敛容差。

callbackcallable，默认为 None

如果不为None，则此函数将在优化器的每次迭代后被调用，其参数为当前解（扁平化的变换矩阵）和迭代次数。如果要检查或存储每次迭代后找到的变换，这可能很有用。

verboseint，默认为 0

如果为 0，则不会打印进度消息。如果为 1，则进度消息将打印到标准输出。如果 > 1，则将打印进度消息，并且scipy.optimize.minimize 的disp参数将设置为verbose - 2。

random_stateint 或 numpy.RandomState，默认为 None

伪随机数生成器对象，如果为整数则为其种子。如果init='random'，则random_state用于初始化随机变换。如果init='pca'，则random_state作为参数传递给 PCA 以初始化变换。传递一个整数以在多次函数调用中获得可重复的结果。参见词汇表。

属性：
components_shape 为 (n_components, n_features) 的 ndarray

拟合过程中学习到的线性变换。

n_features_in_int

在拟合期间看到的特征数量。

在 0.24 版本中添加。

n_iter_int

计算优化器执行的迭代次数。

random_state_numpy.RandomState

在初始化期间使用的伪随机数生成器对象。

feature_names_in_shape 为 (n_features_in_,) 的 ndarray

在拟合期间看到的特征名称。仅当X具有全部为字符串的特征名称时才定义。

在 1.0 版本中添加。

另请参见

sklearn.discriminant_analysis.LinearDiscriminantAnalysis

线性判别分析。

sklearn.decomposition.PCA

主成分分析 (PCA)。

参考文献

[1]

J. Goldberger、G. Hinton、S. Roweis、R. Salakhutdinov。“邻域成分分析”。神经信息处理系统进展。17, 513-520, 2005。http://www.cs.nyu.edu/~roweis/papers/ncanips.pdf

[2]

维基百科关于邻域成分分析的词条 https://en.wikipedia.org/wiki/Neighbourhood_components_analysis

示例

>>> from sklearn.neighbors import NeighborhoodComponentsAnalysis
>>> from sklearn.neighbors import KNeighborsClassifier
>>> from sklearn.datasets import load_iris
>>> from sklearn.model_selection import train_test_split
>>> X, y = load_iris(return_X_y=True)
>>> X_train, X_test, y_train, y_test = train_test_split(X, y,
... stratify=y, test_size=0.7, random_state=42)
>>> nca = NeighborhoodComponentsAnalysis(random_state=42)
>>> nca.fit(X_train, y_train)
NeighborhoodComponentsAnalysis(...)
>>> knn = KNeighborsClassifier(n_neighbors=3)
>>> knn.fit(X_train, y_train)
KNeighborsClassifier(...)
>>> print(knn.score(X_test, y_test))
0.933333...
>>> knn.fit(nca.transform(X_train), y_train)
KNeighborsClassifier(...)
>>> print(knn.score(nca.transform(X_test), y_test))
0.961904...
fit(X, y)[source]#

根据给定的训练数据拟合模型。

参数：
X形状为 (n_samples, n_features) 的类数组

训练样本。

y形状为 (n_samples,) 的类数组

相应的训练标签。

返回:
self对象

拟合后的估计器。

fit_transform(X, y=None, **fit_params)[source]#

拟合数据，然后转换它。

使用可选参数fit_params将转换器拟合到X和y，并返回X的转换版本。

参数：
X形状为 (n_samples, n_features) 的类数组

输入样本。

y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组，默认为 None

目标值（对于无监督转换，为 None）。

**fit_params字典

附加拟合参数。

返回:
X_new形状为 (n_samples, n_features_new) 的 ndarray 数组

转换后的数组。

get_feature_names_out(input_features=None)[source]#

获取转换后的输出特征名称。

输出的特征名称将以小写的类名作为前缀。例如，如果转换器输出 3 个特征，则输出的特征名称为：["class_name0", "class_name1", "class_name2"]。

参数：
input_featuresstr 的类数组或 None，默认为 None

仅用于使用在fit中看到的名称验证特征名称。

返回:
feature_names_outstr 对象的 ndarray

转换后的特征名称。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查看用户指南了解路由机制的工作原理。

返回:
routingMetadataRequest

一个MetadataRequest 封装路由信息。

get_params(deep=True)[source]#

获取此估计器的参数。

参数：
deep布尔值，默认为 True

如果为 True，则将返回此估计器和包含的作为估计器的子对象的参数。

返回:
params字典

参数名称与其值的映射。

set_output(*, transform=None)[source]#

设置输出容器。

请参阅介绍 set_output API了解如何使用 API 的示例。

参数：
transform{"default"，"pandas"，"polars"}，默认为 None

配置transform和fit_transform的输出。

  • "default"：转换器的默认输出格式

  • "pandas"：DataFrame 输出

  • "polars"：Polars 输出

  • None：转换配置保持不变

版本 1.4 中添加： "polars"选项已添加。

返回:
self估计器实例

估计器实例。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单的估计器以及嵌套对象（例如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，因此可以更新嵌套对象的每个组件。

参数：
**params**dict

估计器参数。

返回:
self估计器实例

估计器实例。

transform(X)[source]#

将学习到的转换应用于给定数据。

参数：
X形状为 (n_samples, n_features) 的类数组

数据样本。

返回:
X_embedded: shape 为 (n_samples, n_components) 的 ndarray

转换后的数据样本。

引发:
NotFittedError

如果之前没有调用 fit。