KernelPCA#

class sklearn.decomposition.KernelPCA(n_components=None, *, kernel='linear', gamma=None, degree=3, coef0=1, kernel_params=None, alpha=1.0, fit_inverse_transform=False, eigen_solver='auto', tol=0, max_iter=None, iterated_power='auto', remove_zero_eig=False, random_state=None, copy_X=True, n_jobs=None)[source]#

核主成分分析（KPCA）。

通过使用核函数实现非线性降维 [1]，另请参阅对偶度量、相似度和核函数。

它使用 scipy.linalg.eigh LAPACK 实现的完整 SVD 或 scipy.sparse.linalg.eigsh ARPACK 实现的截断 SVD，具体取决于输入数据的形状和要提取的分量数量。它还可以使用 [3] 中提出的随机截断 SVD 方法，请参阅 eigen_solver。

有关主成分分析（PCA）及其核化版本（KPCA）的使用示例和比较，请参阅核 PCA。

有关使用 KPCA 对图像进行去噪的示例，请参阅使用核 PCA 的图像去噪。

在用户指南中阅读更多。

参数:

n_componentsint, 默认为 None

分量数量。如果为 None，则保留所有非零分量。

kernel{‘linear’, ‘poly’, ‘rbf’, ‘sigmoid’, ‘cosine’, ‘precomputed’} 或可调用对象，默认为 ‘linear’

用于 PCA 的核函数。

gammafloat, 默认为 None

RBF、多项式和 Sigmoid 核的核系数。其他核函数会忽略此参数。如果 gamma 为 None，则将其设置为 1/n_features。

degreefloat, 默认为 3

多项式核的次数。其他核函数会忽略此参数。

coef0float, 默认为 1

多项式和 Sigmoid 核中的独立项。其他核函数会忽略此参数。

kernel_paramsdict, 默认为 None

作为可调用对象传入的核函数的参数（关键字参数）和值。其他核函数会忽略此参数。

alphafloat, 默认为 1.0

用于学习逆变换的岭回归超参数（当 fit_inverse_transform=True 时）。

fit_inverse_transformbool, 默认为 False

为非预计算核函数学习逆变换（即学习找到点的原像）。此方法基于 [2]。

eigen_solver{‘auto’, ‘dense’, ‘arpack’, ‘randomized’}，默认为 ‘auto’

选择要使用的特征求解器。如果 n_components 远小于训练样本的数量，则随机化（或在较小程度上使用 arpack）可能比密集特征求解器更高效。随机 SVD 按照 Halko 等人 [3] 的方法执行。

auto: 求解器根据 n_samples（训练样本数量）和 n_components 的默认策略选择：如果提取的分量数量严格小于 10 且样本数量严格大于 200，则启用 ‘arpack’ 方法。否则，计算精确的完整特征值分解，并选择性地截断（‘dense’ 方法）。
dense: 通过调用 scipy.linalg.eigh 的标准 LAPACK 求解器运行精确的完整特征值分解，并通过后处理选择分量
arpack: 使用 scipy.sparse.linalg.eigsh 调用 ARPACK 求解器运行截断为 n_components 的 SVD。它要求严格 0 < n_components < n_samples
randomized: 根据 Halko 等人 [3] 的方法运行随机 SVD。当前实现根据特征值的模数进行选择；因此，如果核函数不是半正定，使用此方法可能会导致意外结果。另请参阅 [4]。

版本 1.0 新增：增加了 'randomized'。

tolfloat, 默认为 0

arpack 的收敛容差。如果为 0，arpack 将选择最优值。

max_iterint, 默认为 None

arpack 的最大迭代次数。如果为 None，arpack 将选择最优值。

iterated_powerint >= 0，或 ‘auto’，默认为 ‘auto’

svd_solver == ‘randomized’ 计算的幂方法的迭代次数。当为 ‘auto’ 时，如果 n_components < 0.1 * min(X.shape)，则设置为 7，否则设置为 4。

版本 1.0 新增。

remove_zero_eigbool, 默认为 False

如果为 True，则移除所有特征值为零的分量，因此输出中的分量数量可能 < n_components（有时甚至由于数值不稳定性而为零）。当 n_components 为 None 时，此参数被忽略，无论如何都会移除特征值为零的分量。

random_stateint, RandomState 实例或 None, 默认为 None

当 eigen_solver == ‘arpack’ 或 ‘randomized’ 时使用。传入一个整数可使多次函数调用获得可重现的结果。请参阅术语表。

版本 0.18 新增。

copy_Xbool, 默认为 True

如果为 True，则将输入 X 复制并存储到模型的 X_fit_ 属性中。如果不对 X 进行进一步更改，将 copy_X=False 可通过存储引用来节省内存。

版本 0.18 新增。

n_jobsint, 默认为 None

要并行运行的作业数量。None 表示 1，除非在 joblib.parallel_backend 上下文中。-1 表示使用所有处理器。有关更多详细信息，请参阅术语表。

版本 0.18 新增。

属性:

eigenvalues_形状为 (n_components,) 的 ndarray: 中心化核矩阵的特征值按降序排列。如果未设置 n_components 和 remove_zero_eig，则存储所有值。
eigenvectors_形状为 (n_samples, n_components) 的 ndarray: 中心化核矩阵的特征向量。如果未设置 n_components 和 remove_zero_eig，则存储所有分量。
dual_coef_形状为 (n_samples, n_features) 的 ndarray: 逆变换矩阵。仅当 fit_inverse_transform 为 True 时可用。
X_transformed_fit_形状为 (n_samples, n_components) 的 ndarray: 拟合数据在核主成分上的投影。仅当 fit_inverse_transform 为 True 时可用。
X_fit_形状为 (n_samples, n_features) 的 ndarray: 用于拟合模型的数据。如果 copy_X=False，则 X_fit_ 是一个引用。此属性用于调用 transform。
n_features_in_int: 在 fit 期间看到的特征数量。

版本 0.24 新增。
feature_names_in_形状为 (n_features_in_,) 的 ndarray: 在 fit 期间看到的特征名称。仅当 X 的特征名称均为字符串时定义。

版本 1.0 新增。
gamma_float: RBF、多项式和 Sigmoid 核的核系数。当明确提供 gamma 时，此值与 gamma 相同。当 gamma 为 None 时，此值为核系数的实际值。

版本 1.3 新增。

另请参阅

FastICA: 独立成分分析的快速算法。
IncrementalPCA: 增量主成分分析。
NMF: 非负矩阵分解。
PCA: 主成分分析。
SparsePCA: 稀疏主成分分析。
TruncatedSVD: 使用截断 SVD 的降维。

参考文献

[1]

Schölkopf, Bernhard, Alexander Smola, and Klaus-Robert Müller. “Kernel principal component analysis.” International conference on artificial neural networks. Springer, Berlin, Heidelberg, 1997.

[2]

Bakır, Gökhan H., Jason Weston, and Bernhard Schölkopf. “Learning to find pre-images.” Advances in neural information processing systems 16 (2004): 449-456.

[3] (1,2,3)

Halko, Nathan, Per-Gunnar Martinsson, and Joel A. Tropp. “Finding structure with randomness: Probabilistic algorithms for constructing approximate matrix decompositions.” SIAM review 53.2 (2011): 217-288.

[4]

Martinsson, Per-Gunnar, Vladimir Rokhlin, and Mark Tygert. “A randomized algorithm for the decomposition of matrices.” Applied and Computational Harmonic Analysis 30.1 (2011): 47-68.

示例

>>> from sklearn.datasets import load_digits
>>> from sklearn.decomposition import KernelPCA
>>> X, _ = load_digits(return_X_y=True)
>>> transformer = KernelPCA(n_components=7, kernel='linear')
>>> X_transformed = transformer.fit_transform(X)
>>> X_transformed.shape
(1797, 7)

fit(X, y=None)[source]#

根据 X 中的数据拟合模型。

参数:

X{类数组，稀疏矩阵}，形状为 (n_samples, n_features): 训练向量，其中 n_samples 是样本数量，n_features 是特征数量。
y忽略: 未使用，为 API 兼容性而存在。

返回:

self对象: 返回实例本身。

fit_transform(X, y=None, **params)[source]#

根据 X 中的数据拟合模型并转换 X。

参数:

X{类数组，稀疏矩阵}，形状为 (n_samples, n_features): 训练向量，其中 n_samples 是样本数量，n_features 是特征数量。
y忽略: 未使用，为 API 兼容性而存在。
**paramskwargs: 传递给 fit_transform 实例的参数（关键字参数）和值。

返回:

X_new形状为 (n_samples, n_components) 的 ndarray: 返回实例本身。

get_feature_names_out(input_features=None)[source]#

获取变换的输出特征名称。

输出特征名称将以小写类名称为前缀。例如，如果变换器输出 3 个特征，则输出特征名称为：["class_name0", "class_name1", "class_name2"]。

参数:

input_features类字符串数组或 None, 默认为 None: 仅用于根据 fit 中看到的名称验证特征名称。

返回:

feature_names_out字符串对象 ndarray: 转换后的特征名称。

get_metadata_routing()[source]#

获取此对象的元数据路由。

请查阅用户指南，了解路由机制的工作原理。

返回:

routingMetadataRequest: 封装路由信息的 MetadataRequest。

get_params(deep=True)[source]#

获取此估计器的参数。

参数:

deepbool, 默认为 True: 如果为 True，将返回此估计器及其包含的作为估计器的子对象的参数。

返回:

paramsdict: 参数名称映射到其值。

inverse_transform(X)[source]#

将 X 逆变换回原始空间。

inverse_transform 使用学习到的原像近似逆变换。原像通过核岭回归学习，将原始数据映射到其低维表示向量。

注意

当用户希望计算 ‘linear’ 核的逆变换时，建议使用 PCA。与 PCA 不同，KernelPCA 的 inverse_transform 在使用 ‘linear’ 核时不会重建数据的均值，因为使用了中心化核。

参数:

X{类数组，稀疏矩阵}，形状为 (n_samples, n_components): 训练向量，其中 n_samples 是样本数量，n_features 是特征数量。

返回:

X_original形状为 (n_samples, n_features) 的 ndarray: 返回实例本身。

参考文献

Bakır, Gökhan H., Jason Weston, and Bernhard Schölkopf. “Learning to find pre-images.” Advances in neural information processing systems 16 (2004): 449-456.

set_output(*, transform=None)[source]#

设置输出容器。

请参阅 set_output API 简介，了解如何使用此 API 的示例。

参数:

transform{“default”, “pandas”, “polars”}，默认为 None

配置 transform 和 fit_transform 的输出。

"default"：变换器的默认输出格式
"pandas"：DataFrame 输出
"polars"：Polars 输出
None：变换配置不变

版本 1.4 新增：增加了 "polars" 选项。

返回:

self估计器实例: 估计器实例。

set_params(**params)[source]#

设置此估计器的参数。

此方法适用于简单估计器以及嵌套对象（如 Pipeline）。后者具有 <component>__<parameter> 形式的参数，因此可以更新嵌套对象的每个组件。

参数:

**paramsdict: 估计器参数。

返回:

self估计器实例: 估计器实例。

transform(X)[source]#

转换 X。

参数:

X{类数组，稀疏矩阵}，形状为 (n_samples, n_features): 训练向量，其中 n_samples 是样本数量，n_features 是特征数量。

返回:

X_new形状为 (n_samples, n_components) 的 ndarray: 返回实例本身。

画廊示例#

使用核 PCA 的图像去噪

核 PCA

KernelPCA#

画廊示例#

此页面