稀疏随机投影#
- class sklearn.random_projection.SparseRandomProjection(n_components='auto', *, density='auto', eps=0.1, dense_output=False, compute_inverse_components=False, random_state=None)[source]#
通过稀疏随机投影降低维度。
稀疏随机矩阵是稠密随机投影矩阵的替代方案,它保证了相似的嵌入质量,同时更节省内存,并允许更快地计算投影数据。
如果我们记作
s = 1 / density
,则随机矩阵的元素将从以下分布中抽取:-sqrt(s) / sqrt(n_components) with probability 1 / 2s 0 with probability 1 - 1 / s +sqrt(s) / sqrt(n_components) with probability 1 / 2s
更多信息请阅读 用户指南。
0.13 版本新增。
- 参数:
- n_componentsint 或 ‘auto’,默认为 ‘auto’
目标投影空间的维度。
根据数据集中的样本数量和 Johnson-Lindenstrauss 引理给出的界限,可以自动调整 n_components。在这种情况下,嵌入的质量由
eps
参数控制。需要注意的是,Johnson-Lindenstrauss 引理可能会给出所需组件数量的非常保守的估计值,因为它没有对数据集的结构做出任何假设。
- densityfloat 或 ‘auto’,默认为 ‘auto’
随机投影矩阵中非零元素的比例,范围为 (0, 1]。
如果 density = ‘auto’,则该值将设置为 Ping Li 等人推荐的最小密度:1 / sqrt(n_features)。
如果您想重现 Achlioptas, 2001 的结果,请使用 density = 1 / 3.0。
- epsfloat,默认为 0.1
当 n_components 设置为 ‘auto’ 时,根据 Johnson-Lindenstrauss 引理控制嵌入质量的参数。此值应严格为正。
较小的值会导致更好的嵌入和目标投影空间中较高的维度 (n_components)。
- dense_outputbool,默认为 False
如果为 True,则确保即使输入和随机投影矩阵都是稀疏的,随机投影的输出也是一个密集的 numpy 数组。实际上,如果组件数量较少,则投影数据中零组件的数量将非常少,并且使用密集表示将更有效率。
如果为 False,则如果输入是稀疏的,则投影数据使用稀疏表示。
- compute_inverse_componentsbool,默认为 False
在拟合过程中通过计算组件的伪逆来学习逆变换。请注意,即使训练数据是稀疏的,伪逆也始终是密集数组。这意味着可能需要一次对少量样本调用
inverse_transform
以避免耗尽主机上的可用内存。此外,计算伪逆不能很好地扩展到大型矩阵。- random_stateint、RandomState 实例或 None,默认为 None
控制在拟合时用于生成投影矩阵的伪随机数生成器。传递一个整数以在多次函数调用中获得可重复的输出。参见 词汇表。
- 属性:
- n_components_int
当 n_components=”auto” 时计算出的具体组件数量。
- components_形状为 (n_components, n_features) 的稀疏矩阵
用于投影的随机矩阵。稀疏矩阵将采用 CSR 格式。
- inverse_components_形状为 (n_features, n_components) 的 ndarray
组件的伪逆,只有在
compute_inverse_components
为 True 时才计算。1.1 版本新增。
- density_0.0 - 1.0 范围内的浮点数
当 density = “auto” 时计算出的具体密度。
- n_features_in_int
在 拟合过程中看到的特征数量。
0.24 版本新增。
- feature_names_in_形状为 (
n_features_in_
,) 的 ndarray 在 拟合过程中看到的特征名称。仅当
X
具有全是字符串的特征名称时才定义。1.0 版本新增。
另请参见
高斯随机投影
通过高斯随机投影降低维度。
参考文献
[1]Ping Li, T. Hastie 和 K. W. Church,2006,“非常稀疏的随机投影”。https://web.stanford.edu/~hastie/Papers/Ping/KDD06_rp.pdf
[2]D. Achlioptas,2001,“数据库友好的随机投影”,https://cgi.di.uoa.gr/~optas/papers/jl.pdf
示例
>>> import numpy as np >>> from sklearn.random_projection import SparseRandomProjection >>> rng = np.random.RandomState(42) >>> X = rng.rand(25, 3000) >>> transformer = SparseRandomProjection(random_state=rng) >>> X_new = transformer.fit_transform(X) >>> X_new.shape (25, 2759) >>> # very few components are non-zero >>> np.mean(transformer.components_ != 0) np.float64(0.0182...)
- fit(X, y=None)[source]#
生成稀疏随机投影矩阵。
- 参数:
- X形状为 (n_samples, n_features) 的 {ndarray,稀疏矩阵}
训练集:仅使用形状根据上述论文中提到的理论查找最佳随机矩阵维度。
- y忽略
未使用,出于 API 一致性约定而在此处显示。
- 返回:
- self对象
BaseRandomProjection 类实例。
- fit_transform(X, y=None, **fit_params)[source]#
拟合数据,然后转换它。
使用可选参数
fit_params
将转换器拟合到X
和y
,并返回X
的转换版本。- 参数:
- X形状为 (n_samples, n_features) 的类数组
输入样本。
- y形状为 (n_samples,) 或 (n_samples, n_outputs) 的类数组,默认为 None
目标值(无监督变换为 None)。
- **fit_paramsdict
附加拟合参数。
- 返回:
- X_new形状为 (n_samples, n_features_new) 的 ndarray 数组
转换后的数组。
- get_feature_names_out(input_features=None)[source]#
获取变换的输出特征名称。
输出的特征名称将以小写的类名作为前缀。例如,如果转换器输出 3 个特征,则输出的特征名称为:
["class_name0", "class_name1", "class_name2"]
。- 参数:
- input_features字符串的类数组或 None,默认为 None
仅用于使用
fit
中看到的名称验证特征名称。
- 返回:
- feature_names_outndarray of str objects
转换后的特征名称。
- get_metadata_routing()[source]#
获取此对象的元数据路由。
请查看用户指南,了解路由机制的工作原理。
- 返回:
- routingMetadataRequest
一个
MetadataRequest
封装了路由信息。
- get_params(deep=True)[source]#
获取此估计器的参数。
- 参数:
- deepbool, default=True
如果为 True,则将返回此估计器和包含的作为估计器的子对象的参数。
- 返回:
- paramsdict
参数名称与其值的映射。
- inverse_transform(X)[source]#
将数据投影回其原始空间。
返回一个数组 X_original,其变换将是 X。请注意,即使 X 是稀疏的,X_original 也是密集的:这可能会使用大量的 RAM。
如果
compute_inverse_components
为 False,则在每次调用inverse_transform
时都会计算组件的逆,这可能代价很高。- 参数:
- X{array-like, sparse matrix} of shape (n_samples, n_components)
要转换回的数据。
- 返回:
- X_originalndarray of shape (n_samples, n_features)
重建的数据。
- set_output(*, transform=None)[source]#
设置输出容器。
参见介绍 set_output API,了解如何使用此 API 的示例。
- 参数:
- transform{“default”, “pandas”, “polars”}, default=None
配置
transform
和fit_transform
的输出。"default"
: 变换器的默认输出格式"pandas"
: DataFrame 输出"polars"
: Polars 输出None
: 变换配置保持不变
1.4 版本新增:
"polars"
选项已添加。
- 返回:
- selfestimator instance
估计器实例。
图库示例#
使用随机投影进行嵌入的 Johnson-Lindenstrauss 界限