在线字典学习#
- sklearn.decomposition.dict_learning_online(X, n_components=2, *, alpha=1, max_iter=100, return_code=True, dict_init=None, callback=None, batch_size=256, verbose=False, shuffle=True, n_jobs=None, method='lars', random_state=None, positive_dict=False, positive_code=False, method_max_iter=1000, tol=0.001, max_no_improvement=10)[source]#
在线求解字典学习矩阵分解问题。
通过求解以下公式,找到用于逼近数据矩阵 X 的最佳字典及其对应的稀疏代码:
(U^*, V^*) = argmin 0.5 || X - U V ||_Fro^2 + alpha * || U ||_1,1 (U,V) with || V_k ||_2 = 1 for all 0 <= k < n_components
其中 V 是字典,U 是稀疏代码。||.||_Fro 代表弗罗贝尼乌斯范数,||.||_1,1 代表逐元素矩阵范数,即矩阵中所有元素绝对值之和。这是通过反复迭代小批量数据(通过切片输入数据)来实现的。
更多信息请参见 用户指南。
- 参数:
- X形状为 (n_samples, n_features) 的类数组
数据矩阵。
- n_componentsint 或 None,默认为 2
要提取的字典原子数。如果为 None,则
n_components
设置为n_features
。- alphafloat,默认为 1
稀疏性控制参数。
- max_iterint,默认为 100
在停止任何提前停止标准启发式方法之前,对完整数据集进行迭代的最大次数。
1.1 版本新增。
- return_codebool,默认为 True
是否也返回代码 U,或者只返回字典
V
。- dict_init形状为 (n_components, n_features) 的 ndarray,默认为 None
用于热启动场景的字典初始值。如果为
None
,则字典的初始值将使用数据的 SVD 分解创建,方法为randomized_svd
。- callbackcallable,默认为 None
在每次迭代结束时调用的可调用对象。
- batch_sizeint,默认为 256
每次批量处理的样本数。
1.3 版本变更: 1.3 版本中
batch_size
的默认值从 3 更改为 256。- verbosebool,默认为 False
控制过程的详细程度。
- shufflebool,默认为 True
是否在将数据分成批次之前对其进行混洗。
- n_jobsint,默认为 None
要运行的并行作业数。
None
表示 1,除非在joblib.parallel_backend
上下文中。-1
表示使用所有处理器。更多详情请参见 词汇表。- method{'lars', 'cd'},默认为 'lars'
'lars'
:使用最小角回归方法求解 lasso 问题(linear_model.lars_path
);'cd'
:使用坐标下降法计算 Lasso 解(linear_model.Lasso
)。如果估计的成分是稀疏的,则 Lars 会更快。
- random_stateint、RandomState 实例或 None,默认为 None
用于在未指定
dict_init
时初始化字典,在shuffle
设置为True
时随机打乱数据,以及更新字典。传递一个整数以在多次函数调用中获得可重复的结果。参见 词汇表。- positive_dictbool,默认为 False
查找字典时是否强制执行正则性。
0.20 版本新增。
- positive_codebool,默认为 False
查找代码时是否强制执行正则性。
0.20 版本新增。
- method_max_iterint,默认为 1000
求解 lasso 问题时要执行的最大迭代次数。
0.22 版本新增。
- tolfloat,默认为 1e-3
根据两次迭代之间字典差异的范数控制提前停止。
要禁用基于字典变化的提前停止,请将
tol
设置为 0.0。1.1 版本新增。
- max_no_improvementint,默认为 10
根据连续未在平滑成本函数上产生改进的小批量数量控制提前停止。
要禁用基于成本函数的收敛检测,请将
max_no_improvement
设置为 None。1.1 版本新增。
- 返回值:
- code形状为 (n_samples, n_components) 的 ndarray
稀疏代码(仅当
return_code=True
时返回)。- dictionary形状为 (n_components, n_features) 的 ndarray
字典学习问题的解。
- n_iterint
运行的迭代次数。仅当
return_n_iter
设置为True
时返回。
另请参阅
dict_learning
求解字典学习矩阵分解问题。
DictionaryLearning
找到稀疏编码数据的字典。
MiniBatchDictionaryLearning
字典学习算法的一种更快但精度较低的版本。
SparsePCA
稀疏主成分分析。
MiniBatchSparsePCA
小批量稀疏主成分分析。
示例
>>> import numpy as np >>> from sklearn.datasets import make_sparse_coded_signal >>> from sklearn.decomposition import dict_learning_online >>> X, _, _ = make_sparse_coded_signal( ... n_samples=30, n_components=15, n_features=20, n_nonzero_coefs=10, ... random_state=42, ... ) >>> U, V = dict_learning_online( ... X, n_components=15, alpha=0.2, max_iter=20, batch_size=3, random_state=42 ... )
我们可以检查
U
的稀疏程度>>> np.mean(U == 0) np.float64(0.53...)
我们可以比较稀疏编码信号的重构误差的平均欧几里得范数平方与原始信号的欧几里得范数平方的比值
>>> X_hat = U @ V >>> np.mean(np.sum((X_hat - X) ** 2, axis=1) / np.sum(X ** 2, axis=1)) np.float64(0.05...)