因子分析(带旋转)以可视化模式#

通过研究鸢尾花数据集,我们发现萼片长度、花瓣长度和花瓣宽度高度相关。萼片宽度则相关性较低。矩阵分解技术可以揭示这些潜在模式。对得到的成分进行旋转并不能从本质上提高派生潜在空间的预测值,但可以帮助可视化其结构;例如,这里通过最大化权重的平方方差找到的 varimax 旋转,找到了一种结构,其中第二个成分仅在萼片宽度上正向加载。

# Authors: Jona Sassenhagen
# License: BSD 3 clause

import matplotlib.pyplot as plt
import numpy as np

from sklearn.datasets import load_iris
from sklearn.decomposition import PCA, FactorAnalysis
from sklearn.preprocessing import StandardScaler

加载鸢尾花数据

data = load_iris()
X = StandardScaler().fit_transform(data["data"])
feature_names = data["feature_names"]

绘制鸢尾花特征的协方差

ax = plt.axes()

im = ax.imshow(np.corrcoef(X.T), cmap="RdBu_r", vmin=-1, vmax=1)

ax.set_xticks([0, 1, 2, 3])
ax.set_xticklabels(list(feature_names), rotation=90)
ax.set_yticks([0, 1, 2, 3])
ax.set_yticklabels(list(feature_names))

plt.colorbar(im).ax.set_ylabel("$r$", rotation=0)
ax.set_title("Iris feature correlation matrix")
plt.tight_layout()
Iris feature correlation matrix

使用 Varimax 旋转运行因子分析

n_comps = 2

methods = [
    ("PCA", PCA()),
    ("Unrotated FA", FactorAnalysis()),
    ("Varimax FA", FactorAnalysis(rotation="varimax")),
]
fig, axes = plt.subplots(ncols=len(methods), figsize=(10, 8), sharey=True)

for ax, (method, fa) in zip(axes, methods):
    fa.set_params(n_components=n_comps)
    fa.fit(X)

    components = fa.components_.T
    print("\n\n %s :\n" % method)
    print(components)

    vmax = np.abs(components).max()
    ax.imshow(components, cmap="RdBu_r", vmax=vmax, vmin=-vmax)
    ax.set_yticks(np.arange(len(feature_names)))
    ax.set_yticklabels(feature_names)
    ax.set_title(str(method))
    ax.set_xticks([0, 1])
    ax.set_xticklabels(["Comp. 1", "Comp. 2"])
fig.suptitle("Factors")
plt.tight_layout()
plt.show()
Factors, PCA, Unrotated FA, Varimax FA
 PCA :

[[ 0.52106591  0.37741762]
 [-0.26934744  0.92329566]
 [ 0.5804131   0.02449161]
 [ 0.56485654  0.06694199]]


 Unrotated FA :

[[ 0.88096009 -0.4472869 ]
 [-0.41691605 -0.55390036]
 [ 0.99918858  0.01915283]
 [ 0.96228895  0.05840206]]


 Varimax FA :

[[ 0.98633022 -0.05752333]
 [-0.16052385 -0.67443065]
 [ 0.90809432  0.41726413]
 [ 0.85857475  0.43847489]]

脚本总运行时间:(0 分钟 0.509 秒)

相关示例

鸢尾花数据集

鸢尾花数据集

使用概率主成分分析和因子分析 (FA) 进行模型选择

使用概率主成分分析和因子分析 (FA) 进行模型选择

LDA 和 PCA 对鸢尾花数据集进行二维投影的比较

LDA 和 PCA 对鸢尾花数据集进行二维投影的比较

逻辑回归三分类器

逻辑回归三分类器

由 Sphinx-Gallery 生成的图库