因子分析

因子分析用较少的潜在因子概括三个或更多相关的数值变量。可用于找出试验结果、过程测量值或问卷题项背后的特征。因子数必须小于变量数,且行数必须多于变量数;最大似然法假定数据大致服从多元正态分布。输出包括因子载荷、共同度、唯一性、已解释方差和载荷图。

最后审阅

核心要点

因子分析用少数潜在因子解释众多测量变量之间的相关性,因此大量测量值或调查题项可以用少数几个更易命名的因子来概括。

本页内容
  1. 用途
  2. 主要功能
  3. 统计方法
  4. 输入字段和选项
  5. 输出说明
  6. 计算示例

用途

因子分析用少数潜在因子解释众多测量变量之间的相关性。一起变动的变量载荷在同一个因子上,因此一长串测量值或调查题项可以用少数几个更易命名和跟踪的因子来概括。可用它找出一组试验结果、过程测量值或问卷题项背后的少数潜在特征,并发现哪些变量基本上自成一体。

主要功能

  • 从三个或更多数值变量中提取您所选数量的因子。
  • 两种提取方法:Principal Components 和 Maximum Likelihood。
  • Varimax 旋转,使每个因子在较少的变量上有较大载荷,从而更易命名。
  • Factor Loadings 表,含每个变量的共同度和唯一性。
  • 每个因子解释的方差百分比,以及前两个因子的载荷图。

统计方法

任一所选变量中含有缺失值或非数值的行会被剔除,并将每个变量标准化为均值 0、标准差 1,因此分析基于相关矩阵进行。因子数必须小于变量数,且行数必须多于变量数。

采用 Principal Components 提取时,相关矩阵被分解为特征值和特征向量;对于最大的几个特征值,因子 j 的载荷等于第 j 个特征向量乘以其特征值的平方根。采用 Maximum Likelihood 提取时,用迭代算法通过最大似然法拟合公因子模型(每个标准化变量 = 载荷 × 因子 + 一个唯一误差),在达到 Maximum iterations(默认 1000)或变化量低于 Convergence tolerance(默认 0.01)时停止。最大似然法假定各变量大致服从多元正态分布。

Varimax 旋转(Kaiser 方法)对因子进行旋转,使每个因子内平方载荷的方差尽可能大:这样每个变量在一个因子上载荷高,而在其他因子上接近零。旋转不会改变每个变量被解释的程度。旋转后,因子按其所解释的方差排序。变量的共同度是其平方载荷之和,即其方差中被因子解释的份额;唯一性为 1 − 共同度。因子解释的方差是其平方载荷之和,以占变量数的百分比报告。因子的符号是任意的:所有符号都反转的因子含义相同。

输入字段和选项

字段

说明

Variables

三个或更多数值列。按住 Ctrl 或 Command 并点击可选择多个。

Number of factors to extract

默认为 2。必须小于变量数。

Method of extraction

Principal Components(默认)或 Maximum Likelihood。

Type of rotation

Varimax(默认)或 None。旋转仅适用于 2 个或更多因子。

Maximum iterations

可选,仅用于 Maximum Likelihood 提取。留空则使用默认值(1000)。

Convergence tolerance

可选,仅用于 Maximum Likelihood 提取。留空则使用默认值(0.01)。

Title

载荷图上显示的标题。默认为 Factor Analysis。

factor-analysis-inputs


图 1 — 示例的选项:八个贷款申请人变量,2 个因子,Maximum Likelihood 提取,Varimax 旋转。

输出说明

  • Factor Loading Plot — 每个变量绘制为一条从原点到其在 Factor1(x)和 Factor2(y)上载荷的线。指向同一方向的变量载荷在同一个因子上。
  • Method, rotation and variance explained — 按名称给出的方法和旋转(例如 Maximum Likelihood、Varimax)、每个因子解释的总方差百分比及累计百分比。
  • Factor Loadings — 每个变量在各因子上的载荷、其 Communality 和 Uniqueness。
  • 通过 Download 导出 PDF。

factor-analysis-output


图 2 — 八个贷款申请人变量的两个旋转后因子:稳定性因子(Employ、Residence、Age)和借贷因子(Debt、Credit cards,与 Education 相反),共解释 61.39% 的方差。

计算示例

一家银行收集每位贷款申请人的八项信息:收入、受教育年限、年龄、现住址居住年限(Residence)、现雇主任职年限(Employ)、储蓄、债务和信用卡数量。其中许多似乎在测量同一件事。一位信贷管理人员希望得到少数几个能概括这八项的因子。工程师利用 30 位申请人的数据,选择全部八列,设置 Number of factors to extract = 2、Method of extraction = Maximum Likelihood 和 Type of rotation = Varimax。

两个因子分别解释 38.68% 和 22.71% 的方差,合计 61.39%。因子 1 在 Employ(0.9644)、Residence(0.9523)和 Age(0.8595)上载荷很高,在 Savings(0.5833)上载荷中等:这是一个稳定性与经验因子。因子 2 在 Debt(0.8063)和 Credit cards(0.5679)上有载荷,与 Education(−0.6288)和 Savings(−0.5673)相反:这是一个借贷因子。共同度显示两个因子对每个变量的描述程度:Employ(0.937)和 Residence(0.9076)较高,Income(0.2308)和 Credit cards(0.3226)较低。

对银行而言,两个因子能很好地描述申请人的稳定性和借贷情况,但收入基本上自成一体。取 3 个因子时,已解释方差升至 72.93%(36.67%、20.63% 和 15.63%),第三个因子主要是 Income(−0.8835)和 Education(−0.5491);Income 的共同度升至 0.8545。这与对同一数据使用变量聚类的结果一致:变量聚类将 Income 与 Education 归为一组,稳定性变量归为一组,Debt 与 Credit cards 归为一组。不旋转时,这里的载荷只有少许变化(因子 1:Employ 0.9666,Residence 0.9526),因为未旋转的解本身已相当简单。

常见问题

因子分析有什么用途?

因子分析用少数潜在因子解释众多测量变量之间的相关性。一起变动的变量载荷在同一个因子上,因此一长串试验结果、过程测量值或问卷题项可以用少数几个因子来概括,并且可以看出哪些变量基本上自成一体。

Principal Components 与 Maximum Likelihood 提取有什么区别?

采用 Principal Components 提取时,相关矩阵被分解为特征值和特征向量,每个因子的载荷是一个特征向量乘以其特征值的平方根。Maximum Likelihood 提取则用迭代算法拟合公因子模型,并假定各变量大致服从多元正态分布。

因子分析中的 Varimax 旋转有什么作用?

Varimax 旋转对因子进行旋转,使每个变量在一个因子上载荷高,而在其他因子上接近零,从而使因子更易命名。旋转不会改变每个变量被解释的程度。旋转后,因子按其所解释的方差排序。旋转仅适用于两个或更多因子。

如何解释因子分析中的共同度和唯一性?

变量的共同度是其平方载荷之和,即其方差中被因子解释的份额。唯一性等于 1 减去共同度。在贷款申请人示例中,Employ 的共同度为 0.937,而 Income 仅为 0.2308,表明在两个因子下收入基本上自成一体。