Independent Component Analysis
ICA 是一种生成模型,假设了观测变量X由潜在的独立因子 S 线性混合而成,并通过观测变量 X 求解潜在独立因子 S 以及混合矩阵 A. 生成模型的优势是提供了一种数据生成机制的深度理解,因此被认为是一种理解学习,更具有吸引力。
ICA 模型简单总结如下
定义:
X = A S X = AS X=AS
S = A − 1 X = W X S = A^{-1}X = WX S=A−1X=WX
其中 X X X 为可观测信号, S S S 为不可观测的源信号。
ICA模型的假设:
● 独立成分 S_i 相互独立
● 独立成分满足非高斯分布
● 矩阵A可逆
ICA模型参数估计策略:
● 最大化非高斯性估计
● 最小化互信息量估计
● 最大似然估计