独立分量分析原理
2.1 引言
ICA是20世纪90年代发展起来的一种新的信号处理技术,它是从多维统计数据中找出隐含因子或分量的方法.从线性变换和线性空间角度,源信号为相互独立的非高斯信号,可以看作线性空间的基信号,而观测信号则为源信号的线性组合,ICA就是在源信号和线性变换均不可知的情况下,从观测的混合信号中估计出数据空间的基本结构或者说源信号.目前ICA的研究工作大致可分为两大类,一是ICA的基本理论和算法的研究,基本理论的研究有基本线性ICA模型的研究以及非线性ICA,信号有时间延时的混合,卷积和的情况,带噪声的ICA,源的不稳定问题等的研究.算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的代数方法两大类,从原理上来说,它们都是利用了源信号的独立性和非高斯性.各国学者提出了一系列估计算法.如FastICA算法, Infomax算法,最大似然估计算法,二阶累积量,四阶累积量等高阶累积量方法.另一类工作则集中在ICA的实际应用方面,已经广泛应用在特征提取,生物医学信号处理,通信系统,金融领域,图像处理,语音信号处理等领域,并取得了一些成绩.这些应用充分展示了ICA的特点和价值.
本章首先了介绍了ICA原理;接着简单阐述了ICA的发展历史;因ICA涉及到很多数学知识,为更好地理解ICA的原理及算法,与ICA密切相关的概率,统计,信息论等数学知识亦得到了简要阐述;最后介绍了ICA中独立性度量的几种方法.
2.2 独立分量分析的定义
2.2.1独立分量分析的线性模型
因为ICA是伴随着盲信号分离 (Blind Signal Separation, BSS)问题发展起来的,所以BSS问题的介绍,有助于对ICA的理解.
(1)盲信号分离问题[24][25]
BSS问题是信号处理中一个传统而又极具挑战性的课题.BSS是指仅从观测的混合信号(通常是多个传感器的输出)中恢复独立的源信号,这里的"盲"是指:1.源信号是不可观测的;2.混合系统是事先未知的.在科学研究和工程应用中,很多观测信号都可以假设成是不可见的源信号的混合.所谓的"鸡尾酒会"问题就是一个典型的例子,简单说就是当很多人(作为不同的声音源)同时在一个房间里说话时,声音信号由一组麦克风记录下来,这样每个麦克风记录的信号是所有人声音的一个混合,也就是通常所说的观测信号.问题是:如何只从这组观测信号中提取每个说话者的声音信号,即源信号.如果混合系统是已知的,则以上问题就退化成简单的求混合矩阵的逆矩阵.但是在更多的情况下,人们无法获取有关混合系统的先验知识,这就要求人们从观测信号来推断这个混合矩阵,实现盲源分离.下面介绍盲源分离的数学模型:
设有个未知的源信号构成一个列向量,其中是离散时刻,取值为0,1,2,….设是一个维矩阵,一般称为混合矩阵(mixing matrix).设是由个可观察信号构成的列向量,且满足下列方程:
(2.1)
BSS的问题是,对任意,根据已知的在未知的条件下求未知的.这构成一个无噪声的盲分离问题.设是由个白色,高斯,统计独立噪声信号构成的列向量,且满足下列方程:
(2.2)
则由已知的在未知时求的问题是一个有噪声盲分离问题.
(2)基本独立分量分析的线性模型[5]
ICA一般根据以下的几个基本假设条件来解决BSS问题:
(a)各信号源均为0均值,实随机变量,各源信号之间统计独立.
(b)源信号数与观察信号数相同,即,这时混合阵是一个确定且未知的维方阵.假设是满秩的,逆矩阵存在.
(c)各个的pdf(概率分布函数)中最多只允许有一个具有高斯分布.
(d)各观察器引入的噪声很小,可以忽略不计.这时可以用式(2.1)描述源信号与观察信号之间的关系且.
(e)关于各源信号的pdf:,略有一些先验知识.
这称为基本ICA.ICA的目的是对任何,根据已知的在未知的情况下求未知的,ICA的思路是设置一个维反混合阵,经过变换后得到维输出列向量,即有
(2.3)
整个过程可以表示成如下图:
图2.1 ICA的线性模型
如果通过学习得以实现(是维单位阵) ,则,从而达到了源信号分离目标.
应当说明,这是较理想的情况,实际中往往不能同时满足上述这些假设条件.因此,最近几年,许多学者都涉及了减弱这几个假设条件的ICA研究,提出了一些新的理论,如:非线性ICA;带噪声的ICA;信号有时间延时的混合;卷积和的情况;源的不稳定问题等, 但这些理论还不够完善,许多问题还有待进一步研究解决.下面简单介绍一下噪声ICA和非线性ICA.而本文主要讨论基本ICA.

下一页