脑机接口(Brain⁃Computer Interface,BCI)是实现大脑与外部设备直接交互的一种系统[1 -2 ] .脑电图(Electroencephalography,EEG)是BCI系统中使用最广泛的信号,有较高的时间分辨率[3 ] ,是一种特殊且复杂的生物电信号.基于EEG的BCI常用实验范式包括运动想象(Motor Ima⁃gery,MI)、稳态视觉诱发电位(Steady⁃State Visual Evoked Potential,SSVEP)、P300[4 -6 ] 等.通过解码EEG信号来准确识别大脑认知活动,建立BCI系统,不仅可以帮助行动障碍者,也可以极大地改善健康人的生活质量.
在MI⁃BCI中,被试通过想象自己身体部位的运动来激活大脑皮层的不同区域.由于不同被试之间存在个体性差异,因此在进行分类识别时,必须根据不同被试和不同节次的EEG数据构建不同的分类模型,才能使分类性能达到最优.如果直接在当前用户上使用其他被试训练得到的模型,通常无法获得有效的结果.
传统的BCI系统常常需要对新被试、新任务进行较长时间的校准,有时会花费20~30 min[7 ] 或更长时间,这种冗长的校准大大降低了BCI系统的实用性.最近的BCI研究提出了许多复杂的机器学习方法来减少或消除校准时间[8 -9 ] ,同时提高分类准确性,以求提高BCI的性能.
迁移学习(Transfer Learning,TL)[10 ] 是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能[11 -12 ] .TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例[13 ] 或基于过采样交叉验证[14 ] 的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵[15 ] 或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法.
CSP算法[16 ] 是一种通过对EEG信号的协方差矩阵进行分解,发现大脑活动的空间分布,从而对MI进行分类的经典特征提取算法.在CSP算法的计算流程中,通常首先计算多通道EEG信号的协方差矩阵,之后经过白化、投影,得到分类特征,因此,计算EEG信号的协方差矩阵是CSP算法的关键步骤.Lotte and Guan[17 ] 通过改变EEG信号的协方差矩阵,对源被试与目标被试的平均值进行正则化或重新构建一个特征空间,从而利用源域信息来提高目标域的学习性能.
与此同时,在信号预处理阶段,经典算法通常采用黎曼空间(Riemannian Space,RA)对齐来减少信号之间的差异性,然而黎曼空间中的距离计算较复杂,耗时且不稳定.Wu et al[18 -19 ] 提出基于欧几里得空间(Euclidean Space,EA)的信号处理算法,能够直接对齐EEG试次,算法复杂度低,效果更理想,而且对齐后的EEG数据能够应用于任何方式的特征提取和机器学习算法.
综上所述,TL算法通过补偿源被试数据提高目标被试的学习性能,而EA算法能极大地促进BCI的TL.同时,前人研究推测,EA与TL在理论上具有良好的适应性,两种算法结合起来能进一步提升算法性能.因此,本文提出基于欧式空间的加权逻辑回归迁移学习算法来进一步提升MI⁃BCI中的信号分类识别精度.
首先对原始的EEG数据进行预处理,再用EA对齐算法对齐EEG试次,之后通过CSP特征提取获得两类信号的方差最大值.获得的较大区分度的特征向量,通过KL(Kullback⁃Leibler)散度度量两类EEG信号特征值的相似性,得到被试之间特征数据分布之间的差异,最后通过加权逻辑回归迁移学习算法进行MI分类.
在BCI竞赛IV的数据集2a中对提出的方法进行评估,对比EA对齐算法对齐后的数据与未使用EA对齐算法对齐的数据构建的不同分类模型,验证了EA对齐算法的性能.本文还将提出的算法与最近的四种算法的分类准确性进行比较,来验证算法的分类准确性.
1 材料和方法
1.1 数据集介绍
本实验对BCI竞赛IV数据集2a进行分类研究.数据集由九名被试的22个电极记录的EEG信号与3个EOG头皮电极位置组成,包括四个类别的MI任务,即左右手、脚和舌头的想象.数据采集MI的时间为4 s,每组实验中,每类进行72次MI任务,共288次试验.信号采样频率为250 Hz,并进行频率为0.5~100 Hz的带通滤波和50 Hz的陷波滤波消除工频干扰.本文仅使用左右手的MI数据.具体的实验范式与电极位置如图1 所示.
图1
图1
BCI竞赛IV数据集2a:(a)单次MI任务时序图;
(b)22个EEG电极位置图,分别为Fz,FC3,FC1,FCz,FC2,FC4,C5,C3,C1,Cz,C2,C4,C6,CP3,CP1,CPz,CP2,CP4,P1,Pz,P2,POz,左侧乳突参考,右侧乳突接地;(c) 3个EOG头皮电极位置图
Fig.1
BCI Competition IV Dataset 2a:(a) timing diagram of a single MI assignment,(b) position diagram of 22 EEG levels,Fz,FC3,FC1,FCz,FC2,FC4,C5,C3,C1,Cz,C2 C4,C6,CP3,CP1,CPz,CP2,CP4,P1,Pz,P2,POz,left mastoid reference and right mastoid ground,(c) three EOG scalp electrodes position diagram
1.2 数据预处理
在数据预处理阶段,删除3个EOG通道,留下22个EEG通道.人在进行MI的时候,大脑皮层会产生明显的节律信号,与MI有关的节律信号分为8~12 Hz的μ 节律信号和13~30 Hz的β 节律[20 ] 信号,为了提高EEG信号的信噪比,使用8~30 Hz的带通滤波对信号进行处理,在提示出现后的0.5~3.5 s MI时间提取相应的EEG信号作为后续分析数据.
1.3 基于欧式空间的加权逻辑回归迁移学习方法模型
提出的基于欧式空间的加权逻辑回归的迁移学习算法由三个阶段组成,如图2 所示.第一阶段是数据的预处理,数据来自所有被试(包括源被试(原有的数据)和目标被试(当前的数据))的多通道EEG信号,对其进行8~30 Hz带通滤波处理.计算所有被试的EEG信号的空间协方差矩阵,将这些被试的EEG数据在欧式空间中对齐,为每个源被试训练一个单独的分类模型.将所有被试数据组合在一起,每个被试交替充当目标被试,其余被试充当源被试,以生成新的训练集.第二阶段是特征提取.通过CSP进行特征提取获得具有两类信号的方差值的最大差异化的特征向量,同时通过KL散度来计算被试的CSP特征提取获得的特征值,并将KL散度应用于优化加权逻辑回归算法.第三阶段是分类识别,将获得的优化后的特征值输入加权逻辑回归分类器中进行MI分类.
图2
图2
本文提出方法的模型
Fig.2
The model of the proposed algorithm
1.4 欧式空间对齐
EEG信号的空间协方差矩阵反映了多通道EEG信号的能量分布,还反映了EEG信号的空间信息和时间信息,常用于区分BCI系统的不同心理任务[21 ] .EA对齐算法计算每个被试的EEG试次的平均空间协方差矩阵,再通过数据对齐的方法将每个被试的空间协方差矩阵重新居中在单位矩阵处,使对齐的EEG试次被白化,让每个被试的平均空间协方差矩阵等于单位矩阵.
EA对齐算法不需要新被试的任何标签信息,即不需要新被试的任何标记数据就能完成EEG数据的对齐,减少不同被试数据之间的差异性,使被试的EEG特征分布更加相似,而且计算效率更高.He and Wu[22 ] 研究表明EA对齐算法比RA对齐算法有更好的表现,EA对齐算法更易于执行,不需要任何被试的任何标记数据,并且可以更高效地计算.另外,EA对齐算法的计算速度比RA对齐算法快得多,应用更广泛.
为了理解EA对齐算法,假设C 1 和C 2 分别为两类MI任务下的EEG信号,其维度为N ×T ,N 为脑电通道数,T 为采样点,MI的空间协方差矩阵计算为C i C i T ,首先计算一个被试的所有协方差的算数平均数:
R = 1 n ∑ i = 1 N C i C i T (1)
其中,n 是每个被试执行的试次数量.然后执行对齐计算:
C i * = R - 1 / 2 C i (2)
C i * 为对齐后的EEG信号,经过欧式空间对齐以后,所有n 个对齐数据的平均协方差矩阵为:
1 n ∑ i = 1 N C i * C i * T = R - 1 2 1 n ∑ i = 1 N C i C i T R - 1 2 = I (3)
其中,I 是单位矩阵.经过对齐算法使所有被试的平均协方差矩阵与对齐后的单位矩阵相等,因此来自不同被试的空间协方差矩阵的分布会更相似.
1.5 CSP简介
CSP是一种高效的空间滤波算法,如图3 所示,主要运用于EEG特征提取.CSP算法的目的是找到一组最优空间滤波器进行投影,使两类信号的方差值差异最大化,从而得到具有较高区分度的特征值P ,以达成区分两类运动想象的任务.
图3
图3
CSP特征提取方法示意图
Fig.3
Diagram of CSP feature extraction method
由CSP的原理可知,CSP算法生成的特征矩阵,其特征信息主要集中在矩阵的两端.本文使用CSP进行特征提取,获得两类信号的方差值差异最大化的特征向量,用于后续MI的分类.
1.6 加权回归迁移学习算法
基于加权逻辑回归的迁移学习算法通过尝试合并先前记录的session数据来改进新的被试的分类参数的估计,由于每个session的EEG信号的分布可能不同,每个被试之间的EEG信号的分布也不同,导致特定于不同被试的CSP特征空间存在差异.因此,根据EEG信号的分布,新被试的EEG特征可能与某些先前记录的session的CSP滤波的特征相似,而与一些其他session的特征却存在比较大的差异.这些差异会影响新被试分类参数的估计,为了解决这个问题,本文在提出的基于加权逻辑回归的迁移学习算法中,通过KL散度获得新的相似性度量来将不同被试和目标被试的特征联系在一起,减少EEG数据特征空间分布之间的差异,再将不同的权重分配给先前记录的session,从而达到优化TL算法的目的.
逻辑回归模型通过将Logistic Sigmoid函数转换为线性模型来提供概率预测[23 ] :
P b S i = 1 a S i ; w S = 1 1 + e x p - w S T a S i (4)
其中,S 表示session,w S 表示用于预测样本数据类别的标签.获得的概率预测被用于预测类别标签.
加权回归迁移学习方法包括两个主要步骤.第一步,使用以下目标函数[24 ] 计算分类参数:
L 1 w S = m i n w S ∑ i = 1 n S H w S ; b S i , a S i + λ S w S 2 2 (5)
其中,H 和w S 2 分别表示交叉熵和2⁃范数.这里,交叉熵的目的是找到使错误率最小化的w S ,而2⁃范数则对w S 的较大值进行惩罚以降低过拟合的风险,特定于被试的正则化参数λ S 用于控制惩罚程度.交叉熵函数H 也称为负对数似然,其最小化相当于最大化对数似然,如式(6)所示:
H w S ; a S i , b S i = - b S i l g P b S i = 1 a S i ; w S - 1 - b S i l g 1 - P b S i = 1 a S i ; w S (6)
其中,P b S i = 1 a S i ; w S 可由式(4)计算而得.
目标函数L 1 w S 有一个独特的最值,可以用梯度下降的简单有效的迭代方法找到该最小值.第二步,使用以下目标函数计算新目标被试w Z 的分类参数:
L 2 w Z = m i n w Z ∑ i = 1 n Z H w Z ; b S i , a S i + λ Z R T L w Z (7)
其中,R T L 是补偿w Z 先前计算的w S ,正则化参数λ Z 在最小化新的目标被试与先前session之间的错误和差异方面做出权衡.R T L 的计算如下:
R T L w Z = 1 2 w Z - α T ∑ T L - 1 w Z - α + l g ∑ T L (8)
α = 1 N ∑ S = 1 N w S ∑ T L = d i a g ∑ S = 1 N w S - α w S - α T t r a c e ∑ S = 1 N w S - α w S - α T (9)
其中,d i a g 和t r a c e 分别表示矩阵的对角元素和对角元素之和;∑ T L 为协方差矩阵的归一化对角元素,用于归一化w Z 的每个参数与另一个分类器的相应参数的平均值的差异.
研究者使用KL散度来计算两组不同的脑电信号特征之间的相似程度[25 ] .MI⁃BCI中,特征通常通过CSP进行滤波之后的标准EEG的归一化对数幂,因此研究者常假定这些特征向量为正态分布.定义两个特征向量正态分布分别为X 1 μ 1 , δ 1 和X 2 μ 2 , δ 2 ,KL散度相应的形式[26 ] 如下:
K L = 1 2 μ 2 - μ 1 T δ 2 - 1 μ 2 - μ 1 + t r a c e δ 2 - 1 δ 1 - l n d e t δ 1 d e t δ 2 - K (10)
其中,det,T 和K 分别表示行列式函数、矩阵的转置和数据的维数.特征集d t 与特征集d s 的相似度权重值θ S 通过归一化来处理,方法是将其除以目标被试和所有可用的源被试特征集之间的所有相似性度量的总和:
θ S = 1 / K L d t , d s + ψ 4 ∑ i = 1 N 1 / K L d t , d s + ψ 4 (11)
两个session的特征之间的总散度可以通过分别对MI任务的同一类任务计算的KL散度求平均值来计算.本文中,总散度K L C 等于两个session之间的KL散度:
K L C = K L s e s s i o n 1 L , s e s s i o n 2 L + K L s e s s i o n 1 R , s e s s i o n 2 R 2 (12)
基于加权逻辑回归的迁移学习算法使用不同的权重,ψ = 0.001 来确保等式的稳定性,使用θ S 来计算不同的权重.因此新的加权α W 和∑ T L W 的计算如下:
α W = ∑ S = 1 N θ S w S ∑ T L W = d i a g ∑ S = 1 N θ S w S - α W θ S w S - α W T t r a c e ∑ S = 1 N θ S w S - α W θ S w S - α W T (13)
其中,分别用相应的α W 和∑ T L W 代替α 和∑ T L 计算相应的R T L .
2 实验结果
本节介绍本文算法与其他方法在MI数据集上的性能比较.首先,通过对数据的可视化来表明EA对齐算法对齐之后的EEG与原EEG具有低相关性;其次,使用EA对齐算法之后的数据构建的不同的分类模型,并与未使用EA对齐算法的原始数据构建的分类模型的算法性能进行比较;最后,对比本文的方法与最近提出的相关方法的模型,并通过选取不同样本的分类准确性进行对比,验证提出算法的性能.
2.1 数据可视化
为了理解EA对齐算法如何对齐EEG信号,对原始的数据进行预处理后,对数据进行可视化.被试的平均空间协方差矩阵与EA对齐算法对齐后的单位矩阵相等,使被试的EEG信号的分布更加一致.如图4 a所示,黑色曲线和红色曲线分别是EA对齐算法对齐之前和之后的EEG信号,纵轴数字是EA对齐算法对齐之前和之后信号的Pearson相关系数.由图可见,在EA对齐算法对齐之后,EEG信号的幅度变得更小,也更均匀,表明EEG信号在使用EA对齐算法之前和EA对齐算法之后具有低相关性.
图4
图4
被试的t⁃SNE可视化:(a)被试1的左右手EA对齐算法对齐示意图,每行是不同的导联上的EEG信号;
(b)九个被试的t⁃SNE可视化;(c)被试1作为目标被试的t⁃SNE可视化
Fig.4
The t⁃SNE visualization of the subjects:(a) the alignment diagram of the left and right⁃handed EA alignment algorithm of the Test 1 with each row being the EEG signal on a different lead,(b) the t⁃SNE visuali⁃zation of nine subjects,(c) the t⁃SNE visualization of the target subject of Test 1
为了观察EEG数据在EA对齐算法对齐之后个体之间的差异,使用t⁃随机邻近嵌入(t⁃SNE)[27 ] .t⁃SNE技术是一种嵌入模型,其主要作用是将高维空间中的数据映射到低维空间,并在此过程中保留数据集的局部特性,利用这种非线性降维技术可以很好地呈现EEG数据在EA对齐算法对齐之前和对齐之后的个体差异.通过t⁃SNE技术将特征数据从三维降到二维,再在二维空间中将所有样本可视化.图4 b是九个被试在EA对齐算法对齐之前和对齐之后的t⁃SNE可视化,左图是EA对齐算法对齐之前的特征数据,右图是EA对齐算法对齐之后的特征数据.为了便于观察,单独选中被试1作为目标训练试验的EA对齐算法对齐之前和对齐之后的t⁃SNE可视化,图4 c中,红点是测试被试,而蓝点是训练被试.由图可见,在EA对齐算法对齐之前,被试1的数据分隔相距比较远,所以对被试1设计的分类器将无法获得良好的分类效果;在执行EA对齐算法之后,可以发现,数据集不仅相互接近,还发生了重叠,也就是说,它们之间存在的差异相应地减少了.
2.2 数据集的离线分类
为了验证EA对齐算法的分类性能,在MI数据集上对包含EA对齐的算法进行检验,主要通过对EA对齐算法的数据与没有进行EA对齐算法的数据的分类准确性进行比较.针对EA对齐算法后的EEG数据,使用CSP做特征提取,并使用LDA(Linear Discriminant Analysis)和SVM(Support Vector Machine)进行分类.应用EA对齐算法时,每个被试交替充当目标被试,其余八个被试充当源被试.具体比较了四种方法:
(1)方法1:不使用任何数据对齐方式,直接执行SVM和LDA进行分类.
(2)方法2:首先通过EA对齐算法对齐EEG试次,在进行EA对齐算法的基础上对数据集执行SVM和LDA进行分类.
(3)方法3:在标记源被试和目的被试的情况下,不使用任何数据对齐方式,直接执行SVM和LDA进行分类.
(4)方法4:首先通过EA对齐算法对齐EEG试次,并在标记有源被试和目的被试的情况下,执行SVM和LDA进行分类.
(1)九个被试中,方法2对比方法1没有表现出较明显的优势.EA对齐算法在某些被试上没有提供优势的一个可能的原因是少数的EEG实验无法很好地代表整个数据的分布,从而影响了分类准确性.
(2)九个被试中,在标记有源被试和目标被试之后,在EA对齐算法的基础上的分类准确度优于直接执行SVM和LDA进行分类,证明提出的EA对齐算法有更好的效果.
最后,值得注意的是,对于少数被试,EA对齐算法反而会降低分类准确性,这可能是因为被试本身存在错误的EEG实验或异常值.
2.3 本文方法与其他方法的对比
为了验证本文算法的准确性,将本文方法与其他研究者在BCI竞赛IV数据集2a中提出的方法[28 -31 ] 进行对比,实验结果如表2 所示.此外,LDA也作为基线方法,一同进行对比.由表可见,尽管九个被试之间的表现有所不同,但实验结果还是证明本文方法优于以前发布的方法.相应的平均准确度,LDA为0.62,SVM为0.68,而本文的方法为0.77,比LDA和SVM分别改进了15%和9%,证明本文方法的分类准确度确有提高.从表中还可以看到,和其他研究者的方法相比,本文提出的方法更有效,结果也更优.另外,在某些单个被试中,本文方法的表现也优于以前提出的方法,表明EA对齐算法与加权逻辑回归的TL的组合方法优于单个的TL算法.
2.4 六种方法不同样本的对比
为了进一步验证EA对齐算法与加权逻辑回归迁移学习算法相结合会有良好的适应性,通过比较六种方法(LDA,SVM,EA⁃LDA,EA⁃SVM,wLTL,EA⁃wLTL),分别取10~100个的样本数据进行了相应的实验对比.首先通过EA对齐算法对齐EEG试次,之后CSP进行特征提取,最后再使用加权回归迁移学习算法进行分类,并且与SVM与LDA进行对比,分析九个被试的所有样本数据的不同分类结果.六种方法的平均分类准确度如图5 所示,由图可见:
图5
图5
被试10~100个样本使用六种方法评估的分类准确度
Fig5
Classification accuracy for the evaluation of 10~100 subject samples by six algorithms
(1)在九名被试中,EA⁃SVM和EA⁃LDA的表现优于SVM和LDA,这表明EA对齐算法在MI分类任务中是有效的.
(2)在九名被试中,EA⁃wLTL的表现优于wLTL,进一步表明EA对齐算法在分类中通常比没有进行EA对齐算法更有效,两者算法结合使用有更好的效果.
(3)当来自当前被试的训练数据足够多时,EEG实验就能很好地代表整个数据的分布,被试的分类准确度能得到进一步的提高,证明迁移学习方法对MI⁃BCI是有效的,也是有意义的.
3 讨论
实验部分对提出的基于欧式空间加权逻辑回归迁移学习算法进行了全面的性能测试.研究发现,经过EA对齐算法对齐之后,分类模型的准确性得到了明显提升,说明EA对齐算法是有效果
的.EA对齐算法能够提升被试的分类准确性,是因为它能对齐不同被试的EEG试次,减少不同被试之间的差异性,从而提高被试的分类准确性.其次,EA对齐算法直接在欧几里得空间中对齐EEG数据,任何信号处理、特征提取和机器学习算法都可以直接使用对齐后的EEG数据.然而,实验结果也同时表明,某些情况下EA对齐算法并没有提高个别被试的分类准确率,其原因可能是EA对齐算法也存在一些局限.前人研究指出EA对齐算法包括三种不同类型的偏移:协变量偏移[31 ] 、先验概率偏移和概念偏移[32 ] ,如果只考虑协变量偏移而没有考虑其他两个因素,在EA对齐算法对齐EEG数据之后,不同被试的数据就可能存在比较大的差异.在补偿协变量偏移的过程中,EA对齐算法可能增加概念偏移,导致两个类别更加难以区分.EA对齐算法在某些被试上没有体现出优势的另一个原因是这些被试可能本身就存在错误的EEG数据或异常值,将这些错误的EEG数据进行分类会导致较大的误差,进一步影响分类的准确性.
TL是目前提高BCI中EEG分类性能的比较有效的方法.实验结果表明,基于加权逻辑回归的迁移学习方法提高了被试的分类准确度,是因为EA对齐算法与基于KL散度的加权逻辑回归的迁移学习方法有良好的适应性,两种算法结合使用能进一步提升算法性能,从而提高被试的分类准确度.同时,在样本数据逐渐增加的情况下,被试的分类准确度得到了明显提升.究其原因,在只有少数EEG数据时EEG信号的协方差矩阵的估计可能非常不准确[33 ] ,这些少数的EEG数据无法很好地代表整个数据的分布,因而影响了分类准确性,可以通过采用不同的相似性度量来计算相似性权重,或者对协方差矩阵进行相应的修改来改善相应的分类结果.
对于大多数准确度比较低的被试,本文提出的算法的分类准确度,与基线算法相比取得了一定的提升.但是,对于一些本身BCI表现较低的被试,改善的效果不明显,而且,通过改变这些被试的分类器的方法的效果也不明显,因为它们对于不同类别的特征空间是不可分离的.这些发现表明,要提高这些表现较差的BCI被试的分类准确度,应该提高被试的BCI想象能力,减少某些被试本身可能存在的错误实验或异常值,并在应用于分类领域之前的不同领域使用更复杂的迁移学习方法.
总之,本文的结果表明,提出的基于欧式空间的加权逻辑回归迁移学习方法可以提高分类准确度.重要的是,本文提出的算法在EA对齐算法对齐EEG的实验中可以提高模型的分类准确度,验证了EA对齐算法的性能,也验证了加权逻辑回归迁移学习算法的分类性能,而且对许多被试也提高了分类准确度.提出的加权逻辑回归迁移学习方法不限于逻辑回归分类器,它也可以应用于具有数学定义的目标函数的任何分类器.此外,本文使用KL散度作为相似性度量来计算相似性权重,也可以使用其他不同的相似性度量,并且可以将它们的性能与本文的方法进行比较.未来的研究将继续深入研究EA对齐算法的局限性,并且对MI⁃BCI实验进行相应的改进.
4 结论
本文提出基于欧式空间对齐的加权逻辑回归迁移学习方法来改进MI⁃BCI系统的分类性能.算法首先对不同被试的EEG试次使用EA对齐算法进行对齐,以减少被试之间EEG试次的差异;然后执行CSP算法提取分类特征值,通过KL散度量化不同被试CSP特征之间的差异,将不同的被试特征联系在一起,减少其差异;最后,运用加权逻辑回归的迁移学习方法获得分类模型.实验结果表明,本文提出的方法明显优于基线算法,对于一些特定的被试,提出的算法的性能也比以前的方法更好.在样本数据充足的情况下,本文提出的算法的分类准确度明显高于低样本的数据.该方法为MI分类任务中的不同的EEG特征空间分布产生的差异提供了一种新的解决方案,有望为BCI的实际应用做出贡献.
参考文献
View Option
[1]
Lance B J , Kerick S E , Ries A J ,et al . Brain–computer interface technologies in the coming decades
Proceedings of the IEEE ,2012 (100,Special Centennial Issue) :1585- 1599 .
[本文引用: 1]
[2]
Wolpaw J R , Birbaumer N , McFarland D J ,et al . Brain–computer interfaces for communication and control
Clinical Neurophysiology ,2002 ,113 (6 ):767 -791 .
[本文引用: 1]
[3]
Stam C J , Nolte G , Daffertshofer A . Phase lag index:Assessment of functional connectivity from multi channel EEG and MEG with diminished bias from common sources
Human Brain Mapping ,2007 ,28 (11 ):1178 -1193 .
[本文引用: 1]
[4]
Li M A , Luo X Y , Yang J F ,et al . Applying a locally linear embedding algorithm for feature extraction and visualization of MI⁃EEG
Journal of Sensors ,2016 :7481946 .
[本文引用: 1]
[5]
Chikara R K , Ko L W . Classification of EEG⁃P300 signals using phase locking value and pattern recognition classifiers
∥2015 Conference on Technologies and Applications of Artificial Intelligence . Tainan,China :IEEE ,2015 :367 -372 .
[6]
Oehler M , Neumann P , Becker M ,et al . Extraction of SSVEP signals of a capacitive EEG helmet for human machine interface
∥2008 30th Annual International Conference of the IEEE Engineering in Medicine and Biology Society . Vancouver,Canada :IEEE ,2008 :4495 -4498 .
[本文引用: 1]
[7]
Saha S , Ahmed K I U , Mostafa R ,et al . Evidence of variabilities in EEG dynamics during motor imagery⁃based multiclass brain–computer interface
IEEE Transactions on Neural Systems and Rehabilitation Engineering ,2018 ,26 (2 ):371 -382 .
[本文引用: 1]
[8]
Tu W T , Sun S L . A subject transfer framework for EEG classification
Neurocomputing ,2012 (82 ):109 -116 .
[本文引用: 1]
[9]
Lotte F . Signal processing approaches to minimize or suppress calibration time in oscillatory activity⁃based brain–computer interfaces
Proceedings of the IEEE ,2015 ,103 (6 ):871 -890 .
[本文引用: 1]
[10]
Pan S J , Yang Q . A survey on transfer learning
IEEE Transactions on Knowledge and Data Engineering ,2010 ,22 (10 ):1345 -1359 .
[本文引用: 1]
[11]
Wu D R , Lawhern V J , Gordon S ,et al . Driver drowsiness estimation from EEG signals using online weighted adaptation regularization for regression (OwARR)
IEEE Transactions on Fuzzy Systems ,2017 ,25 (6 ):1522 -1535 .
[本文引用: 1]
[12]
Wu D R , Lawhern V J , Hairston W D ,et al . Switching EEG headsets made easy:Reducing offline calibration effort using active weighted adaptation regularization
IEEE Transactions on Neural Systems and Rehabilitation Engineering ,2016 ,24 (11 ):1125 -1137 .
[本文引用: 1]
[13]
Hossain I , Khosravi A , Hettiarachchi I ,et al . Multiclass informative instance transfer learning framework for motor imagery⁃based brain⁃computer interface
Computational Intelligence and Neuroscience ,2018 :6323414 ,doi:10.1155/2018/6323414 .
[本文引用: 1]
[14]
Li Y , Kambara H , Koike Y ,et al . Application of covariate shift adaptation techniques in brain–computer interfaces
IEEE Transactions on Biomedical Engineering ,2010 ,57 (6 ):1318 -1324 .
[本文引用: 1]
[15]
Samek W , Meinecke F C , Müller K R . Transferring subspaces between subjects in brain⁃computer interfacing
IEEE Transactions on Biomedical Engineering ,2013 ,60 (8 ):2289 -2298 .
[本文引用: 1]
[16]
He H , Wu D R . Transfer learning enhanced common spatial pattern filtering for brain computer interfaces (BCIs):Overview and a new approach
∥International Conference on Neural Information Processing . Springer Berlin Heidelberg,2017 :811 -821 .
[本文引用: 1]
[17]
Lotte F , Guan C T . Learning from other subjects helps reducing brain⁃computer interface calibration time
∥2010 IEEE International Conference on Acoustics,Speech and Signal Processing . Dallas,TX,USA :IEEE ,2010 :614 -617 .
[本文引用: 1]
[18]
Wu D R , Jiang X , Peng R M ,et al . Transfer learning for motor imagery based brain⁃computer interfaces:A complete pipeline
2020 ,arXiv:.
[本文引用: 1]
[19]
Wu D R , Xu Y F , Lu B L . Transfer learning for EEG⁃based brain⁃computer interfaces:A review of progress made since 2016
IEEE Transactions on Cognitive and Developmental Systems ,2020 ,doi:10.1109/TCDS.2020.3007453 .
[本文引用: 1]
[20]
Tariq M , Uhlenberg L , Trivailo P ,et al . Mu⁃beta rhythm ERD/ERS quantification for foot motor execution and imagery tasks in BCI applications
∥2017 8th IEEE International Conference on Cognitive Infocommunications . Debrecen,Hungary :IEEE ,2017 :91 -96 .
[本文引用: 1]
[21]
Yger F , Berar M , Lotte F . Riemannian approaches in brain⁃computer interfaces:A review
IEEE Transactions on Neural Systems and Rehabilitation Engineering ,2017 ,25 (10 ):1753 -1762 .
[本文引用: 1]
[22]
He H , Wu D R . Transfer learning for brain–computer interfaces:A Euclidean space data alignment approach
IEEE Transactions on Biomedical Engineering ,2020 ,67 (2 ):399 -410 .
[本文引用: 2]
[23]
Nasrabadi N M . Pattern recognition and machine learning
Journal of Electronic Imaging ,2007 ,16 (4 ):049901 .
[本文引用: 1]
[24]
Shalev⁃Shwartz S , Tewari A . Stochastic methods for l 1 ⁃regularized loss minimization
The Journal of Machine Learning Research ,2011 (12 ):1865 -1892 .
[本文引用: 1]
[25]
Iturrate I , Montesano L , Minguez J . Task⁃dependent signal variations in EEG error⁃related potentials for brain–computer interfaces
Journal of Neural Engineering ,2013 ,10 (2 ):026024 .
[本文引用: 1]
[26]
Samek W , Kawanabe M , Müller K R . Divergence⁃based framework for common spatial patterns algorithms
IEEE Reviews in Biomedical Engineering ,2013 (7 ):50 -72 .
[本文引用: 1]
[27]
Van Der Maaten L , Hinton G . Visualizing data using t⁃SNE
Journal of Machine Learning Research ,2008 (9 ):1 -48 .
[本文引用: 1]
[28]
Lotte F , Guan C T . Regularizing common spatial patterns to improve BCI designs:Unified theory and new algorithms
IEEE Transactions on Biomedical Engineering ,2011 ,58 (2 ):355 -362 .
[本文引用: 2]
[29]
Fiebig K H , Jayaram V , Peters J ,et al . Multi⁃task logistic regression in brain⁃computer interfaces
∥2016 IEEE International Conference on Systems,Man,and Cybernetics . Budapest,Hungary :IEEE ,2016 :2307 -2312 .
[本文引用: 1]
[30]
Azab A M , Mihaylova L , Ang K K ,et al . Weighted transfer learning for improving motor imagery⁃based brain–computer interface
IEEE Transactions on Neural Systems and Rehabilitation Engineering ,2019 ,27 (7 ):1352 -1359 .
[本文引用: 1]
[31]
Shimodaira H . Improving predictive inference under covariate shift by weighting the log⁃likelihood function
Journal of Statistical Planning and Inference ,2000 ,90 (2 ):227 -244 .
[本文引用: 2]
[32]
Utgoff P E . Shift of bias for inductive concept learning
∥Michalski R S,Carbonell J G,Mitchell T M. Machine Learning:An Artificial Intelligence Approach . Los Alton,CA,USA :Morgan Kaufmann ,1986 ,2 :107 -148 .
[本文引用: 1]
[33]
Dai D Q , Yuen P C . Regularized discriminant analysis and its application to face recognition
Pattern Recognition ,2003 ,36 (3 ):845 -847 .
[本文引用: 1]
Brain–computer interface technologies in the coming decades
1
2012
... 脑机接口(Brain⁃Computer Interface,BCI)是实现大脑与外部设备直接交互的一种系统[1 -2 ] .脑电图(Electroencephalography,EEG)是BCI系统中使用最广泛的信号,有较高的时间分辨率[3 ] ,是一种特殊且复杂的生物电信号.基于EEG的BCI常用实验范式包括运动想象(Motor Ima⁃gery,MI)、稳态视觉诱发电位(Steady⁃State Visual Evoked Potential,SSVEP)、P300[4 -6 ] 等.通过解码EEG信号来准确识别大脑认知活动,建立BCI系统,不仅可以帮助行动障碍者,也可以极大地改善健康人的生活质量. ...
Brain–computer interfaces for communication and control
1
2002
... 脑机接口(Brain⁃Computer Interface,BCI)是实现大脑与外部设备直接交互的一种系统[1 -2 ] .脑电图(Electroencephalography,EEG)是BCI系统中使用最广泛的信号,有较高的时间分辨率[3 ] ,是一种特殊且复杂的生物电信号.基于EEG的BCI常用实验范式包括运动想象(Motor Ima⁃gery,MI)、稳态视觉诱发电位(Steady⁃State Visual Evoked Potential,SSVEP)、P300[4 -6 ] 等.通过解码EEG信号来准确识别大脑认知活动,建立BCI系统,不仅可以帮助行动障碍者,也可以极大地改善健康人的生活质量. ...
Phase lag index:Assessment of functional connectivity from multi channel EEG and MEG with diminished bias from common sources
1
2007
... 脑机接口(Brain⁃Computer Interface,BCI)是实现大脑与外部设备直接交互的一种系统[1 -2 ] .脑电图(Electroencephalography,EEG)是BCI系统中使用最广泛的信号,有较高的时间分辨率[3 ] ,是一种特殊且复杂的生物电信号.基于EEG的BCI常用实验范式包括运动想象(Motor Ima⁃gery,MI)、稳态视觉诱发电位(Steady⁃State Visual Evoked Potential,SSVEP)、P300[4 -6 ] 等.通过解码EEG信号来准确识别大脑认知活动,建立BCI系统,不仅可以帮助行动障碍者,也可以极大地改善健康人的生活质量. ...
Applying a locally linear embedding algorithm for feature extraction and visualization of MI?EEG
1
... 脑机接口(Brain⁃Computer Interface,BCI)是实现大脑与外部设备直接交互的一种系统[1 -2 ] .脑电图(Electroencephalography,EEG)是BCI系统中使用最广泛的信号,有较高的时间分辨率[3 ] ,是一种特殊且复杂的生物电信号.基于EEG的BCI常用实验范式包括运动想象(Motor Ima⁃gery,MI)、稳态视觉诱发电位(Steady⁃State Visual Evoked Potential,SSVEP)、P300[4 -6 ] 等.通过解码EEG信号来准确识别大脑认知活动,建立BCI系统,不仅可以帮助行动障碍者,也可以极大地改善健康人的生活质量. ...
Classification of EEG?P300 signals using phase locking value and pattern recognition classifiers
0
2015
Extraction of SSVEP signals of a capacitive EEG helmet for human machine interface
1
2008
... 脑机接口(Brain⁃Computer Interface,BCI)是实现大脑与外部设备直接交互的一种系统[1 -2 ] .脑电图(Electroencephalography,EEG)是BCI系统中使用最广泛的信号,有较高的时间分辨率[3 ] ,是一种特殊且复杂的生物电信号.基于EEG的BCI常用实验范式包括运动想象(Motor Ima⁃gery,MI)、稳态视觉诱发电位(Steady⁃State Visual Evoked Potential,SSVEP)、P300[4 -6 ] 等.通过解码EEG信号来准确识别大脑认知活动,建立BCI系统,不仅可以帮助行动障碍者,也可以极大地改善健康人的生活质量. ...
Evidence of variabilities in EEG dynamics during motor imagery?based multiclass brain–computer interface
1
2018
... 传统的BCI系统常常需要对新被试、新任务进行较长时间的校准,有时会花费20~30 min[7 ] 或更长时间,这种冗长的校准大大降低了BCI系统的实用性.最近的BCI研究提出了许多复杂的机器学习方法来减少或消除校准时间[8 -9 ] ,同时提高分类准确性,以求提高BCI的性能. ...
A subject transfer framework for EEG classification
1
2012
... 传统的BCI系统常常需要对新被试、新任务进行较长时间的校准,有时会花费20~30 min[7 ] 或更长时间,这种冗长的校准大大降低了BCI系统的实用性.最近的BCI研究提出了许多复杂的机器学习方法来减少或消除校准时间[8 -9 ] ,同时提高分类准确性,以求提高BCI的性能. ...
Signal processing approaches to minimize or suppress calibration time in oscillatory activity?based brain–computer interfaces
1
2015
... 传统的BCI系统常常需要对新被试、新任务进行较长时间的校准,有时会花费20~30 min[7 ] 或更长时间,这种冗长的校准大大降低了BCI系统的实用性.最近的BCI研究提出了许多复杂的机器学习方法来减少或消除校准时间[8 -9 ] ,同时提高分类准确性,以求提高BCI的性能. ...
A survey on transfer learning
1
2010
... 迁移学习(Transfer Learning,TL)[10 ] 是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能[11 -12 ] .TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例[13 ] 或基于过采样交叉验证[14 ] 的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵[15 ] 或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法. ...
Driver drowsiness estimation from EEG signals using online weighted adaptation regularization for regression (OwARR)
1
2017
... 迁移学习(Transfer Learning,TL)[10 ] 是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能[11 -12 ] .TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例[13 ] 或基于过采样交叉验证[14 ] 的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵[15 ] 或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法. ...
Switching EEG headsets made easy:Reducing offline calibration effort using active weighted adaptation regularization
1
2016
... 迁移学习(Transfer Learning,TL)[10 ] 是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能[11 -12 ] .TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例[13 ] 或基于过采样交叉验证[14 ] 的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵[15 ] 或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法. ...
Multiclass informative instance transfer learning framework for motor imagery?based brain?computer interface
1
2018
... 迁移学习(Transfer Learning,TL)[10 ] 是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能[11 -12 ] .TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例[13 ] 或基于过采样交叉验证[14 ] 的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵[15 ] 或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法. ...
Application of covariate shift adaptation techniques in brain–computer interfaces
1
2010
... 迁移学习(Transfer Learning,TL)[10 ] 是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能[11 -12 ] .TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例[13 ] 或基于过采样交叉验证[14 ] 的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵[15 ] 或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法. ...
Transferring subspaces between subjects in brain?computer interfacing
1
2013
... 迁移学习(Transfer Learning,TL)[10 ] 是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能[11 -12 ] .TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例[13 ] 或基于过采样交叉验证[14 ] 的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵[15 ] 或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法. ...
Transfer learning enhanced common spatial pattern filtering for brain computer interfaces (BCIs):Overview and a new approach
1
2017
... CSP算法[16 ] 是一种通过对EEG信号的协方差矩阵进行分解,发现大脑活动的空间分布,从而对MI进行分类的经典特征提取算法.在CSP算法的计算流程中,通常首先计算多通道EEG信号的协方差矩阵,之后经过白化、投影,得到分类特征,因此,计算EEG信号的协方差矩阵是CSP算法的关键步骤.Lotte and Guan[17 ] 通过改变EEG信号的协方差矩阵,对源被试与目标被试的平均值进行正则化或重新构建一个特征空间,从而利用源域信息来提高目标域的学习性能. ...
Learning from other subjects helps reducing brain?computer interface calibration time
1
2010
... CSP算法[16 ] 是一种通过对EEG信号的协方差矩阵进行分解,发现大脑活动的空间分布,从而对MI进行分类的经典特征提取算法.在CSP算法的计算流程中,通常首先计算多通道EEG信号的协方差矩阵,之后经过白化、投影,得到分类特征,因此,计算EEG信号的协方差矩阵是CSP算法的关键步骤.Lotte and Guan[17 ] 通过改变EEG信号的协方差矩阵,对源被试与目标被试的平均值进行正则化或重新构建一个特征空间,从而利用源域信息来提高目标域的学习性能. ...
Transfer learning for motor imagery based brain?computer interfaces:A complete pipeline
1
2020
... 与此同时,在信号预处理阶段,经典算法通常采用黎曼空间(Riemannian Space,RA)对齐来减少信号之间的差异性,然而黎曼空间中的距离计算较复杂,耗时且不稳定.Wu et al[18 -19 ] 提出基于欧几里得空间(Euclidean Space,EA)的信号处理算法,能够直接对齐EEG试次,算法复杂度低,效果更理想,而且对齐后的EEG数据能够应用于任何方式的特征提取和机器学习算法. ...
Transfer learning for EEG?based brain?computer interfaces:A review of progress made since 2016
1
2020
... 与此同时,在信号预处理阶段,经典算法通常采用黎曼空间(Riemannian Space,RA)对齐来减少信号之间的差异性,然而黎曼空间中的距离计算较复杂,耗时且不稳定.Wu et al[18 -19 ] 提出基于欧几里得空间(Euclidean Space,EA)的信号处理算法,能够直接对齐EEG试次,算法复杂度低,效果更理想,而且对齐后的EEG数据能够应用于任何方式的特征提取和机器学习算法. ...
Mu?beta rhythm ERD/ERS quantification for foot motor execution and imagery tasks in BCI applications
1
2017
... 在数据预处理阶段,删除3个EOG通道,留下22个EEG通道.人在进行MI的时候,大脑皮层会产生明显的节律信号,与MI有关的节律信号分为8~12 Hz的μ 节律信号和13~30 Hz的β 节律[20 ] 信号,为了提高EEG信号的信噪比,使用8~30 Hz的带通滤波对信号进行处理,在提示出现后的0.5~3.5 s MI时间提取相应的EEG信号作为后续分析数据. ...
Riemannian approaches in brain?computer interfaces:A review
1
2017
... EEG信号的空间协方差矩阵反映了多通道EEG信号的能量分布,还反映了EEG信号的空间信息和时间信息,常用于区分BCI系统的不同心理任务[21 ] .EA对齐算法计算每个被试的EEG试次的平均空间协方差矩阵,再通过数据对齐的方法将每个被试的空间协方差矩阵重新居中在单位矩阵处,使对齐的EEG试次被白化,让每个被试的平均空间协方差矩阵等于单位矩阵. ...
Transfer learning for brain–computer interfaces:A Euclidean space data alignment approach
2
2020
... EA对齐算法不需要新被试的任何标签信息,即不需要新被试的任何标记数据就能完成EEG数据的对齐,减少不同被试数据之间的差异性,使被试的EEG特征分布更加相似,而且计算效率更高.He and Wu[22 ] 研究表明EA对齐算法比RA对齐算法有更好的表现,EA对齐算法更易于执行,不需要任何被试的任何标记数据,并且可以更高效地计算.另外,EA对齐算法的计算速度比RA对齐算法快得多,应用更广泛. ...
... Classification accuracy of our algorithm and other algorithms on BCI competition Ⅳ dataset 2a
Table 2 被试 A01 A02 A03 A04 A05 A06 A07 A08 A09 Avg 本文方法 0.86 0.63 0.96 0.68 0.53 0.68 0.76 0.96 0.84 0.77 Lotte and Guan[28 ] 0.70 0.51 0.93 0.57 0.66 0.56 0.73 0.87 0.81 0.70 He and Wu[22 ] 0.72 0.56 0.84 0.65 0.60 0.67 0.61 0.86 0.82 0.70 Fiebig et al[29 ] 0.88 0.60 0.83 0.52 0.50 0.57 0.77 0.92 0.73 0.70 LDA 0.68 0.51 0.81 0.54 0.49 0.54 0.55 0.83 0.68 0.62 SVM 0.79 0.54 0.91 0.56 0.50 0.56 0.61 0.94 0.79 0.68 Azab et al[30 ] 0.83 0.57 0.87 0.58 0.67 0.60 0.75 0.98 0.75 0.73
2.4 六种方法不同样本的对比 为了进一步验证EA对齐算法与加权逻辑回归迁移学习算法相结合会有良好的适应性,通过比较六种方法(LDA,SVM,EA⁃LDA,EA⁃SVM,wLTL,EA⁃wLTL),分别取10~100个的样本数据进行了相应的实验对比.首先通过EA对齐算法对齐EEG试次,之后CSP进行特征提取,最后再使用加权回归迁移学习算法进行分类,并且与SVM与LDA进行对比,分析九个被试的所有样本数据的不同分类结果.六种方法的平均分类准确度如图5 所示,由图可见: ...
Pattern recognition and machine learning
1
2007
... 逻辑回归模型通过将Logistic Sigmoid函数转换为线性模型来提供概率预测[23 ] : ...
Stochastic methods for l 1 ?regularized loss minimization
1
2011
... 加权回归迁移学习方法包括两个主要步骤.第一步,使用以下目标函数[24 ] 计算分类参数: ...
Task?dependent signal variations in EEG error?related potentials for brain–computer interfaces
1
2013
... 研究者使用KL散度来计算两组不同的脑电信号特征之间的相似程度[25 ] .MI⁃BCI中,特征通常通过CSP进行滤波之后的标准EEG的归一化对数幂,因此研究者常假定这些特征向量为正态分布.定义两个特征向量正态分布分别为X 1 μ 1 , δ 1 和X 2 μ 2 , δ 2 ,KL散度相应的形式[26 ] 如下: ...
Divergence?based framework for common spatial patterns algorithms
1
2013
... 研究者使用KL散度来计算两组不同的脑电信号特征之间的相似程度[25 ] .MI⁃BCI中,特征通常通过CSP进行滤波之后的标准EEG的归一化对数幂,因此研究者常假定这些特征向量为正态分布.定义两个特征向量正态分布分别为X 1 μ 1 , δ 1 和X 2 μ 2 , δ 2 ,KL散度相应的形式[26 ] 如下: ...
Visualizing data using t?SNE
1
2008
... 为了观察EEG数据在EA对齐算法对齐之后个体之间的差异,使用t⁃随机邻近嵌入(t⁃SNE)[27 ] .t⁃SNE技术是一种嵌入模型,其主要作用是将高维空间中的数据映射到低维空间,并在此过程中保留数据集的局部特性,利用这种非线性降维技术可以很好地呈现EEG数据在EA对齐算法对齐之前和对齐之后的个体差异.通过t⁃SNE技术将特征数据从三维降到二维,再在二维空间中将所有样本可视化.图4 b是九个被试在EA对齐算法对齐之前和对齐之后的t⁃SNE可视化,左图是EA对齐算法对齐之前的特征数据,右图是EA对齐算法对齐之后的特征数据.为了便于观察,单独选中被试1作为目标训练试验的EA对齐算法对齐之前和对齐之后的t⁃SNE可视化,图4 c中,红点是测试被试,而蓝点是训练被试.由图可见,在EA对齐算法对齐之前,被试1的数据分隔相距比较远,所以对被试1设计的分类器将无法获得良好的分类效果;在执行EA对齐算法之后,可以发现,数据集不仅相互接近,还发生了重叠,也就是说,它们之间存在的差异相应地减少了. ...
Regularizing common spatial patterns to improve BCI designs:Unified theory and new algorithms
2
2011
... 为了验证本文算法的准确性,将本文方法与其他研究者在BCI竞赛IV数据集2a中提出的方法[28 -31 ] 进行对比,实验结果如表2 所示.此外,LDA也作为基线方法,一同进行对比.由表可见,尽管九个被试之间的表现有所不同,但实验结果还是证明本文方法优于以前发布的方法.相应的平均准确度,LDA为0.62,SVM为0.68,而本文的方法为0.77,比LDA和SVM分别改进了15%和9%,证明本文方法的分类准确度确有提高.从表中还可以看到,和其他研究者的方法相比,本文提出的方法更有效,结果也更优.另外,在某些单个被试中,本文方法的表现也优于以前提出的方法,表明EA对齐算法与加权逻辑回归的TL的组合方法优于单个的TL算法. ...
... Classification accuracy of our algorithm and other algorithms on BCI competition Ⅳ dataset 2a
Table 2 被试 A01 A02 A03 A04 A05 A06 A07 A08 A09 Avg 本文方法 0.86 0.63 0.96 0.68 0.53 0.68 0.76 0.96 0.84 0.77 Lotte and Guan[28 ] 0.70 0.51 0.93 0.57 0.66 0.56 0.73 0.87 0.81 0.70 He and Wu[22 ] 0.72 0.56 0.84 0.65 0.60 0.67 0.61 0.86 0.82 0.70 Fiebig et al[29 ] 0.88 0.60 0.83 0.52 0.50 0.57 0.77 0.92 0.73 0.70 LDA 0.68 0.51 0.81 0.54 0.49 0.54 0.55 0.83 0.68 0.62 SVM 0.79 0.54 0.91 0.56 0.50 0.56 0.61 0.94 0.79 0.68 Azab et al[30 ] 0.83 0.57 0.87 0.58 0.67 0.60 0.75 0.98 0.75 0.73
2.4 六种方法不同样本的对比 为了进一步验证EA对齐算法与加权逻辑回归迁移学习算法相结合会有良好的适应性,通过比较六种方法(LDA,SVM,EA⁃LDA,EA⁃SVM,wLTL,EA⁃wLTL),分别取10~100个的样本数据进行了相应的实验对比.首先通过EA对齐算法对齐EEG试次,之后CSP进行特征提取,最后再使用加权回归迁移学习算法进行分类,并且与SVM与LDA进行对比,分析九个被试的所有样本数据的不同分类结果.六种方法的平均分类准确度如图5 所示,由图可见: ...
Multi?task logistic regression in brain?computer interfaces
1
2016
... Classification accuracy of our algorithm and other algorithms on BCI competition Ⅳ dataset 2a
Table 2 被试 A01 A02 A03 A04 A05 A06 A07 A08 A09 Avg 本文方法 0.86 0.63 0.96 0.68 0.53 0.68 0.76 0.96 0.84 0.77 Lotte and Guan[28 ] 0.70 0.51 0.93 0.57 0.66 0.56 0.73 0.87 0.81 0.70 He and Wu[22 ] 0.72 0.56 0.84 0.65 0.60 0.67 0.61 0.86 0.82 0.70 Fiebig et al[29 ] 0.88 0.60 0.83 0.52 0.50 0.57 0.77 0.92 0.73 0.70 LDA 0.68 0.51 0.81 0.54 0.49 0.54 0.55 0.83 0.68 0.62 SVM 0.79 0.54 0.91 0.56 0.50 0.56 0.61 0.94 0.79 0.68 Azab et al[30 ] 0.83 0.57 0.87 0.58 0.67 0.60 0.75 0.98 0.75 0.73
2.4 六种方法不同样本的对比 为了进一步验证EA对齐算法与加权逻辑回归迁移学习算法相结合会有良好的适应性,通过比较六种方法(LDA,SVM,EA⁃LDA,EA⁃SVM,wLTL,EA⁃wLTL),分别取10~100个的样本数据进行了相应的实验对比.首先通过EA对齐算法对齐EEG试次,之后CSP进行特征提取,最后再使用加权回归迁移学习算法进行分类,并且与SVM与LDA进行对比,分析九个被试的所有样本数据的不同分类结果.六种方法的平均分类准确度如图5 所示,由图可见: ...
Weighted transfer learning for improving motor imagery?based brain–computer interface
1
2019
... Classification accuracy of our algorithm and other algorithms on BCI competition Ⅳ dataset 2a
Table 2 被试 A01 A02 A03 A04 A05 A06 A07 A08 A09 Avg 本文方法 0.86 0.63 0.96 0.68 0.53 0.68 0.76 0.96 0.84 0.77 Lotte and Guan[28 ] 0.70 0.51 0.93 0.57 0.66 0.56 0.73 0.87 0.81 0.70 He and Wu[22 ] 0.72 0.56 0.84 0.65 0.60 0.67 0.61 0.86 0.82 0.70 Fiebig et al[29 ] 0.88 0.60 0.83 0.52 0.50 0.57 0.77 0.92 0.73 0.70 LDA 0.68 0.51 0.81 0.54 0.49 0.54 0.55 0.83 0.68 0.62 SVM 0.79 0.54 0.91 0.56 0.50 0.56 0.61 0.94 0.79 0.68 Azab et al[30 ] 0.83 0.57 0.87 0.58 0.67 0.60 0.75 0.98 0.75 0.73
2.4 六种方法不同样本的对比 为了进一步验证EA对齐算法与加权逻辑回归迁移学习算法相结合会有良好的适应性,通过比较六种方法(LDA,SVM,EA⁃LDA,EA⁃SVM,wLTL,EA⁃wLTL),分别取10~100个的样本数据进行了相应的实验对比.首先通过EA对齐算法对齐EEG试次,之后CSP进行特征提取,最后再使用加权回归迁移学习算法进行分类,并且与SVM与LDA进行对比,分析九个被试的所有样本数据的不同分类结果.六种方法的平均分类准确度如图5 所示,由图可见: ...
Improving predictive inference under covariate shift by weighting the log?likelihood function
2
2000
... 为了验证本文算法的准确性,将本文方法与其他研究者在BCI竞赛IV数据集2a中提出的方法[28 -31 ] 进行对比,实验结果如表2 所示.此外,LDA也作为基线方法,一同进行对比.由表可见,尽管九个被试之间的表现有所不同,但实验结果还是证明本文方法优于以前发布的方法.相应的平均准确度,LDA为0.62,SVM为0.68,而本文的方法为0.77,比LDA和SVM分别改进了15%和9%,证明本文方法的分类准确度确有提高.从表中还可以看到,和其他研究者的方法相比,本文提出的方法更有效,结果也更优.另外,在某些单个被试中,本文方法的表现也优于以前提出的方法,表明EA对齐算法与加权逻辑回归的TL的组合方法优于单个的TL算法. ...
... 的.EA对齐算法能够提升被试的分类准确性,是因为它能对齐不同被试的EEG试次,减少不同被试之间的差异性,从而提高被试的分类准确性.其次,EA对齐算法直接在欧几里得空间中对齐EEG数据,任何信号处理、特征提取和机器学习算法都可以直接使用对齐后的EEG数据.然而,实验结果也同时表明,某些情况下EA对齐算法并没有提高个别被试的分类准确率,其原因可能是EA对齐算法也存在一些局限.前人研究指出EA对齐算法包括三种不同类型的偏移:协变量偏移[31 ] 、先验概率偏移和概念偏移[32 ] ,如果只考虑协变量偏移而没有考虑其他两个因素,在EA对齐算法对齐EEG数据之后,不同被试的数据就可能存在比较大的差异.在补偿协变量偏移的过程中,EA对齐算法可能增加概念偏移,导致两个类别更加难以区分.EA对齐算法在某些被试上没有体现出优势的另一个原因是这些被试可能本身就存在错误的EEG数据或异常值,将这些错误的EEG数据进行分类会导致较大的误差,进一步影响分类的准确性. ...
Shift of bias for inductive concept learning
1
1986
... 的.EA对齐算法能够提升被试的分类准确性,是因为它能对齐不同被试的EEG试次,减少不同被试之间的差异性,从而提高被试的分类准确性.其次,EA对齐算法直接在欧几里得空间中对齐EEG数据,任何信号处理、特征提取和机器学习算法都可以直接使用对齐后的EEG数据.然而,实验结果也同时表明,某些情况下EA对齐算法并没有提高个别被试的分类准确率,其原因可能是EA对齐算法也存在一些局限.前人研究指出EA对齐算法包括三种不同类型的偏移:协变量偏移[31 ] 、先验概率偏移和概念偏移[32 ] ,如果只考虑协变量偏移而没有考虑其他两个因素,在EA对齐算法对齐EEG数据之后,不同被试的数据就可能存在比较大的差异.在补偿协变量偏移的过程中,EA对齐算法可能增加概念偏移,导致两个类别更加难以区分.EA对齐算法在某些被试上没有体现出优势的另一个原因是这些被试可能本身就存在错误的EEG数据或异常值,将这些错误的EEG数据进行分类会导致较大的误差,进一步影响分类的准确性. ...
Regularized discriminant analysis and its application to face recognition
1
2003
... TL是目前提高BCI中EEG分类性能的比较有效的方法.实验结果表明,基于加权逻辑回归的迁移学习方法提高了被试的分类准确度,是因为EA对齐算法与基于KL散度的加权逻辑回归的迁移学习方法有良好的适应性,两种算法结合使用能进一步提升算法性能,从而提高被试的分类准确度.同时,在样本数据逐渐增加的情况下,被试的分类准确度得到了明显提升.究其原因,在只有少数EEG数据时EEG信号的协方差矩阵的估计可能非常不准确[33 ] ,这些少数的EEG数据无法很好地代表整个数据的分布,因而影响了分类准确性,可以通过采用不同的相似性度量来计算相似性权重,或者对协方差矩阵进行相应的修改来改善相应的分类结果. ...