南京大学学报(自然科学), 2022, 58(2): 264-274 doi: 10.13232/j.cnki.jnju.2022.02.010

基于欧式空间⁃加权逻辑回归迁移学习的运动想象EEG信号解码

陈黎1,2, 龚安民3, 丁鹏1,2, 伏云发,1,2

1.昆明理工大学信息工程与自动化学院,昆明,650500

2.昆明理工大学脑认知与脑机智能融合创新团队,昆明,650500

3.武警工程大学信息工程学院,西安,710000

EEG signal decoding of motor imagination based on euclidean space⁃weighted logistic regression transfer learning

Chen Li1,2, Gong Anmin3, Ding Peng1,2, Fu Yunfa,1,2

1.School of Information Engineering and Automation,Kunming University of Science and Technology,Kunming,650500,China

2.Brain Cognition and Brain⁃Computer Intelligence Integration Group,Kunming University of Science and Technology,Kunming,650500,China

3.College of Information Engineering,Engineering University of PAP,Xi'an,710000,China

通讯作者: E⁃mail:fyf@ynu.edu.cn

收稿日期: 2021-09-13  

基金资助: 国家自然科学基金.  81470084.  81771926.  61763022.  61463024.  62006246

Received: 2021-09-13  

摘要

基于脑电图(Electroencephalography,EEG)信号的运动想象(Motor Imagery,MI)意图识别是脑机接口(Brain⁃Computer Interface,BCI)研究中的重要问题.然而,EEG信号存在严重的个体性差异,不同被试之间的EEG信号特征空间分布差异很大,不同被试之间的分类模型不能通用.针对这一问题,提出一种基于欧式空间的加权逻辑回归迁移学习方法,算法首先将不同被试的EEG数据进行欧几里得空间对齐,使各信号更加相似,减少差异性,然后计算特定被试共空间模式(Common Spatial Pattern,CSP)获得不同的特征值,并计算这些特征值的KL(Kullback⁃Leibler)散度,进而利用KL散度调整迁移学习的加权逻辑回归算法,得到分类模型.实验结果表明:对于BCI竞赛IV中的数据集2a,提出的方法可以极大地提升BCI的学习性能,算法分类准确率比基线算法(线性判别分析)高出15%.在数据样本增多的情况下,被试的分类准确性也得到了明显的提升,和同类算法相比,分类准确率提升4%,说明提出的算法能进一步提高BCI的学习性能,改善分类模型的通用性问题.

关键词: 运动想象 ; 脑机接口 ; 欧式对齐 ; 迁移学习 ; 逻辑回归

Abstract

Motor imagery (MI) intention recognition based on electroencephalography (EEG) signals is an important issue in brain⁃computer interface (BCI) research. However,EEG signals have serious individual differences,while the spatial distribution of EEG signal characteristics between different subjects is very different,and the classification model between different subjects cannot be universal. To solve this problem,this paper proposes a weighted logistic regression transfer learning method based on Euclidean space.The algorithm first aligns the EEG data of different subjects in Euclidean space to make the signals more similar and reduce the difference,and calculate the different feature values​obtained by the common spatial pattern (CSP) of a specific subject. Then,it calculates the KL (Kullback⁃Leibler) divergence of these eigenvalues,using the KL divergence to adjust the weighted logistic regression algorithm of transfer learning to obtain the classification model.The experimental results show that, for the data set 2a in the BCI competition IV,the proposed method greatly improves the learning performance of BCI,and the classification accuracy is 15% higher than that of the baseline algorithm (Linear Discriminant Analysis).In case of an increase in data samples,the classification accuracy of the subjects has been significantly improved. Compared with similar algorithms,the classification accuracy of the proposed algorithm increases by 4%,indicating that the algorithm in this paper furtherly improves the BCI learning performance and the generality of the classification model.

Keywords: motor imagery ; brain⁃computer interface ; Euclidean alignment ; transfer learning ; logistic regression

PDF (1425KB) 元数据 多维度评价 相关文章 导出 EndNote| Ris| Bibtex  收藏本文

本文引用格式

陈黎, 龚安民, 丁鹏, 伏云发. 基于欧式空间⁃加权逻辑回归迁移学习的运动想象EEG信号解码. 南京大学学报(自然科学)[J], 2022, 58(2): 264-274 doi:10.13232/j.cnki.jnju.2022.02.010

Chen Li, Gong Anmin, Ding Peng, Fu Yunfa. EEG signal decoding of motor imagination based on euclidean space⁃weighted logistic regression transfer learning. Journal of nanjing University[J], 2022, 58(2): 264-274 doi:10.13232/j.cnki.jnju.2022.02.010

脑机接口(Brain⁃Computer Interface,BCI)是实现大脑与外部设备直接交互的一种系统1-2.脑电图(Electroencephalography,EEG)是BCI系统中使用最广泛的信号,有较高的时间分辨率3,是一种特殊且复杂的生物电信号.基于EEG的BCI常用实验范式包括运动想象(Motor Ima⁃gery,MI)、稳态视觉诱发电位(Steady⁃State Visual Evoked Potential,SSVEP)、P3004-6等.通过解码EEG信号来准确识别大脑认知活动,建立BCI系统,不仅可以帮助行动障碍者,也可以极大地改善健康人的生活质量.

在MI⁃BCI中,被试通过想象自己身体部位的运动来激活大脑皮层的不同区域.由于不同被试之间存在个体性差异,因此在进行分类识别时,必须根据不同被试和不同节次的EEG数据构建不同的分类模型,才能使分类性能达到最优.如果直接在当前用户上使用其他被试训练得到的模型,通常无法获得有效的结果.

传统的BCI系统常常需要对新被试、新任务进行较长时间的校准,有时会花费20~30 min7或更长时间,这种冗长的校准大大降低了BCI系统的实用性.最近的BCI研究提出了许多复杂的机器学习方法来减少或消除校准时间8-9,同时提高分类准确性,以求提高BCI的性能.

迁移学习(Transfer Learning,TL)10是减少校准时间比较有效的一种方法,通过从其他被试中提取数据来补偿当前目标被试缺少的标记数据,或通过使用源域的数据来帮助目标域进行校准,从而改善目标域的性能11-12.TL可以应用于原始EEG信号,也可应用于基于EEG的变换域或特征域.对原始EEG信号主要采用基于实例13或基于过采样交叉验证14的TL,而在EEG特征域则大多使用侧重于修改EEG信号的空间协方差矩阵15或对共空间模式(Common Spatial Pattern,CSP)投影滤波器进行优化的改进CSP算法.

CSP算法16是一种通过对EEG信号的协方差矩阵进行分解,发现大脑活动的空间分布,从而对MI进行分类的经典特征提取算法.在CSP算法的计算流程中,通常首先计算多通道EEG信号的协方差矩阵,之后经过白化、投影,得到分类特征,因此,计算EEG信号的协方差矩阵是CSP算法的关键步骤.Lotte and Guan17通过改变EEG信号的协方差矩阵,对源被试与目标被试的平均值进行正则化或重新构建一个特征空间,从而利用源域信息来提高目标域的学习性能.

与此同时,在信号预处理阶段,经典算法通常采用黎曼空间(Riemannian Space,RA)对齐来减少信号之间的差异性,然而黎曼空间中的距离计算较复杂,耗时且不稳定.Wu et al18-19提出基于欧几里得空间(Euclidean Space,EA)的信号处理算法,能够直接对齐EEG试次,算法复杂度低,效果更理想,而且对齐后的EEG数据能够应用于任何方式的特征提取和机器学习算法.

综上所述,TL算法通过补偿源被试数据提高目标被试的学习性能,而EA算法能极大地促进BCI的TL.同时,前人研究推测,EA与TL在理论上具有良好的适应性,两种算法结合起来能进一步提升算法性能.因此,本文提出基于欧式空间的加权逻辑回归迁移学习算法来进一步提升MI⁃BCI中的信号分类识别精度.

首先对原始的EEG数据进行预处理,再用EA对齐算法对齐EEG试次,之后通过CSP特征提取获得两类信号的方差最大值.获得的较大区分度的特征向量,通过KL(Kullback⁃Leibler)散度度量两类EEG信号特征值的相似性,得到被试之间特征数据分布之间的差异,最后通过加权逻辑回归迁移学习算法进行MI分类.

在BCI竞赛IV的数据集2a中对提出的方法进行评估,对比EA对齐算法对齐后的数据与未使用EA对齐算法对齐的数据构建的不同分类模型,验证了EA对齐算法的性能.本文还将提出的算法与最近的四种算法的分类准确性进行比较,来验证算法的分类准确性.

1 材料和方法

1.1 数据集介绍

本实验对BCI竞赛IV数据集2a进行分类研究.数据集由九名被试的22个电极记录的EEG信号与3个EOG头皮电极位置组成,包括四个类别的MI任务,即左右手、脚和舌头的想象.数据采集MI的时间为4 s,每组实验中,每类进行72次MI任务,共288次试验.信号采样频率为250 Hz,并进行频率为0.5~100 Hz的带通滤波和50 Hz的陷波滤波消除工频干扰.本文仅使用左右手的MI数据.具体的实验范式与电极位置如图1所示.

图1

图1   BCI竞赛IV数据集2a:(a)单次MI任务时序图;

(b)22个EEG电极位置图,分别为Fz,FC3,FC1,FCz,FC2,FC4,C5,C3,C1,Cz,C2,C4,C6,CP3,CP1,CPz,CP2,CP4,P1,Pz,P2,POz,左侧乳突参考,右侧乳突接地;(c) 3个EOG头皮电极位置图

Fig.1   BCI Competition IV Dataset 2a:(a) timing diagram of a single MI assignment,(b) position diagram of 22 EEG levels,Fz,FC3,FC1,FCz,FC2,FC4,C5,C3,C1,Cz,C2 C4,C6,CP3,CP1,CPz,CP2,CP4,P1,Pz,P2,POz,left mastoid reference and right mastoid ground,(c) three EOG scalp electrodes position diagram


1.2 数据预处理

在数据预处理阶段,删除3个EOG通道,留下22个EEG通道.人在进行MI的时候,大脑皮层会产生明显的节律信号,与MI有关的节律信号分为8~12 Hz的μ节律信号和13~30 Hz的β节律20信号,为了提高EEG信号的信噪比,使用8~30 Hz的带通滤波对信号进行处理,在提示出现后的0.5~3.5 s MI时间提取相应的EEG信号作为后续分析数据.

1.3 基于欧式空间的加权逻辑回归迁移学习方法模型

提出的基于欧式空间的加权逻辑回归的迁移学习算法由三个阶段组成,如图2所示.第一阶段是数据的预处理,数据来自所有被试(包括源被试(原有的数据)和目标被试(当前的数据))的多通道EEG信号,对其进行8~30 Hz带通滤波处理.计算所有被试的EEG信号的空间协方差矩阵,将这些被试的EEG数据在欧式空间中对齐,为每个源被试训练一个单独的分类模型.将所有被试数据组合在一起,每个被试交替充当目标被试,其余被试充当源被试,以生成新的训练集.第二阶段是特征提取.通过CSP进行特征提取获得具有两类信号的方差值的最大差异化的特征向量,同时通过KL散度来计算被试的CSP特征提取获得的特征值,并将KL散度应用于优化加权逻辑回归算法.第三阶段是分类识别,将获得的优化后的特征值输入加权逻辑回归分类器中进行MI分类.

图2

图2   本文提出方法的模型

Fig.2   The model of the proposed algorithm


1.4 欧式空间对齐

EEG信号的空间协方差矩阵反映了多通道EEG信号的能量分布,还反映了EEG信号的空间信息和时间信息,常用于区分BCI系统的不同心理任务21.EA对齐算法计算每个被试的EEG试次的平均空间协方差矩阵,再通过数据对齐的方法将每个被试的空间协方差矩阵重新居中在单位矩阵处,使对齐的EEG试次被白化,让每个被试的平均空间协方差矩阵等于单位矩阵.

EA对齐算法不需要新被试的任何标签信息,即不需要新被试的任何标记数据就能完成EEG数据的对齐,减少不同被试数据之间的差异性,使被试的EEG特征分布更加相似,而且计算效率更高.He and Wu22研究表明EA对齐算法比RA对齐算法有更好的表现,EA对齐算法更易于执行,不需要任何被试的任何标记数据,并且可以更高效地计算.另外,EA对齐算法的计算速度比RA对齐算法快得多,应用更广泛.

为了理解EA对齐算法,假设C1C2分别为两类MI任务下的EEG信号,其维度为N×TN为脑电通道数,T为采样点,MI的空间协方差矩阵计算为CiCiT,首先计算一个被试的所有协方差的算数平均数:

R=1ni=1NCiCiT

其中,n是每个被试执行的试次数量.然后执行对齐计算:

Ci*=R-1/2Ci

Ci*为对齐后的EEG信号,经过欧式空间对齐以后,所有n个对齐数据的平均协方差矩阵为:

1ni=1NCi*Ci*T=R-121ni=1NCiCiTR-12=I

其中,I是单位矩阵.经过对齐算法使所有被试的平均协方差矩阵与对齐后的单位矩阵相等,因此来自不同被试的空间协方差矩阵的分布会更相似.

1.5 CSP简介

CSP是一种高效的空间滤波算法,如图3所示,主要运用于EEG特征提取.CSP算法的目的是找到一组最优空间滤波器进行投影,使两类信号的方差值差异最大化,从而得到具有较高区分度的特征值P,以达成区分两类运动想象的任务.

图3

图3   CSP特征提取方法示意图

Fig.3   Diagram of CSP feature extraction method


由CSP的原理可知,CSP算法生成的特征矩阵,其特征信息主要集中在矩阵的两端.本文使用CSP进行特征提取,获得两类信号的方差值差异最大化的特征向量,用于后续MI的分类.

1.6 加权回归迁移学习算法

基于加权逻辑回归的迁移学习算法通过尝试合并先前记录的session数据来改进新的被试的分类参数的估计,由于每个session的EEG信号的分布可能不同,每个被试之间的EEG信号的分布也不同,导致特定于不同被试的CSP特征空间存在差异.因此,根据EEG信号的分布,新被试的EEG特征可能与某些先前记录的session的CSP滤波的特征相似,而与一些其他session的特征却存在比较大的差异.这些差异会影响新被试分类参数的估计,为了解决这个问题,本文在提出的基于加权逻辑回归的迁移学习算法中,通过KL散度获得新的相似性度量来将不同被试和目标被试的特征联系在一起,减少EEG数据特征空间分布之间的差异,再将不同的权重分配给先前记录的session,从而达到优化TL算法的目的.

逻辑回归模型通过将Logistic Sigmoid函数转换为线性模型来提供概率预测23

PbSi=1aSi;wS=11+exp-wSTaSi

其中,S表示session,wS表示用于预测样本数据类别的标签.获得的概率预测被用于预测类别标签.

加权回归迁移学习方法包括两个主要步骤.第一步,使用以下目标函数24计算分类参数:

L1wS=minwSi=1nSHwS;bSi,aSi+λSwS22

其中,HwS2分别表示交叉熵和2⁃范数.这里,交叉熵的目的是找到使错误率最小化的wS,而2⁃范数则对wS的较大值进行惩罚以降低过拟合的风险,特定于被试的正则化参数λS用于控制惩罚程度.交叉熵函数H也称为负对数似然,其最小化相当于最大化对数似然,如式(6)所示:

HwS;aSi,bSi=-bSilgPbSi=1aSi;wS-1-bSilg1-PbSi=1aSi;wS

其中,PbSi=1aSi;wS可由式(4)计算而得.

目标函数L1wS有一个独特的最值,可以用梯度下降的简单有效的迭代方法找到该最小值.第二步,使用以下目标函数计算新目标被试wZ的分类参数:

L2wZ=minwZi=1nZHwZ;bSi,aSi+λZRTLwZ

其中,RTL是补偿wZ先前计算的wS,正则化参数λZ在最小化新的目标被试与先前session之间的错误和差异方面做出权衡.RTL的计算如下:

RTLwZ=12wZ-αTTL-1wZ-α+lgTL

其中,αTL的计算分别如下:

α=1NS=1NwSTL=diagS=1NwS-αwS-αTtraceS=1NwS-αwS-αT

其中,diagtrace分别表示矩阵的对角元素和对角元素之和;TL为协方差矩阵的归一化对角元素,用于归一化wZ的每个参数与另一个分类器的相应参数的平均值的差异.

研究者使用KL散度来计算两组不同的脑电信号特征之间的相似程度25.MI⁃BCI中,特征通常通过CSP进行滤波之后的标准EEG的归一化对数幂,因此研究者常假定这些特征向量为正态分布.定义两个特征向量正态分布分别为X1μ1,δ1X2μ2,δ2,KL散度相应的形式26如下:

KL=12μ2-μ1Tδ2-1μ2-μ1+traceδ2-1δ1-lndetδ1detδ2-K

其中,det,TK分别表示行列式函数、矩阵的转置和数据的维数.特征集dt与特征集ds的相似度权重值θS通过归一化来处理,方法是将其除以目标被试和所有可用的源被试特征集之间的所有相似性度量的总和:

θS=1/KLdt,ds+ψ4i=1N1/KLdt,ds+ψ4

两个session的特征之间的总散度可以通过分别对MI任务的同一类任务计算的KL散度求平均值来计算.本文中,总散度KLC等于两个session之间的KL散度:

KLC=KLsession1L,session2L+KLsession1R,session2R2

基于加权逻辑回归的迁移学习算法使用不同的权重,ψ=0.001来确保等式的稳定性,使用θS来计算不同的权重.因此新的加权αWTLW的计算如下:

αW=S=1NθSwSTLW=diagS=1NθSwS-αWθSwS-αWTtraceS=1NθSwS-αWθSwS-αWT

其中,分别用相应的αWTLW代替αTL计算相应的RTL.

2 实验结果

本节介绍本文算法与其他方法在MI数据集上的性能比较.首先,通过对数据的可视化来表明EA对齐算法对齐之后的EEG与原EEG具有低相关性;其次,使用EA对齐算法之后的数据构建的不同的分类模型,并与未使用EA对齐算法的原始数据构建的分类模型的算法性能进行比较;最后,对比本文的方法与最近提出的相关方法的模型,并通过选取不同样本的分类准确性进行对比,验证提出算法的性能.

2.1 数据可视化

为了理解EA对齐算法如何对齐EEG信号,对原始的数据进行预处理后,对数据进行可视化.被试的平均空间协方差矩阵与EA对齐算法对齐后的单位矩阵相等,使被试的EEG信号的分布更加一致.如图4a所示,黑色曲线和红色曲线分别是EA对齐算法对齐之前和之后的EEG信号,纵轴数字是EA对齐算法对齐之前和之后信号的Pearson相关系数.由图可见,在EA对齐算法对齐之后,EEG信号的幅度变得更小,也更均匀,表明EEG信号在使用EA对齐算法之前和EA对齐算法之后具有低相关性.

图4

图4   被试的t⁃SNE可视化:(a)被试1的左右手EA对齐算法对齐示意图,每行是不同的导联上的EEG信号;

(b)九个被试的t⁃SNE可视化;(c)被试1作为目标被试的t⁃SNE可视化

Fig.4   The t⁃SNE visualization of the subjects:(a) the alignment diagram of the left and right⁃handed EA alignment algorithm of the Test 1 with each row being the EEG signal on a different lead,(b) the t⁃SNE visuali⁃zation of nine subjects,(c) the t⁃SNE visualization of the target subject of Test 1


为了观察EEG数据在EA对齐算法对齐之后个体之间的差异,使用t⁃随机邻近嵌入(t⁃SNE)27.t⁃SNE技术是一种嵌入模型,其主要作用是将高维空间中的数据映射到低维空间,并在此过程中保留数据集的局部特性,利用这种非线性降维技术可以很好地呈现EEG数据在EA对齐算法对齐之前和对齐之后的个体差异.通过t⁃SNE技术将特征数据从三维降到二维,再在二维空间中将所有样本可视化.图4b是九个被试在EA对齐算法对齐之前和对齐之后的t⁃SNE可视化,左图是EA对齐算法对齐之前的特征数据,右图是EA对齐算法对齐之后的特征数据.为了便于观察,单独选中被试1作为目标训练试验的EA对齐算法对齐之前和对齐之后的t⁃SNE可视化,图4c中,红点是测试被试,而蓝点是训练被试.由图可见,在EA对齐算法对齐之前,被试1的数据分隔相距比较远,所以对被试1设计的分类器将无法获得良好的分类效果;在执行EA对齐算法之后,可以发现,数据集不仅相互接近,还发生了重叠,也就是说,它们之间存在的差异相应地减少了.

2.2 数据集的离线分类

为了验证EA对齐算法的分类性能,在MI数据集上对包含EA对齐的算法进行检验,主要通过对EA对齐算法的数据与没有进行EA对齐算法的数据的分类准确性进行比较.针对EA对齐算法后的EEG数据,使用CSP做特征提取,并使用LDA(Linear Discriminant Analysis)和SVM(Support Vector Machine)进行分类.应用EA对齐算法时,每个被试交替充当目标被试,其余八个被试充当源被试.具体比较了四种方法:

(1)方法1:不使用任何数据对齐方式,直接执行SVM和LDA进行分类.

(2)方法2:首先通过EA对齐算法对齐EEG试次,在进行EA对齐算法的基础上对数据集执行SVM和LDA进行分类.

(3)方法3:在标记源被试和目的被试的情况下,不使用任何数据对齐方式,直接执行SVM和LDA进行分类.

(4)方法4:首先通过EA对齐算法对齐EEG试次,并在标记有源被试和目的被试的情况下,执行SVM和LDA进行分类.

四种方法的分类准确度如表1所示.

表1   对九个被试使用四种方法进行分类的分类准确度比较

Table 1  Classification accuracy of nine trials by four methods

被试方法1方法2方法3方法4
LDASVMLDASVMLDASVMLDASVM
Avg0.620.690.620.680.630.630.700.69
A010.670.810.640.810.740.710.830.81
A020.520.540.530.540.490.490.500.51
A030.820.900.820.900.780.800.940.93
A040.550.560.540.570.560.550.600.59
A050.500.500.500.500.490.490.490.49
A060.530.550.520.550.550.540.600.59
A070.570.610.570.590.560.560.610.60
A080.820.940.790.930.900.890.940.93
A090.680.800.680.780.660.680.820.81

新窗口打开| 下载CSV


由表可见:

(1)九个被试中,方法2对比方法1没有表现出较明显的优势.EA对齐算法在某些被试上没有提供优势的一个可能的原因是少数的EEG实验无法很好地代表整个数据的分布,从而影响了分类准确性.

(2)九个被试中,在标记有源被试和目标被试之后,在EA对齐算法的基础上的分类准确度优于直接执行SVM和LDA进行分类,证明提出的EA对齐算法有更好的效果.

最后,值得注意的是,对于少数被试,EA对齐算法反而会降低分类准确性,这可能是因为被试本身存在错误的EEG实验或异常值.

2.3 本文方法与其他方法的对比

为了验证本文算法的准确性,将本文方法与其他研究者在BCI竞赛IV数据集2a中提出的方法28-31进行对比,实验结果如表2所示.此外,LDA也作为基线方法,一同进行对比.由表可见,尽管九个被试之间的表现有所不同,但实验结果还是证明本文方法优于以前发布的方法.相应的平均准确度,LDA为0.62,SVM为0.68,而本文的方法为0.77,比LDA和SVM分别改进了15%和9%,证明本文方法的分类准确度确有提高.从表中还可以看到,和其他研究者的方法相比,本文提出的方法更有效,结果也更优.另外,在某些单个被试中,本文方法的表现也优于以前提出的方法,表明EA对齐算法与加权逻辑回归的TL的组合方法优于单个的TL算法.

表2   本文方法和其他研究者提出的方法在BCI竞赛Ⅳ数据集2a上的分类准确度对比

Table 2  Classification accuracy of our algorithm and other algorithms on BCI competition Ⅳ dataset 2a

被试A01A02A03A04A05A06A07A08A09Avg
本文方法0.860.630.960.680.530.680.760.960.840.77
Lotte and Guan[28]0.700.510.930.570.660.560.730.870.810.70
He and Wu[22]0.720.560.840.650.600.670.610.860.820.70
Fiebig et al[29]0.880.600.830.520.500.570.770.920.730.70
LDA0.680.510.810.540.490.540.550.830.680.62
SVM0.790.540.910.560.500.560.610.940.790.68
Azab et al[30]0.830.570.870.580.670.600.750.980.750.73

新窗口打开| 下载CSV


2.4 六种方法不同样本的对比

为了进一步验证EA对齐算法与加权逻辑回归迁移学习算法相结合会有良好的适应性,通过比较六种方法(LDA,SVM,EA⁃LDA,EA⁃SVM,wLTL,EA⁃wLTL),分别取10~100个的样本数据进行了相应的实验对比.首先通过EA对齐算法对齐EEG试次,之后CSP进行特征提取,最后再使用加权回归迁移学习算法进行分类,并且与SVM与LDA进行对比,分析九个被试的所有样本数据的不同分类结果.六种方法的平均分类准确度如图5所示,由图可见:

图5

图5   被试10~100个样本使用六种方法评估的分类准确度

Fig5   Classification accuracy for the evaluation of 10~100 subject samples by six algorithms


(1)在九名被试中,EA⁃SVM和EA⁃LDA的表现优于SVM和LDA,这表明EA对齐算法在MI分类任务中是有效的.

(2)在九名被试中,EA⁃wLTL的表现优于wLTL,进一步表明EA对齐算法在分类中通常比没有进行EA对齐算法更有效,两者算法结合使用有更好的效果.

(3)当来自当前被试的训练数据足够多时,EEG实验就能很好地代表整个数据的分布,被试的分类准确度能得到进一步的提高,证明迁移学习方法对MI⁃BCI是有效的,也是有意义的.

3 讨论

实验部分对提出的基于欧式空间加权逻辑回归迁移学习算法进行了全面的性能测试.研究发现,经过EA对齐算法对齐之后,分类模型的准确性得到了明显提升,说明EA对齐算法是有效果

的.EA对齐算法能够提升被试的分类准确性,是因为它能对齐不同被试的EEG试次,减少不同被试之间的差异性,从而提高被试的分类准确性.其次,EA对齐算法直接在欧几里得空间中对齐EEG数据,任何信号处理、特征提取和机器学习算法都可以直接使用对齐后的EEG数据.然而,实验结果也同时表明,某些情况下EA对齐算法并没有提高个别被试的分类准确率,其原因可能是EA对齐算法也存在一些局限.前人研究指出EA对齐算法包括三种不同类型的偏移:协变量偏移31、先验概率偏移和概念偏移32,如果只考虑协变量偏移而没有考虑其他两个因素,在EA对齐算法对齐EEG数据之后,不同被试的数据就可能存在比较大的差异.在补偿协变量偏移的过程中,EA对齐算法可能增加概念偏移,导致两个类别更加难以区分.EA对齐算法在某些被试上没有体现出优势的另一个原因是这些被试可能本身就存在错误的EEG数据或异常值,将这些错误的EEG数据进行分类会导致较大的误差,进一步影响分类的准确性.

TL是目前提高BCI中EEG分类性能的比较有效的方法.实验结果表明,基于加权逻辑回归的迁移学习方法提高了被试的分类准确度,是因为EA对齐算法与基于KL散度的加权逻辑回归的迁移学习方法有良好的适应性,两种算法结合使用能进一步提升算法性能,从而提高被试的分类准确度.同时,在样本数据逐渐增加的情况下,被试的分类准确度得到了明显提升.究其原因,在只有少数EEG数据时EEG信号的协方差矩阵的估计可能非常不准确33,这些少数的EEG数据无法很好地代表整个数据的分布,因而影响了分类准确性,可以通过采用不同的相似性度量来计算相似性权重,或者对协方差矩阵进行相应的修改来改善相应的分类结果.

对于大多数准确度比较低的被试,本文提出的算法的分类准确度,与基线算法相比取得了一定的提升.但是,对于一些本身BCI表现较低的被试,改善的效果不明显,而且,通过改变这些被试的分类器的方法的效果也不明显,因为它们对于不同类别的特征空间是不可分离的.这些发现表明,要提高这些表现较差的BCI被试的分类准确度,应该提高被试的BCI想象能力,减少某些被试本身可能存在的错误实验或异常值,并在应用于分类领域之前的不同领域使用更复杂的迁移学习方法.

总之,本文的结果表明,提出的基于欧式空间的加权逻辑回归迁移学习方法可以提高分类准确度.重要的是,本文提出的算法在EA对齐算法对齐EEG的实验中可以提高模型的分类准确度,验证了EA对齐算法的性能,也验证了加权逻辑回归迁移学习算法的分类性能,而且对许多被试也提高了分类准确度.提出的加权逻辑回归迁移学习方法不限于逻辑回归分类器,它也可以应用于具有数学定义的目标函数的任何分类器.此外,本文使用KL散度作为相似性度量来计算相似性权重,也可以使用其他不同的相似性度量,并且可以将它们的性能与本文的方法进行比较.未来的研究将继续深入研究EA对齐算法的局限性,并且对MI⁃BCI实验进行相应的改进.

4 结论

本文提出基于欧式空间对齐的加权逻辑回归迁移学习方法来改进MI⁃BCI系统的分类性能.算法首先对不同被试的EEG试次使用EA对齐算法进行对齐,以减少被试之间EEG试次的差异;然后执行CSP算法提取分类特征值,通过KL散度量化不同被试CSP特征之间的差异,将不同的被试特征联系在一起,减少其差异;最后,运用加权逻辑回归的迁移学习方法获得分类模型.实验结果表明,本文提出的方法明显优于基线算法,对于一些特定的被试,提出的算法的性能也比以前的方法更好.在样本数据充足的情况下,本文提出的算法的分类准确度明显高于低样本的数据.该方法为MI分类任务中的不同的EEG特征空间分布产生的差异提供了一种新的解决方案,有望为BCI的实际应用做出贡献.

参考文献

Lance B JKerick S ERies A Jet al.

Brain–computer interface technologies in the coming decades

Proceedings of the IEEE,2012(100,Special Centennial Issue)1585- 1599.

[本文引用: 1]

Wolpaw J RBirbaumer NMcFarland D Jet al.

Brain–computer interfaces for communication and control

Clinical Neurophysiology,2002113(6):767-791.

[本文引用: 1]

Stam C JNolte GDaffertshofer A.

Phase lag index:Assessment of functional connectivity from multi channel EEG and MEG with diminished bias from common sources

Human Brain Mapping,200728(11):1178-1193.

[本文引用: 1]

Li M ALuo X YYang J Fet al.

Applying a locally linear embedding algorithm for feature extraction and visualization of MI⁃EEG

Journal of Sensors,20167481946.

[本文引用: 1]

Chikara R KKo L W.

Classification of EEG⁃P300 signals using phase locking value and pattern recognition classifiers

2015 Conference on Technologies and Applications of Artificial Intelligence. Tainan,ChinaIEEE2015367-372.

Oehler MNeumann PBecker Met al.

Extraction of SSVEP signals of a capacitive EEG helmet for human machine interface

2008 30th Annual International Conference of the IEEE Engineering in Medicine and Biology Society. Vancouver,CanadaIEEE20084495-4498.

[本文引用: 1]

Saha SAhmed K I UMostafa Ret al.

Evidence of variabilities in EEG dynamics during motor imagery⁃based multiclass brain–computer interface

IEEE Transactions on Neural Systems and Rehabilitation Engineering,201826(2):371-382.

[本文引用: 1]

Tu W TSun S L.

A subject transfer framework for EEG classification

Neurocomputing,2012(82):109-116.

[本文引用: 1]

Lotte F.

Signal processing approaches to minimize or suppress calibration time in oscillatory activity⁃based brain–computer interfaces

Proceedings of the IEEE,2015103(6):871-890.

[本文引用: 1]

Pan S JYang Q.

A survey on transfer learning

IEEE Transactions on Knowledge and Data Engineering,201022(10):1345-1359.

[本文引用: 1]

Wu D RLawhern V JGordon Set al.

Driver drowsiness estimation from EEG signals using online weighted adaptation regularization for regression (OwARR)

IEEE Transactions on Fuzzy Systems,201725(6):1522-1535.

[本文引用: 1]

Wu D RLawhern V JHairston W Det al.

Switching EEG headsets made easy:Reducing offline calibration effort using active weighted adaptation regularization

IEEE Transactions on Neural Systems and Rehabilitation Engineering,201624(11):1125-1137.

[本文引用: 1]

Hossain IKhosravi AHettiarachchi Iet al.

Multiclass informative instance transfer learning framework for motor imagery⁃based brain⁃computer interface

Computational Intelligence and Neuroscience,20186323414doi:10.1155/2018/6323414 .

[本文引用: 1]

Li YKambara HKoike Yet al.

Application of covariate shift adaptation techniques in brain–computer interfaces

IEEE Transactions on Biomedical Engineering,201057(6):1318-1324.

[本文引用: 1]

Samek WMeinecke F CMüller K R.

Transferring subspaces between subjects in brain⁃computer interfacing

IEEE Transactions on Biomedical Engineering,201360(8):2289-2298.

[本文引用: 1]

He HWu D R.

Transfer learning enhanced common spatial pattern filtering for brain computer interfaces (BCIs):Overview and a new approach

International Conference on Neural Information Processing. Springer Berlin Heidelberg,2017811-821.

[本文引用: 1]

Lotte FGuan C T.

Learning from other subjects helps reducing brain⁃computer interface calibration time

2010 IEEE International Conference on Acoustics,Speech and Signal Processing. Dallas,TX,USAIEEE2010614-617.

[本文引用: 1]

Wu D RJiang XPeng R Met al.

Transfer learning for motor imagery based brain⁃computer interfaces:A complete pipeline

2020,arXiv:.

[本文引用: 1]

Wu D RXu Y FLu B L.

Transfer learning for EEG⁃based brain⁃computer interfaces:A review of progress made since 2016

IEEE Transactions on Cognitive and Developmental Systems,2020doi:10.1109/TCDS.2020.3007453 .

[本文引用: 1]

Tariq MUhlenberg LTrivailo Pet al.

Mu⁃beta rhythm ERD/ERS quantification for foot motor execution and imagery tasks in BCI applications

2017 8th IEEE International Conference on Cognitive Infocommunications. Debrecen,HungaryIEEE201791-96.

[本文引用: 1]

Yger FBerar MLotte F.

Riemannian approaches in brain⁃computer interfaces:A review

IEEE Transactions on Neural Systems and Rehabilitation Engineering,201725(10):1753-1762.

[本文引用: 1]

He HWu D R.

Transfer learning for brain–computer interfaces:A Euclidean space data alignment approach

IEEE Transactions on Biomedical Engineering,202067(2):399-410.

[本文引用: 2]

Nasrabadi N M.

Pattern recognition and machine learning

Journal of Electronic Imaging,200716(4):049901.

[本文引用: 1]

Shalev⁃Shwartz STewari A.

Stochastic methods for l1⁃regularized loss minimization

The Journal of Machine Learning Research,2011(12):1865-1892.

[本文引用: 1]

Iturrate IMontesano LMinguez J.

Task⁃dependent signal variations in EEG error⁃related potentials for brain–computer interfaces

Journal of Neural Engineering,201310(2):026024.

[本文引用: 1]

Samek WKawanabe MMüller K R.

Divergence⁃based framework for common spatial patterns algorithms

IEEE Reviews in Biomedical Engineering,2013(7):50-72.

[本文引用: 1]

Van Der Maaten LHinton G.

Visualizing data using t⁃SNE

Journal of Machine Learning Research,2008(9):1-48.

[本文引用: 1]

Lotte FGuan C T.

Regularizing common spatial patterns to improve BCI designs:Unified theory and new algorithms

IEEE Transactions on Biomedical Engineering,201158(2):355-362.

[本文引用: 2]

Fiebig K HJayaram VPeters Jet al.

Multi⁃task logistic regression in brain⁃computer interfaces

2016 IEEE International Conference on Systems,Man,and Cybernetics. Budapest,HungaryIEEE20162307-2312.

[本文引用: 1]

Azab A MMihaylova LAng K Ket al.

Weighted transfer learning for improving motor imagery⁃based brain–computer interface

IEEE Transactions on Neural Systems and Rehabilitation Engineering,201927(7):1352-1359.

[本文引用: 1]

Shimodaira H.

Improving predictive inference under covariate shift by weighting the log⁃likelihood function

Journal of Statistical Planning and Inference,200090(2):227-244.

[本文引用: 2]

Utgoff P E.

Shift of bias for inductive concept learning

∥Michalski R S,Carbonell J G,Mitchell T M. Machine Learning:An Artificial Intelligence Approach. Los Alton,CA,USAMorgan Kaufmann19862107-148.

[本文引用: 1]

Dai D QYuen P C.

Regularized discriminant analysis and its application to face recognition

Pattern Recognition,200336(3):845-847.

[本文引用: 1]

/