基于EEG脑网络下肢动作视觉想象识别研究
1.
2.
3.
4.
Identification of visual imagery of movements involving the lower limbs based on EEG network
1.
2.
3.
4.
通讯作者:
收稿日期: 2020-03-06 网络出版日期: 2020-08-05
基金资助: |
|
Received: 2020-03-06 Online: 2020-08-05
关键词:
Keywords:
本文引用格式
李昭阳, 龚安民, 伏云发.
Li Zhaoyang, Gong Anmin, Fu Yunfa.
脑⁃机接口(Brain⁃Computer Interface,BCI)是一种变革性的人机交互方式,旨在绕过大脑外周神经和肌肉实现大脑与外部世界的直接通信与控制,可望为严重运动残疾患者或健康人群在特定情况下提供可选的、新的通信或控制方法.
基于想象(based on imagery)的BCI是一类重要的BCI[1],不仅可以控制轮椅来提高下肢严重运动障碍患者的移动性,还可以训练运动障碍患者,在一定程度上康复其运动功能.BCI中传统的想象任务是运动想象(Motor Imagery,MI)[2],要求被试以第一人称视角想象移动自己身体的某一部位或几个部位协调运动[3].这种动觉想象(Kinesthetic Motor Imagery,KMI)任务有一定难度,需要一定量的训练,甚至存在运动想象盲[4-5],因为被试在日常生活中习惯了自然的实际运动(即公开的或显示的运动),不习惯在心里体验实际运动过程但又要阻止运动发生的隐蔽的想象运动.大约有20%的被试无法对MI或KMI进行有效的心理想象[6],MI可能不是控制BCI的最佳心理任务[2].与MI相比,视觉想象(Visual Imagery,VI)是另一种较容易完成的心理想象任务,要求被试以第三人称视角在大脑中清晰地看到一幅画面.由于被试在日常生活中经常遇到该种心理想象活动,例如想象或回忆自己父母的形象、想象某个情景、想象某个运动画面等,所以VI通常不需要训练,或仅需要少量训练.然而,对基于VI这种心理活动的BCI(VI⁃BCI)的研究较少,目前尚处于起步阶段,其性能需要进一步提高.
与MI⁃BCI中的MI任务相比,VI⁃BCI中的VI任务比较广泛,可以是日常生活中的任意一幅画面或情景.如Kosmyna et al[2]选择花和锤子作为视觉想象任务,Neuper et al[7]选择被试以第三人称视角想象自己手部运动作为VI任务,Koizumi et al[8]选择无人机在三个平面(上/下,左/右,前/后)上的运动为VI任务,Sousa et al[9]选择静态点、垂直上下两个方向运动的动态点及上下左右四个方向运动的动态点为VI任务,Yamanoi[10]选择机器人的十种不同动作为VI任务,Azmy and Safri[11]选择想象顺时针旋转一颗星作为VI任务.与上述研究不同,为探索下肢运动障碍康复方法,本研究设计视觉想象抬腿动作与视觉想象落腿动作作为心理活动驱动BCI.下肢的抬腿和落腿动作想象训练有可能引起脑功能网络的可塑性,有利于下肢运动障碍的康复,为此,有必要研究基于下肢运动VI的BCI,该类BCI可望用于下肢运动障碍患者的康复训练.
1 材料和方法
1.1 被试、视觉想象任务、一个试次的时序与过程及实验设置
1.1.1 被 试
1.1.2 视觉想象任务
图1
图1
本研究采用的两种VI任务:(a)视觉想象抬腿动作;(b)视觉想象落腿动作
Fig.1
Two visual imagery tasks used in this study: visually imagining lifting up one's leg (a) and visually imagining putting down one's leg (b)
正式实验前,对被试进行了抬腿和落腿的视觉运动想象训练,训练方法如下:首先观察抬腿动作或落腿动作,然后要求被试以第三人称视角在大脑中清晰地看到抬腿动作或落腿动作.
1.1.3 一个试次的时序与过程
一个试次的时序如图2所示:t=0 s时进入基线状态,要求被试清醒放松,持续时间3 s;t=3 s时屏幕上随机呈现抬腿或落腿的动态图片,要求被试观察并记忆该图片,持续时间3 s;t=6 s时提示图片消失,屏幕为黑屏,要求被试想象刚才提示的图片,持续时间3 s;t=9 s时屏幕上呈现“休息”,持续时间5 s;休息结束,开始下一个trail.每个被试执行200个trails,每个任务各100个trails.
图2
实验结束后,通过问卷调查被试执行下肢抬腿和落腿动作视觉想象任务的情况(优、良、中、差)和任务难易程度(非常难、较难、难、易、较容易、非常容易),该问卷调查结果可作为数据分析和实验范式设计改进的参考.
1.1.4 实验设置
采集脑电的设备为新拓NT9200(北京中科新拓仪器有限责任公司).电极帽为32通道(根据国际10⁃20系统),接地电极为FPz,参考电极为A1和A2,电极阻抗保持在5 kΩ以下.采样率1000 Hz,带通滤波在0.1 Hz和100 Hz,并采用50 Hz陷波滤波器以避免线电污染.采集Fp1,Fp2,F7,F3,Fz,F4,F8,FT7,FC3,FCz,FC4,FT8,T7,C3,Cz,C4,T8,TP7,TP8,CP3,CP4,CPz,P7,P3,Pz,P4,P8,PO7,PO8,O1,O2和Oz通道的数据.
1.2 数据预处理
首先对脑电信号进行基线漂移校正,消除脑电信号中的直流分量(相对于基线的偏离);然后用椭圆滤波器进行8~12 Hz的数字带通滤波;最后用独立成分分析(Independent Component Analysis,ICA)移除眼动伪迹、心电伪迹以及肌电伪迹等.
1.3 基于EEG的脑网络计算
1.3.1 节点的定义
对于EEG信号,选取电极导联为节点.本研究采集EEG信号的电极导联为32导,因此选取这32个电极导联作为节点.
1.3.2 边的度量
脑网络节点之间的关联系数称为边.本研究采用互信息计算关联系数并构建脑功能网络.
互信息是衡量两个随机变量中一个变量携带另一个变量的测度,其值越大,表明两个信号越相关.假设一个随机系统可以用一个离散随机变量X来建模,那么这个随机系统总体信息量可以用信息熵H(X)来表示,如
其中,
类似的,对于两个随机变量
其中,p(x,y)为事件
1.3.3 阈值的选取
1.3.4 图论分析
为了更加详细地分析脑功能网络的连通性,选取五种网络属性(节点度、聚类系数、特征路径长度、全局效率和局部效率)对两类任务进行对比分析.节点度(degree)是对节点互相连接统计特性最重要的描述,定义为与节点直接相连的边数.对于一个节点,节点的度等于与这个节点相连接的边的总数或者权重之和.计算如
其中,
聚类系数(clustering coefficient)表示某一节点的邻居间互为邻居的可能.节点的聚类系数值等于该节点邻居间实际连接的边的数目(
其中,
网络中所有节点聚类系数的平均值为网络的集群系数,计算如
其中,
特征路径长度是测量网络功能整合能力的指标之一,特征路径长度数值越小表示网络的功能整合能力越强.一个网络的特征路径长度如
其中,
通常最短特征路径长度要在某一个连通图中进行运算,如果网络中存在不连通的节点会导致这两个节点间的最短路径长度值为无穷,因此提出了全局效率(global efficiency)的概念.最短路径长度和全局效率度量了网络的全局传输能力.最短路径长度越短,网络的全局效率越高,网络节点间传递信息的速率就越快.全局效率的计算如
局部效率
其中,
1.4 支持向量机
支持向量机(Support Vector Machine,SVM)是一种分类算法,它通过寻求结构风险最小来提高学习机泛化能力,实现经验风险和置信范围最小化,从而达到在统计样本量较少时也能获得良好统计规律的目的[20].
SVM算法的核心在于[21]:(1)在线性可分的情况下,利用间隔最大化的学习策略寻求一个间隔最大的超平面;(2)在线性不可分的情况下,通过核函数将低维的特征向量映射到高维来寻求线性可分.本研究采集的脑电信号正是小样本且是非线性的,因此选用SVM分类器.
本研究对32通道的脑电数据进行分析,把200个trials视觉想象数据划分为100个训练数据和100个测试数据,包括训练样本和测试样本的标签.首先用训练样本和标签训练模型,然后再用模型对测试样本进行标签预测,最后把预测标签与真实的标签进行对比,得到分类的准确率.
2 实验结果
表1呈现了两种VI任务脑电数据在每个频段的t检验值,显著性水平设为P<0.05.可以看到,15个被试数据的显著差异出现在alpha频带,四个被试数据在delta频带出现显著差异,三个被试数据在theta频带出现显著差异,在beta和gamma频带各有一个被试数据出现显著差异.因此,本研究的数字带通滤波选择alpha频段.
表1 两种VI任务脑电数据在每个频段的t检验值
Table 1
被试 | delta | theta | alpha | beta | gamma |
---|---|---|---|---|---|
1 | 0.057 | 0.623 | 0.001*** | 0.065 | 0.084 |
2 | 0.124 | 0.386 | 0.001*** | 0.072 | 0.245 |
3 | 0.172 | 0.045* | 0.023* | 0.469 | 0.190 |
4 | 0.579 | 0.452 | 0.008** | 0.754 | 0.312 |
5 | 0.422 | 0.325 | 0.653 | 0.164 | 0.270 |
6 | 0.026* | 0.830 | 0.035* | 0.226 | 0.459 |
7 | 0.376 | 0.962 | 0.274 | 0.395 | 0.731 |
8 | 0.076 | 0.631 | 0.038* | 0.339 | 0.126 |
9 | 0.082 | 0.231 | 0.000*** | 0.421 | 0.235 |
10 | 0.137 | 0.032* | 0.019* | 0.014* | 0.538 |
11 | 0.047* | 0.292 | 0.049* | 0.735 | 0.027* |
12 | 0.391 | 0.053 | 0.023* | 0.619 | 0.721 |
13 | 0.010* | 0.007** | 0.044* | 0.374 | 0.731 |
14 | 0.294 | 0.337 | 0.010* | 0.538 | 0.077 |
15 | 0.059 | 0.391 | 0.007** | 0.225 | 0.648 |
16 | 0.471 | 0.777 | 0.022* | 0.420 | 0.827 |
17 | 0.024* | 0.309 | 0.091 | 0.661 | 0.421 |
18 | 0.374 | 0.073 | 0.009** | 0.142 | 0.520 |
图3
图3
基于互信息抬腿和落腿动作视觉想象脑电数据的总平均邻接矩阵:(a)基于互信息抬腿动作视觉想象脑电数据的总平均邻接矩阵;(b)基于互信息落腿动作视觉想象脑电数据的总平均邻接矩阵
Fig.3
Total average adjacency matrix of EEG datas based on mutual information during visually imagining lifting up and putting down one's leg: (a) total average adjacency matrix of EEG datas based on mutual information during visually imagining lifting up one's leg,(b) total average adjacency matrix of EEG datas based on mutual information during visually imagining putting down one's leg
表2呈现了基于互信息网络的视觉想象抬腿和落腿动作网络属性特征t检验值.可以看出,这两类VI任务在节点度、聚类系数和特征路径长度上存在较明显的差异,在全局效率和局部效率存在的差异不大.
表2 基于互信息网络视觉想象抬腿和落腿动作网络属性特征t检验值
Table 2
VI任务 | 节点度 | 聚类 系数 | 特征路径长度 | 全局 效率 | 局部 效率 |
---|---|---|---|---|---|
抬腿动作 | 0.00874 | 0.01310 | 0.03460 | 0.43394 | 0.3740 |
落腿动作 | 0.00351 | 0.04210 | 0.04710 | 0.67452 | 0.7160 |
图4
图4
基于互信息的视觉想象抬腿与落腿动作脑功能网络:(a)基于互信息视觉想象抬腿动作脑功能网络;(b)基于互信息视觉想象落腿动作脑功能网络
Fig.4
Brain function network based on mutual informationduring visually imagining lifting up and putting down one's leg: (a) brain function network based on mutual informationduring visually imagining lifting up one's leg,(b) brain function network based on mutual informationduring visually imaginingputting down one's leg
图5是用互信息构建脑功能网络提取的网络属性特征的平均分类精度.
图5
图5
采用互信息构建脑功能网络提取的网络属性特征的平均分类精度
Fig.5
Average classification accuracy of network⁃attribute features extracted with the brain function network constructed by mutual information
用互信息构建脑功能网络提取的网络属性特征节点度、聚类系数、特征路径长度、全局效率和局部效率的平均分类精度为82.04%±4.31%,75.13%±5.73%,77.63%±5.81%,65.61%±6.54%,62.24%±3.63%.
图6是用互信息构建脑功能网络提取不同维度邻接矩阵的平均分类精度.将得到的邻接矩阵通过空间滤波器CSP,分别提取邻接矩阵的2,4,6,8和10维空间特征集,最后利用SVM进行分类.采用互信息构建脑功能网络提取不同维度邻接矩阵的平均分类精度分别为84.87%±6.71%,86.89%±7.40%,88.82%
图6
图6
采用互信息构建脑功能网络提取不同维度邻接矩阵的平均分类精度
Fig.6
Average classification accuracy of the adjacency matrix with different dimensions extracted with the brain network constructed by mutual information
5.43%,82.41%±5.89%.
图7是用互信息构建脑功能网络提取的网络属性与邻接矩阵组合特征的平均分类精度.特征1、特征2、特征3、特征4和特征5分别表示节点度+邻接矩阵、聚类系数+邻接矩阵、特征路径长度+邻接矩阵、全局效率+邻接矩阵、局部效率+邻接矩阵.采用互信息构建脑功能网络提取的网络属性与邻接矩阵组合特征节点度、聚类系数、特征路径长度、全局效率和局部效率的平均分类精度为87.12%±4.32%,81.83%±6.41%,83.27%±5.93%,77.18%±7.29%,72.41%±5.69%.
图7
图7
采用互信息构建脑功能网络提取的网络属性与邻接矩阵组合特征的平均分类精度
Fig.7
Average classification accuracy of the combination features of network⁃attribute and adjacency matrix extracted with the brain function network constructed by mutual information
3 讨 论
与MI任务的识别相比,VI任务的识别难度较大,需要探索有效的特征提取方法.已有VI⁃BCI研究取得了一定的进展,但采用的分类特征有限,分类精度不高.Kosmyna et al[2]对视觉想象花和锤子两类任务相关的脑电信号提取功率谱特征并采用功率谱加权共空间模式(Spectrally Weithted Common Spatial Patterns,SpecCSP)进行分类,但分类精度不高(52%).Neuper et al[7]对被试视觉想象自己手部运动和静息状态两类任务相关的脑电信号提取频带特征并采用差异敏感学习矢量量化(Distinction Sensitive Learning Vector Quantization,DSLVQ)方法进行分类,平均分类精度也不高(56%).Koizumi et al[8]对三类VI任务相关的脑电信号提取了频段的功率谱密度(Power spectral density ,PSD)特征并采用SVM进行分类,平均分类精度为84.6%.Sousa et al[9]对三类VI任务相关的脑电信号提取功率谱能量特征并采用SVM进行分类,平均分类精度为87.64%.Yamanoi[10]对机器人十种不同动作VI任务相关的脑电信号以25 ms的间隔,在400~900 ms的潜伏期对脑电数据进行采样的采样点作为特征向量,并采用jack knife判别分析进行分类,平均分类精度为89.92%.
有别于上述已有VI⁃BCI研究采用的功率谱[2,9,11]和频带[7-8]特征提取方法,本研究采用EEG互信息构建脑网络,计算脑网络属性和邻接矩阵作为特征来识别下肢运动视觉想象.脑网络特征已用于MI⁃BCI[25-30],取得一定的分类精度,但尚没有用于VI⁃BCI验证其有效性.本实验分别采用脑网络的属性特征、不同维度邻接矩阵空间特征和网络属性与邻接矩阵融合特征作为特征向量,利用SVM对抬腿和落腿动作的视觉想象诱发的EEG信号进行分类.从脑网络分析(图4)可以看出,脑功能连接主要发生在右前额,这应该是由于视觉想象和潜意识有关,并且是本能的行为,而本能和潜意识的行为主要激发右前额网络,所以在大脑右前额的连接比较多.比较表2的结果,基于相干和互信息构建脑网络在节点度、聚类系数和特征路径长度上存在较显著差异,在全局效率和局部效率存在的差异不大.比较图5的结果,图5中基于互信息构建脑网络提取节点度特征的分类精度最高(82.04%),局部效率作为特征向量的分类精度最低(62.24%),表明基于互信息构建脑网络提取的节点度可以作为识别下肢动作视觉想象的有效特征(分类精度可达82.04%),也表明在选择网络属性作为特征的时候需要寻找最优属性.
进一步比较图6与图7的结果,图6中基于互信息构建脑网络提取的8维邻接矩阵空间特征的平均分类精度最高(90.12%),10维邻接矩阵空间特征的平均分类精度最低(82.41%).这些结果表明基于互信息构建脑网络提取的邻接矩阵可以作为识别下肢动作视觉想象的有效特征(分类精度可达90.12%),也表明在选择邻接矩阵作为特征的时候需要寻找最优维度.图7中基于互信息构建脑网络提取节点度+邻接矩阵特征的分类精度最高(87.12%),局部效率+邻接矩阵作为特征向量的分类精度最低(72.41%).由图5、图6和图7比较可知,总体看来,采用不同维度邻接矩阵作为特征的分类结果优于网络属性与邻接矩阵组合特征的分类结果,更优于网络属性特征的分类结果,推测可能是由于邻接矩阵特征更能表征抬腿和落腿动作的视觉想象心理活动.
表3给出了VI⁃BCI研究中VI任务(范式)、特征提取方法、分类方法及分类精度.本研究对视觉想象抬腿和落腿动作的平均分类精度与Kosmyna et al[2]对视觉想象花和锤子和Neuper et al[7]对视觉想象自己手部运动和静息态的平均分类精度相比,网络属性特征、不同维度邻接矩阵特征和网络属性与邻接矩阵组合特征取得的分类结果均高于他们的分类结果,然而这些研究的特征提取和分类方法各不相同.本研究的平均分类精度与Koizumi et al[8]对视觉想象无人机在三个平面(上/下,左/右,前/后)中运动的三类任务的平均分类精度相比,网络属性特征取得的分类结果均低于Koizumi et al[8]的结果,而节点度+邻接矩阵组合特征、二维、四维、六维、八维互信息邻接矩阵作为特征向量取得的分类结果要高于Koizumi et al[8]的结果.与Sousa et al[9]对视觉想象静态点、垂直上下两个方向运动的动态点以及上下左右四个方向运动的动态点的三类VI任务的平均分类精度相比,网络属性特征与网络属性与邻接矩阵组合特征取得的分类结果均低于Sousa et al[9]的结果,六维、八维互信息邻接矩阵作为特征向量取得的分类结果要高于Sousa et al[9]的结果.与Yamanoi[10]对视觉想象机器人十种不同动作的平均分类精度相比,网络属性特征与网络属性与邻接矩阵组合特征取得的分类结果均低于Yamanoi[10]的结果,八维互信息邻接矩阵作为特征向量取得的分类结果要高于Yamanoi[10]的结果.本研究和文献[8-10]的研究结果相比,分类精度有所提高.然而,这些研究的特征提取方法不同.
表3 VI⁃BCI研究中VI任务(范式)、特征提取方法、分类方法及分类精度
Table 3
作者 | VI任务 | 特征提取方法 | 分类方法 | 分类精度 |
---|---|---|---|---|
Kosmyna et al[2] | 视觉想象花和锤子 | 功率谱特征 | 功率谱加权共空间模式 | 52% |
Neuper et al[7] | 视觉想象自己手部的运动和静息态 | 频带特征 | 差异敏感学习矢量量化 | 56% |
Koizumi et al[8] | 视觉想象无人机在三个平面(上/下,左/右,前/后)中运动 | 频段的功率谱密度特征 | SVM | 84.6% |
Sousa et al[9] | 视觉想象静态点、垂直上下两个方向运动的动态点以及上下左右四个方向运动的动态点 | 功率谱能量特征 | SVM | 87.64% |
Yamanoi[10] | 视觉想象机器人十种不同动作 | 以25 ms的间隔,在400~900 ms的潜伏期对脑电数据进行采样的采样点 | jack knife判别分析 | 89.92% |
本研究 | 视觉想象抬腿和落腿动作 | 互信息脑网络特征 | SVM | 90.12% |
4 结 论
本文尝试探索下肢运动功能障碍康复训练方法,提出了下肢抬腿和落腿动作视觉想象范式,进而基于EEG互信息邻接矩阵空间特征、网络属性特征以及网络属性与邻接矩阵组合特征识别下肢动作视觉想象.结果表明基于EEG互信息邻接矩阵空间特征是识别所设计的VI任务的有效特征,八维互信息邻接矩阵构建的空间特征的平均分类精度为90.12%
未来的研究工作:(1)构建在线下肢运动VI⁃BCI验证本研究提出的方法,并通过视觉神经反馈训练被试的运动VI能力;(2)进一步完善VI⁃BCI实验范式,可以考虑增加空闲状态或新的VI任务.
参考文献
Motor imagery and direct brain–computer communication
,
Attending to visual stimuli versus performing visual imagery as a control strategy for EEG⁃based brain⁃computer interfaces
,
Quadcopter control in three⁃dimensional space using a noninvasive motor imagery⁃based brain⁃computer interface
,
Neuro⁃physiological predictor of SMR⁃based BCI performance
,
Imagery of motor actions:differential effects of kinesthetic and visual⁃motor mode of imagery in single⁃trial EEG
,
Development of a cognitive brain⁃machine interface based on a visual imagery method
∥.
Pure visual imagery as a potential approach to achieve three classes of control for implementation of BCI in non⁃motor disorders
,
Elucidation of Brain Activities by Electroencephalograms and its Application to Brain Computer Interface
∥.
EEG Based BCI using visual imagery task for robot control
,
The kinesthetic and visual imagery questionnaire (KVIQ) for assessing motor imagery in persons with physical disabilities:a reliability and construct validity study
,
Vividness of visual imagery depends on the neural overlap with perception in Visual areas
,
Accelerated small⁃world property of structural brain networks in preterm infants at term⁃equivalent age
,
Small⁃world properties of the whole⁃brain functional networks in patients with obstructive sleep apnea‐hypopnea syndrome
,
Graph theory approaches to functional network organization in brain disorders:a critique for a brave new small⁃world
,
脑功能网络的fMRI特征提取及脑部疾病机器识别
.,
FMRI feature extraction and identification of brain diseases based on the brain function network
基于运动想象辅助的下肢康复系统
,
Lower limb rehabilitation control system based on motion imaging assistance
运动想象疗法在脑卒中患者上肢康复中的应用及其神经作用机制研究进展
.,
The application of motor imagery therapy in upper limb rehabilitation of stroke patients and the research progress of its neural mechanism
步态运动想象疗法对脑卒中偏瘫患者步行功能的影响
.,
Effect of gait imagery therapy on walking function in hemiplegic patients after stroke
Visual imagery:the past and future as seen by patients with Alzheimer's disease
,
Strategic visual imagery and automatic priming effects in pop⁃out visual search
,
Brain activation profiles during kinesthetic and visual imagery:an fMRI study
,
The neural correlates of visual imagery vividness:an fMRI study and literature review
,
Spontaneous ocular positioning during visual imagery in patients with hemianopia and/or hemineglect
,
Direct and generative retrieval of autobiographical memories:The roles of visual imagery and executive processes
,
Imitation and matching of meaningless gestures:distinct involvement from motor and visual imagery
,
/
〈 | 〉 |