人体行为识别技术

　　监控、机器人、人机交互、虚拟现实，智能家居,智能安防，运动员辅助训练等方面有

　　巨大应用价值。行为识别问题一般遵从如下基本过程：数据图像预处理，运动人体检

　　测、运动特征提取、特征训练与分类、行为识别。着重从这几方面逐一回顾了近年来

　　该研究方向上待解决的问题和未来趋势做了分析。行为理解可以简单地认为是时变数

　　据的分类问题，即将测试序列与预先标定的代表典型行为的参考序列进行匹配。通过

　　对大量行为理解研究文献的整理发现：人行为理解研究一般遵从特征提取与运动表征、

　　处丁哪种行为模型；高层行为与场景理解是结合行为发生的场景信息和相关领域知识，

　　这里所指的智能”包含两个方面的含义。一种智能”是指系统能够在一定的场景中

　　检测是否有人的出现（如通过检测人脸的方法）防止只是简单的通过运动目标检测所

　　造成的错误报警（例如因为动物活动或者刮风摇动树枝等等而造成误报）。另外一种智

　　能”是指系统能够监视一定场所中人的活动，并对其行为进行分析和识别，跟踪可疑行

　　为（如经常在重要地点徘徊等等行为）从而采取相应的报警措施。通常把报警系统设

　　置丁银行、机场、车站、码头、超市、办公大楼、住宅小区等地，以实现对这些场所

　　机之间的智能交互。此外，通过对手势语言的理解，还可以进行聋人与计算机之间的

　　杠比赛中运动员的杠上动作。这样可以节省用户大量的查询视频资料的时间和精力。

　　另外一种应用是用丁各种体育项目中，提取运动员的各项技术参数（如关节位置、角

　　度和角速度，等等），通过分析这些信息，可以为运动员的训练提供指导和建议，有

　　助丁提高运动员的训练水平。此外，还可以用丁体育舞蹈动作的分析，以及临床矫形

　　数据量对视频数据流加以描述，实现视频数据的压缩和低比特率传送。可以用丁在因

　　面的理论问题和实际应用问题，对人体这一带有关节旋转运动的非刚体目标的跟踪与

　　破，但是行为识别算法并不成熟，目前不存在一个算法适合所有的行为分类，3个视

　　觉层次中都还有很多严峻的问题有待解决。其研究的难点主要体现在以下几个方面：

　　不同的背景环境中完成，走路的速度也可以从慢到快，走路的步长亦有长有短。其它

　　的动作也有类似的结果，特别是一些非周期的运动，比如过马路时候的走路，这与平

　　时周期性的走路步伐明显不同。由此可见，动作的种类本身就很多，再加上每一种类

　　人之间，人与背景之间的相互遮挡也使计算机对动作的分类前期特征提取带来了困难，

　　目前解决多视觉和遮挡问题，有学者提出了多摄像机融合通过3维重建来处理；另外

　　这些数据是视频数据，每一个动作在视频中出现的位置和时间都不确定同时要考虑同

　　多样性和全面性。这一收集过程的工作量不小，网上已经有一些公开的数据库供大家

　　法，比如说利用网页图片搜索引擎，利用视频的字幕，以及利用电影描述的文本进行

　　分为2类，一类是有限制类别的简单规则行为，比如说走、跑、挥手、弯腰、跳等。

　　另一类是在具体的场景中特定的行为，如检测恐怖分子异常行为丢包后突然离开等。

　　股采用了运动或者轨迹。这2种行为识别的研究都还不算完善，遇到了不少问题，且

　　离高层的行为识别要求还相差很远。因此高层视觉的理解表示和识别是一个巨大的难

　　一般的运动人体行为分析主要包括一下几个流程：1）数据库建立；2）运动人体检测；

　　3）运动特征提取；4）行为理解与识别。在我们的运动人体行为分析研究中，重点研究运

　　对于不依赖先验知识的目标跟踪来讲，运动检测是实现跟踪的第一步，运动检测即为

　　从序列图像中将变化区域从背景图像中提取出来。目前,已有的运动目标检测方法按照算法

　　的基本原理可以分为三类：帧间差分法、背景减除法和光流法。三类方法各有其优缺点。

　　背景减除法是预先选取不含前景运动目标的背景图像 ，然后将当前图像帧与背景图像

　　此类算法的缺点是由于通常需要缓冲若干帧来学习背景 ，因此往往需要消耗大量的内存

　　这使其使用范围受到了限制。此外，对于大范围的背景扰动，此类算法的检测效果也不理想 。

　　Stauffer 和Grimson 提出的高斯混合模型是使用最为广泛的背景建模方法 。高斯混合模型

　　通过多个高斯分布对背景建模，每个分布对应一种背景像素的模态，从而能够适应像素层面上 的背景扰动问题，

　　并能通过对背景的不断更新，使系统能对背景的变化自适应。但是，高斯混 合模型对于全局光照变化、阴影非

　　帧间差分法的主要思想就是利用视频图像序列中连续两帧或三顿的差异来检测发生运 动的区域。Lipton

　　等人提出的用于实时视频流中运动目标检测的算法就是顿间差分的方法 [Lipton98]。顿间差分法的特点是动态

　　类算法检测出的目标轮廓非常不理想 ，在目标内部会留有许多空洞，在目标运动较快时目标的

　　基于光流的运动目标检测算法是利用光流方程计算出每个像素点的运动状态矢量 ，从而

　　发现运动的像素点，并且能够对这些像素点进行跟踪 。在摄像机运动、背景变化时，光流法也

　　能检测出运动目标，并且它能同时完成运动目标检测和跟踪 ，但是该方法的计算复杂度高 ，在

　　没有专用硬件支持的情况下很难做到实时检测 ，同时，光流场的计算ued体育官网非常容易受到噪声、光照

　　变化和背景扰动的影响。采用光流场计算的方法也很难将运动目标的轮廓完整地提取出 来。

　　在人体运动分析系统中，只对运动人体感兴趣 ,因此需要对运动目标的类型进行分析识别

　　目标分类是指从运动目标检测到的前景运动区域中提取感兴趣目标区域 。复杂场景小

　　依据运动目标的表达和相似性度量 ，运动目标跟踪算法可以分为四类 ：基于主动轮廓

　　的跟踪、基于特征的跟踪、基于区域的跟踪和基于模型的跟踪。跟踪算法的精度和鲁棒 性很大程度上取决

　　Kass 等人提出的主动轮廓模型，即Snake 模型,是在图像域内定义的可变形曲线 ,通

　　目性，对于快速运动的物体或者形变较大的情况 ,跟踪效果不够理想 2）基于特征的跟踪基于

　　变性。目标跟踪中常用的运动目标的特征主要包括颜色 纹理、边缘、块特征、光流特

　　基于二值化目标图像匹配的跟踪 基于边缘特征匹配或角点特征匹配的跟踪 基于目标

　　称为Snake 曲线。Snake 技术可以处理任意形状物体的任意形变 ，首先将分割得到的物体边 界

　　作为跟踪的初始模板，然后确定表征物体真实边界的目标函数，并通过降低目标函数值， 使初始

　　轮廓逐渐向物体的真实边界移动。基于主动轮廓跟踪的优点是不但考虑来自图像的灰

　　由于跟踪过程实际上是解的寻优过程，带来的计算量比较大，而且由于Snake 模型的盲

　　从景物的原始图像中提取图像的描绘特征 ，理想的图像特征应具备的特点是 a）特征应具有直

　　观意义，符合人们的视觉特性；b）特征应具备较好的分类能力 ，能够区分不同的图像内容；c）

　　特征计算应该相对简单，以便于快速识别；d）特征应具备图像平移、旋转、尺度变化等不

　　征、周长、面积、质心、角点等。提取对尺度伸缩、形变和亮度变化不敏感的有效特

　　行帧间目标特征的匹配，并以最优匹配来跟踪目标 。常见的基于特征匹配的跟踪算法有

　　灰度特征匹配的跟踪、基于目标颜色特征匹配的跟踪等 。基于特征的跟踪算法的优点在于

　　对运动目标的尺度、形变和亮度等变化不敏感，即使目标的某一部分被遮挡，只要还有一 部分特征可以被看到,

　　就可以完成跟踪任务；另外，这种方法与 K al man 滤波器联合使用,

　　也具有很好的跟踪效果。但是其对于图像模糊、噪声等比较敏感，图像特征的提取效果也 依赖于各种提取算子

　　基于区域的跟踪算法基本思想是 ：a）得到包含目标的模板，该模板可通过图像分割获得

　　或预先人为确定，模板通常为略大于目标的矩形 ，也可为不规则形状；b）在序列图像中，运用

　　相关算法跟踪目标。这种算法的优点在于当目标未被遮挡时 ，跟踪精度非常高、跟踪非常

　　稳定。但其缺点首先是费时，当搜索区域较大时情况尤其严重 ；其次，算法要求目标变形不

　　大，且不能有太大遮挡，否则相关精度下降会造成目标的丢失 。近年来，对基于区域的跟踪

　　方法关注较多的是如何处理模板变化时的情况 ，这种变化是由运动目标姿态变化引起的 ，如

　　基于模型的跟踪是通过一定的先验知识对所跟踪目标建立模型 ，然后通过匹配跟踪目

　　标进行模型的实时更新。对于刚体目标来说，其运动状态变换主要是平移 、旋转等，可以

　　利用该方法实现目标跟踪 。但是实际应用中跟踪的不仅仅是刚体 ，还有一大部分是非刚体，

　　目标确切的几何模型不容易得到 。这种方法不易受观测视角的影响 ，具有较强的鲁棒性，模

　　型匹配跟踪精度高，适合于机动目标的各种运动变化 ，抗干扰能力强，但由于计算分析复杂

　　运算速度慢，模型的更新较为复杂，实时性较差。准确建立运动模型是模型匹配能否成功的 关键。

　　运动目标的特征，是判断一个目标区别于另外一个目标的重要依据 。有效的运动目标

　　特征集可以准确地区分不同目标 。运动目标特征的提取是实现运动目标分类的重要步骤 。

　　目前，基于视频的运动目标分类方法已经有很多 ，主要有3 类：基于静态特征的分类，

　　基于静态信息的分类，即利用检测出来的运动区域的形状、颜色等物理特征进行目标 分类的方法。

　　Lipton 等利用离散度和面积信息对运动区域进行分类 ，区分人、车、及混乱

　　扰动，并利用时间一致性约束使分类更准确 ，把除人、车外的目标当成干扰物 ，实现简单。

　　Zang 等人利用长宽比、角点特征对运动区域进行分类 ，区分人、汽车。Rivlin、

　　Bogomolov 等利用外接椭圆的长宽比以及星形骨架等形状特征 ，区分人、动物、汽车。

　　Hu 等定义了目标轮廓上的点与几何中心的距离为 中距离”，利用中距离的离散度、最大

　　中距离与最小中距离的比值作为分类特征 ，区分人、自行车、汽车。方帅等利用最大互信

　　息获得一组可靠、独立且具辨认力的目标特征集 ，并用有向无环图的多类支持向量机进行

　　分类，区分人、汽车。Otoom 等人以角点的个数、圆的个数、离散度为分类特征，区分 机场周围的人、人群、

　　包裹、手推车，该文分类效果较差，主要是因为同一个目标角点的 个数与离摄像头远近差别很大 ，而且圆

　　基于动态特征的分类，即利用人体运动的周期性或其他与运动相关的特征进行目标分 类的方法。采用静

　　可以减少对姿势的依赖。Cutler 与Davis 对目标随着时间变化的自相关特性进行计算 ，

　　再通过时频化方法分析目标是否存在周期性的运动特征而将人识别出来 。Yang Ran 与

　　Tsaac Weiss ,基于周期性分类人和车辆，对目标较小、图像分辨率低的航空和红外图片有 比较好的分类效果。

　　Javed、Shah 等利用是否有人体周期性运动特征 、圆的个数等特征，

　　Bogomolov、Dror 等的系统是基于目标静态特征和动态运动特性相结合进行目标分 类的，采用了属于同

　　征，用支持向量机分类器进行分类 ，提高了精确度和鲁棒性。Aggarwal 等利用紧凑度值

　　以及运动方向的变化量，区分人、人群、汽车、自行车，运动方向的变化量区分度不是很 好。Li 等使用速度、

　　长宽比、离散度等特征，以 BP 神经网络作为分类器，区分交通场景 中的人、自行车，较好地对复杂场景下人、

　　一个运动目标特征往往无法识别三个以上的目标 ，或者识别的准确率不够高，一般目

　　标分类研究都是选择至少两个特征。通用特征指的是能反映所有目标特性的特征 ；属性特

　　常见的通用特征主要有面积 、长宽比、离散度、空隙率（紧凑度）等。目标面积是在像 素平面的投影面

　　摄的目标近大远小，即使是同一目标，摄像头拍摄的距离不同，面积也是不一样的，在固 定单摄像机的情况下，

　　一定的应用。长宽比即目标外接矩形的长宽比例 ，与距离摄像头远近无关，具有归一化的

　　特性，能真实反映目标的形状比例 ，是最常用的一种目标特征。离散度即运动目标周长的

　　平方与面积的比值，外形越复杂的目标，离散度越大；对于目标碎片比较多的运动目标 ，

　　由于目标的轮廓准确获取不易 ，离散度计算比较复杂并且计算的准确性无法保证 。空隙率

　　即目标外接矩形内部非目标像素点所占的比例 ，与其相反的特征就是紧凑度 。

　　人的属性特征主要有圆、人体运动周期性等。人头近似圆，从人的头顶往下的角度看 人头所在位置可以

　　角度下，圆特征不明显、人头所在位置常常无法检测到圆 。人体运动周期性特征反映的是

　　人体步态的规律性变化，周期性特征的提取对目标的观察角度有很高的要求 ，只有人体目

　　汽车的属性特征主要有运动速度、离散度变化量等。运动速度即相邻两帧的目标像素 距离与时间间隔的

　　的运动速度比较快；但是由于目标在不同的视频中所处的环境和位置不同 ，摄像头拍摄的

　　角度和距离也不同，该特征与面积特征一样，只有进行摄像机标定后，才有实际应用意 义。

　　离散度变化量反映了各个目标的变化幅度 。离散度变化量特征与离散度一样，计算比

　　较复杂并且计算的准确性无法保证 。空隙率变化量计算简单，也能反映各个目标的变化幅

　　度，并且在目标碎片比较多的情况下也能很好的提取 ，可以较好地替代离散度变化量特征

　　自行车既不是刚体，也不是非刚体，是一种介于刚体 （汽车）与非刚体（人）的目标。目

　　前很少有文献提起自行车行之有效的属性特征 ，其特征一般都是介于人、汽车之间。

　　由于实验中提取到的前景目标存在多角度 、目标含有少量影子、目标区域提取不完整

　　和目标较小等情况，采用基于形状的特征分类目标，可较好地适应这些情况。因此，我们 参赛的特征主要是基

　　目标基于形状的特征主要有目标轮廓 、面积、长宽比、离散度、质心、外接矩形等。

　　目前研究中广泛使用的目标特征主要有长宽比 P、面积信息S、离散度（区域致密性）D、

　　惯性主轴方向、Hu 不变矩等区域特征。实验在此基础上又定义了几种特征 :目标高度与目 标区域约三分之一高

　　度处宽度之比 ；目标高度与目标区域约三分之二高度处宽度之比 ；占 空比，定义为目标外接矩形内背景面积

　　长宽比特征从整体上表现目标的长宽比例 ，从下图3 可以看出，对于目标 入”和 军”来

　　人的行为理解与描述是指对人的运动模式进行分析和识别 ，并用自然语言等加以描述.

　　可以简单地认为是时变数据的分类问题 ，即将测试序列与预先标定的代表典型行为的参考

　　序列进行匹配.行为理解的关键问题是如何从学习样本中获取参考行为序列 ，并且学习和匹

　　配的行为序列能够处理在相似的运动模式类别中空间和时间尺度上轻微的特征变化 。

　　目前，已有的人体行为识别方法按照算法的基本原理可以分为三类 ：基于模板匹配、基

　　于状态空间、基于语义描述的方法。模板匹配是一种较早用在人体运动识别上的方法 ，将运

　　动图像序列转化为一个或一组静态的模板 ，通过将待识别样本的模板与已知的模板进行匹

　　配获得识别结果。在行为识别中，基于模板匹配的算法可以分为帧对帧匹配方法和融合匹 配方法。主要方法

　　有：运动能量图像 （MEI）和运动历史图像 （MHI）,基于轮廓的平均 运动形状（MMS ）和基于运动前景的

　　概率统计方法进行运动识别是把运动的每一种静态姿势定义为一个状态或者一个状态 的集合，通过网

　　主要有隐马尔科夫模型 HMM ,最大痼马尔科夫模型 （MEMM ）,条件随机场（CRF） 等。

　　模板匹配方法的优点是计算复杂度低 、操作和实现简单，但缺乏考虑运动序列中相邻

　　时序之间的动态特性，对于噪声和运动时间间隔的变化相当敏感 。状态空间方法虽然能克

　　服模板匹配的缺点，但通常涉及到复杂的迭代运算 ，算法的步骤较为复杂，难以应用到实