视频目标跟踪是计算机视觉领域的核心问题，在民用和军事上都具有广泛地应用。尽管人们已经提出了许多有效的视频目标跟踪算法，但是在实际应用中视频目标跟踪仍然面临许多困难，如光照变化、目标姿态的改变、非线性形变以及背景中的噪声和干扰等，因此设计鲁棒的视频目标跟踪算法仍然是一项具有挑战性的任务。本文在粒子滤波框架内，从视频跟踪算法的两个主要方面，即目标表观设计和似然度设计，开展了深入的研究，并针对视频目标跟踪中的难点问题，提出了一些有效的新算法。本文的主要研究成果如下：1．提出了一种基于非负最小二乘估计的视觉目标跟踪算法。该算法从新的视角看待经典模板匹配算法。模板用其在由多个采样粒子对应的特征向量张成的空间上的线性投影来近似。系数施加非负性约束，它反映了评估模板和候选粒子的相似程度，可用于粒子权重的定义。实验结果表明所提算法具有更好的跟踪精度，并对噪声具有更强的鲁棒性。2．提出了一种基于局部约束最小二乘估计的视觉目标跟踪算法。该算法给出目标拓扑结构的一种描述方法，该描述充分探讨了目标块信息之间的关系，给出新的目标表观表示，这有助于处理目标遮挡及背景杂波干扰问题。然后基于巴氏系数给出观测似然模型。实验结果表明该算法具有更好的跟踪精度，并能适应目标的尺度变化。3．提出了基于l2范数正则化最小二乘估计的视频目标跟踪算法。模板和候选区域的特征在一组字典基上的表示系数通过具有l2范数正则化的最小二乘估计得到，该估计具有解析解，计算量小。而且后者在建模中引进先验知识，以增加算法对遮挡、光照、杂波、姿态变化等的鲁棒性。字典中引进的平凡模板可解释噪声。相似度度量是基于模板和候选区域特征的表示系数的欧式距离定义的，这进一步提高了算法的区分能力。4．提出了一种基于子空间的多任务稀疏学习和Grassmann更新的增量型视频目标跟踪算法。该算法基于子空间表示给出多任务稀疏学习模型，它能有效解决背景或异常对目标表观表示的影响。在跟踪目标时，采用定义在仿射群Aff (2)上的粒子滤波算法，状态模型为一阶自回归过程，这为目标搜索提供了有效机制。观测似然度基于重构残差的l1范数，并引进对偶元以解释遮挡。子空间更新看作Grassmann流行上的优化问题，梯度下降法中步长的选取非常重要，文中给出步长自适应策略。所采用的目标更新策略能适应目标表观缓慢或快速的变化，有效避免了跟踪模型的漂移问题，显著提高了跟踪算法的准确度和鲁棒性。