脑神经网络研究有助于我们理解脑的工作原理,研究脑疾病致病机理和诊治方法;同时脑神经网络研究可以启发人工智能研究。脑神经网络由一群神经元组成,量化神经元的拓扑结构和几何特征,即追踪神经元是研究脑神经网络的重要步骤。随着生物标记和成像技术的发展,我们能够获取大量全脑神经图像。该类型图像包含多个神经元组成的神经元群落,能够提供丰富的神经元信息。进行神经元群落追踪,获取神经元形态数据,对于脑神经网络研究有重要意义。近年来发展的神经元自动追踪工具能成功获取神经纤维形态,但难以建立神经纤维到神经元的分配关系,不能分割出神经元独立个体,因而无法应用于神经元群落追踪;少量商业软件支持半自动全脑神经元群落追踪,但人工工作量极大。因此发展全脑尺度神经元群落追踪工具是迫切的需求。神经元群落追踪面临的困难有:(1)受密集神经纤维信号干扰,难以正确计算神经纤维到神经元的分配关系,从而难以分割出神经元独立个体;(2)缺少可用于TB量级全脑神经元群落图像的大数据分析框架;(3)由于神经元具有树型结构,神经元分支上小的追踪错误会导致该分支所有下级神经元分支发生追踪错误,急剧降低全脑范围追踪结果正确度;(4)全脑神经元追踪结果分布在TB量级神经图像中,查找错误犹如大海捞针。针对上述困难,本文发展分割神经元群落的关键方法,并在该方法基础上建立全脑神经元群落追踪框架,研制出初步的全脑神经元群落追踪工具。1)本文在实验室已有的神经元形态数据基础上,建立局部密集神经元群落分割方法,解决困难一。该方法包括自动神经元群落树分割方法和基于选择性显示策略的监督校订方法。自动神经元群落树分割方法通过计算神经纤维之间的连接关系,自动判定神经纤维到神经元的分配归属,从密集神经元群落中分割出神经元独立个体。基于选择性显示的监督校订方法针对追踪人员难以观察密集神经元群落并进行校订的问题,构建神经元树型数据结构并建立选择性显示机制,使得密集神经元群落监督校订成为可能。2)本文研制全脑尺度神经元群落追踪工具GTree,在局部密集神经元群落追踪基础上建立了一套全脑神经元群落追踪方案,能够获取神经元群落高准确度追踪结果,解决困难二、三和四。GTree(1)支持GHD和TDat两种大数据框架,具备对10GB~TB量级图像的处理能力;(2)实现了海量神经图像自动分块、追踪、融合和实时人工修订系列追踪方案;(3)能够对上一步追踪结果进行高速遍历校订,然后进行多神经元追踪结果实时整合,有效解决神经元分支错误导致下属分支追踪正确度急剧下降的问题。本文建立的神经元群落追踪软件GTree达到了较好的性能指标。GTree追踪局部神经元群落准确度高于商业追踪软件;GTree基本实现了全脑尺度神经元群落的追踪。以信号积分线扫描快速荧光显微切片成像系统获取的全脑神经元群落图像为例,每个神经元的追踪时间约10小时,平均每小时追踪0.6厘米,比商业追踪软件快5倍。GTree工具有一定的普适性,已经初步应用于现有的大体积神经成像技术,包括双光子荧光显微切片断层成像技术、信号积分线扫描快速荧光显微切片成像系统、序列双光子断层成像系统和光片荧光显微系统等生成的神经图像。GTree已经初步在武汉光电国家研究中心生物医学功能实验室、华中科技大学同济医学院基础医学院韩芸耘研究小组、冷泉港实验室Osten研究小组等研究小组试用。本文建立的神经元群落追踪方法和GTree工具在全脑神经元群落追踪领域有一定优势,有望在脑神经网络研究中发挥较为重要的作用。