有机小分子荧光探针由于其灵敏度高、选择性好、响应速度快等优点,已成为生物样品中活体成像和小分子检测的重要工具。选择现有的或设计全新的荧光团,结合特定的识别基团,构建新型有机小分子荧光探针是目前该领域的主要研究方向之一。本文的研究工作主要分为以下两个方面:(1)设计合成了一种水溶性近红外(NIR)荧光探针MTR-C,该探针具有类半菁结构,以丙烯酸酯作为识别基团,通过巯基亲核取代反应,实现了对半胱氨酸(Cys)的“off-on”荧光响应。该探针具有良好的光谱性能,最大发射波长720 nm,对Cys的检出限为0.20μmol/L。系统的考察了探针的光谱特性、选择性和抗干扰性能。通过密度泛函理论(DFT)计算,阐明了探针的发光机理。此外,该探针还成功应用于人血清中游离Cys的检测和活体细胞中内源性Cys的近红外成像。(2)设计合成了四种羟基氧杂蒽-半花菁类近红外荧光团(CyR、MOR、MTR、EQR),对其光谱性质进行了研究。四种荧光探针受光激发后均能发射出近红外光,量子产率依次为0.16、0.08、0.15、0.28。在含有1%DMSO的磷酸盐缓冲溶液(PBS,pH 7.4)中依然表现出了较好的发射光谱,为今后活体系统的应用带来了可能。使用DFT和含时DFT(TDDFT)方法,结合前线轨道、静电势、电子-空穴等分析方法研究了荧光团的光物理性质。结果表明,EQR的共轭效应最强,分子的平面刚性CyR、MTR、MOR依次减弱;荧光团中的二甲基、S和O原子,对于降低HOMO和LUMO能级能隙的贡献依次减弱;分子内喹啉环的拉电子能力最强,苯并噻唑大于苯并噁唑,双甲基的苯并吲哚拉电子能力最弱;最大吸收光谱的电子跃迁主要归属于局域激发(LE)跃迁;发射光谱的电子-空穴间质心距离都有所增加,电荷转移(CT)跃迁的趋势增大,但仍属于LE跃迁。