C60和碳纳米管以其独特的结构和新颖的特性引起了人们广泛的关注。它们在场发射、传感器、复合增强材料、储氢材料等众多领域展现出的广泛的应用前景，激发了人们对纳米笼和纳米管的研究热情。 本文基于密度泛函理论，对3d过渡金属原子和贵金属Au原子掺杂的硅团簇的结构演化和电子性质进行了分析；预测了新的金纳米管、硼纳米管的结构稳定性和电子结构。 纯硅团簇由于其化学键的特性，不能形成碳团簇那样稳定的笼状结构。众多的实验和理论研究都表明，掺杂一些寄宿原子可以稳定硅的笼状结构。本文系统研究了3d过渡金属原子对硅笼状结构稳定性和电子特性的影响，发现了笼状Si15和Si16团簇的理想宿主----Ti元素；计算结果表明，Ti@Si15和Ti@Si16团簇均具有较高的结构稳定性和较好的化学稳定性。 基于密度泛函理论对内包金属Si20富勒烯的稳定结构进行了广泛搜索，发现了一个迄今为止最为稳定、Ih对称性的中性Eu@Si20富勒烯；在Eu@Si20中，中心Eu原子具有较大的自旋磁矩；以Ih-Eu@Si20为结构单元构造了一类能稳定存在的项链状准一维链，计算结果表明，该链具有半导体特性，中心Eu原子仍具有较大的自旋磁矩。 对过渡金属Ni原子和贵金属Au原子掺杂的硅小团簇，NiSin(n=1-14)和AuSin(n=1-16)的基态结构随尺寸的演化进行了计算。计算结果显示：当团簇原子数目较小时，不论Ni原子还是Au原子都倾向于占据表面格点的位置；随着团簇原子数目的增加，当n=9时Ni原子开始占据中心格点的位置，而当n=12时，形成内包Au原子的硅笼状结构Au@Si12；进一步分析表明，Ni原子的加入增强了硅团簇的稳定性，而Au原子的加入没有明显地改善硅团簇的稳定性；键能的二阶差分和HOMO-LUMO能隙表明，Au@Si12是幻数团簇，其基态结构具有较高的结构稳定性和较好的化学活性：以Au@Si12团簇为结构单元得到了一类稳定的Au-Cored硅纳米管，计算结果显示，这类内包金线硅纳米管具有较小的能隙和良好的电子传输特性。 论文基于稳定的二十面体Au32富勒烯和由Au(111)面卷曲而成的(5，5)金纳米管，构建了一类新的中空金纳米管状结构Aun(n=37，42，47，52，…，△n=5)；采用密度泛函理论，对该类中空金纳米管的结构稳定性和电子性质进行了广泛的探索，研究发现Au37、Au42、Au47纳米管状结构具有较高的结构稳定性；首次预言了42个金原子组成的大的、中空纳米管结构是具有比密积结构更强稳定性的基态结构。 基于Yakobson等人对B80富勒烯笼稳定结构的理论预测，构建了两类新的、稳定的金属性的硼片结构，进而得到两类新的稳定的硼纳米管，计算结果表明：在我们的研究范围内除第一类(4，0)超细硼纳米管表现出半导体特性并伴随有0.441 eV的直接带隙以外，其它硼纳米管均表现出金属性。 硼掺杂过渡金属晶态和非晶态合金表现出优异的铁磁性能和良好的抗氧化、耐腐蚀、耐磨损等性能，成为理想的磁记录介质和薄膜磁头候选材料。本文对硼掺杂过渡金属铁、钴、镍混合团簇的电子结构和性能进行了系统的分析研究，找到了FenB、ConB、NinB(n=1-12，14，18)体系的最稳定几何构型，计算结果表明B原子的掺入大大提高了过渡金属团簇的稳定性，改变了团簇的磁特性。在我们的研究范围内，B原子的加入未能明显地改善过渡金属团簇的自旋磁矩；NinB混合团簇的自旋磁矩在n=5-13的范围内存在一个由量子限制效应引起的平台。