纳米材料是一种尺寸在纳米尺度的新材料，它的发展日益影响着现代科学技术的发展，并对人们的日常生活产生了巨大的影响。其中，从石墨烯被成功制备出来以来，具有原子级别厚度的二维材料引起了科学界广泛的研究兴趣。很多二维材料都具和其体态材料迥然不同的性质，完全需要当成一种新的材料进行研究。因此，研究具有新物性的二维材料来拓展其在未来高科技领域的应用是一个非常重要的研究课题。　　对于石墨烯的研究已经有十几年的时间，石墨烯有着非常丰富的应用前景，但是它的零能隙特征使得其在纳米电子学上的应用受到了限制。目前，一类新的二维材料-第五主族单层材料(Vene)，由于其很高的载流子迁移率和随层数改变的能隙而受到了实验和理论的关注。这类材料中有很多种不同的结构，而最稳定的结构是Puckered相和Buckled相。本文基于密度泛函理论的第一性原理计算，系统研究了第五主族单层材料的纳米条带边界稳定性问题，得到了如下的研究结果:　　一、Puckered相Zigzag纳米条带(ZVNRs)的电子结构特征表明它满足Peierls不稳定性。而去除Peierls不稳定性的机制是形成电荷密度波(CDW)或是自旋密度波(SDW)。我们分别建立了体系的SDW和CDW构型，经过比较体系总能我们得出体系的基态是SDW。对于SDW，计算结果表明其磁有序强度不随宽度改变，并且体系的SDW转变温度可以高达2000K，这远高于传统的SDW材料。通过对SDW进行稳定性研究，我们发现应力和电荷掺杂都会抑制SDW，同时伴随着退局域化，这表明这类材料可以用于电子学或是传感器材料。而如果边界原子部分吸附H原子，可以使得体系由Mott绝缘体转变到Anderson绝缘体。类比有机超导体的研究结果，我们提出这一类材料也可能出现CDW以及超导相。　　二、在Buckled相中，有文献报道Zigzag纳米条带边界的基态同样满足SDW。但是我们通过计算边界能，发现这一类结构的纳米条带边界非常不稳定。Buckled相的第五主族单层结构是严格的六角结构（石墨烯），对应的有Zigzag边和Armchair边。在边界稳定的结构中，我们在Zigzag边上发现了和石墨烯一样的五七重构(ZZ57)，即两个六元环重构成一个五元环和一个七元环。但是ZZ57还会继续演化成上下两个六元环(ZZ66)，即五七环转化成了上下两个六元环。在稳定的Armchair边我们则找到了一种和ZZ66相似的重构方式AC55，即六元环的一对原子由横向排布变成纵向排布，从垂直平面看像是形成了上下两个五元环。重构之后的边界原子外层满足8电子的排布，化学活性大大降低，因此我们可以把这种边界重构认为是一种自钝化过程。上述结构重构特点表明这一类单层材料不能通过分子束外延的方式生长，我们的研究结果为单层材料的制备提供了理论指导。