由于表面的出现,薄膜材料的力学性质与相应的块体材料有很大的不同。即使在小尺度,位错仍然是影响晶体材料塑性等力学行为的重要因素。本文旨在建立描述薄膜中位错结构的基本方程——位错方程,研究边界效应对位错性质的影响。根据Peierls-Nabarro(P-N)模型的中心思想,推导薄膜中的位错方程首先要解决薄膜表面上的位移场与表面上应力分布的关系,即边界平衡问题。在弹性理论中,薄膜的平衡问题还没有被很好的解决。本文首先利用格林张量函数分别推导了薄膜中任意内点满足的平衡方程和边界上满足的平衡方程。任意内点的位移由边界上的位移和应力分布确定。但是边界上的位移场和应力场不是独立的,它们之间的关系由边界平衡方程确定。利用傅里叶变换,在波矢k空间基于边界平衡方程推导位错方程是容易的,困难的是如何找到实空间中对应的位错方程。如果确定了薄膜中的位错方程,通过求解位错方程得到滑移面两侧的位移和应力分布,进而利用薄膜内点的平衡方程可以完全地确定位错在薄膜中产生的位移场。基于P-N模型,推导了薄膜中的螺位错方程,并且考虑了薄膜的任意边界条件:自由边界、固定边界和外加负载。薄膜的边界条件分为应力边界和应变边界。与块体中的位错方程相比,边界的出现对位错方程的修正分为两部分:应力边界和应变边界对位错间相互作用的修正是相反的,靠近应力边界位错相互作用减弱,反之,靠近应变边界位错相互作用增强;边界上的外加应力或位移的影响作为独立的一项叠加到位错方程中。位错方程是决定位错结构的基本方程,为研究边界效应和外加负载对薄膜中位错性质的影响提供了基础。定量研究了螺位错靠近自由表面和固定边界时的边界效应。具有自由表面的半空间模型可以描述外延薄膜中的位错,具有固定边界的半空间模型可以描述位错与晶界的相互作用。自由边界是应力边界的典型代表,固定边界是应变边界的典型代表,这两种边界对位错相互作用的修正是相反的,位错靠近自由表面时变得更窄,靠近固定边界时变得更宽,位错宽度的相对变化反比于其到表面的距离。位错与边界的相互作用除了包括来源于像位错的长程镜像力,还包括失配能变化引起的短程作用力。边界效应对宽位错的影响更加明显。对于自由薄膜中的位错,由于第二个自由表面的出现,位错的应变能会进一步降低,位错宽度进一步减小。随着薄膜厚度的减小,Peierls应力增大,位错的可动性减弱。自由薄膜模型与原子模拟中的选取的原胞一致,有助于理论模型与原子模拟结果的直接比较,澄清边界对Peierls应力的影响等问题。推导的位错方程中明确给出了薄膜边界上外加应力场和位移场与位错的相互作用形式,由此可以直接研究薄膜边界上外加负载对位错的影响,具有明确的实际物理意义。本文中通过在表面施加一个局域外应力场研究了位错变形的难易程度,即位错的刚度,宽位错的结构更加容易发生变形。