近年来,基于铁磁材料的自旋电子器件面临进一步降低功耗、增加存储密度以及提高运算速度等新的挑战,设计并开发出满足下一代自旋电子器件的新型磁性材料成为当前首要任务之一。与铁磁材料相比,反铁磁材料具有不产生杂散场、对外界扰动不敏感、进动频率高以及阻尼系数小等特性,这些突出的优点使其成为研制下一代自旋存储和逻辑器件的重要候选材料。目前制约反铁磁材料应用的主要问题是探测设备难以获得高出检测限的读出信号,由于非线性反铁磁材料特别是非线性三角反铁磁Mn₃X（X=Ga,Ge,Sn）可以产生较大的磁电输运信号,有望提供可行的解决方案。但反铁磁Mn₃X材料中的自旋结构排布、磁相转变以及反常霍尔效应来源等问题亟待解决。本论文中,我们采用磁控溅射制备了Mn₃Sn薄膜,对其结构、磁性以及反常霍尔效应进行了研究,主要研究内容和结论如下:（1）利用磁控溅射方法制备了Mn₃Sn薄膜,研究了薄膜结构和磁性。通过调控基片温度优化出反铁磁Mn₃Sn薄膜,高温沉积的Mn₃Sn薄膜形成不连续颗粒膜,同时具有室温净磁矩,磁化强度达到20 emu/cc;室温沉积并经后退火处理的Mn₃Sn为连续膜结构,在这种薄膜中观察到室温反常霍尔效应,但其磁相结构比较复杂。（2）在Mn₃Sn连续膜制备基础上,调节溅射气压制备两种类型多晶Mn₃Sn薄膜,对其磁性和反常霍尔效应进行研究。结果显示,低溅射气压沉积的Mn₃Sn薄膜中同时包含有Mn₂Sn以及其他铁磁/亚铁磁等杂相,磁性来源比较复杂,Mn₃Sn反常霍尔效应被铁磁/亚铁磁的霍尔电阻信号完全掩盖;而高溅射气压沉积的Mn₃Sn薄膜只有反铁磁Mn₃Sn相和亚铁磁Mn₂Sn相,Mn₃Sn的铁磁性来源于手性三角自旋在（0001）面内的倾斜,其反常霍尔效应与非零Berry曲率有关。（3）通过进一步提高溅射气压,优化出大矫顽场的Mn₃Sn薄膜,其中最大室温矫顽场达到3800 Oe,有效提高了Mn₃Sn薄膜的热稳定性和抗外磁场干扰的能力;通过面内磁场测试的霍尔电阻进一步验证了Mn₃Sn薄膜中类反常霍尔效应来源于手性三角自旋结构产生的非零Berry曲率,并实验观察到矫顽场数值与磁场旋转角存在近似反比例关系。综上所述,我们研究了非线性反铁磁Mn₃Sn薄膜的结构、磁性和反常霍尔效应及来源,获得多晶结构Mn₃Sn薄膜,深入分析了其磁性来源,获得大矫顽场Mn₃Sn薄膜的反常霍尔效应,通过多种途径验证了反铁磁Mn₃Sn中反常霍尔效应与Berry曲率的内在关系。