超导电性自上个世纪初以来一直是凝聚态物理研究的重要内容。由于超导现象包含着丰富的物理图像与广阔的应用前景,超导电性的研究经久不衰,也大大促进了人们对强关联电子体系的认知。近年来铁基超导体的出现给高温超导体的研究带来了新的活力,它与铜氧化物具有相似的相图、结构,以及磁性与超导的相互作用,对这些非常规超导体的研究有助于理解高温超导机理中的关键因素。另一方面,拓扑材料的研究为人们展现了材料性质的全新维度,非常规的拓扑超导体不仅给超导研究注入了新的血液,其在量子计算上的应用前景更是令人憧憬。本文中,我们利用非弹性中子散射这一对物质磁性与晶格动力学强有力的实验技术,分别对铁基超导体内的磁激发谱以及拓扑超导体候选材料中的声子行为进行了系统研究。本文主要分为以下几个方面:1.超导基本概念及实验研究手段介绍。我们在本文背景部分介绍了超导现象与BCS超导理论的基本概念。对非常规超导体的介绍主要集中在铁基超导体的基本性质以及拓扑超导体的研究现状。其次,中子散射技术是论文中涉及的主要实验手段,我们对中子散射实验基本原理、散射公式、常用谱仪、数据分析要点与实验细节进行了详细介绍。2.过渡金属掺杂对铁基超导体Fe0.98Te0.5Se0.5超导电性及磁激发的影响。我们系统地对不同浓度的Ni掺杂的样品进行了电阻输运和低能磁激发中子散射的测量。在对电阻的测量发现Ni掺杂会抑制超导性,随着掺杂浓度的升高,转变温度TC随之下降,当掺杂浓度达到0.1时样品已经变成非超导体,利用中子散射测量磁激谱发时发现Ni掺杂对低能磁激发基本没有增强。通过与Co和Cu掺杂样品的比较发现,Ni掺杂的样品比Cu掺杂样品的电阻小了4个量级,而Ni掺杂产生的低能磁激发也比Cu掺杂的更弱。这些实验结果较为明显地体现了Ni掺杂产生的局域性相比Cu掺杂的要弱。掺杂元素对输运和超导的影响随着原子序数远离Fe而依次增大,而且这种影响更加表现在造成杂质散射中心而不是贡献载流子。低能磁激发没有随着掺入电子增加而减弱也说明反铁磁关联的存在不依赖于费米面附近的电子态密度。3.Cu掺杂在完整能量区间内对铁基超导体Fe0.98Te0.5Se0.5完整磁激发谱的影响。由于Cu元素的掺杂会更明显的导致系统局域化,增强散射,我们进一步研究了Cu掺杂在完整能量区间内对其磁激发谱的影响。通过对比掺杂与不掺杂的磁激发谱强度,我们发现掺杂会使得低能磁激发显著增强,相较未掺杂样品具有更强的散射强度和不同的激发谱结构,而对高能磁激发则未产生明显影响,并与母体中的自旋波激发行为较为一致,这与122铁基超导系统中电子掺杂的效果类似。通过计算局域磁化率并积分,我们得到等效自旋S～1/2,小于母体中的S=1。Cu掺杂的样品倾向有略强的涨落磁矩。通过对Cu和Ni元素掺杂效果的研究,我们系统的总结了过渡金属掺杂铁基超导体11体系的影响。4.拓扑超导体候选材料Sr0.1Bi2Se3中超导配对机制的研究。我们对拓扑超导体候选材料Sr0.1Bi2Se3单晶进行了非弹性中子散射测量,发现在该体系中存在着高度各向异性的声子模式,一些声学支声子的宽度在沿着[001]方向上会出现非常明显的增大。这一实验现象表明。在倒空间小动量转移q处存在着明显不同寻常的电子-声子耦合,并可能会导致p波奇宇称超导。这一结论对MxBi2Se3(M=Cu,Sr,Nb)这一族可能的拓扑超导体候选材料都是适用的。这表明它们可能是电声子配对产生非s波配对的例子,而且这种奇宇称对称性与其拓扑超导性质也相符。