五羟色胺是一种重要的神经递质,可以调控动物许多生理过程。当雄性小鼠失去所有的五羟色胺神经元时会发生强烈的同性交配行为。这些突变小鼠对雄性和雌性小鼠都会发出30-110KHz的超声波,而野生型小鼠只对雌性发出超声波。在同时有雄鼠和发情雌鼠的时候,野生型小鼠表现出对雌鼠强烈的交配倾向,而突变小鼠则对雄鼠和雌鼠表现出同等的交配倾向。在正常小鼠上用药物副氯苯丙氨酸(PCPA)阻断五羟色胺的合成也能得到相似的现象这表明突变体小鼠的表形不是因为发育的缺陷或遗产背景差异而引起的。垫料的倾向性实验表明五羟色胺降低的小鼠对雌性和雄性小鼠的气味失去了偏好,正常的雄鼠则偏好雌鼠的味道,提示突变体小鼠的同性交配行为是由于对两性的偏好紊乱。小鼠的性别辨认主要是通过嗅觉,但突变体小鼠基于嗅觉的社会识别和社会记忆都是正常的,这表明五羟色胺不是通过嗅觉来影响交配。突变体小鼠的味觉和社会性趋近行为都正常。这些结果说明五羟色胺在雄性小鼠的性偏好的高级中枢起重要作用。野生型幼鼠在与母鼠分开后放在一个干净不保温的环境时发出强烈的超声波,而五羟色胺敲除小鼠在同样状态下发出的超声波大为减少。雄性的突变体和野生型幼鼠发出超声波的潜伏期接近,而雌性的突变体幼鼠发出超声波的潜伏期要长于野生型。突变体幼鼠发出超声波的强度比野生型幼鼠也有很大的减少。突变体幼鼠对母鼠的气味的倾向性比野生型幼鼠有所降低。这表明五羟色胺在幼鼠的情绪及幼鼠对母鼠的依恋方面有重要作用。