自二十世纪90年代，随机激光现象发现以来，这一有别于传统激光器的微型激光器，因其独特的增益介质、激光辐射特点，吸引了众多研究人员的瞩目。随机激光器的小体积、多方向性、形状可变、低制造成本等优点，使其具有广阔的应用前景。然而如何实现更低阈值的随机激光、实现绿光激光出射、更好地调控其辐射特性，这些都极大限制了随机激光器的实际应用。本文以此为出发点，主要对掺铒铌酸锂无序材料的上转换发光特性和模式选择进行了研究。　　首先在实验室条件下，使用物理研磨、过滤等方法，成功制备了一种掺铒铌酸锂无序材料，其颗粒粒径约70 nm，具有强散射、高增益特性，并分析解释了该材料在980 nm的激光泵浦下上转换发光中蓝光、绿光和红光的发光过程与光谱特性。其次，对于此材料的上转换发光实验中，发现了随着泵浦功率的增大，中心波长为527 nm绿光比中心波长为550 nm的绿光辐射强度增大更快的现象，并通过热力学玻尔兹曼方程对其原因进行了分析解释。最后，搭建了4F模式选择系统，利用阿贝成像原理和傅里叶变换原理，解释了这套系统的工作原理，并尝试对以掺铒铌酸锂无序材料为增益介质的随机激光的角度模式和空间模式进行选择，由于产生的随机激光以非相干反馈为主、泵浦面积过大等原因，得到的是多模式耦合的图谱。　　这些研究，不仅提供了一种新型绿光随机激光的增益介质，还有助于更好的理解上转换随机激光的产生及过程，并为调控随机激光模式提供了方案方法，为实现随机激光器模式选择实际应用提供了重要的依据。