第五代移动通信网络（5th Generation Mobile Network,5G）作为信息社会的关键基础设施,其安全性对于国民经济和社会生活至关重要。5G核心网负责处理用户的入网业务、管理用户的会话业务并确定用户的通信策略等,是5G网络在处理用户通信需求时不可或缺的核心部分。5G核心网由若干个服务化且相互独立的网络功能（Network Function,NF）构成,可以根据不同业务需求进行灵活定制,但服务化的架构设计也给核心网带来了新的攻击面,针对核心网的攻击层出不穷。业界提出服务化架构导致5G网络内信任关系由强耦合变为弱耦合,使得域内存在网络实体可信程度难以判断、内部攻击难以抵御的问题。而当前核心网又缺少可靠衡量NF可信程度的方法,且NF服务访问流程存在逻辑漏洞等安全隐患,因此核心网的安全性与可用性面临巨大威胁。基于此,本文针对核心网NF的安全性展开深入研究,在分析现有NF通信流程安全威胁的基础上,研究基于交互行为的5G核心网信任评估机制和NF服务访问流程安全增强机制,并基于Free5GC环境设计实现NF服务安全增强机制。具体内容包括:1.针对NF在通信时缺少对NF服务消费者可信程度的判断,致使核心网难以快速有效应对恶意NF攻击的漏洞,提出一种基于NF交互行为的核心网信任评估机制。以NF的拓扑结构与NF的交互行为为核心,基于交互行为信任度、交互频率比例信任度以及面向恶意行为的惩罚机制实现对NF可信度的量化,并将信任评估的结果作为判断NF可信程度的依据。实验结果表明,所提出的信任评估机制可以高效快速地识别出异常行为的NF,可以有效实现对NF可信度的评估。2.针对NF服务访问的授权流程中缺少对NF服务消费者请求消息合理性的验证,导致核心网中存在NF越权访问的安全漏洞,提出了基于业务进程的NF服务访问流程安全增强机制。此机制分别为网络存储库功能（Network Repository Function,NRF）增加负责业务进程管理的功能模块,为NF增加生产者重签名令牌的机制,在访问令牌中增加与业务进程强相关的令牌标识符,从而实现授权流程中对NF业务进程的管理。通过形式化分析工具对原有流程与改进后流程的安全性进行分析,验证了所提出方案的有效性;通过仿真实验表明,所提出的安全增强机制在增加一定存储资源的前提下可提高访问安全性,且对NF服务访问流程执行效率影响很小。3.在上述研究基础上,基于Free5GC平台,设计并实现5G核心网NF服务安全增强机制。该机制包含两个相互独立的功能模块:信任评估模块和安全增强模块,基于核心网的网络架构与NF的服务功能,为两个功能模块设计了相应的服务功能,根据具体的功能需求定义具体的服务操作与服务接口,并在核心网环境中进行实验测试,验证了两个功能模块的有效性。实验结果表明,通过增加信任评估模块与访问增强模块,所设计的NF服务安全增强机制可以有效抵御NF不合法或不合理的服务访问请求,实现对核心网安全性的增强。