信息安全是当前社会关注的热点问题之一，研究信息安全下的操作系统安全加固中进程和文件保护的关键技术，对于化解操作系统面临的安全威胁，保障系统的安全运行具有十分重要的意义。本文以国家863计划“计算支撑平台标准研究”和国家科技支撑计划（攻关计划）“新一代可信任互联网试验网”的研发为背景，结合教学科研工作需要，对操作系统安全加固中进程和文件保护的关键技术进行了详细的分析，提出了隐藏进程的检测、文件的完整性和文件保密性的解决方案，其研究成果具有一定的理论价值和实用价值。主要包括三个方面的工作：1、系统隐藏进程检测技术的研究与实现。从隐藏进程入手，经过对现有隐藏进程技术的分类和归纳，总结出了三个层次的进程隐藏技术，分别是用户级进程隐藏、内核服务级进程隐藏和内核结构数据级进程隐藏技术，从而提出了一种新的多层次检测隐藏进程的模型；通过对这三个级别隐藏技术的分析和实验，依据其特点对检测技术进行了创新设计，提出了一种动态获取链表地址的检测方案并加以实现；2、文件系统完整性的研究和实现。以进程行为为切入点，基于进程对文件系统的操作均需要经过系统文件驱动的基础，通过文件过滤驱动来获取进程对文件系统的改动，提出了一种新的、多层次进程行为检测和信息完整性的保护技术，可以细粒度地过滤进程对文件系统的操作，保证了文件系统完整性；3、文件保密性机制的研究与实现。设计了一种透明加解密高IO性能的双缓存机制方案，对文件缓存的处理和IRP请求的流程上做了技术上的创新。该机制根据原始的IRP请求，智能的进行数据预读并解密，并将带有加解密的文件在内存中存有两块缓存。然后将不管是发往缓存的IRP请求还是磁盘的IRP请求都重新定位到双缓存结构，这样既可以避免了系统缓存不可控的问题，又可以自己创建IRP预读数据到缓存，降低IRP请求的返回时间，有效的提高了整体系统的IO效率。本文研究的对象虽然是基于Windows操作系统，但其研究采用的基本方法、技术和研究成果可以方便的应用到其他操作系统的研究工作中。