适应于Internet的发展趋势,跨越组织边界进行资源共享的大规模开放系统成为越来越普遍的计算模式。与传统的分布式系统不同的是,开放系统中资源是公共可访问的,系统的用户不再是特定群体。由于潜在用户规模巨大,而且用户与系统之间没有预先存在的信任关系,传统的基于身份的安全机制不适用于解决开放系统中的安全问题。自动信任协商技术以解决开放系统中自动信任建立问题为目标引起研究人员的广泛关注而成为研究的热点。当前,尽管自动信任协商研究工作已经取得了许多引人注目的成果,然而自动信任协商系统的广泛部署仍然面临一些挑战性问题,其中包括,高效实用的信任协商机制问题,信任协商系统之间可互操作性问题,以及信任协商中攻击与防范问题等。在信任协商机制研究方面,分析了现有模型在证书透露过程中可能导致用户敏感信息及访问控制策略机密信息的泄漏,以及协商协议被设计得过于复杂,使得协商效率过于低下等不足。为增强信任协商系统的实用性,提出了一种基于代理的自动信任协商机制(Agent-based Automated Trust Negotiation Mechanism, A2TNM)。A2TNM引进代理将协商过程从具体应用中剥离出来,作为一种专门的网络服务提供给公众。同时,A2TNM指定了元策略格式,使用这种格式灵活的信任凭证不需透露数字证书的全部内容。A2TNM使用高强度的非对称函数加密传输消息,能防止消息遭受攻击。机制中提出了一种新的协商协议来指导协商过程。事例分析表明,A2TNM是健全、合理的。与现有模型相比,A2TNM在智能性、保密性和协商效率方面得到了改进。信任协商系统的可互操作性在于协商策略的可互操作性和协商协议的通用性。在协商策略可互操作性研究方面,形式化定义了协商策略及策略的兼容性,给出了策略族的定义。为了对协商策略的可互操作性作形式化分析,根据协商过程中不同信息透露对协商进程产生的影响,定义了一种透露树的缩减、扩展、否定删除和冗余删除四种运算及透露树演化规则,证明了透露树和安全透露序列之间的映射关系,表明了用透露树运算描述协商进程的正确性和有效性。在此基础上结合实例,由透露树可演化性质得出策略可互操作的条件。定义了策略族的单调性,讨论了策略谨慎性和可互操作性之间的关系。在协商协议通用性研究方面,提出了一种不依赖于协商策略的信任协商协议,将协议消息划分为资源请求、信息透露和终止协商三种类型,并定义了消息的具体格式。指定了初始化协商状态、协商状态和协商结束状态,并阐明了三种状态之间的转化关系,同时给出了协议实现算法。分析表明,该协议支持包括多种格式信任证书在内的数字断言和以不同策略语言描述的访问控制策略的透露,允许在一次协商过程中使用多种协商策略进行协商,满足不同应用场景的协商需求,具有较好的通用性。在信任协商攻击与防范研究方面,按攻击特点,对存在的各种攻击方式进行分类,将攻击手段分为拒绝服务攻击、敏感信息的推理攻击、属性盗窃攻击、证书集合攻击、敏感信息收集攻击、证书互斥攻击、信道传输攻击和硬件攻击等八类,在分析这些攻击方式的同时介绍了相应的防御措施,并对其中部分防御措施进行了改进。同时,就如何进一步完善攻击防范技术研究工作,提出了“一体化”抵抗攻击系统的开发和将防御措施融入协商策略及协商协议的思路。