随着我国经济领域改革的深入，公共管理领域的改革也逐步推进。加快行政管理体制改革、建设服务型政府的要求日益迫切，特别是公共产品和公共服务的质量越来越得到社会公众的关注。当前，我国政府部门借鉴西方国家通过新公共管理运动把企业运作机制和管理手段引入政府公共管理领域的经验，以建立质量管理体系的形式来提高政府的公共服务质量。然而从实践来看，我国有些政府部门运用质量管理体系的有效性并不理想，体系运行和维护面临很多困难和问题。文章通过对国外内政府部门质量管理体系实施现状以及我国私营部门质量管理体系有效性的文献研究，以上海市S区政府部门质量管理体系实践为切入点，运用个案研究和问卷调查的研究方法，对影响政府部门质量管理体系有效性的关键因素进行了论证。探索性地指出质量管理体系的策划、政府部门领导的作用和自我完善机制的形成这三个因素对政府部门质量管理体系有效性有着直接和关键的影响。而质量管理体系建立过程中咨询与认证中咨询、认证人员的专业技能与职业素质，以及认证目的、实施过程等外部间接因素将对政府质量管理体系有效性向积极或消极方向的发展产生催化作用。我国政府部门在实施质量管理体系的过程中应关注影响有效性的关键因素，并积极利用咨询、认证等外部资源不断提升质量管理体系的有效性，使其成为政府部门向着社会公众可信任的、高效的、卓越的政府发展的有力工具。