养老保险制度是民生建设的重点问题,在保障公民的基本生活水平、调节贫富差距和维护社会稳定等方面都发挥着重要的作用。目前我国已构建起覆盖城乡的养老保险制度体系,但是由于制度设计的原因我国养老保险制度呈现出碎片化现状,形成了城乡之间、地区之间、各群体之间的养老保险制度不统一。因此,加快对我国养老保险制度碎片化的整合,不仅体现了养老保险制度的核心价值追求,而且也是构建和谐社会的题中之意。为了构建公平合理的养老保险制度,本文以我国养老保险制度碎片化问题为研究对象,在借鉴发达国家整合碎片化过程中的经验和教训的基础之上,提出了建立公平合理的养老保险制度的政策建议。首先,对我国养老保险制度的碎片化现状进行分析,在比较各养老保险制度的差异性后总结碎片化的表现,随后介绍了现阶段整合碎片化取得的成效,并归纳了养老保险碎片化带来的问题。其次,究其养老保险制度碎片化的根源,认为主要是由于各级政府职责不明、区域间经济发展不均衡、户籍制度的限制以及转移支付制度不合理等原因造成。再次,借鉴了英国、德国、欧盟的养老保险碎片化整合过程中的成功经验,并吸取法国的失败教训,从正反两方面为我国整合碎片化之路提供参考。最后,在上述研究的基础上并立足我国国情,提出了厘清中央与地方政府的职责；加大中央与地方政府的财政支持力度；建立专门的养老保险管理机构；加快户籍制度改革等政策建议。