民事诉讼的当事人为了赢得诉讼，必然想尽一切办法获取对于查明案件事实具有重要价值的诉讼证据。但是由于法制观念的缺乏或者受到利益的驱使，当事人在调查收集证据的过程中往往会侵害他人的合法权益或者违反法律的相关禁止性规定。为了遏制这一严重扰乱社会利益秩序的现象，规范当事人的调查取证行为，民事非法证据排除规则应运而生。1995年3月6日最高人民法院为河北省高级人民法院做出了《关于未经对方当事人同意私自录制其谈话取得的资料不能作为证据使用的批复》，2001年12月21日最高人民法院又出台了《最高人民法院关于民事诉讼证据的若干规定》，初步构建了我国的民事诉讼非法证据排除制度。但是这一制度在相关概念的界定方面显得模糊，对民事非法证据一概加以排除的做法显得僵化，而且缺乏切实可行的系统的操作程序，在某种程度上是与我国的司法实践相背离的，甚至造成了司法混乱，既不利于公平合理地解决民事纠纷，亦不利于充分维护当事人以及其他社会第三人的合法权益。在总结国内司法实践、借鉴国外相关经验的基础上，本文认为应构建以重大违法为排除标准，同时亦设置若干例外情形的排除规则，并且赋予法官适当的排除裁量权；在排除程序安排上，设置证据的合法性异议、证据非法的举证责任、证据非法的证明标准等规则，使得证据排除有章可循；在此基础上拟制了非法证据排除的救济机制并提出一些立法的建议。