非法证据排除规则，是刑事诉讼程序中一项十分重要的制度，对于充分保障犯罪嫌疑人、被告人基本权利、维护程序正义具有非常重要的意义。德国的证据禁止法则将证据禁止分为证据取得禁止与证据使用禁止两种类型。其中证据使用禁止是证据禁止法则中争议性较大的一部分，该部分内容又分为非自主性与自主性使用禁止两个方面，自主性使用禁止乃基于宪法赋予的公民基本权而导出，是德国证据禁止中独具特色的部分，也是德国证据禁止法则超越英美法系非法证据排除规则的精髓所在，值得推广。我国的非法证据排除规则伴随着《非法证据排除规定》、新《刑事诉讼法》以及两高司法解释的相继出台而正式得到确立。目前，我国的非法证据排除规则在非法证据的界定、非法证据排除的诉讼阶段及排除机关、排除程序、证明责任和证明标准以及救济程序等方面均作出了规定，对比之前的证据规则有了伟大的进步。但是，或限于当前侦查技术水平的滞后，或由于我国整体法制仍不健全，目前的非法证据排除规则尚存在着一些不足亟待补正。将中德两国的证据禁止（排除）法则进行对比分析，可以发现两国在区分非法言词证据与实物证据、肯定瑕疵证据以及排除非法证据的程序等方面具有一些共同点，而二者在有关证据禁止（排除）规则确立的方式、保障被告人权利的程度、证据排除的主体和诉讼阶段、法官裁量权大小以及对“毒树之果”的态度等方面的规定则有所区别。根据该比较分析结论，我国要完善非法证据排除规则，一方面可以借鉴德国的相关规定，完善基本人权的宪法保障并结合我国国情与证据制度的长远发展目标，扩大非法取证的范围，并且尝试借鉴德国的证据使用禁止以及法官权衡法则。但另一方面也需要认识到，德国由职业法官同时审理证据合法性与事实问题的做法，无法从实质上切断非法证据与事实裁判者之间的联系，客观上存在“污染”法官自由心证的可能，我国的非法证据排除规则应当避免陷入这种境况，可以考虑建立证据合法性审查与事实审理的二元裁判结构，对于证据合法性问题设置单独的庭前审查程序并由独立的预审法官专门主持，真正实现非法证据排除的价值。此外，完善非法证据排除规则，除了改进规则自身的不足之外，也离不开对与之相关的配套制度的改良。故而，构建诸如限制性的沉默权制度、律师在场权制度以及对侦查机关的权力制约机制等配套制度也十分必要。