俗话说“空口无凭,铁证如山”,从本质上来讲,一个诉讼的成败与否关键在于证据,因此证据的作用不可小觑。而对于证据来说,如何认定证据的合法性,是否应当作为非法证据予以排除,在识别和判断证据是否可采时就很关键。在刑事诉讼领域存在着大量非法取证行为,侵犯了当事人的合法权益,因此,非法证据排除规则应运而生。在行政法领域中,公权力的行使涉及到人们生活的方方面面,如果没有严格的限定和规制,则会使人们的合法权益更容易受到侵犯。在行政领域建立非法证据排除规则也是历史的必然选择,笔者认为,建立行政程序法,并且在行政程序法中具体规定行政非法证据排除规则更具有合理性。行政程序法的迟迟不出台已引起了学术界的广泛关注,多数学者认为我国应尽快建立行政程序法,且应对行政非法证据排除规则进行必要合理的规制,这对行政机关依法行政,提高行政效率具有重要的积极作用。然而,要完善我国行政非法证据排除规则,不应仅从立法上着于,它还需行政执法机关及司法机关的努力。在实践中,行政执法机关及司法机关也存在不少问题,这就给行政非法证据的适用带来了困难。因此,本文的写作主要从立法、执法和司法过程出现的问题来看,提出自己的一些设想,以期达到抛砖引玉之功效,从而促进行政机关依法行政和司法机关公正司法,给行政非法证据排除规则提供一个良好生存空间。