表现性评估的现代测量学研究——以国家公务员结构化面试数据为例

来源 :北京师范大学 | 被引量 : 0次 | 上传用户:DragonJiang2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
该研究以表现性评估这种测量形式为媒介,综合使用概化理论和项目反应理论两大现代测量理论,对评委、维度、评定等级和考生等表现性评估涉及的各个环节从群体和个体两个层次进行细致考察,探索山了对表现性评估数据进行分析、提高其测量精度的一个全新的分析框架。研究数据为某省级国家公务员面试中,12名评委对两组共66名考生在仪表举止、口头表达、应变能力、综合分析、逻辑思维5个维度上,使用10点量表进行的评定。研究主要结果如下: 该研究提出并验证了两种评委误差的存在:评委之间在宽严程度上的差异和评委自身的一致性问题。该研究在使用项目反应理论的多面Rasch模型估计了每个评委的宽严程度之后,重点考察了每个评委自身一致性问题,详细分析了不同的评委跨考生、跨维度、跨性别以及跨时间的一致性,对每个评委的评分行为进行诊断。这种进入到评委个体层次的分忻突破了经典测量理论停留于对评委整体分析的局限,为评委的培训和评委库的建立提供了现代测量学的新方法。 对面试维度的研究表明:维度难度的跨评委一致性对测评信度造成了影响。多面Rasch模型对各维度的分析发现,评委对仪表举止维度的不一致理解使得接受不同评委面试的考生在该维度上的得分很人程度上受到机遇因素的影响。此外,该研究突破了传统分析局限于维度权重的设定,对维度权重的实现进行了考察。概化分析发现,各维度在全域分中的方差贡献比例与决策机关的权重设定存在一定差异。综合分忻和口头表达维度好的考生在面试中得到了过多的优势。对各维度概化系数的分析表明,口头表达维度(0.86)的测量精度最高,而仪表举止维度(0.65)的误差未能得到有效控制。 对面试各维度使用的评定等级进行多面Rasch模型的分析结果表明:各个维度统一使用的10点量表低端等级形同虚设,且假定为等距的各等级之间实际并不等距。此外,综合分析维度和口头表达维度个别等级上山现了考生高能力反而对应低分数的现象。研究建议:调整量表低端等级对应的考生能力水平,适当减少等级个数,明确不同等级所针对的考生表现上的差异,培训时加强评委对等级差异的理解。 对考生主效应的概化分析表明测量目标并未很好实现,误差控制的有效性有待提高。鉴于此,该研究采用多面Rasch模型对考生的原始分数进行校正,剔除了由于评委等误差对于原始分数的影响,得到考生独立于测量具体情境因素的能力估计值,为提高面试决策的科学性和公平性提供了新的解决方法。对国家公务员结构化面试的整体研究表明,面试的概化系数为0.87。公务员面试的高风险性要求决策机关对测评过程中的误差做进一步的控制。 概化理论的优势在于群体定位、关注实验设计的改进,而项目反应理论的优势在于个体定位、通过校正各种因素对测验结果的影响,准确估计考生真实能力水平,也为测验的进一步改进提供了大量诊断性信息。该研究创造性地将两个理论相结合,使之服务于提高表现性评估信度这一共同目标。
其他文献
摘 要:众所周知,语言具有社会交际功能,是一种交际工具。义务教育阶段英语课程的目的之一就是:使学生掌握一定的语言基本知识和基本技能,建立初步的语感,获得初步运用英语的能力,为真实交际打下基础。因此,在小学英语教学中,必须重视英语口语教学,立足课堂,努力创设语言情境,营造一个适宜学生开口的课堂教学环境;注重课外语言环境建设,增强语言实践,努力培养并提高学生的口语交际能力。  关键词:立足课堂;以“媒
城市新开发区域的配电网应在建设初期开始进行统一规划和建设.在一次规划过程中应特别注意与主网的规划协调一致,其结构应考虑到负荷的变化和配电网结构等问题.二次规划主要
该文系统考察汉语儿童的汉字阅读、视知觉和注意的之间关系,探讨:1)视知觉作用于汉字即时阅读的哪个阶段和过程;2)视知觉如何对汉字阅读中的语音通达造成影响;3)儿童的词汇阅读、
在高校校园文化建设过程中,需要以社会主义核心价值观作为校园文化建设指向标,并把社会主义核心价值观贯穿于校园文化建设全过程,引导学生形成价值认同感,并实现社会主义核心
本研究采用横向研究设计,主要运用结构访谈法和量表法,被试来自一所普通小学3~5年级,共95名,其中学习不良儿童50名,一般儿童45名。采用学习不良儿童与一般儿童的对比研究,考察了两类
在数学领域里,男性长期占据了权威地位。传统观点认为男性数学能力优于女性,女性在数学学习中会遇到很多障碍。那么,从高中生的视角来看,男女生数学能力上的性别差异是怎样的呢?
锥形钢筋混凝土电杆的混凝土抗拉强度由根部到梢部逐渐变小,当梢部作用有集中荷载时,其抗裂度计算相对复杂.文章结合试验成果提出了中长度锥形钢筋混凝土电杆的计算模型,并借
本文通过对武汉市高校高级职称人才进行问卷调查,分析其影响体育人口形成的原因,分别是:生活方式不规律、工作量大、家庭压力、缺乏指导,除此还有他们对待体育活动的态度、体育与
学位