多层面Rasch模型下人机结合评分的阅卷员效应研究——以“外研社杯”全国英语写作大赛为例

来源 :西北农林科技大学 | 被引量 : 0次 | 上传用户:kellermanx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
1999年,写作测试中开始运用人机结合评分。因一些学者认为作文自动评分系统无法识别作文内容,质疑其评分结果,所以研究者采用诸多方法验证人机结合评分的同质性与异质性。综述相关文献后,未发现用多层面Rasch模型分析人机结合评分中阅卷员效应的研究。依据Myford和Wolfe(2004)的阅卷员效应监测框架,本研究用多层面Rasch模型,从阅卷员群体层面和阅卷员个体层面两个角度,对人机结合评分的总体严厉程度、集中趋势、随机效应、晕轮效应、区分性严厉度进行分析。分析阅卷员个体层面时,将人工阅卷员与爱写作英语写作教学与评阅系统(即爱写作系统)进行比较。  本研究主要回答以下三个问题:一、人机结合评分在阅卷员群体层面上是否存在阅卷员效应?二、人机结合评分在阅卷员个体层面上是否存在阅卷员效应?三、人工阅卷员与爱写作系统的阅卷员效应是否存在差异?  研究取材于国内唯一采用人机结合评分的大规模写作测试——“外研社杯”全国英语写作大赛,分析了5名人工阅卷员和爱写作系统对初赛中82名参赛者完成的164篇作文的评分结果。各阅卷员在内容、语言、结构三个维度上都先分级,后评分。分级量表依据已有研究改编,包含五个等级;评分量表从外研社官网下载到。以标准差为基本单位,将人工阅卷员、爱写作系统评分的总分也分为五级,并用Facets软件分析内容、语言、结构、总分的所有等级。  分析六个多层面Rasch模型的运行结果后发现:一、在阅卷员群体层面上未表现阅卷员效应,表明人机结合评分的整体信度理想。二、在阅卷员个体层面上,5 号阅卷员、4号阅卷员各自表现了集中趋势和区分性严厉度,爱写作系统表现了集中趋势。这表明爱写作系统的评分信度较理想,可推广使用,但仍需改进。三、人工阅卷员与爱写作系统的阅卷员效应存在差异,人工阅卷员与爱写作系统的总体严厉程度不同;此外,人工阅卷员表现了区分性严厉度,但爱写作系统并未表现。  本研究扩大了阅卷员效应的研究范围,拓展了人机结合评分的研究方法,探索了作文自动评分系统对不同能力参赛者的偏差,验证了作文自动评分系统表现集中趋势的结论。本研究认为在写作大赛、更多的写作测试和写作教学中可推广使用人机结合评分;此外,可将爱写作系统用于低风险写作测试及写作教学中。
其他文献
一个星期前,老妈就跟我说,这周五我要独自跟着带队老师到嘉兴去参加浙江省钢琴比赛.现在,这一刻终于到了,我又兴奋又害怕,像第一次离巢学飞的小鸟.rn动车终于开过来了.我们上
期刊
在报社编辑部曾经发生过这样一件事:一篇新闻稿见报后发现出了差错,调出原稿查对时,原稿涂抹得一塌糊涂;正是要查对出错的地方却被用黑墨涂去,无法辨认。此事因无法明确责任
俗话说:“大人盼种田,小孩盼过年。”在我的左顾右盼中,新年终于款款而来。  在这个合家团圆、万象更新的日子里,家家户户都有一套新的过年方式,我们家也不例外一我在饺子里“吃”出了压岁钱哦!  除夕那天,一大早,妈妈就买回来一堆水饺皮,还买了许多食材,有猪肉、韭菜、豆沙、牛肉……真是五花八门、应有尽有。我望着这些食材,觉得十分好奇:“咦?我们平常不是只吃一种馅的饺子吗?今天妈妈的葫芦里到底卖的什么药啊
期刊
幽默被广泛地运用在人们的日常生活中,在人们社会交往中扮演着不可或缺的角色。人们很早就开始观察到幽默现象并从各个不同角度对其进行了研究。作为幽默的主要表现形式,言语幽
暑假,我和爸爸妈妈去了美国的阿拉斯加。阿拉斯加位于北美的西北端,靠近北极圈,有极昼和极夜现象,有美丽的极光和壮丽的冰川,还有著名的阿拉斯加帝王蟹和种类繁多的三文鱼。  我們先从西雅图转机前往阿拉斯加的安克雷奇,再从机场坐车到房车营地取车。房车就像一座移动的房子,沙发、床、厨房、浴室、卫生间、电视机等一应俱全。爸爸和小唐叔叔接受完房车驾驶知识培训后,我们就开着房车出发了。  这是我第一次坐房车。一上
期刊
约翰·福尔斯被称赞为“战后英国最优秀的小说家之一”,《巫术师》是其真正意义上的处女作。初版之后,他又花费l了将近十年时间不断修改完善。1977年的修订版在故事情节和叙
这天早晨,我一如既往,早早地跑到学校旁边的早餐店,一口气点了两个肉包子和一碗粥。到了付钱的时候,我摸了摸裤子口袋,发现钱失踪了!我的表情僵住了,但仍在心里念叨:没事的,没事的,钱应该在上衣的口袋里。我又忐忑不安地摸了摸上衣口袋——没有!此刻的我,犹如热锅上的蚂蚁一般,急得团团转。  不到黄河心不死!说不定钱掉进了口袋缝里呢?我再次把手指伸进口袋,去抠口袋缝。一秒,两秒,三秒……还是没有摸到钱!我的
期刊
甜菜是一种糖料作物,糖是通过叶片的光合作用形成的,经过叶柄的运输,最后贮存于块根中。因此甜菜蔗糖的积累是由同化物的形成、运转和贮存这三个过程来完成的,其中光合作用
我是个女孩儿,我想有个妹妹,可奶奶却说:“你已经是女孩了,还是有个弟弟比较好。”  我偏要個妹妹!为什么呢?因为我想给我的妹妹梳辫子。  我要帮她梳蜈蚣辫、麻花辫、冲天辫……丸子头、公主头、丫鬟头……我要给她扎上蝴蝶结,夹上毛茸茸的兔耳朵头饰,戴上水钻皇冠……看着镜子里的她,我就像看到了小时候的自己一样,我会想起小时候吵着要妈妈帮我梳辫子的事。这是多让人开心的事啊!弟弟又不能留长头发,怎么编辫子?
期刊
福柯指出,哪里有话语,哪里就有权力,权力是话语运作的无所不在的支配力量。可见,话语与权力是密切联系的。对话语权力的研究已经吸引了众多语言学家的注意力,且国内外的很多