【骨干研修班第十一期】明确测试目标,设计有效题目,分析测试效果
2014/08/14
8月11-12日,在外语测试:理论与实践研修班上,外语教师们如何设计有效试卷的疑问获得了解答。北京外国语大学外国语言研究所副所长韩宝成教授、外交学院许宏晨副教授和北京外国语大学杨莉芳老师在研修班上阐释国际语言测试的前沿理念与方法,讲解测量目标与任务设计、指导外语测试常用统计方法。研修班以问题为驱动,讲练结合,帮助教师们解决困惑的同时也为教师们打开了测试研究的大门。
教师们认真聆听 |
Assess and teach what we value
韩宝成教授结合国际前沿的语言测试理念,讲解了何为语言能力及怎样测试语言能力。
韩教授从测试和语言测试的定义出发,首先与大家回顾了效度、信度等关键词,指出正因为测试这把“尺子”会“热胀冷缩”,因此明确测试目标是测试中非常重要的一环。目前一些大规模的外语测试各有各的测试目标和能力,包括语言综合运用能力、实际英语能力、语言熟练程度等。韩教授引用了Bachman的经典理论,指出语言运用就是解释意义、创造意义,语言能力包含理解能力、表达能力等,我们应该 “Teach what we value”,“Assess what we value”。首先明确我们希望学生拥有哪个层面的语言能力,以此为教学目标培养学生、设计教学,并以此为测试目标设计考试、检验成果。
韩教授进一步明确,基于思考的语言能力(thinking-based language ability)是语言教学的重点,基于此设计考试时一方面要清楚考的内容应该来自何种语言及思维应用领域,另一方面要考虑测试任务的特征,例如测试场景、标准、输入的特征。现在的考试越来越复杂,与传统的衡量考试优劣的方式不同,证明考试质量需要从考试结果开始倒推。韩教授介绍了基于哲学家Toulmin实用推理模型的考试设计模型图,并详细阐释了应用这一模型优化考试的论据和步骤。
韩宝成教授 |
围绕测试目标,设计测试题目
杨莉芳老师从教师教学与测试的实际出发,从阅读、听力、口语和写作四个方面详细阐释了如何围绕测试目标设计测试任务和题目。
以阅读为例,杨老师首先以Charles Alderson列举的测试涵盖要点为导入,启发参班教师们思考平时在设计考试时都曾经考量过其中哪些要点。紧接着,她引出了测试设计的四要素:测试对象、阅读能力、选篇原则和测试形式。在了解测试对象的语言水平、阅读需求的基础上,阅读能力的考察可包含三个分项:literal comprehension、inferential comprehension和evaluation comprehension,这三项能力的考察都可以通过不同的题型实现。在确定选篇时,教师也要根据学生水平与阅读需求,选择体裁、题材和难度不同的选篇,而文章的长度、结构、语言和信息量也是衡量选篇是否合适的重要因素。阅读考试的测试形式可有多项选择题、正误判断题、配对题、摘要填空题等多种,杨老师带大家以实例分析了各题型的特点,她指出,不同的测试题型本身没有优劣之分,只是针对不同的测试目标能实现的测试效果不同,因此需要选择合适的题型来实现测试目标。
杨老师带领大家梳理听力、口语和写作测试目标与任务设计过程中,也以雅思考试、国内英语考试的大量实例为辅助,并且重点提醒各位教师们各个环节中需要特别注意的事项。她特别强调,所有测试任务都要围绕测试目标来设计,并且注意题目设计的“authenticity”,即在实际情境中我们如何运用语言能力,在测试中就要再现这样的语言使用。
杨莉芳老师 |
运用统计方法,分析测试题目
那么如何应用现代的统计方法对测试试卷进行统计分析?许宏晨副教授带领大家操作SPSS软件,领略了统计在优化和改进测试中的巨大作用。
许老师讲到,外语测验的分析一般包括项目分析、整体分析和考分分析。项目分析包含项目难度、项目区分度和干扰项分析。这类分析主要是针对具体测试题目、在收集数据的基础上进行分析统计,项目难度即难易程度,区分度是指项目对被试语言水平的区分能力。在测试分析中,当项目难度接近0.5时,题目的区分度最大;难度接近1或0,则区分度最小。干扰项具有一定迷惑性,假定被试水平相同,那么干扰项和正确答案被选中的几率应该接近。
分析完具体的项目,想从整体的维度测量试卷,那么就需要进行信度和效度分析。这两个概念也是韩教授和杨老师反复提及的考量标准。许老师带领大家一步步操作软件进行分析,并且阐释两者之间的关系——信度是效度的必要条件,若有效度则信度一般都会比较高。
最后,许老师还带领大家练习和阅读正态分布图,熟悉考分分布与考分解释。他提醒大家一定要在操作的基础上学会阅读各种数值,为教学、测试、研究打下牢固基础。
许宏晨副教授 |
在理论讲解、题目设计、统计方法三个方面梳理与阐释的基础上,参班教师们在测试理念与方法上有了新的提升与认识。本期研修班的两位助教、北京外国语大学的吕生禄老师和张允老师也帮助教师们解决测试设计中的具体问题。教师们将两天所学高效地应用于实践,在研修期间设计出测试对象明确、考察能力清晰、题目类型多样的测试题目。研修班期间教师们接触了国际前沿的测试理念,也通过案例深入了解了雅思、托福等国际考试的测试目标与题目设计,引起了教师们对自己设计的测试的反思。如何根据学生的培养目标设计出合理有效的测试题目,通过测试驱动教学、促进学生能力的提升?这是教师们在研修班结束之后需要在教学中思考、实践和创新的重任。
实践操作 | 心有所问 |
讨论设计 | 汇报展示 |