《教育测量与评价课件(3)(第三章 教育测量与评价的质量特性).》由会员分享，可在线阅读，更多相关《教育测量与评价课件(3)(第三章 教育测量与评价的质量特性).（32页珍藏版）》请在金锄头文库上搜索。
1、第三章 教育测量与评价的质量特性,教育测量与评价的信度 教育测量与评价的效度 教育测量与评价中项目的难度 教育测量与评价中项目的区分度,信度的意义,信度是指测量结果的稳定性程度，记为rXX 。换一句话说，信度是指用同一测量工具反复测量同一种物质对象所得多次测量结果间的一致性程度。 测验信度是对测验工具及其操作的整体质量的一种量度，是测验性能的重要质量指标。如果测验本身抗干扰能力强，测验实施过程各方面误差因素都控制得好，多次施测所得分数（测值）的一致性就高，那么测量信度高，人们在使用所得测值时就会感觉可靠。,信度的统计定义,定义1：信度是一个被测团体真分数方差与观察分数方差之比。即：XX=2T
2、/ 2X 定义2：信度是一个被试团体的真分数与观察分数的相关系数的平方。即：XX=2TX 定义3： 信度是一个被试团体在测验X（A卷）上的观察分数与在测验X的任意一个“平行测验” X（B卷）上观察分数的相关系数。即： XX= XX,重测信度（稳定性系数）,（1）重测信度是指用一个量表（测验或评价表）对同一组被施测两次所得结果的一致性程度，其大小等于同一组被试在两次测验上所得分数的相关系数。 （2）重测信度基本假设：某测验所要测量的潜在特质，短期内不会随着时间推移而改变。 （3）重测信度适用于异质性测验（一个测验包括几个不同的部分，这几个部分分别测量几个不同的心理特质，它们之间可能并不存在相关或
3、相关较低），也适用于速度测验和运动技能测验。,复本信度（等值性系数或等值稳定性系数）,（1）复本信度是指两个平行测验（在试题格式、题数、难度、指导语说明、施测要求等方面都相当，并且都用来测量相同潜在特质或属性，但试题又是不相同的测验）测量同一批被试所得结果的一致性程度，其大小等于同一批被试在两个复本测验上所得分数的相关系数。 （2）实施复本测验的方式：一是在同一个时间连续施测（此时所得的复本信度叫等值性系数），二是间隔一段时间后施测（此时所得复本信度叫等值稳定性系数）。 （3）使用复本信度首先要构造出两份或两份以上的真正的平行测验。这是一个很难达到的条件。另外，重测信度的一些不足，在复本信度中
4、仍然存在，需要加以克服。 （4）复本信度不仅适用于难度测验，也是估计速度测验信度的好方法。,（1）同质性信度（内部一致性信度）是指测验内部所有题目间的一致性程度。这里题目间的一致性含有两层意思：其一是指所有题目测的是同一种心理特质；其二是所有题目得分之间都具有较高的正相关。 （2）同质性信度的基本假设：当一个测验具有较高的同特性信度时，说明测验主要测的是某一单个心理特质，由于众多的题目测试了同一心理特质，那么实测结果就是该特质水平的反映。 （3）同质性信度不适用于异质测验和速度测验。,同质性信度的概念,（1） 分半信度 分半信度指是的将一个测验分成对等的两半后，所有被试在这两半上所得分数的一致
5、性程度。 分半信度的计算方法和等值复本信度的方法类似，只不过分半信度计算的是两个“半测验”上得分的相关系数，只是半个测验的信度，还必须用斯皮尔曼布朗公式加以校正 。 （2） 库德理查逊信度 该方法适合于测验题目全部为二分记分题的测验的内部一致性信度分析。常用的库德理查逊公式有： 和 （3）克龙巴赫系数 当测验题型较多，并非都是二分记分题时，估计测验信度可采用克龙巴赫系数。其计算公式为： （4） 荷伊特信度 1941年荷伊特提出用方差分量比来估计测验内部一致性的方法，其估计值为：,同质性信度的估计方法,评分者信度,评分者信度的含义 评分者信度是指多个评分者给同一批人的答卷进行评分的一致性程度。
6、评分者信度的计算 （1）当评分者人数为两人时，评分者信度等于两个评分者给同一批被试的答卷所评分数的相关系数。依据数据形式，可采用不同的相关系数计算方法。 （2）当评分者人数多于两人时，评分者信度可用肯德尔和谐系数进行估计。,（）百分比一致性指标（PA） 百分比一致性指标是指同一测验或两平行测验先后两次施测，其对被试的分类结果一致的比例。其计算公式为： （）K一致性系数 K一致性系数是指实际被评定为一致的百分比与在理论上被评定为一致的最大可能次数百分比的比率。其计算公式： （ 其中 ） （）K2 指数 标准参照测验关注决断的可靠性，而这种决断显然与被试团体的平均水平密切相关。在考虑到这个因素的基
7、础上，心理统计学家莱芬斯顿提出了K2指数作为考察标准参照测验信度的指标。其计算公式为： 或 或,标准参照测验的信度分析,测量标准误,测量标准误的含义 测量标准误是指测验中所得测值偏离真分数的程度，记为SE。 测量标准误与测验信度的关系 测量标准误的意义 测量标准误是反映测量结果精确性和可靠性的又一指标，同时也是人们正确解释测验分数的科学依据。,效度的概念,效度的意义 效度是指一个测验或量表实际能测出其所要测量的特性的程度。对这一概念，我们可以从以下几个方面来理解: 效度始终是针对一定测量目的而言的； 效度只有程度上的差异； 效度是针对测量结果而言的； 评价一个测量是否有效要多角度、多方面地收集
8、证据。 效度的统计定义 效度可定义为目标真分数方差与观察分数方差之比：XY=2V / 2X 效度与信度的关系 （）信度高是效度高的必要而非充分条件 （）效度系数不会大于信度系数的平方根,如何理解“效度”的意义？,思考题,效度是指一个测验或量表实际能测出其所要测量的特性的程度。对这一概念，我们可以从以下几个方面来理解： （1）效度始终是针对一定测量目的而言的； （2）效度只有程度上的差异； （3）效度是针对测量结果而言的； （4）评价一个测量是否有效要多角度、多方面地收集证据。,答:,内容效度,内容效度的含义及应用范围 内容效度是指测验题目样本对于应测内容与行为领域的代表性程度。如果是教学情境下
9、的成就测验，那么其内容效度就是看测验题目样本能体现教学目标与教材要求的程度。 内容效度主要适用于教育测量（尤其是学业成就测验）的情境中，也适合于某些用于选拔和分类的职业测验，但不适合某些心理测验（如智力测验、人格测验）。 内容效度的分析方法 逻辑分析的方法 内容效度的逻辑分析法，即依靠有关专家对测验题目与应测内容范围的吻合程度作出判断。 内容效度的量化分析方法 该方法要求专家在仔细审阅测验目标的基础上，独立地对测验的每个题目作出判断：“该题目实际测到的内容与其欲测量的目标内容之间相关程度如何，并用四点量表（用完全无关、有点相关、相关较密切、完全相关来表示）来表示这种相关的程度大小”；当两位专家
10、完成此项工作后，统计弱相关（完全无关、有点相关）、强相关（相关较密切、完全相关）的题目数，则此测验的内容效度系数为：内容效度系数 =D/（A+B+C+D）（ D 表示两位专家都判定为强相关的题目数 ）,结构效度,结构效度的含义 结构效度是指一个测验或量表实际测到所要测量的理论结构（结构是指心理学或社会学上的一种理论构想或特质）的程度。 结构效度的验证一般步骤 提出有关理论结构的说明，并据此设计测量用的试题； 提出可以验证该理论结构是存在的假设说明； 采用各种方法收集实际的资料，以验证第二步提出的假设的正确性； 收集其他类型的辅助证据，淘汰与理论结构相反的试题，或是修正理论，并重复第二和第三步，
11、直到下述的假设得到验证，即测验的结构效度获得支持为止。 结构效度的验证方法 测验内部寻找证据法 这种方法是通过研究测验内部结构来验证测验的结构效度。它主要包括内容效度、作答过程分析、测验的同质性和因素分析等四个方面。 测验之间寻找证据法 这一方法的特点是同时考察两个或多个测验间的相互关系，从而来验证测验的结构效度。它包括相容效度、聚合效度、区分效度和“多种特质多种方法矩阵法”等具体方法。 考察测验的实证效度法 如果一个测验有实证效度，则可以拿该测验所预测的效标的性质与种类作为该测验的结构效度指标，至少可以从效标的性质与种类来推论测量的结构效度。主要方法有差异被试比较法和先后测试分析法。,效标关
12、联效度,效标关联效度的含义、种类及适用范围 效标关联效度是指一个测验对于处于特定情境中的个体行为进行预测时的有效性。 根据效标资料获得的时间不同及测验使用的目的不同，效标关联效度可以分为： 同时效度：测验分数与效标资料的取得约在同一时间内连续完成，计算这两种资料的相关系数即代表测验的同时效度。这种效度的目的主要用于诊断现状，在于用更简单、更省时、更廉价和更有效的测验分数来取代不易搜集的效标资料。 预测效度：在测验分数取得一段时间后才获得效标资料，计算这两种资料间的相关系数即代表测验的预测效度。预测效度的作用在于预测某个个体将来的行为。 效标关联效度的估计方法 相关法：该方法就是计算测验分数与效
13、标测量的相关系数，具体方法有：积差相关、等级相关、点双列相关、二列相关、四分相关、相关、列联相关法等等。在使用过程中，该选择何种计算方法，应根据测验分数与效标测量数据资料的形式而定。 显著差异法：该方法是根据效标测量将被试分为两个极端组，然后检验这两组测验分数是否具有统计学上的差异显著性。若这两组被试的测验分数差异，则说明该测验有较高的效度。 命中率：当测验用取舍决策时，常使用命中率这一指标。因为这类测验效度高不高，就是看其取舍是否与实际一致。命中率包括总命中率、正命中率和负命中率三种。,试比较内容效度、结构效度、效标关联效度的异同?,思考题,相同点：三者都是作为检验测验有效程度的指标，都可以
14、作为评价一个测验优劣的标准。 不同点： 考察的角度不同。内容效度是指测验题目样本对于应测内容与行为领域的代表性程度。结构效度是指一个测验或量表实际测到所要测量的理论结构（结构是指心理学或社会学上的一种理论构想或特质）的程度。效标关联效度是指一个测验对于处于特定情境中的个体行为进行预测时的有效性。 应用的范围不同。内容效度主要适用于教育测量（尤其是学业成就测验）的情境中，也适合于某些用于选拔和分类的职业测验，但对于某些特质的心理测验（如智力测验、人格测验），内容效度并不适合。结构效度主要用于智力测验、人格测验等一些心理测验方面。效标关联效度适用于能够找到有效效标的测验，常用的效标主要有：学业成就
15、、等级评定、临床诊断、专门的训练成绩、实际的工作表现、对团体的区分能力以及其它现成的有效测验。 确定的方法不同。内容效度确定的主要方法是逻辑分析法、量化分析法。结构效度确定的主要方法是测验内部寻找证据法、测验之间寻找证据法和考察测验的实证效度法；效标关联效度确定的主要方法有相关法、显著差异法、命中率。,答:,题目或项目的难度，就是指被试完成题目或项目任务时所遇到的困难程度。定量刻画被试作答一个题目的困难程度的量数，就叫做题目的难度系数，也常称为难度值，用符号P表示。,难度的概念,（）以全体被试得分率为难度系数 如果一个题目的难度大，则被试得高分的可能性小；反之，如果题目的难度小，则被试得高分的
16、可能性就大。因此，用得分率可以作为难度系数的指标。其计算公式为： 如果题目是选择题的话，被试有可能猜对而得分，因此，对选择题的难度系数有人建议需用下面的公式进行校正：CP =（P-1）（-1） （）以全体被试失分率为难度系数 直接建立在通过率基础上的难度系数，P 值越大试题越容易，P 值越小试题越难做。这与人们观念可能不一致，因此有人提议用失分率q 来表示难度，计算公式为：q = 1-P,难度系数的计算方法（一）,（）以两端组被试得分率的均值为难度系数 该方法是分别计算高分组被试和低分组被试的得分率，然后求取二者的平均值作为难度系数，公式为： P =（PH+PL）2 以两端组被试的得分率作为难度系数的具体计算步骤： 按被试的总分，将全体被试从高到低
