第11讲人员素质测评质量分析.pptx
《第11讲人员素质测评质量分析.pptx》由会员分享,可在线阅读,更多相关《第11讲人员素质测评质量分析.pptx(30页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、 第第1111讲讲 素质测评的质量分析素质测评的质量分析本讲内容本讲内容效度的概念及其分析方法效度的概念及其分析方法信度的概念及其分析方法信度的概念及其分析方法区分度的概念及其分析方法区分度的概念及其分析方法选题质量分析及其分析方法选题质量分析及其分析方法效度效度效度的概念效度的概念 效度是指测评结果对所测评素质反映的真实程度。对这种真实性效度是指测评结果对所测评素质反映的真实程度。对这种真实性的考评,常见的方法有三种:的考评,常见的方法有三种:从内容性质方面分析其内容效度从内容性质方面分析其内容效度从效标相关性方面分析其关联效度从效标相关性方面分析其关联效度从实证方面分析其结构效度从实证方面
2、分析其结构效度内容效度内容效度 是指实际测评到的内容与期望测评的内容的一致性程度。当实际是指实际测评到的内容与期望测评的内容的一致性程度。当实际测评到的内容与我们事先所想测评到的内容越一致时,则说明测测评到的内容与我们事先所想测评到的内容越一致时,则说明测评结果的内容效度越高,测评结果就越有效。评结果的内容效度越高,测评结果就越有效。 内容效度在实际操作中的鉴定主要采用定性分析的方法内容效度在实际操作中的鉴定主要采用定性分析的方法, , 有蓝图有蓝图对照分析法与专家比较判断法。对照分析法与专家比较判断法。结构效度结构效度结构效度又称作构想效度、构思效度、构念效度、构建效度等。结结构效度又称作构
3、想效度、构思效度、构念效度、构建效度等。结构效度是指实际所测评的结果与想测评素质的同构程度。它表明了构效度是指实际所测评的结果与想测评素质的同构程度。它表明了在多大程度上,实际测评结果能够被看作是索要测评的素质在结构在多大程度上,实际测评结果能够被看作是索要测评的素质在结构上的替代物。上的替代物。在素质测评中,它是人们最关心的一种效度。这是由素质测评的间在素质测评中,它是人们最关心的一种效度。这是由素质测评的间接性所决定的。人们总是通过选取一些具体的行为测评来判断实际接性所决定的。人们总是通过选取一些具体的行为测评来判断实际的素质水平。的素质水平。结构效度与检验效度的人对素质结构的理解有直接关
4、系。如果李某结构效度与检验效度的人对素质结构的理解有直接关系。如果李某认为忠诚这一素质即对本企业的忠诚,张某认为忠诚这一素质表现认为忠诚这一素质即对本企业的忠诚,张某认为忠诚这一素质表现为实事求是的态度,那么对于向其他企业说明本企业产品所存在的为实事求是的态度,那么对于向其他企业说明本企业产品所存在的问题这一行为,显然李某与张某会把它归类到不同的素质成分中给问题这一行为,显然李某与张某会把它归类到不同的素质成分中给与不同的素质成分中并给与不同的评价。因此结构效度的检验分析与不同的素质成分中并给与不同的评价。因此结构效度的检验分析也是一种定性的主观判断。在分析考评过程中,要采取有力措施把也是一种
5、定性的主观判断。在分析考评过程中,要采取有力措施把主观影响控制在最低点上。主观影响控制在最低点上。结构效度结构效度结构效度的分析可按一下几步进行:结构效度的分析可按一下几步进行:1.1.给所要测评的素质的结构模式下一个操作化的定义给所要测评的素质的结构模式下一个操作化的定义 “ “我们所要测评的素质是对我们所要测评的素质是对xxxx的态度、有关的态度、有关xxxx的品质、有关的品质、有关xxxx的的技能。技能。”像这样一些表述所测评素质的具体形象是什么,结构是像这样一些表述所测评素质的具体形象是什么,结构是什么,我们并不清楚,它仍然是从具体行为概括出某种意识或观什么,我们并不清楚,它仍然是从具
6、体行为概括出某种意识或观念,因此对结构效度的分析没有多大意义。这里的构建不是从行念,因此对结构效度的分析没有多大意义。这里的构建不是从行为向观念构建,而是相反,由观念向具体行为的构建。不是简单为向观念构建,而是相反,由观念向具体行为的构建。不是简单还原,而是在更高的水平上抓住所测素质的本质特征,确定一个还原,而是在更高的水平上抓住所测素质的本质特征,确定一个可感觉可操作的结构模式,由这种具体的结构模式作为抽象观念可感觉可操作的结构模式,由这种具体的结构模式作为抽象观念建构的替代物。这种替代物的成分显然应该是我们世纪能够看到建构的替代物。这种替代物的成分显然应该是我们世纪能够看到的、听到的、感觉
7、到的东西。例如:外显行为、客观性生理反应的、听到的、感觉到的东西。例如:外显行为、客观性生理反应等。素质测评的目标体系实际上就是所测素质的一个行为构建模等。素质测评的目标体系实际上就是所测素质的一个行为构建模型,这种结构模型分别由项目、指标、权重、标度等组成。这种型,这种结构模型分别由项目、指标、权重、标度等组成。这种模型的建构,在很大程度上取决于所测素质本身的特征及其抽象模型的建构,在很大程度上取决于所测素质本身的特征及其抽象程度等组成。程度等组成。要定义或建构一个素质的结构模型,可以从以下几方面着手:要定义或建构一个素质的结构模型,可以从以下几方面着手:首先,采取工作分析方法,对所想测评的
8、素质进行结构分析与行为首先,采取工作分析方法,对所想测评的素质进行结构分析与行为分析,确定各种素质结构及其代表的行为。分析,确定各种素质结构及其代表的行为。其次,用图表的形式逐一列出工作分析得到的素质因素及其特征行其次,用图表的形式逐一列出工作分析得到的素质因素及其特征行为。除此之外,还可以通过查找历史上或现在人们对所测评素质为。除此之外,还可以通过查找历史上或现在人们对所测评素质的模型的现成资料,丰富已有分析的结果。的模型的现成资料,丰富已有分析的结果。再次,还要另外准备一份与已经建构的模型可能混淆的但关系密切再次,还要另外准备一份与已经建构的模型可能混淆的但关系密切的其他模型图表。要反问自
9、己并向人说明为什么所测素质是你所的其他模型图表。要反问自己并向人说明为什么所测素质是你所定义的结构模型而不是其他别的结构模型。定义的结构模型而不是其他别的结构模型。2.2.收集事实资料,评判结构效度,具体方法有:收集事实资料,评判结构效度,具体方法有:排除法排除法 如果测评结果能明确的排除它所对应素质结构模型的其他解释,那就表如果测评结果能明确的排除它所对应素质结构模型的其他解释,那就表明所获得的测评结果具有较好的结构效度。明所获得的测评结果具有较好的结构效度。咨询法咨询法 可以请一些有经验的专家就你所获得的测评结果、所对应的素质结构进可以请一些有经验的专家就你所获得的测评结果、所对应的素质结
10、构进行判断或推断,问他们该测评结果实际测评的素质是什么。如果大家的行判断或推断,问他们该测评结果实际测评的素质是什么。如果大家的回答与你所想测评的素质结构几乎一致,那么说明你的测评有较好的结回答与你所想测评的素质结构几乎一致,那么说明你的测评有较好的结构效度。构效度。相关法相关法 找一个具有较高结构效度的测评工具或结果,与你所获得的测评结果进找一个具有较高结构效度的测评工具或结果,与你所获得的测评结果进行相关性分析,如果相关性很高,说明你的测评结果具有较高的结构效行相关性分析,如果相关性很高,说明你的测评结果具有较高的结构效度。度。 例如:某一个具有例如:某一个具有“自尊自尊”结构效度的测评量
11、表,它的测评结果就应该结构效度的测评量表,它的测评结果就应该与自信、社交能力及领导作用等测评量表的测评结果成正比,而与诸如与自信、社交能力及领导作用等测评量表的测评结果成正比,而与诸如内向性、自卑、孤独等测评量表测评的结果成反比。内向性、自卑、孤独等测评量表测评的结果成反比。逻辑分析法逻辑分析法 当大家对所测素质的结构模型具有比较一致的认识时,只要能判当大家对所测素质的结构模型具有比较一致的认识时,只要能判定测评内容(工具)选择正确,且整个测评过程除了一切外来干定测评内容(工具)选择正确,且整个测评过程除了一切外来干扰因素,就可以说测评结果具有较好的结构效度。扰因素,就可以说测评结果具有较好的
12、结构效度。 例如:测评时间足以保证被测评者完成所有的工作,被测评者没例如:测评时间足以保证被测评者完成所有的工作,被测评者没有受到催促因素的影响;测评工具的指导十分明确,被测操作准有受到催促因素的影响;测评工具的指导十分明确,被测操作准确。确。多元分析多元分析 多元分析就是采取聚类分析与主成分分析等数学手段,对测评结多元分析就是采取聚类分析与主成分分析等数学手段,对测评结果进行分析,看分析的结果。果进行分析,看分析的结果。 例如:所找出的主要因素与分类结果与所想测评素质的结构是否例如:所找出的主要因素与分类结果与所想测评素质的结构是否一致,如果一致,则说明所获得的测评记过具有较好的结构效度。一
13、致,如果一致,则说明所获得的测评记过具有较好的结构效度。关联效度关联效度又称实证效度、效标效度、效标关联效度,是指测评结果与效标又称实证效度、效标效度、效标关联效度,是指测评结果与效标的一致性程度。效标是一种用来衡测评有效性的外在参照标准的一致性程度。效标是一种用来衡测评有效性的外在参照标准, , 它可以是一种测评的结果它可以是一种测评的结果, , 也可以是标准测评分数。根据效标是也可以是标准测评分数。根据效标是否可以同时获得否可以同时获得, , 可将关联效度分为同时效度与预测效度。作为可将关联效度分为同时效度与预测效度。作为效标的结果与预测结果同时获得效标的结果与预测结果同时获得, , 这种
14、效度称之为同时效度。当这种效度称之为同时效度。当作为效标的结果是后来测评中获得作为效标的结果是后来测评中获得, , 这种效度称为预测效度。它这种效度称为预测效度。它反映了现在的测评结果对未来素质发展的预测程度。反映了现在的测评结果对未来素质发展的预测程度。 例如:两个人同时采用观察评定与问卷测验测评同一个人的工作例如:两个人同时采用观察评定与问卷测验测评同一个人的工作态度,两个测评结果相关系数很高,例如态度,两个测评结果相关系数很高,例如0.800.80,那么以后在类似,那么以后在类似的情况下,可以用问卷测验代替花时太多的行为观察法。的情况下,可以用问卷测验代替花时太多的行为观察法。关联效度关
15、联效度 例如想检测一下自编品德测评的效度,决定采用效标关联中的同例如想检测一下自编品德测评的效度,决定采用效标关联中的同时效度分析方法,故让被测者同时接受自编品德测验与卡特尔时效度分析方法,故让被测者同时接受自编品德测验与卡特尔16因素问卷测验。因素问卷测验。 关联效标的分析关键在于效标的选择。效标作为衡量测评结果有关联效标的分析关键在于效标的选择。效标作为衡量测评结果有效性的参照标准,应该是可以测评到且独立于所分析的测评结果效性的参照标准,应该是可以测评到且独立于所分析的测评结果的行为结果。效标可以分为行为效标与观念效标。的行为结果。效标可以分为行为效标与观念效标。 行为效标的选择以客观性为
16、依据。常见的行为效标有以下几种:行为效标的选择以客观性为依据。常见的行为效标有以下几种:学术成就学术成就特殊训练成绩特殊训练成绩实际工作表现与成绩实际工作表现与成绩团体特征团体特征等级评定结果等级评定结果先前被证明是有效的测评结果先前被证明是有效的测评结果效度分析中的几个理论问题效度分析中的几个理论问题关于效度概念的研究关于效度概念的研究 19211921年美国教育研究指导协会提出年美国教育研究指导协会提出, ,效度是效度是“测验在多大程度上测到测验在多大程度上测到所要测的东西所要测的东西”。同时被提出的还有。同时被提出的还有“预测效度预测效度”和和“共时效共时效度度”, ,后来被统称为后来被
17、统称为“效标效度效标效度”。1919世纪世纪3030年代年代, ,人们将更多的注意力放在测验对于具体目标课程的代人们将更多的注意力放在测验对于具体目标课程的代表性高低上。于是引入表性高低上。于是引入“课程效度课程效度”, ,后更名为后更名为“内容效度内容效度”。19541954年美国心理学会出版了年美国心理学会出版了关于心里测验和诊断的技术建议书关于心里测验和诊断的技术建议书,明确列举了四种类型的效度:预测效度、同时效度、构想效度、明确列举了四种类型的效度:预测效度、同时效度、构想效度、内容效度。美国心理学会、美国教育研究学会和国家教育测量委内容效度。美国心理学会、美国教育研究学会和国家教育测
18、量委员会员会19661966年联合出版的年联合出版的教育与心理测验的标准和指南教育与心理测验的标准和指南中,将中,将效度类型进一步简化为效标关联效度、构想效度和内容效度三种。效度类型进一步简化为效标关联效度、构想效度和内容效度三种。和又进一步把前两类归结为准则关联和又进一步把前两类归结为准则关联效度。这是一种三位一体的分类法观点。指出效度。这是一种三位一体的分类法观点。指出, ,延续了延续了3030年的旧观念年的旧观念( (即把效度分为相互分离且并列的三类即把效度分为相互分离且并列的三类) )已经已经过时过时, ,取而代之的是一元论的产生。取而代之的是一元论的产生。以建构效度概念为中心以建构效
19、度概念为中心, ,提出了检验测验效度的四个提出了检验测验效度的四个层面层面( (渐进矩阵渐进矩阵) )。 测试解释测试解释测验使用测验使用证据证据基础基础结构效度结构效度结构效度结构效度+ +适切性和适切性和实用性实用性后果后果基础基础结构效度结构效度+ +隐含的价隐含的价值值结构效度结构效度+ +适切性和适切性和实用性实用性+ +社会效果社会效果关于效度概念的研究关于效度概念的研究结构效度概念产生后第二年结构效度概念产生后第二年, ,. . .和和. . .提出了提出了5 5种验证方法种验证方法, ,即分组区分法、相关矩阵与因素即分组区分法、相关矩阵与因素分析法、内部结构研究、不同场合下的变
20、化研究、过程研究。分析法、内部结构研究、不同场合下的变化研究、过程研究。DeborahLeeDeborahLee提到提到, ,效度指的是一个测验准确测量它所要测的东西效度指的是一个测验准确测量它所要测的东西的能力的能力, ,包括内容效度、效标关联效度和结构效度。包括内容效度、效标关联效度和结构效度。张厚粲、孙晓敏、王晶、叶映华、郑全全对效度概念演进及其新张厚粲、孙晓敏、王晶、叶映华、郑全全对效度概念演进及其新发展进行了研究。张厚粲、孙晓敏(孙晓敏、张厚粲,发展进行了研究。张厚粲、孙晓敏(孙晓敏、张厚粲,20042004)回)回顾了心理测量学中效度概念发展的三个阶段顾了心理测量学中效度概念发展的
21、三个阶段, ,早期效度概念关注早期效度概念关注的是两个变量之间的相关的是两个变量之间的相关. .随后重点转向效度的多种类型随后重点转向效度的多种类型, ,现阶段现阶段则注重考察测验的构想效度。总之则注重考察测验的构想效度。总之, ,效度确证成为一个持续不断效度确证成为一个持续不断的动态过程的动态过程; ;在这个过程中在这个过程中, ,运用各种技术不断地评价、质疑和检运用各种技术不断地评价、质疑和检查由测验分数所作推论和解释的有效性成为心理与教育测量研究查由测验分数所作推论和解释的有效性成为心理与教育测量研究中不可或缺的组成部分。中不可或缺的组成部分。关于效度概念的研究关于效度概念的研究关于结构
22、效度的研究关于结构效度的研究肯贝尔和菲斯克(肯贝尔和菲斯克(D.W.FiskeD.W.Fiske)对构想效度的考验办法进行了研对构想效度的考验办法进行了研究(肯贝尔和菲斯克,究(肯贝尔和菲斯克,19591959),),19601960年肯贝尔指出,要确定一个年肯贝尔指出,要确定一个测验的构想效度,则该测验不仅应与测量相同特质或构想等理论测验的构想效度,则该测验不仅应与测量相同特质或构想等理论上有关的变量有高的相关,也应与测量不同特质或构想等理论上上有关的变量有高的相关,也应与测量不同特质或构想等理论上有关的变量有低的相关,前者称为会聚效度,后者称为区分效度。有关的变量有低的相关,前者称为会聚效
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 11 人员素质 测评 质量 分析
限制150内