8。4数据收集与分析
数据收集计划是培训评估策略中的一个重要组成部分,收集什么数据、何时收集、由谁来收集以及怎样分析数据,对于有效地进行培训评估至关重要。
8。4。1培训评估数据的收集
数据是培训评估的基础,能否取得具有说服力的数据,是培训能否有效的关键。美国培训与开发协会(ASTD)研究指出,比较严格的培训评估应该具有以下特点:首先,要从尽可能多的或者全部参加者那里收集数据;其次,要不止一次地收集数据;再次,要更注重“组织”一级的效果评估;最后,要引用量化数据收集方式等。这涉及数据收集范围、频率、层次、方式等内容。优秀的培训评估者应该对于需要采集哪些数据、怎么采集、在什么时候采集等问题了如指掌。
1。数据类型
有效的培训评估,需要掌握两类数据,即硬数据和软数据。
(1)硬数据,指的是那些容易衡量和量化,容易转为货币价值,比较客观的数据,一般用于衡量组织业绩及管理业绩。主要包括产量、质量、成本、时间。这些数据在多数组织中都能寻找到(如表8-7)。
①产量:是指一定时期内生产某种物品的数量。它是在培训中获得的最直观的数据。通过对培训前后产量的比较,可以直接判断培训的效果。
②质量:是指产品、服务、工作的优劣程度。它是培训评估中需要的最为重要的数据。通过培训前后产品或者服务质量的衡量和比较,能够反映培训的效果,特别是针对那些以提高质量为目标的培训。
③成本:是指生产产品或者提供服务所需的投入以及所耗费的全部费用。它是培训评估中很有用的数据。培训前后生产产品或者提供服务耗费成本的对比,在一定程度上也能够反映培训的效果。
④时间:是指生产产品或者提供服务持续的期间。如果因培训而产生工作效率的提高,节省的时间意味着可以转化为产出量的增加或者运营费用的降低,也反映出培训的效果。
表8-7硬数据举例
续表
(2)软数据,指的是有时较难衡量和量化,不易转化为货币价值,在多数情况下具有主观特性的数据,它们有时可作为业绩的衡量标准。在评估中,软数据往往作为对硬数据的补充,即在很难找硬数据和合理的数据的时候,评估者可以通过软数据的收集来判断培训的效果与价值。软数据一般包括工作习惯、氛围、新技能、发展、满意度和主动性(见表8-8)。
①工作习惯:主要指在工作中积久养成的方式。高效的工作习惯能够促进组织士气,不良的工作习惯会影响组织的业绩。
②氛围:是指围绕或归属于一特定根源的有特色的高度个体化的气氛。不良的氛围,如委屈、不公平等会对工作效率带来负面影响。通过培训,可以改进氛围,从而提高组织绩效。
③新技能:主要指在培训中掌握的新的技术、能力、工艺等。新技能是多种的,有的可以通过硬数据的方式获得,例如,掌握新的生产工艺,直接带动产量、质量的提高等。但有的新技能是无形的,例如解决问题、应对危机、有效聆听等方面的能力。
④发展:主要指员工在知识、能力由简单到复杂、由低级到高级,向更高水平和层次的变化与进步,一般可以通过晋升、转岗、业绩评定来体现。
⑤满意度:主要指员工对于工作任务、工作环境、工作氛围的意愿得到满足、符合心愿的程度。
⑥主动性:表现为员工自愿、积极地从事工作、创新、创造的程度。
表8-8软数据举例
在实施培训评估中,一般应优先选择硬数据,但并不意味着软数据没有价值。衡量一个项目的成功与否也取决于软数据的测量标准。因此,大多数培训评估项目采用软硬数据相结合的办法。例如,对生产维护主管的培训项目进行评估,需要一系列的数据:
①与各项维护活动相关的成本减少了多少。
②生产设备与流程的改进。
③生产维护的责任和程序的改变。
④对维护员工的培训的改进情况。
⑤组织和个人的变化。
这些都涉及硬数据(产值和成本)和软数据(培训的增加、运作程序的变化和组织的变化)等。
2。数据来源
无论软数据还是硬数据,都遍布在组织的各个环节,关键在于,培训评估者必须了解这些数据产生于哪里。在此基础上,才能按图索骥,为开展有效的培训评估奠定基础。
(1)组织业绩记录,用于培训评估的最有效和最可信的数据来源是组织业绩记录档案和报告,它能真实反映个人、团队、部门、区域、地区或整个公司的业绩情况。这个渠道的信息包括多种衡量指标,并且在组织中可以得到大量的数据。通过这个渠道得到的数据应该用于四级评估,因为这些数据容易收集,并且往往反映组织的业绩信息。如果某个组织在保存数据方面不能始终如一,那么,取得记录的困难就在于如何才能找到那些特定的数据报告。
(2)学员,对于投资回报率的分析来讲,最常用的数据来源之一就是参加培训的学员。学员经常接受这样的询问:在培训中所获得的知识和技能在实际工作中的应用情况如何?有时候,他们还被要求解释这些做法的效果。对于一级、二级、三级和四级评估来讲,学员是一个非常丰富的数据来源。大多数学员是可信的,因为他们使业绩得到改进,掌握了各种运作程序的知识和其他有影响的因素。要找到一个有效的方法,以便从学员那里得到前后一致的数据材料,这是一种挑战。
(3)学员的主管人员,另外一个获取数据的重要来源是那些直接指导或领导项目参与人员的个人。这个群体中的人往往对评估很感兴趣,因为他们也许就是批准学员参加某个培训的主管人员。同时,在许多情况下,他们对学员运用培训中所学到的知识和技能的情况进行了观察。因而,他们可以报告与培训项目有关的成功因素,以及与应用有关的困难和问题。虽然主管人员的信息最适合三级评估,但也可以用于四级评估。在评估参与培训项目学员的情况时,重要的是主管人员要保持客观的态度。
(4)学员的下属,如果主管和经理接受培训,他们的下属就可以提供培训结束后这些主管和经理的行为变化方面的信息。下属提供的信息适合作为三级评估的数据,而不适合作为四级评估的数据。尽管从这个渠道收集的信息数据非常有用和具有建设性,但是人们往往避免使用这种数据,因为在意见反馈的过程中可能会有潜在的偏见。
(5)团队、同事小组,学员的团队成员或在学员培训期间组织中接替该员工的个人,是评估某些培训项目的另一个数据来源。在这些情况下,小组成员可以提供该学员行为变化方面的变化信息。当所有团队成员都参加了某个培训,在反映个人的或团队整体的行为变化时,通过这个渠道获得的数据资料就更加有效。这种数据所具备的主观性和对技能运用缺乏全面的评估,使得这个渠道的信息具有一定的局限性。
(6)内部、外部团队,在有些情况下,内部或外部团队,如培训与开发人员、培训项目的培训员、外部的顾问等,都可以提供有关学员使用培训中所获得的技能和知识的信息资料。通过这种渠道获得的信息,可以是培训后对员工的在岗表现进行观察而得到的结果。收集这类信息,其用途是有限的,因为内部团队可能对评估的结果非常在意,他们的意见可能缺乏可信度。来自于外部团队、以对在岗业绩表现进行观察为基础的意见反馈应该是恰当的。
3。数据收集的方法
数据收集的方法,直接制约数据的质量,也决定培训评估的信度和效度,因此,掌握一定的数据收集方法,也是培训评估者需要掌握的基本技能。
(1)抽样技术,就是用总体中的一部分样本的特性作为代表来推断总体特性的办法。在培训评估中,采取抽样技术的优点:第一,在于经济、省力、省物;第二,能提早汇总研究资料,及时利用研究结果;第三,较适用于研究对象分散的课题;第四,在研究对象数量有限的情况下,可采用灵活多样的手段获取资料;第五,从某种意义上讲,抽样研究有时比总体研究更能提高研究的质量。