《审计数据预处理》PPT课件.ppt

第五章第五章第五章第五章 审计数据预处理审计数据预处理审计数据预处理审计数据预处理计算机辅助审计原理及应用计算机辅助审计原理及应用计算机辅助审计原理及应用计算机辅助审计原理及应用南京审计学院南京审计学院南京审计学院南京审计学院十月十月十月十月 22 22 22 22陈陈陈陈 伟伟伟伟Email:Email:第五章第五章 审计数据预处理审计数据预处理q概述概述q审计数据预处理理论分析审计数据预处理理论分析q数据预处理应用实例数据预处理应用实例q数据预处理阶段的数据验证数据预处理阶段的数据验证q其它数据预处理方法介绍其它数据预处理方法介绍q数据质量概念及分类数据质量概念及分类q单数据源数据质量问题单数据源数据质量问题q多数据源集成时数据质量问题多数据源集成时数据质量问题q审计数据质量实例审计数据质量实例q数据预处理的意义数据预处理的意义q数据预处理的内容数据预处理的内容审计数据预处理理论分析审计数据预处理理论分析什么是数据质量呢？数据质量问题并不仅仅是指数据错误。有的文献把数据质量定义为数据的一致性（consistency）、正确性（correctness）、完整性（completeness）和最小性（minimality）这4个指标在信息系统中得到满足的程度，有的文献则把“适合使用”作为衡量数据质量的初步标准。数据质量的概念数据质量的概念准确性（准确性（AccuracyAccuracy）准确性是指数据源中实际数据值与假定正确数据值的一致程度；完整性（完整性（CompletenessCompleteness）完整性是指数据源中需要数值的字段中无值缺失的程度；一致性（一致性（ConsistencyConsistency）一致性是指数据源中数据对一组约束的满足程度；唯一性（唯一性（UniquenessUniqueness）唯一性是指数据源中记录以及编码是否唯一；适时性（适时性（TimelinessTimeliness）适时性是指在所要求的或指定的时间提供一个或多个数据项的程度；有效性（有效性（ValidityValidity）有效性是指维护的数据足够严格以满足分类准则的接受要求。评价数据质量的指标评价数据质量的指标数据质量问题分类数据质量问题分类单数据源数据质量问题单数据源数据质量问题单数据源数据质量问题单数据源数据质量问题当多个数据源集成时，发生在单数据源中的这些问题会更加严重。这是因为每个数据源都是为了特定应用，单独开发、部署和维护的，这就很大程度上导致数据管理系统、数据模型、模式设计和实际数据的不同。每个数据源都可能含有脏数据，多数据源中的数据可能会出现不同表示、重复、冲突等现象。在模式级，模式设计的主要问题是命名冲突和结构冲突。命名冲突主要表现为不同的对象可能使用同一个命名，而同一对象可能使用不同的命名；结构冲突存在很多种不同的情况，一般是指在不同数据源中同一对象有不同表示，如不同的组成结构、不同的数据类型、不同的完整性约束等。多数据源集成时数据质量问题多数据源集成时数据质量问题除了模式级的冲突，很多冲突仅出现在实例级上，即数据冲突。由于不同数据源中数据的表示可能会不同，单数据源中的所有问题都可能会出现，比如重复的记录、冲突的记录等。此外，在整个数据源中，尽管有时不同的数据源中有相同的字段名和类型，仍可能存在不同的数值表示，如对性别的描述，一个数据源中可能用“0/1”来描述，另一个数据源中可能会用“F/M”来描述，或者对一些数值的不同表示，如一个数据源中度量单位制可能用美元，另一个数据源中可能会用欧元。此外，不同数据源中的信息可能表示在不同的聚集级别上，如一个数据源中信息可能指的是每种产品的销售量，而另一个数据源中信息可能指的是每组产品的销售量。多数据源集成时数据质量问题多数据源集成时数据质量问题不完整数据不完整数据不完整数据不完整数据不一致的数据不一致的数据不正确的数据不正确的数据重复的数据重复的数据q为下一步的审计数据分析提供准备为下一步的审计数据分析提供准备q帮助发现隐含的审计线索帮助发现隐含的审计线索q降低审计风险降低审计风险数据预处理的意义数据预处理的意义q数据转换数据转换q数据清理数据清理数据预处理的内容数据预处理的内容数据预处理的内容数据预处理的内容q采用采用AccessAccessq采用采用AOAO数据预处理应用实例数据预处理应用实例q（1 1）确信数据预处理的目标实现）确信数据预处理的目标实现q（2 2）确认数据预处理工作没有损）确认数据预处理工作没有损害数据的完整性、正确性害数据的完整性、正确性数据预处理阶段的数据验证数据预处理阶段的数据验证q不完整数据的清理不完整数据的清理q相似重复记录的清理相似重复记录的清理其它数据预处理方法其它数据预处理方法思考题思考题q为什么要对被审计数据进行数据预处理？为什么要对被审计数据进行数据预处理？q什么是数据质量？什么是数据质量？q评价数据质量的主要指标有哪些？评价数据质量的主要指标有哪些？Question?Question?