数据挖掘_概念与技术(第2版)习题答案.doc

数据挖掘概念概念与技术DataMiningConcepts and Techniques习题解答Jiawei Han Micheline Kamber 著范明孟晓峰译1.3假设你是BigUniversity的软件工程师，任务是设计一个数据挖掘系统，分析学校课程数据库。该数据库包括如下信息：每个学生的姓名、地址和状态（例如本科生或研究生）、所修课程以及他们的GPA（平均积分点）。描述你要选取的结构。该结构的每个成分的作用是什么？答：该应用程序的数据挖掘的体系结构应包括以下主要组成部分：l 数据库，数据仓库，万维网或其他信息库：这是一个或一组包含学生和课程信息数据库、数据仓库、电子表格或其他类型的信息库；l 数据库或数据仓库服务器：根据用户数据挖掘请求，数据库或数据仓库服务器负责提取相关数据；l 知识库：这是领域的知识，用于指导搜索或评估结果模式的兴趣度。l 数据挖掘引擎：这是数据挖掘系统的基本部分，理想情况下由一组功能模块组成，用于执行特征化、关联和相关分析、分类、预测、聚类分析、离群点分析和演变分析等任务。l 模式评估模块：该成分使用兴趣度度量，并与数据挖掘模块交互，以便将搜索聚焦在有兴趣的模式上。l 用户界面：该模块在用户和数据挖掘系统之间通信，允许用户与系统交互，说明挖掘查询或任务，提供信息以帮助搜索聚焦，根据数据挖掘的中间结果进行探索式数据挖掘。1.4 数据仓库和数据库有何不同？有哪些相似之处？p8答：区别：数据仓库是面向主题的，集成的，不易更改且随时间变化的数据集合，用来支持管理人员的决策，数据库由一组内部相关的数据和一组管理和存取数据的软件程序组成，是面向操作型的数据库，是组成数据仓库的源数据。它用表组织数据，采用ER数据模型。相似：它们都为数据挖掘提供了源数据，都是数据的组合。1.5 简述以下高级数据库系统和应用：对象-关系数据库、空间数据库、文本数据库、多媒体数据库、流数据和万维网。答：对象关系数据库的设计是基于面向对象的编程范式的数据是大量对象类和类层次结构组织。每个实体在数据库中被视为一个对象。该对象包含一组变量描述的对象，一组消息的对象可以使用的沟通与其他物体或与其余的数据库系统，以及一套方法，每种方法持有的代码实现一个消息。空间数据库包含空间有关的数据，这可能是代表的形式，栅格或矢量数据。栅格数据包括n维位图或像素地图，矢量数据是由点，线，多边形或其他种类的图元处理，一些例子包括地理空间数据库（图）数据库，超大规模集成电路芯片设计，以及医疗和卫星图像数据库。文本数据库包含文本文件或其他长句或段落格式的文字说明，如产品规格、误差或错误报告、警告信息、总结报告、说明或其他文件。多媒体数据库存储的图像，音频，视频数据，并应用于诸如图像、基于内容的检索、语音邮件系统、视频点播系统、互联网和以语音为基础的用户界面。流数据是一类新的数据的产生和分析，其中数据动态地从观测平台（或窗口）流进或流出。特点：海量甚至可能无限，动态变化，以固定的次序流进或流出，只允许一遍或少数几遍扫描，要求快速响应时间。如电力供应、网络通信、股票交易、电信、Web点击流、视频监视和气象或环境监控数据。万维网上提供丰富的、全世界范围内的联机信息服务，其中的数据对象链接在一起便于交互访问。与之关联的分布式信息服务的例子如：美国在线，雅虎！Alta Vista等。翻译结果重试抱歉，系统响应超时，请稍后再试· 支持中文、英文免费在线翻译 · 支持网页翻译，在输入框输入网页地址即可 · 提供一键清空、复制功能、支持双语对照查看，使您体验更加流畅1.6 定义下列数据挖掘功能：特征化、区分、关联和相关分析、预测聚类和演变分析。使用你熟悉的现实生活的数据库，给出每种数据挖掘功能的例子。答：特征化是一个目标类数据的一般特性或特性的汇总。例如，学生的特征可被提出，形成所有大学的计算机科学专业一年级学生的轮廓，这些特征包括作为一种高的年级平均成绩(GPA：Grade point aversge)的信息，还有所修的课程的最大数量。􀁺 区分是将目标类数据对象的一般特性与一个或多个对比类对象的一般特性进行比较。例如，具有高GPA 的学生的一般特性可被用来与具有低GPA 的一般特性比较。最终的描述可能是学生的一个一般可比较的轮廓，就像具有高GPA 的学生的75%是四年级计算机科学专业的学生，而具有低GPA 的学生的65%不是。􀁺 关联是指发现关联规则，这些规则表示一起频繁发生在给定数据集的特征值的条件。例如，一个数据挖掘系统可能发现的关联规则为：major(X, “computing science”) owns(X, “personal computer”)support=12%, confidence=98% 其中，X 是一个表示学生的变量。这个规则指出正在学习的学生，12%（支持度）主修计算机科学并且拥有一台个人计算机。这个组一个学生拥有一台个人电脑的概率是98%（置信度，或确定度）。􀁺 分类与预测不同，因为前者的作用是构造一系列能描述和区分数据类型或概念的模型（或功能），而后者是建立一个模型去预测缺失的或无效的、并且通常是数字的数据值。它们的相似性是他们都是预测的工具：分类被用作预测目标数据的类的标签，而预测典型的应用是预测缺失的数字型数据的值。􀁺 聚类分析的数据对象不考虑已知的类标号。对象根据最大花蕾内部的相似性、最小化类之间的相似性的原则进行聚类或分组。形成的每一簇可以被看作一个对象类。聚类也便于分类法组织形式，将观测组织成类分层结构，把类似的事件组织在一起。􀁺 数据演变分析描述和模型化随时间变化的对象的规律或趋势，尽管这可能包括时间相关数据的特征化、区分、关联和相关分析、分类、或预测，这种分析的明确特征包括时间序列数据分析、序列或周期模式匹配、和基于相似性的数据分析2.2 假设给定的数据集的值已经分组为区间。区间和对应的频率如下。 年龄 频率 15 200 515 450 1520 300 2050 1500 5080 700 80110 44 计算数据的近似中位数值。 解答： 先判定中位数区间：N=200+450+300+1500+700+44=3194；N/2=1597 200+450+300=950<1597<2450=950+1500； 2050 对应中位数区间。 median=32.97 岁。2.4 假定用于分析的数据包含属性age。数据元组的age 值（以递增序）是：13，15，16，16，19，20，20，21，22，22，25，25，25，25，30，33，33，35，35，35，35，36，40，45，46，52，70。答：(a) 该数据的均值是什么？中位数是什么？均值=(13+15+16+16+19+20+20+21+22+22+25+25+25+25+30+33+33+35+35+35+35+36+40+45+46+52+70)/27=29.96中位数应是第14个,即x14=25=Q2。(b) 该数据的众数是什么？讨论数据的峰（即双峰、三峰等）。这个数集的众数有两个：25 和35,发生在同样最高的频率处,因此是双峰众数。(c) 数据的中列数是什么？数据的中列数是最大数和最小数的均值。即：midrange=(70+13)/2=41.5。(d) 你能（粗略地）找出数据的第一个四分位数（Q1）和第三个四分位数（Q3）吗？数据集的第一个四分位数应发生在25%处，即在(N+1)/4=（27+1）/4=7 处。所以：Q1=20。而第三个四分位数应发生在75%处,即在3×(N+1)/4=21 处。所以：Q3=35(e) 给出数据的五数概括。一个数据集的分布的5 数概括由最小值、第一个四分位数、中位数、第三个四分位数、和最大值构成。它给出了分布形状良好的汇总+并且这些数据是：13、20、25、35、70。(f) 画出数据的盒图。 (g) 分位数分位数图与分位数图的不同之处是什么？分位数图是一种用来展示数据值低于或等于在一个单变量分布中独立的变量的粗略百分比。这样,他可以展示所有数的分位数信息,而为独立变量测得的值（纵轴）相对于它们的分位数（横轴）被描绘出来。但分位数分位数图用纵轴表示一种单变量分布的分位数,用横轴表示另一单变量分布的分位数。两个坐标轴显示它们的测量值相应分布的值域,且点按照两种分布分位数值展示。一条线（y=x）可画到图中+以增加图像的信息。落在该线以上的点表示在y 轴上显示的值的分布比x 轴的相应的等同分位数对应的值的分布高。反之,对落在该线以下的点则低。2.7 使用习题2.4 给出的age 数据回答下列问题： (a) 使用分箱均值光滑对以上数据进行光滑，箱的深度为3。解释你的步骤。 评述对于给定的数据，该技术的效果。 (b) 如何确定数据中的离群点？ (c) 对于数据光滑，还有哪些其他方法？ 解答： (a) 使用分箱均值光滑对以上数据进行光滑，箱的深度为3。解释你的步骤。评述对于给定的数据，该技术的效果。 用箱深度为3 的分箱均值光滑对以上数据进行光滑需要以下步骤： 步骤1：对数据排序。（因为数据已被排序，所以此时不需要该步骤。） 步骤2：将数据划分到大小为3 的等频箱中。 箱1：13，15，16 箱2：16，19，20 箱3：20，21，22 箱4：22，25，25 箱5：25，25，30 箱6：33，33，35 箱7：35，35，35 箱8：36，40，45 箱9：46，52，70 步骤3：计算每个等频箱的算数均值。 步骤4：用各箱计算出的算数均值替换每箱中的每个值。 箱1：44/3，44/3，44/3 箱2：55/3，55/3，55/3 箱3：21，21，21 箱4：24，24，24 箱5： 80/3 ，80/3， 80/3 箱 6： 101/3，101/3， 101/3 箱7：35，35，35 箱8：121/3，121/3，121/3 箱9：56，56，56 (b) 如何确定数据中的离群点？ 聚类的方法可用来将相似的点分成组或“簇”，并检测离群点。落到簇的集外的值可以被视为离群点。作为选择，一种人机结合的检测可被采用，而计算机用一种事先决定的数据分布来区分可能的离群点。这些可能的离群点能被用人工轻松的检验，而不必检查整个数据集。 (c) 对于数据光滑，还有哪些其他方法？ 其它可用来数据光滑的方法包括别的分箱光滑方法，如中位数光滑和箱边界光滑。作为选择，等宽箱可被用来执行任何分箱方式，其中每个箱中的数据范围均是常量。除了分箱方法外，可以使用回归技术拟合成函数来光滑数据，如通过线性或多线性回归。分类技术也能被用来对概念分层，这是通过将低级概念上卷到高级概念来光滑数据。2.9假设医院检测随机选择的18个成年人年龄和身体脂肪数据，得到如下结果：(a)计算年龄和脂肪百分比的均值、中位数和标准差.年龄均值=(23+23+27+27+39+41+47+49+50+ 52+54+54+56+57+58+58+60+61)/18=836/18=46.44, 中位数= (50+52)/2=51, 标准差=方差的平方根=开根号（ 1/n(Xi)2-1/n(Xi)2）=开根号 1/182970.44=12.85.脂肪百分比均值=28.78, 中位数=30.7, 标准差= 8.99. (b)绘制年龄和脂肪百分比的盒图(c)根据这两个属性,绘制散布图,各q-q图 q-q图 散布图(d)根据z-score 规范化来规范化这两个属性（P46）(e)计算相关系数(皮尔逊积矩系数). 这两个变量是正相关还是负相关?ra,b=(ai-A)(bi-B)/NAB=（(aibi)-NAB）/NAB=（(aibi)-18*46.44*28.78）/18*12.85*8.99=0.82相关系数是0.82。变量呈正相关。2.10 如下规范化方法的值域是什么？答：(a) min-max 规范化。值域是new_min, new_max。(b) z-score 规范化。值域是(old_minmean)/，(old_maxmean)/，总的来说，对于所有可能的数据集的值域是(，+)。(c) 小数定标规范化。值域是(1.0,1.0)。3.3 （P97）假定数据仓库包含三维：time,doctor和patient;和两个度量：count和charge;其中，charge是医生对病人一次诊治的收费。(a)列举三种流行的数据仓库建模模式答：三类模式一般用于建模数据仓库架构的星形模型，雪花模型和事实星座模型。(b)使用(a)列举的模式之一，画出上面的数据仓库的模式图 数据仓库的星形模型（C）由基本方体day,doctor,patient开始，为列出2004年每位医生的收费总数，应当执行哪些OLAP操作？沿课程（course）维从course_id“上卷”到department。l 沿时间（time）维从 day “上卷”到 year。l 取 time=2004，对维 time作“切片” 操作l 沿病人（patient）维从 个别病人 “上卷”到 全部病人。(d)为得到同样结果，写一个SQL查询。假定数据存放在关系数据库中，其模式为fee(day，month，year，doctor，hospital，patient，count，charge)。答：SQL查询语句如下：select doctor, SUM(charge) from feewhere year=2004group by doctor3.5(P98) 假定数据仓库包含4维：date, spectator, location, 和game，和两个度量：count和charge;其中，charge是观众在给定的日期观看节目的付费。观众可以是学生、成年人或老年人，每类观众有不同的收费标准。(a)画出该数据仓库的星形模式图。答： 星形模式图如下：b. 由基本方体date，spectator，location，game开始，为列出2004年学生观众在GM_Place的总付费，应执行的OLAP操作：l 沿时间（date）维从date_id “上卷”到 year。l 沿时间（game）维从 game_id “上卷”到全部。l 沿时间（location）维从location_id “上卷”到 location_name 。l 沿时间（spectator）维从spectator_id “上卷”到 status 。l 以 status="students", location name="GM Place" and year=2004 作转轴操作3.6 数据仓库可以用星形模式或雪花模式建模。简略讨论这两种模式的相似点和不同点，然后分析它们的相对做优、缺点。哪种模式更实用，给出你观点并陈述你的理由。 答：星形模式或雪花模式的相似点是它们包含一个事实表和一些维表。它们主要的不同在于，雪花模式的维表可能是规范化形式，以便减少了冗余，这种表易于维护并节省存储空间。然而，与巨大的事实表相比，这种空间的节省可以忽略。此外，由于执行查询需要更多的连接操作，雪花形结构可能降低浏览的性能，这样，系统的性能可能相对的受到影响。星型模式的优点是简单、这使得它更有效，但它需要更多的空间。因此，只要空间的要求不是太大时，星形模式比雪花模式更好，因为通常效率比空间具有更高的优先级。在工业上，有时可能将数据从一个雪花模式非规范化为星型模式以加快处理速度，另一种选择是保持雪花模式的维表，然后相同数据的当前用户折叠为星形。4.4 假定基本方体有三维A,B,C,其单元数如下：|A|=,|B|=100,|C|=1000.假定每维均等地分块成10部分。（a）假定每维只有一层，画出完整的立方体的格。 答：完整的立方体的格如下图 （b）如果每个立方体单元存放一个4字节的度量，若立方体是稠密的，所计算的立方体有多大？答：所计算的立方体大小如下：all：1 A: 1,000,000; B: 100; C: 1, 000; 小计: 1,001,100AB: 1,000,000*100=100,000,000; BC: 100*1,000=100,000; AC: 1,000,000*1,000=1,000,000,000; 小计: 1,100,100,000 ABC: 1,000,000*100*1,000=100,000,000,000总和: 1+1,001,100+1,100,100,000+100,000,000,000=101,101,101,101 * 4 = 404,404,404,404 字节（C）指出空间需求量最小的立方体中的块计算次序，并计算2-D平面计算所需要的内存空间总量。 答：顺序计算，需要最少数量的空间B-C-A.如图所示：计算二维平面需要的总主内存空间是：总空间 = (100×1,000) + (1,000,000 × 10) + (100 × 10,000) = 20,100,000 单元* 4字节/单元= 80,400,000 字节4.12考虑下面的多特征立方体查询：按item, region, month的所有子集分组，对每组找出2004年的最小货架寿命，并对价格低于100美元，最小货架寿命在1.251.5之间的元组找出总销售额部分。（a）画出该查询的多特征立方体图。P126R0 R1(>= 1.25 * min(shelf) and <= 1.5 * min(shelf) (b)用扩充的SQL表示查询 select item, region, month, MIN(shelf), SUM(R1)from Purchaseswhere year = 2004cube by item, region, month: R1such that (R1.Shelf >= 1.25*MIN(Shelf) and R1.Shelf <= 1.5*MIN(Shelf) and R1.Price < 100（c）这是一个分布式多特征立方体吗？为什么？ 答：不，这不是一个分布式的多特征立方体。因为在such that子句中含有<=的条件。5.1.Apriori算法使用子集支持性质的先验知识。(a) 证明频繁项集的所有非空的子集也必须是频繁的。答：设s是一个频繁项集，min_sup 是最小支持度阀值，任务相关的数据D是数据库事务的集合，|D|是D 有事务量，则有Support_count(s) = min_sup×|D|；再设s是s的非空子集，则任何包含项集s的事务将同样包含项集s , 即：support_ count(s') support count(s) = min_sup ×|D|.所以，s也是一个频繁项集。(b) 证明项集s的任意非空子集s的支持至少和s的支持度一样大。 答：设任务相关的数据D是数据库事务的集合，|D|是D 的事务量，由定义得： 设s是s的非空子集，由定义得：由（a）可知：support(s) support(s)由此证明，项集s的任意非空子集s的支持至少和s的支持度一样大。（c）给定频繁项集 l 和 l 的子集 s ,证明规则的置信度不可能大于 答：设 s 是 l 的子集, 则 设s是s的非空子集，则 由（b）可知：support_count(s') support count(s)， 此外，confidence(s) (l-s) confidence(s) (l- s)所以，规则的置信度不可能大于。5.3设数据库有5个事务。设min_sup =60%, min_conf=80%(a)分别使用Apriori和FP增长算法找出所有频繁项集。比较两种挖掘过程的效率。效率比较：Apriori需多次扫描数据库而FP增长建立FP树只需一次的扫描。在Apriori算法中产生候选是昂贵的（由于联接），而FP增长不产生任何候选。 (b)列举所有与下面的元规则匹配的强关联规则（给出支持度S和置信度C）,其中，X是代表顾客的变量，itemi是表示项的变量（如：“A”、“B”等）：答： k,o e 0.6,1e,o k 0.6,15.5.数据库有4个事务，设min_sup =60%, min_conf=80%（a）在item_category粒度（例如，itemi 可以是“Milk”），对于下面的规则模板对最大的k,列出频繁k项集包含最大的k的频繁k项集的所有强关联规则（包括它们的支持度S和置信度c）.(b)在 粒度（例如：itemi 可以是“Sunset-Milk”）对于下面的规则模板对最大的k，列出频繁k项集（但不输出任何规则）。5.10 假定描述BigUniversity大学生的数据关系已泛化为表5-13的广义关系R.(题目见P179)（a）画出status,major,age,nationality的概念分层学生可以轻松地勾勒出相应的概念层次。(b)写一个程序，对所有层使用一致的支持度，详见P179.(c)使用层交叉单项过滤，详见P1795.14 下面的相依表汇总了超级市场的事务数据。其中，hot dogs表示包含热狗的事务，hot dogs表示不包含热狗的事务，hamburgers表示包含汉堡包的事务，hamburgers表示不包含汉堡包的事务，（a）假定挖掘出了关联规则 。给定最小支持度阀值25%，最小置信度阀值50%，该关联规则是强规则吗？答：根据规则， support = 2000/5000 = 40%， confidence = 2000/3000 = 66.7%. 该关联规则是强规则.（b）根据给定的数据，买 hot dogs独立于买humburgers吗？如果不是，二者之间存在何种相关联系。答：corrhotdog;hamburger = P(hot dog, hamburger)/(P(hot dog) P(hamburger)=0.4/(0.5 × 0.6) =1.33 > 1. 所以，买 hot dogs不是独立于买humburgers。两者存在正相关关系6.1 简述决策树分类的主要步骤。6.6 给定一个具有50个属性（每个属性包含100个不同值）的5GB的数据集，而你的台式机有512M内存。简述对这种大型数据集构造决策树的一种有效算法。通过粗略地计算机主存的使用说明你的答案是正确的。 We will use the RainForest algorithm for this problem. Assume there are C class labels. The most memory required will be for AVC-set for the root of the tree. To compute the AVC-set for the root node, we scan the database once and construct the AVC-list for each of the 50 attributes. The size of each AVC-list is 100×C. The total size of the AVC-set is then 100× C×50, which will easily fit into 512MB of memory for a reasonable C. The computation of other AVC-sets is done in a similar way but they will be smaller because there will be less attributes available. To reduce the number of scans we can compute the AVC-set for nodes at the same level of the tree in parallel. With such small AVC-sets per node, we can probably fit the level in memory.这个问题我们将使用雨林算法。假设有C类标签。最需要的内存将是avc-set为根的树。计算avc-set的根节点，我们扫描一次数据库，构建avc-list每50个属性。每一个avc-list的尺寸是100×C，avc-set的总大小是100×C×50，对于合理的C将很容易适应512 MB内存，计算其他avc-sets也是使用类似的方法，但他们将较小，因为很少属性可用。在并行计算时，我们可以通过计算avc-set节点来减少同一水平上的扫描次数，使用这种每节点小avc-sets的方法，我们或许可以适应内存的水平。6.11下表由雇员数据库的训练数据组成。数据已泛化。例如：age “31.35”表示年龄在31-35之间。对于给定的行，count表示department,status,age和salary在该行具有给定值的元组数。设status 是类标号属性。（a）如何修改基本决策树算法，以便考虑每个广义数据元组（即每一行）的count?(b)使用修改的算法，构造给定数据的决策树。 (c)给定一个数据元组，它在属性department,age和salary的值分别为“systems”,“26.30”,和“46K. 50K”。该元组status的朴素贝叶斯分类是什么？ （d）为给定的数据设计一个多层前馈神经网络。标记输入和输出层节点。 （e）使用上面得到的多层前馈神经网络，给定训练实例（sales,senior,31.35,46K.50K）,给出后向传播算法一次迭代的权重值。指出你使用的初始权重和偏倚以及学习率。6.12支持向量机（SVM）是一种具有高准确率的分类方法。然而，在使用大型数据元组集进行训练时，SVM的处理速度很慢。讨论如何克服这一困难，并为大型数据集有效的SVM算法。7.1简单地描述如何计算由如下类型的变量描述的对象间的相异度：（a）数值（区间标度）变量 (b)非对称的二元变量（c）分类变量（d）比例标度变量（e）非数据微量对象7.2给定年龄变量的如下测量值：18; 22; 25; 42; 28; 43; 33; 35; 56; 28;用如下的方法对该变量标准化（a）计算两个对象之间的欧几里得距离（b）计算两个对象之间的曼哈顿距离 (c) 计算两个对象之间的闵可夫斯基距离，用p=37.6 假设数据挖掘的任务是将如下的八个点(用（x,y）代表位置)聚类为三个簇。A1(2; 10);A2(2; 5);A3(8; 4);B1(5; 8);B2(7; 5);B3(6; 4);C1(1; 2);C2(4; 9): 距离函数是欧几里得距离。假设初始我们选择A1, B1,和 C1分别为每个簇的中心，用k均值算法只给出 (a) 在第一轮执行后的三个簇中心 (b) 最后的三个簇