物联网与数据挖掘习题及答案 第13、14章.docx

《物联网与数据挖掘习题及答案 第13、14章.docx》由会员分享，可在线阅读，更多相关《物联网与数据挖掘习题及答案 第13、14章.docx（3页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、13-1简述主动学习被提出的背景、意义及学习框架。物联网技术的快速发展和广泛应用使得我们可以随时随地、便捷地完成大规模数据的感 知、传输、收集、存储与处理；数据挖掘技术使得我们可以从数据中获取有效的、新颖的、 潜在有用的、最终可被理解的模式。两者的紧密结合促进了农业、工业、航空航天、物流、 消防安全、人机交互、教育、休闲娱乐等众多领域的快速发展。然而，在实际应用中，通过 物联网获得的传感器数据往往是原始的、未标注的，但是在一些有监督学习场景中需要大量 的高质量已标注的数据来训练一个准确鲁棒的预测模型。将传感器数据与相应标签对应起来 的过程一般需要通过人工的方式来完成，这往往不是一件简单的事，需

2、要花费大量的人力、 物力、财力和时间等资源。在实际应用中，基于大量有标签数据训练得到的模型往往能够获得较好的预测性能。主 动学习提供了一个折中的实施方案，仅要求标注最有价值的数据，而不要求全部标注。以提 高标注效率和降低标注成本。学习框架：给定一个有标签数据集和一个无标签数据集，一般中只包含少量的有标签数 据，主动学习过程主要包括以下步骤。(1)在当前已有的有标签数据集上通过某个学习算法训练得到一个模型Model；(2)通过以下过程完成一次模型Model的优化： 利用某个查询选择策略(Query Selection Strategy)从中选择最重要的样本x*,并将 其从中删除； 通过先知获得样

3、本x*的标签y；将标注的样本(x*,y)加入；利用新的重新训练模型Model。重复步骤(2),直至满足给定的停止条件，如达到最大查询次数、模型的准确率大于 某个阈值等。13-2比较分析基于流的选择采样和基于池的采样方法的异同。对于基于流的选择采样，无标签样本以流的形式达到模型(如决策树、朴素贝叶斯、人 工神经网络等)，模型需要对流中的每个样本做出独立判断：将样本送到先知来查询该样本 的标签，还是直接将该样本丢弃。此方法一般适用于传感器节点、手机等资源受限的边缘计 算场景。基于池的采样设定的场景：有一小部分有标签数据和大量无标签数据可用，并根据 一定的策略从池中有选择性地找出需要查询标签的样本。

4、相比基于流的选择采样按顺序扫描 数据并单独做出查询决策，基于池的主动学习在选择最佳查询之前对整个数据集中的样本进 行了评估，因此一般可以获得较好的性能。13-3试编程实现基于不确定性采样的主动学习方法。参阅代码实现：Tang, Ying-Peng, Guo-Xiang Li, and Sheng-Jun Huang. nALiPy: Active learning in python.0arXiv preprint arXiv: 1901.03802 (2019). Github: 参阅代码实现：Tang, Ying-Peng, Guo-Xiang Li, and Sheng-Jun Huan

5、g. ALiPy: Active learning in python.1arXiv preprint arXiv: 1901.03802 (2019). Github: 13-5试编程实现基于多样性最大化的主动学习方法。参阅代码实现:Tang, Ying-Peng, Guo-Xiang Li, and Sheng-Jun Huang. nALiPy: Active learning in python.narXiv preprint arXiv: 1901.03802 (2019). Github: 更高的数据利用率：主动学习通过选择最有价值的样本来增强模型的性能，从而减少了需要标记的样本数

6、量。这减少了标注工作的成本，并且更好地利用了有限的数据资源。更快的模型迭代速度：主动学习可以在每次迭代中选择最有价值的样本进行标注，从而 加速模型的训练过程。此外，在深度学习中，使用预训练模型可以加速迭代并提高准确性。更好的泛化性能：主动学习可以帮助模型更好地适应新的未见样本。通过选择最具代表 性的样本进行标注，主动学习可以减少对噪声和偏差的敏感度，并改善模型的泛化性能。更好的可解释性：主动学习可以帮助用户理解模型如何做出决策。通过选择最具代表性 的样本进行标注，主动学习可以使模型生成更清晰、更可靠和更易于解释的结果。总之，主动学习和深度学习技术相结合可以提高模型的准确性、效率和泛化性能，并增

7、 强用户对模型的信任和理解。144简述迁移学习被提出的背景和意义。传统的机器学习方法一般假设训练数据和测试数据服从同一个分布。在实际应用中，由于 各种各样的原因，训练数据和测试数据的分布往往是不相同的，将在训练集上得到的模型直接 应用在测试集上的任务会出现性能下降的情形。机器学习侧重于泛化样本间的共性不同，迁移学习侧重于泛化不同域间的共性，从根本上 放宽了传统机器学习方法所做的基本假设，在处理数据分析任务，特别是涉及新任务、新场 景、新环境等内容时，使用迁移学习模型可以改进传统的机器学习方法的不足。14-2迁移学习的三个基本问题是什么？并说明它们之间的关系。迁移什么、如何迁移及何时迁移是迁移学

8、习中的三个基本问题。上述三个研究问题的核心 是如何度量不同域或任务之间的距离。我们可以基于不同域或任务之间的距离来决定是否进行 迁移：若距离小，则表明相应的域或任务相关，可以进行知识的迁移；否则，不进行迁移以避 免出现负迁移的情况。根据不同域或任务之间的距离度量，可以确定哪些知识（即迁移什么）能 够减少不同域或任务之间的距离，进而确定如何利用这些知识（如何迁移）来减少不同域或任务 之间的距离。这三个问题的研究不是孤立的，而是相互促进和融合的，如何时迁移是与数据的 表征（表征是指采用哪些特征来表示数据中的样本）相关的，而表征方式在很大程度上决定着迁 移什么和如何迁移。14-3试编程实现采用二分类

9、策略的基于样本的迁移学习方法。参见教材第 14.2.3.1 小节。nJ11 14-4试编程实现迁移成分分析方法。参见教材第 1423.2 小节。可查阅 14-5简述基于特征的迁移学习。基于特征映射的迁移学习通过某个映射函数将原始特征空间变换为抽象的特征空间，并在 抽象特征空间中实现知识的迁移。具体来说，首先通过特征映射把各个域的数据从原始特征空 间映射到一个抽象特征空间（不同域的特征映射函数可能不同）中，使得源域数据与目标域数据 在该空间中的差异最小；然后在抽象特征空间中利用有标签源域数据训练一个模型，并将该模 型用于分析目标域数据。14-6简述基于模型的迁移学习。基于模型的迁移学习，又被称为基于参数的迁移学习，通过寻找源域和目标域之间可以共 享的参数来实现知识迁移，目标是重新使用从源域中学习到的模型，从而避免再次抽取训练数 据或再对复杂的数据表示进行关系推理。由于源域模型已经从数据中学习到了大量的结构知 识，通过迁移该结构知识到目标域中，可以在使用少量目标域有标签数据的情况下获得更好的 目标域模型。