文本聚类的开题报告.docx

《文本聚类的开题报告.docx》由会员分享，可在线阅读，更多相关《文本聚类的开题报告.docx（8页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、文本聚类的开题报告 文档聚类可以作为多文档自动文摘等自然语言处理应用的预处理步骤，可以将重要新闻文本进行聚类处理，是一种处理文本信息的重要手段。 文本聚类开题报告 基于KMean文本聚类的探讨 摘 要 文本聚类能够把相像性大的文本聚到同一类中。K-Means常用来聚类文本，但是由于聚类中心的选取对聚类结果有影响，导致聚类不稳定，因此采纳一种基于聚类中心的改进算法分析文本，通过试验，验证算法的有效性。 中国论文网 关键词 文本聚类;k-means;相像性;度量准则 中图分类号：TP391 文献标识码：B 文章编号：1671-489X(20XX)18-0050-03 Research for Te

2、xt Clustering based on K-Mean/ZHANG Yue， LI Baoqing， HU Lingfang， MENG Li Abstract Text clustering can make the text similarity large clustered into the same class， K-Means usually is used in text clustering， because of impacting on the cluster center， which results in the clustering instability. Th

3、erefore， this paper uses a text analysis of improved algorithm based on the clustering center， through the experiment， it verifies the effectiveness of the improved algorithm. Key words text clustering; k-means; similarity; measure criterion 文本聚类是把不同的文本分别聚在不同的类别中，是文本挖掘的重要技术，它是一种无监督的学习技术，每个类中包含的文本之间具

4、有较大的相像性，不同类间的文本相像性比较小。文本聚类是数据挖掘的重要分支，它应用神经网络、机器学习等技术，能够自动地对不同文本进行分类。 在文本聚类分析中，文本特征表示一般采纳向量空间模型1，这种模型能更好表现文本。在对文本聚类的探讨中，Steinbach等人探讨了基于划分的方法和基于层次的方法在文本聚类中的适用程度2-3，得出结论：采纳K-Means算法进行聚类，不仅聚类结果较好，而且适用于数据量比较大的聚类场合。在文章中依据探讨者对K-Means的发觉，结合实际探讨，采纳一种基于K-Means的改进算法来聚类。Dhillod等人对文本聚类进行探讨发觉，采纳余弦夹角作为相像性度量比采纳欧氏距

5、离度量的结果好许多4。 1 文本聚类 文本聚类的方法许多，主要分为基于层次的方法、基于划分的方法、基于密度的方法、基于模型的方法、基于网格的方法5。在这些聚类方法中，基于划分的K-Mean是最常用也是许多改进方法的基础，文章中实行的改进方法也是基于K-Mean的。 K-Mean首先由MacQueent6提出。它能在大数据集中广泛被运用，因为算法效率较高、算法执行过程理解简单。当前进行的许多探讨都是以K-Mean为基础开展进行的，它的计算困难度低，具有与文档数量成线性关系的特性，计算效率不仅高，而且伸缩性较强，适应大数据集的实力也很强。K-Mean以k为初始聚类数，然后把n个文本分到k个聚类中，

6、这样类内的文本具有较高的相像度，不同类间的相像度较小。 K-Mean详细的算法过程如下： 1)首先给定n个数据文本，从其中任选k个文本，这k个数据文本初始地代表了k个类的数据中心; 2)对剩余的每个文本计算其到每个中心的距离，并把它归到最近的中心类中; 3)重新计算已经得到的各个类的中心，通常计算中心的准则函数采纳平方误差准则，这个准则能够使生成的结果类尽可能地独立和紧凑; 4)迭代执行其次步和第三步的动作直至新的中心与原中心相等或小于指定阈值，直到算法结束。 详细的算法流程如图1所示。 2 改进的聚类算法 虽然运用K-Mean算法进行文本聚类时，具有计算困难度低，计算效率不仅高，而且伸缩性较

7、强，适应大数据集的实力也很强的优点，但是试验发觉，不仅初始聚类中心的选取对聚类结果有影响，孤立点的存在对文本的相像性的推断也有很大的影响，这就导致聚类推断不稳定。基于此，文章采纳一种改进的方法来进行文本聚类，改进关键点在于聚类中心的计算，用与原聚类中心相像的文本数据来计算平均值作为该聚类中心。 改进的K-Means算法描述如下所示： 1)首先给定n个数据文本，从其中任选k个文本，这k个数据文本初始地代表了k个类的数据中心; 2)对剩余的每个文本计算其到每个中心的距离，并把它归到最近的中心类中，记作means; 3)选择类中与类中心大于等于(1+a)*means的文本集合D1，D2，.，Dk，其

8、中a-0.31，0.31，重新计算新文本集中的类中心; 4)迭代执行第2步和第3步的动作直至新的中心与原中心相等或小于指定阈值，直到算法结束。 3 相像度计算 文本聚类中涉及文本的相像性计算，只有相像性大的文本才能聚到同一类中，因此，相像性的度量对文本的聚类很关键。在文本聚类中，相像度度量方式一般有曼哈顿距离、Cosine距离、欧式距离，其中Cosine距离更能体现文本的相像性。本文主要采纳Cosine距离，当两个文本之间的文本相像度越大，它们之间的相关性越强。文本集用向量空间模型表示后，文本的相像度采纳向量之间距离表示： (1) 4 评价标准 文本聚类的有效性须要进行验证，文章中主要采纳F度

9、量、平均纯度来对聚类结果进行评价。 1)F度量。F度量把召回率和评价标准精确率结合在一起。 精确率：P(i，r)=nir/nr (2) 召回率：R(i，r)=nir/ni (3) 其中nir是类别r中包含类别i中的文本的个数，nr是类别r中实际文本的数目，ni是原本类别i中应有的文本数，F值的计算公式： (4) 由公式(4)最终得到评价函数为： (5) 其中n为文本的总数。从公式看出F值越高，聚类效果越好。 2)平均纯度。除了用F度量来评价聚类，文章中还运用平均纯度来度量文本聚类质量好坏7。设类ci的大小为ni，则该类的纯度为： (6) 其中nj表示类ci与第j类的交集大小，则平均纯度公式为：

10、 (7) 其中k为最终的聚类数目。一般说来纯度越高聚类效果越好。 5 聚类试验结果分析 文章中采纳的试验数据主要是搜狗语料库。搜狗语料库主要包括10种文本类别：军事、聘请、IT、文化、健康、汽车、体育、旅游、财经、教化。搜狗语料库包含了每一类的文件夹，在文件夹中都是txt文本。为了验证改进后的算法比原算法更有效，进行了多次试验，最终选取了其中一次试验结果为例子，对两种算法的F度量和纯度进行比较，分别如表1和表2所示。 从表1可以看出，改进聚类中心的K-Means算法在纯度方面相对有一些提高;从表2可以看到F值提高超显;从两个表中的试验结果可以看到改进的算法是有效的。 6 结论 基于文本的聚类分

11、析能够对大量的文本进行聚类，分析中采纳的聚类算法的改进能在很大程度上提高聚类的精确性。试验证明达到设计的效果，同时也为后期的各种数据挖掘工作打下基础。 参考文献 1Salton G， Wong A， Yang C S. A vector space model for automatic indexingJ.Comm. ACM，1975，18(11)：613-620. 2Steinbach M， KaryPis G， Kumar V. A comparison of document clustering techniquesC.Proceedings of KDD 2000 Workshop

12、 on Text Mining.2000：1-20. 3Ying Zhao， KaryPis G. Hierarchical Clustering Algorithms for Document DatasetsJ.Proceedings of Data Mining and Knowledge Discovery，2023，10(2)：141-168. 4Dhillon I S， Modha D S. Concept decompositions for large sparse text data using clusteringJ.Machine Learning，2023， 42(1)

13、：143-175. 5邵峰晶，于忠清.数据挖掘原理与算法M.北京：中国水利水电出版社，2023. 6MacQueen J. Some methods for classification and analysis of multivariate observationsC/Proceedings of 5th Berkeley Symposium on Mathematics. Statistics and Science.1967：281- 296. 7Hammouda K， Kamel M. Collaborative document clu-steringC/2023 SIAM Conference on Data Mining (SDM06). 2023：453-463.