1、数据挖掘中的软计算方法及应用综述摘 要 文章对数据挖掘中软计算方法及应用作了综述。对模糊逻辑、遗传算法、神经网络、粗集等软计算方法，以及它们的混合算法的特点进行了分析，并对它们在数据挖掘中的应用进行了分类。 关键词数据挖掘；软计算；模糊逻辑；遗传算法；神经网络；粗集 1 引言 在过去的数十年中，随着计算机软件和硬件的开展，我们产生和收集数据的能力已经迅速提高。许多领域的大量数据集中或分布的存储在数据库中12，这些领域包括商业、金融投资业、生产制造业、医疗卫生、科学研究，以及全球信息系统的万维网。数据存储量的增长速度是惊人的。大量的、未加工的数据很难直接产生效益。这些数据的真正价值在于从中找出有
2、用的信息以供决策支持。在许多领域，数据分析都采用传统的手工处理方法。一些分析软件在统计技术的帮助下可将数据汇总，并生成报表。随着数据量和多维数据的进一步增加，高达109的数据库和103的多维数据库已越来越普遍。没有强有力的工具，理解它们已经远远超出了人的能力。所有这些显示我们需要智能的数据分析工具，从大量的数据中发现有用的知识。数据挖掘技术应运而生。 数据挖掘就是指从数据库中发现知识的过程。包括存储和处理数据，选择处理大量数据集的算法、解释结果、使结果可视化。整个过程中支持人机交互的模式3。数据挖掘从许多交叉学科中得到开展，并有很好的前景。这些学科包括数据库技术、机器学习、人工智能、模式识别、
3、统计学、模糊推理、专家系统、数据可视化、空间数据分析和高性能计算等。数据挖掘综合以上领域的理论、算法和方法，已成功应用在超市、金融、银行4、生产企业5和电信，并有很好的表现。 软计算是能够处理现实环境中一种或多种复杂信息的方法集合。软计算的指导原那么是开发利用那些不精确性、不确定性和局部真实数据的容忍技术，以获得易处理、鲁棒性好、低求解本钱和更好地与实际融合的性能。通常，软计算试图寻找对精确的或不精确表述问题的近似解6。它是创立计算智能系统的有效工具。软计算包括模糊集、神经网络、遗传算法和粗集理论。2 数据挖掘中的软计算方法 目前，已有多种软计算方法被应用于数据挖掘系统中，来处理一些具有挑战性
4、的问题。软计算方法主要包括模糊逻辑、神经网络、遗传算法和粗糙集等。这些方法各具优势，它们是互补的而非竞争的，与传统的数据分析技术相比，它能使系统更加智能化，有更好的可理解性，且本钱更低。下面主要对各种软计算方法及其混合算法做系统性的阐述，并着重强调它们在数据挖掘中的应用情况。2.1模糊逻辑 模糊逻辑是1965年由泽德引入的，它为处理不确定和不精确的问题提供了一种数学工具。模糊逻辑是最早、应用最广泛的软计算方法，模糊集技术在数据挖掘领域也占有重要地位。从数据库中挖掘知识主要考虑的是发现有兴趣的模式并以简洁、可理解的方式描述出来。模糊集可以对系统中的数据进行约简和过滤，提供了在高抽象层处理的便利。
5、同时，数据挖掘中的数据分析经常面对多种类型的数据，即符号数据和数字数据。Nauck7研究了新的算法，可以从同时包含符号数据和数字数据中生成混合模糊规那么。数据挖掘中模糊逻辑主要应用于以下几个方面： 1聚类。将物理或抽象对象的集合分组成为由类似的对象组成的多个类的过程被称为聚类。聚类分析是一种重要的人类行为，通过聚类，人能够识别密集的和稀疏的区域，因而发现全局的分布模式，以及数据属性之间有趣的关系。模糊集有很强的搜索能力，它对发现的结构感兴趣，这会帮助发现定性或半定性数据的依赖度。在数据挖掘中，这种能力可以帮助阻止搜到无用和微缺乏道的知识。研究者为此开展了模糊聚类算法，并得到了广泛应用8。在高维
6、数据挖掘中有太多的属性要考虑，因此知识简约就非常的必要。属性聚类的实质就是知识简约，所谓知识约简，就是在保持知识库的分类或者决策能力不变的条件下，删除不重要的或冗余的知识，最小约简含有最小属性是人们所期望的，且约简结果是不确定的。所以模糊聚类成为知识简约的有力工具。 2关联规那么。数据挖掘重要的一点是关联规那么的发现，关联规那么挖掘是寻找给定数据集中属性间的关联。其中，布尔关联规那么考虑的是关联的属性在与不在的二维特征，概化关联规那么描述的是属性的分层关系，量化关联规那么描述的是量化的属性既离散化的属性间的关联9。由于使用模糊概念表示的规那么更符合人的思维和表达习惯，增强了规那么的可理解性，所
7、以模糊技术已成为数据挖掘系统中的关键技术。文献10中用模糊分类开拓了概化关联规那么。 3数据概化。概化发现是数据挖掘重要局部之一。它将大的数据集从较低的概念层抽象到较高的概念层，用可理解的信息来表达数据库中最重要的局部，并提供应用户。大数据集的语言概化通过有效的程度来获得，参考的标准内容在挖掘任务中。系统由概述、一致性程度真实和有效性组成。已经发现的最有兴趣的语言概化并不琐碎，却很人性化。实际上，它并不能自动地进行概化，需要人的操作。Kacprzyk和Zadrozny11开展了功能依赖度，语言概化使用了自然和可理解性的词汇，它支持模糊元素，包括属性间模糊的、重要的相互作用。首先，用户必须制定概
8、化兴趣度，然后系统从数据库中获得记录，并计算每个概化的有效性，最后，选择最适合的语言概化。此方法通过网络浏览器已用在因特网上。模糊值、模糊联系和语言量都通过JAVA来定义。 4Web应用。通过Web日志的挖掘，来发现用户访问Web页面的模式。通过分析Web日志记录中的规律，可以识别电子商务的潜在客户，增强对最终用户的Internet信息效劳的质量和交付，并改良Web效劳器系统的性能。还可以进一步获得用户访问的附加信息包括Web效劳器缓冲区中用户浏览Web页面的序列等，以便于做更为详细的Web日志分析。如通过用户访问模式的学习改良其自身的Web站点，有助于建立针对个体用户的定制Web效劳。为了挖
9、掘出较完全的兴趣模式,吴瑞12提出一种新的结构类型-FLAAT,它可发现那些被忽略的用户浏览偏爱路径。同时引进模糊集来处理停留在网页上的时间,以形成语义术语使挖掘出的用户浏览偏爱路径更自然、更易理解。算法能准确地反映用户的浏览兴趣。 5图像检索。随着近来由多种媒体数据构成的多媒体信息仓库数据的增加，基于内容的图像检索开始活泼在这个领域。和传统数据库中基于精确匹配的关键字来检索信息不同，基于内容的图像检索系统的信息是一个图像的可视特征。如颜色、纹理、形状等。由于检索中查询要求往往是根据人的主观性所决定，因此很大程度上带有模糊性。对于图像纹理，习惯于用“很粗、“中等、“弱这样的一些模糊概念来描述；
10、形状一般用“几何形的、“立体形的或“似长方形的、“正方形的等概念描述；颜色特征通常用“很艳、“一般、“暗淡或“大红、“紫红、“红这样的模糊概念来描述。所以基于内容是图像检索是基于图像的相似特征来检索的。2.2 神经网络 数据挖掘的困难主要存在于三个方面：首先，巨量数据集的性质往往非常复杂，非线性、时序性与噪音普遍存在；其次，数据分析的目标具有多样性，而复杂目标无论在表述还是在处理上均与领域知识有关；第三，在复杂目标下，对巨量数据集的分析，目前还没有现成的且满足可计算条件的一般性理论与方法。研究者们主要是将符号型机器学习方法与数据库技术相结合，但由于真实世界的数据关系相当复杂，非线性程度相当高，
11、而且普遍存在着噪音数据，因此这些方法在很多场合都不适用。因为神经网络的黑箱问题，在数据挖掘的初期并不看好，然而，神经网络由于本身良好的鲁棒性、自组织自适应性、并行处理、分布存储和高度容错等特性，以及它对未经训练的数据分类模式的能力，非常适合解决数据挖掘中存在的以上问题，因此近年来越来越受到人们的关注。 规那么抽取方法是解决“黑箱问题的有效手段。神经网络规那么抽取的研究最早开始于80年代末。1988年，Gallant13设计了一个可以用if-then规那么解释推理结论的神经网络专家系统。根据设计思想的不同，目前的规那么提取方法大致可以分成两大类，即基于结构分析的方法和基于性能分析的方法。 基于结
12、构分析的神经网络规那么抽取方法把规那么抽取视为一个搜索过程，其根本思想是把已训练好的神经网络结构映射成对应的规那么。由于搜索过程的计算复杂度和神经网络输入分量之间呈指数级关系，当输入分量很多时，会出现组合爆炸。因此，此类算法一般采用剪枝聚类等方法来减少网络中的连接以降低计算复杂度。RX算法14首先用权衰减方法构造BP网络该网络中连接权的大小反映了连接的重要程度，然后对网络进行修剪，在预测精度不变的情况下删除次要连接，在对网络进行充分简化的条件下，对隐藏层结点的激活值进行聚类，根据不同的隐藏层结点激活值用穷举搜索的方法来寻找从输入层到隐藏层和从隐藏层到输出层的规那么. 与基于结构分析的方法不同，
13、基于性能分析的神经网络规那么抽取方法并不对神经网络结构进行分析和搜索，而是把神经网络作为一个整体来处理，这类方法更注重的是抽取出的规那么在功能上对网络的重现能力，即产生一组可以替代原网络的规那么。较有代表性的算法是Sestito等人提出的相似权值法15，这种方法将输出节点添加到输入层去与输入节点进行比拟。1994年，Craven和Shavlik16为神经网络规那么抽取任务下了一个定义：给定一个训练好的神经网络以及用于其训练的训练集，为网络产生一个简洁而精确的符号描述。在文献16的根底上，1996年，Craven和Shavlik17提出了TREPAN算法。该算法首先用训练好的神经网络对例如集进行
14、分类，然后将该集合作为训练集提供应决策树学习算法，从而构造出一棵与原网络功能接近的、使用MOFN表达式作为内部划分的决策树。TREPAN的计算量较低。1997年，Craven和Shavlik18将TREPAN用于一个噪音时序任务，即美元马克汇率预测，取得了比现有方法更好的效果。2.3遗传算法 遗传算法是一种基于生物自然选择与遗传机理的随机搜索算法，是一种仿生全局优化方法。它是美国Michigan大学的Holland教授于1975年首先提出的。遗传算法中包含了5个根本要素：参数编码；初始群体的设定；适应度函数的设计；遗传操作设计；控制参数设定。遗传算法具有十分顽强的鲁棒性、自适应性，其在解决大空
15、间、多峰值、非线性、全局优化等复杂度高的问题时具有独特的优势。因此，遗传算法在数据挖掘技术越来越显示出其重要的地位。数据挖掘最初应用进化计算从给定的目标集中挖掘有趣数据挖掘中的软计算方法及应用综述(2)的规那么19，其强调从面向对象的数据库中发现数据集的共有特性。遗传算法也应用于其他方面如从多媒体数据库中挖掘多媒体数据。遗传算法在数据挖掘中主要应用于数据回归和关联规那么的发现。 (1)回归。除了发现可解释的模式之外，数据挖掘的另外一个重要的任务就是预测，即通过数据库中的一些变量开掘其超未来的趋势值。传统的线性回归需要先假设这些属性间没有相关性，而遗传算法那么可以很好的处理有相关性的变量。Xu20曾设计了一个多输入单输出的系统，应用遗传算法从训练数据集中进行非线性多元回归。 (2)关联规那么。遗传学习首先创立一个由随机产生的规那么组成的初始群体。每个规那么可以用一个二进制位串表示的if-than类型。通过全局搜索，形成由当前群体中最适合的规