201212

Size: px

Start display at page:

Download "201212"

楫铭樊
7 years ago
Views:

1 4 0,48() Comter Egieerig ad Aliatios 计算机工程与应用数据挖掘中区间数据模糊聚类研究基于 Wasserstei 测度李红, 孙秋碧 LI Hog, SUN Qibi 福州大学管理学院统计系, 福州 5008 Deartmet of Statistis, Maagemet College, Fzho Uiversity, Fzho 5008, Chia LI Hog, SUN Qibi. Fzzy lsterig of iterval data based o Wasserstei distaes i data miig. Comter Egieerig ad Aliatios, 0, 48():48. Abstrat:Bease of the limitatios of the ise distae i fzzy lsterig models for iterval data, this aer ts forward the Wasserstei distaes ito iterval data, ad gets the adative sigleidex ad adative dobleidex fzzy lsterig models. From the simlatio reslts ad CR idex, the advatages of the model are roved. The model has strog meaigs i emirial work whe data is stable ad missig. Key words:fzzy lsterig; iterval data; symboli data aalysis; adative 摘要 : 针对目前区间数据模糊聚类研究中区间距离定义存在的局限性, 引入能够考虑区间数值分布特征的 Wasserstei 距离测度, 提出基于 Wasserstei 距离测度的单指标和双指标自适应模糊聚类算法及迭代模型通过仿真实验和 CR 指数, 证实了该类模型的优势该算法在海量堆积如山的数据挖掘中有着重要的实践意义关键词 : 模糊聚类 ; 区间数据 ; 符号数据分析 ; 自适应文章编号 :008(0)00405 文献标识码 :A 中图分类号 :TP8 SDA(Symboli Data Aalysis) 是知识发现及数据管理研究中的新领域, 与多维数据分析模式识别及人工智能紧密联系在一起它的目的在于针对符号数据的特点选用合适的方法对其进行分析, 挖掘数据中的隐含信息模糊聚类是模糊模式识别范畴中的重要分支, 是一种无监督的模式识别方法, 在许多领域被广泛地应用目前, 国际学术界 SDA 体系模糊聚类研究方法大体上分以下几种 : 基于相似关系的聚类方法基于目标函数的聚类方法基于模糊关系的传递闭包聚类神经网络和基于先进的优化算法的聚类方法随着计算机的发展和实际问题的需要, 基于目标函数的算法已成为模糊聚类算法的主流国外有学者已经对此作出有益的研究 :Soza 和 De Carvalho 分别使用 ityblok 距离 Hasdorff [ 距离和欧式距离对区间型符号数据进行研究上述三种距离公式是目前区间模糊聚类中常用的三种距离但这些距离公式主要对比区间数据端点情况, 疏于考虑数据分布的集中与离散情形, 其聚类研究的结果可能易于丢失较多数据分布的有效信息 [ 前期研究中, 首次将 Wasserstei 测度引入区间数据的模糊聚类研究, 通过 CR 指标对比, 证明该方法的优越性研究也同时表明, 将各类别指标同等看待, 可能忽略指标自身的内在关联性和类的结构基于 Wasserstei 测度的单指标自适应区. Wasserstei 测度假定随机变量 A 和 B 的分布函数分别为 Ψ(A) 和 [4 Φ(B), 则 A 和 B 的 Wasserstei 距离测度定义为 : 基金项目 : 国家社科基金 (No.0BTJ00); 国家自然科学基金青年项目 (No ) 作者简介 : 李红 (980 ), 女, 在读博士研究生, 讲师, 主要研究领域为数据挖掘和经济统计分析 ; 孙秋碧 (958 ), 女, 博士学位, 教授 fdgylh@gmail.om 收稿日期 :00 修回日期 :0 CNKI 出版日期 :0005 DOI:0.778/j.iss htt://

Abstrat:Bease of the limitatios of the ise distae i fzzy lsterig models for iterval data, this aer ts forward the Wasserstei distaes ito iterval data, ad gets the adative sigleidex ad adative

2 李红, 孙秋碧 : 数据挖掘中区间数据模糊聚类研究基于 Wasserstei 测度 0,48() 5 距离 : d(ψ(a)φ(b)) 0 Ψ (A) Φ (B) dt () 999 年,Barrio [5 将该距离扩展成 Wasserstei L d(ψ(a)φ(b)) 0 (Ψ (A) Φ (B)) dt () 007 年,Irio 和 Romao [6 使用分布函数的一阶矩 μ A μ B 和二阶矩 σ A 将 Wasserstei 距离分解为 : d (Ψ Φ ) w A B (μ A μ B ) + (σ A σ B ) + Loatio Size σ σ ( ρ (Ψ A Φ B QQ A B )) Shae 0 (Ψ (t) μ A )(Φ (t) μ B )dt ρ QQ (ΨΦ) σ A () 0 Ψ (t)φ (t)dt μ A μ B σ A (4) 公式 () 说明 Wasserstei 距离综合考虑三方面因素 : 首先, 分布的中心位置 Loatio: 两个分布函数在位置上可能存在差异,Wasserstei 采用分布的均值差描述 ; 其次, 分布的波动差异 size 和 shae, 分布的波动差异由分布的标准差和密度函数的形状决定, Wasserstei 距离分别采用分布的标准差和 ρ QQ 系数描述值得注意的是, 此处 ρ QQ 的含义与传统皮尔逊相关系数的含义不同, 此处 ρ QQ 度量的是密度函数形状的差异,ρ QQ 当且仅当标准化后的 Ψ(A) 和 Φ(B) 相同与传统的 ityblok 距离 Hasdorff 距离和欧式距离相比,Wasserstei 距离不再侧重端点的比较, 而是抓住数据分布函数的信息, 综合考虑分布的中心及波动差异, 能更充分使用分布函数提供的信息本文中, 假设 A 和 B 在某区间服从均匀分布, 则区间 A [ab 和区间 B [v 的 Wasserstei 测度距离为 ( 若数据在区间内服从正态分布, 上述公式依然成立,μ A μ B σ A 相应于正态总体的均值方差 ): d w (U(ab)U(v)) (μ A μ B ) +(σ A ) (5) 其中,μ A (a + b)/,μ B ( + v)/,σ A (b a) /, (v ) / 扩充为 : 对于服从维均匀分布的区间变量, 上述公式可 d (AB) w [ a + b j j j j + v j + b a j j v j j (6). 基于 Wasserstei 测度的单指标自适应区设有个样本组成的样本集合 :X {x,x,x }, 依据个指标 x k (x k x k x k ),x kj [a kj b kj,a kj b kj, k, j 按个类别进行模糊聚类该模糊聚类相对隶属度矩阵表达式 U ( ), 其中为样本 k 隶属于类别 i 的相对隶属度 ;i ;k 满足条件 : "k i (7) î0 "i"k 类别 i 的聚类中心记为 :g i (g i g i g i ),g [α β, i, j 对每一个类 k, 引入自适应参数 λ k (λ k,λ k,,λ k ), 个样本与个类别差异的综合权衡度量定义为 : W i k ( ) Φ(x k g i ) α + β ) + (b a kj kj 故建立目标函数 : mi{ ( ) i k j (b a kj kj 满足约束条件 : ( ) i k j ) (8) α + β ) + ) } (9) "k Õ "i i j î0 "i"k î > 0 "i"j 为解决上述问题, 构造拉格朗日函数 : L( α β Φ Φ ) î ( ) i k j α + β ) + (b a kj kj ) Φ ( i ) Φ ( ) (0) j 通过求解拉格朗日函数, 可得到 : α Õ[ h k D ki D kh h é ë ( ) a kj k ( ),β k [(a kh + b kh [(a + b kj kj k j h j [( a + b kj kj λ hj [( a + b kj kj ( ) b kj k () ( ) k α + β ih ih ) + (b a kh kh α + β ) + (b a kj kj α + β ) + (b a kj kj α + β hj hj ) + (b a kj kj β ih α ih ) β α β hj α hj ù ) ) û ü ) ý þ () ()

A () 0 Ψ (t)φ (t)dt μ A μ B σ A (4) 公式 () 说明 Wasserstei 距离综合考虑三方面因素 : 首先, 分布的中心位置 Loatio: 两个分布函数在位置上可能存在差异,Wasserstei 采用分布的均值差描述 ; 其次, 分布的波动差异 size 和

3 6 0,48() Comter Egieerig ad Aliatios 计算机工程与应用. 迭代算法具体求解单指标区间模糊聚类循环迭代模型的步骤如下 ( 给定分类数及迭代计算精度 ε): () 设置初始隶属度函数, 满足 ³ 0, i () 隶属函数固定, 用公式 () 计算每个类的聚类中心 () 隶属函数固定, 步骤 () 中生成的聚类中心固定, 根据公式 () 计算自适应指标固定聚类中心和自适应指标, 根据公式 () 更新隶属函数 (4) 如果满足 : W W t + t ε 则迭代结束, 否则转步骤 (4) 继续进行迭代.4 关于指标权重约束条件选择的探讨对于指标权重的约束条件, 一般来说采取两种方式 : 一种是和的方式值得注意的是如果 j 采用和的方式在求导过程中将会消去项, 导致求导无法进行所以文献 [79 给出了一种根据样本计算权重的方法, 权重设置没有参与算法的迭代第二种约束方式是本文中采用的乘积形式 Õ, 为什么采用乘积形式在此做一个探讨 j 采用乘积约束条件一方面可以直接由拉格朗日求导法得到的表达式, 另一方面关键在于对变量尺度差异的考虑在计算两个样本点的距离时, 不同变量下样本点之间的距离不尽相同, 这种差异有可能是样本点本身的差异造成的, 也有可能是由变量的尺度差异带来的希望能尽可能避免后者对聚类分析的影响在的表达式中, 分母表示第 j 个变量下样本点与第 i 个聚类中心之间的平方距离, 也可以认为是第 j 个变量下样本的离散程度 ( 相当于离差 ) 若第 j 个变量的分母值相对其他变量较大 ( 即离差相对较大 ), 则相对较小 ; 反之, 则相对较大因此, 在计算距离时添加权重因子的处理方式可以在一定程度上降低变量尺度差异对于距离计算结果的影响基于 Wasserstei 测度的双指标自适应区正如 Wasserstei 的分解公式所描述,Wasserstei 测度的优势体现在其考虑了区间变量的集中趋势和波动情形, 因此考虑赋予集中趋势部分和波动部分不同的自适应指标, 故 W ( ) Φ(x k g i ) 其中 : i k α + β ) + λv(b a kj kj "k i î0 "i"k ( ) i k j ) (4) λ m > 0 λ m î j 上标 m 代表 λ m 是均值部分的自适应度指标 λ v > 0 λ v î j 上标 v 代表 λ v 是波动部分的自适应指标 é ë 根据拉格朗日函数求导, 可以得到 : j h j α λ m ( ) a kj k ( ),β k Õ[ Õ λ v h h k (a kh + b kh (a + b kj kj k [ k hj 仿真实验 (b kh a kh (b a kj kj k ( ) b kj k (5) ( ) k α + β ih ih ) α + β (6) ) β α ih ih ) α + β ) + λv(b a kj kj α + β hj hj ) + λv (b a kj kj hj β α (7) ) ù ) û ) β hj α hj (8) 为了对比几种方法的优劣, 进行仿真实验通过仿真实验, 对比 fzzy meas Wasserstei 单指标自适应 Wasserstei 和双指标自适应 Wasserstei 模糊聚类结果在聚类方法研究中, 评价聚类结果优劣主要表现在以下两个方面 :() 聚类质量分析即已知数据样本划分为类, 怎样划分效果更好在此, 选取经过调整的 RAND(CR) 指数比较聚类结果 CR 指数由 Hbert 和 Arabie [0 于 985 年提出, 其取值在 [ 之间, 能度量先验分类与实验分类的相似程度 CR 指数越接近, 说明实验分类与先验分类越吻合, 分类效果越好 () 算法的计算效率问题一个算法如

中心固定, 根据公式 () 计算自适应指标固定聚类中心和自适应指标, 根据公式 () 更新隶属函数 (4) 如果满足 : W W t + t ε 则迭代结束, 否则转步骤 (4) 继续进行迭代.

4 李红, 孙秋碧 : 数据挖掘中区间数据模糊聚类研究基于 Wasserstei 测度 0,48() 7 果计算率很低, 即便可以得到好的聚类结果, 也不可能认为是好的算法计算效率用平均迭代次数和平均目标函数值两个指标进行考察. 模拟数据分类为了便于对比研究结果, 本文采用文献 [ 中的数据配置数据配置中 Class 和 Class 分别产生 50 个样本点,Class 产生 50 个样本点, 共 50 个样本点数据配置 : ()Class :μ 5 μ 50σ 5 σ 0 ()Class :μ 45 μ 0 σ 5 σ 0 ()Class :μ 0 μ 50 σ 5 σ 5 数据配置 : ()Class :μ 45 μ σ 00 σ 9 ()Class :μ 60 μ 0 σ 9 σ 44 ()Class :μ 5 μ 8 σ 9 σ 9 从图可知, 数据配置是组界限较为清晰的二维正态数据, 数据配置中组数据有较多重合将上述样本点作为产生区间数据的种子每一个矩形被定义为 :([z γ /z + γ /[z γ /z + γ /) 参数 γ γ 分别为矩形的宽度和高度为了保证实验的有效性和稳定性, 进行 00 次重复实验, 且将 γ γ 的取值区间分别设为 [,6,[,4, [,,[,40, 最后得到分类结果. 模糊聚类结果分析分别用 fzzy meas 方法 Wasserstei 方法单指标自适应 Wasserstei 方法和双指标自适应 Wasserstei 方法对数据配置和数据配置进行模糊聚类划分, 结果分别见表和表每种情况下目标函数停止迭代的精度 ε 为仔细观测表和表可以得到如下结论 : () 数据配置分类界限清晰, 四种方法得到的 CR 值均为, 这说明, 四种分类方法都是有效的但从算法的计算效率指标来看,Wasserstei 方法单指标自适应 Wasserstei 方法和双指标自适应 Wasserstei 方法的计算效率明显高于传统的 meas 方法同时观测数据配置的计算效率指标, 当数据分界比较模糊时,Wasserstei 方法计算效率 < 单指标自适应数据配置数据配置 z λ 取值区间 [ 8 [ 6 [ 4 [ [ meas gro z 图数据配置的平均 CR 值 Wasserstei 表 z 0.00 lass z 数据配置模糊聚类质量指标 CR 对比 meas 数据配置的平均 CR 值 Wasserstei λ [ 8 [ 6 [ 4 [ [ 40 表算法的计算效率对比数据配置的平均迭代次数和目标函数 meas (4) (4) (4) () () Wasserstei (0) (0) (0) (0) (9) (0) (0) (0) (0) (0) (0) (0) 5 8.0(0) 5 8.0(0) (0) 数据配置的平均迭代次数和目标函数 meas (6) (5) (7) (6) () Wasserstei 7.0(6) 7.0() () (7) (6) () () 7 9.8() 7 9.8() 7 9.8() () () () () ()

()Class :μ 0 μ 50 σ 5 σ 5 数据配置 : ()Class :μ 45 μ σ 00 σ 9 ()Class :μ 60 μ 0 σ 9 σ 44 ()Class :μ 5 μ 8 σ 9 σ 9 从图可知, 数据配置是组界限较为清晰的二维正态数据, 数据配置中组数据有较多重合将上述样本点

5 8 0,48() Comter Egieerig ad Aliatios 计算机工程与应用 Wasserstei 方法计算效率 < 双指标自适应 Wasserstei 方法计算效率 () 观测数据配置的 CR 指标, 发现四种方法在分类效果上的排序依次为 :meas 分类效果 <Wasserstei 分类效果 < 单指标自适应 Wasserstei 分类效果 < 双指标自适应 Wasserstei 分类效果 4 算法在我国股市的应用我国股市的数据结构非常复杂, 主要表现在 : 第一, 数据集合中的样本点数量相当庞大, 而且这个数量每年还在迅速增长第二, 由于一些上市公司存在并购重组更名终止交易或暂停交易的情况, 所以数据表中样本点的数量逐年发生变化, 样本点的名称和内涵也发生变更在对这种复杂庞大的数据系统进行处理时, 海量堆积如山的数据往往让人们不知所措数据处理技术的局限使得人们往往只关注某个时点的数据, 如果要关注多个时点数据只能通过增加空间维度的方式这对海量堆积如山的数据造成浪费, 使得数据挖掘效率低下, 无法挖掘更多的信息而 Wasserstei 测度的区间数据算法为这一类问题的解决提供了新的途径实例中选择创业板上市公司的净利润增长率资产负债率流动比率和总资产周转率四个指标反映创业板上市公司的财务状况从公司月报季报半年报和年报中可以获得各个时间段数据, 人们在统计建模时习惯采用年报数据, 忽略其他时段数据年报数据是年度数据的整体估计, 缺乏数据波动描述, 可以采用如下步骤挖掘数据中隐含的更多信息 4. 区间数据的来源及处理首先依据选取的四个指标收集创业板上市公司的季度数据, 根据每个指标季度数据的最小值和最大值构建区间数据, 如表该区间数据表格描述了创业板上市公司 009 年财务的整体状况和波动幅度 4. 单指标自适应和双指标自适应模糊聚类结果对上述区间数据分别采用单指标自适应和双指标自适应模型进行模糊聚类划分, 结果如表 4 由于 [0 经过调整的 RAND(CR) 指数只能度量先验分类与实验分类的相似程度, 在该例中, 先验分类未知, 采用组间差异和组内差异度量两种算法分类的优劣 [ 一个较好的分类, 类内离差平方和 SSE 尽可能小, 类间离差平方和 SSA 尽可能大, 且样本总的离差平方和 SST SSE + SSA 比较两个分类的 SSE/SST 值, 较小则算法较优从表 4 的结果, 两类算法结果差异不大, 说明聚类较结果稳定,SSE/SST 值表明双指标聚类结果优于单指标聚类结果 5 结论表针对符号型数据中的区间型数据提出了基于 Wasserstei 测度的单指标和双指标自适应模糊聚类模型与文献中提到的传统距离测度相比,Wasserstei 测度有其自身的优势 :Wasserstei 测度考虑了区间值的密度特征, 如区间数据的均值和波动状态 ; 当指标之间相互独立且数据在区间中呈均匀分布或正态分布时,Wasserstei 测度很容易计算出来仿真实验的结果显示无论从聚类效果还是算法的有效性指标看, 模型都是有意义的区间数据表创业板上市公司净利润增长率资产负债率流动比率总资产周转率神舟泰岳红日药业 [a b [a b [a b [a b 在我国大型经济实验数据库及各种年鉴中, 各种记录和报表的数据规模经常是成百上千兆字节, 数据的丰富带来了高效率数据分析方法的需求例如在对股票市场进行研究时, 由于数据量大数据结构复杂, 运用传统的统计分析技术难以把握数据之间的内在属性, 通过构造区间数据对海量的原 [a b [a b [a 4 b 4 [a 4 b 4 类别第一类第二类第三类第四类第五类 SSE/SST 表 4 单指标自适应和双指标自适应模糊聚类结果单指标自适应模糊聚类双指标自适应模糊聚类神州泰岳乐普医疗红日药业鼎汉技术同花顺神州泰岳乐普医疗红日药业金龙机电新宙邦网宿科技鼎汉技术同花顺金龙机电新宙邦北陆药业钢研高纳九州电气北陆药业钢研高纳九州电气汉威电子吉峰农机硅宝科技汉威电子安科生物大禹节水吉峰农机硅宝科技安科生物大禹节水机器人中元华电特锐德华测检测中科电气上海佳豪中元华电特锐德华测检测中科电气上海佳豪南风股份爱尔眼科等南风股份机器人爱尔眼科等 ( 下转 7 页 )

第二, 由于一些上市公司存在并购重组更名终止交易或暂停交易的情况, 所以数据表中样本点的数量逐年发生变化, 样本点的名称和内涵也发生变更在对这种复杂庞大的数据系统进行处理时, 海量堆积如山的数据往往让人们不知所措

何秋琳张立春视觉学习研究进展视觉注意视觉感知

何秋琳张立春视觉学习研究进展视觉注意视觉感知第卷第期年月开放教育研究何秋琳张立春华南师范大学未来教育研究中心广东广州随着图像化技术和电子媒体的发展视觉学习也逐步发展为学习科学的一个研究分支得到研究人员和教育工作者的广泛关注基于此作者试图对视觉学习