1、第 5 期2023 年5 月电子学报ACTA ELECTRONICA SINICAVol.51 No.5May 2023基于FastICA和G-G聚类的多元时序自适应分段王玲1,2,李泽中1,2(1.北京科技大学自动化学院,北京100083;2.北京科技大学自动化学院工业过程知识自动化教育部重点实验室,北京100083)摘要:现有多元时间序列的分段方法主要通过检测时序数据统计特性或形状的变化情况,并以此为依据对分段点的位置进行“硬划分”.然而,这些分段方法无法对两个分段之间的过渡区间长度进行准确估计,且普遍需要人为预先设置参数,在高维且噪声较强的情况下分段效果较差.本文针对现有分段方法存在的诸
2、多不足,提出一种基于FastICA(Fast Independent Component Analysis)和G-G(Gath-Geva)模糊聚类的多元时序自适应分段方法.该方法利用FastICA进行特征提取,采用DW(Durbin-Watson)指数自动选取高信噪比的主成分,并根据最小描述长度(Minimum Description Length,MDL)设计基于G-G模糊聚类的自适应分段模型,实现对于多元时间序列的“软划分”.基于多种领域的真实数据集实验结果表明:与现有主流的分段方法相比,本文方法在上述数据集上的平均F1和MAE(Mean Absolute Error)可分别提升8.4%1
3、6.8%和3.06%6.56%.关键词:多元时间序列;自适应分段;快速独立主成分分析;Gath-Geva聚类;最小描述长度基金项目:国家自然科学基金(No.62076025,No.61572073)中图分类号:TP273文献标识码:A文章编号:0372-2112(2023)05-1235-10电子学报URL:http:/DOI:10.12263/DZXB.20220649Adaptive Segmentation of Multivariate Time Series with FastICA and G-G ClusteringWANG Ling1,2,LI Ze-zhong1,2(1.Sc
4、hool of Automation and Electrical Engineering,University of Science and Technology Beijing,Beijing 100083,China;2.Key Laboratory of Knowledge Automation of Industrial Processes of Ministry of Education,School of Automation and Electrical Engineering,University of Science and Technology Beijing,Beiji
5、ng 100083,China)Abstract:The existing segmentation methods detect the statistical or shape changes of multivariate time series,and perform crisp segmentation on the location of change points.However,these methods fail to estimate the length of the transition interval between two segments,cannot accu
6、rately segment multivariate time series with high dimension,strong noise,and need to set parameters in advance.To address such matters,an adaptive multivariate time series segmentation method based on FastICA(Fast Independent Component Analysis)and G-G(Gath-Geva)clustering is proposed.In this method
7、,the key features of multivariate time series are extracted via FastICA,and DW(Durbin-Watson)criterion is used to automatically select main components with high signal-to-noise ratio.According to the minimum description length(MDL),an adaptive multivariate time series segmentation model based on G-G
8、 clustering is designed,which is able to perform soft segmentation of multivariate time series.The experimental analysis is carried out on real datasets in many different fields.Compared with state-of-art benchmarks,the average F1 and MAE(Mean Absolute Error)of the proposed method on the above-menti
9、oned datasets improve 8.4%16.8%and 3.06%6.56%,respectively.Key words:multivariate time series;adaptive segmentation;fast independent component analysis;Gath-Geva clustering;minimum description lengthFoundation Item(s):National Natural Science Foundation of China(No.62076025,No.61572073)1引言时间序列是对某个物理
10、量按时间的先后顺序进行定量观测的有序集合,已被广泛应用于经济学1,气象学2,生命科学3等各个研究领域.作为一种重要的时间序列预处理技术,时间序列分段的目标是将原始的时序数据分割为若干个离散且同质的数据片段以反映原始收稿日期:2022-06-07;修回日期:2022-08-22;责任编辑:覃怀银电子学报2023 年数据的底层模式,从而使得海量时序数据的分析任务变得易于处理.早期的时间序列分段研究主要针对一元时间序列,采用的方法包括基于分段线性表示(piecewise linear representation)4、基于进化计算(evolutionary computing)5、基于变化点检测(c
11、hange point detection)6等.然而,在许多应用场景下仅凭一元时间序列所提供的信息量将不足以生成合理的分割结果,譬如在动作捕捉领域中,仅凭手部佩戴的传感器数据将很难区分受试者步态模式的改变.因此,针对拥有更高数据维度的多元时间序列设计行之有效的分段方法具有重大意义.目前,针对多元时间序列的分段方法主要可分为三大类:基于统计模型的方法712,基于形状变化的方法1315以及基于聚类的方法1619.上述分段方法已经在分段准确性方面取得重要进展,但仍存在以下几点不足:(1)这些分段方法普遍属于“硬划分”的分段机制.然而,在实际情况中,多元时间序列的变化趋势是缓慢而模糊的.两组有明确语
12、义的片段之间很少会发生瞬态转换,更多情况下其间会夹杂一段无明确语义的,高熵的过渡区间.譬如在动作捕捉领域中,受试者在“踢腿”和“跑步”的动作转换过程中会做出一系列过渡动作进行衔接.“硬划分”的分段机制通常并不能准确识别完整的过渡区间,而是倾向于将其割裂开,或将其简单划归至“踢腿”或“跑步”的任意一段.更为合理的方法则是将完整的过渡区间作为独立的段进行分割,以实现对多元时间序列的“软划分”.(2)上述分段方法大都需要人为给定至少一种超参数,诸如时间序列的分段总数,滑动窗口长度或聚类个数等,调试超参数的冗长过程很大程度上增加了计算复杂性.(3)高维数据中的冗余部分以及混迭噪声的影响会使得上述分段方
13、法对于真实分段点的识别产生偏差.(4)当前大多数方法对于分段结果的准确性评估仍旧以视觉为基准13,当数据维度或分段总数增多的情况下,评估将会变得困难,并且缺乏客观性.针对当前多元时间序列分段方法中存在的诸多不足,本文提出一种基于快速独立主成分分析(Fast Independent Component Analysis,FastICA)以及 G-G(Gath-Geva)模糊聚类的自适应分段方法(Adaptive Multivariate Time Series segmentation model based on FastICA and G-G clustering,AMTS-FG).该方法具
14、有以下优点:(1)不同于“硬划分”的分段机制,所提出方法通过G-G模糊聚类获得任意时间点属于各个分段的模糊隶属度,并依据模糊隶属度实现对过渡区间长度的准确估计;(2)基于最小描述长度(Minimum Description Length,MDL)20自动选取最优分段总数,能够实现对于多元时间序列的自适应分段,避免人为设置参数;(3)采用FastICA 实现数据的特征提取,并引入 DW(Durbin-Watson)指数自适应确定信噪比较高的主成分,能够提高对高维且噪声较强的多元时间序列数据类型的分段准确性;(4)采用多种评价指标全面评估分段算法的有效性,而不是仅以视觉为基准,增强实验的客观性.2
15、相关理论2.1独立主成分分析在现实生活中,由于数据采集设备所处的真实环境较为复杂,并且不同设备之间存在相互作用,致使收集到的多元时间序列数据易与噪声发生混叠现象.因此,研究有效的多元时间序列降噪方法,提取原始数据信息的主要成分,对于后续分段算法准确性的提升具有重大意义.作为实现信号降噪分离最为流行的方法之一,独立 主 成 分 分 析(Independent Component Analysis,ICA)21已被广泛应用于故障诊断和模式识别等领域.给定原始数据矩阵SRqN,其中q代表变量维数,N代表样本个数,则在ICA算法中,S与潜在的独立主成分XRdN存在以下关系:S=AX+E(1)式(1)中
16、,ARqd代表混合矩阵,ERqN代表残差矩阵.在仅已知原始数据矩阵S的情况下,ICA通过估计解混矩阵W=A-1,最终得到潜在的独立主成分:X=WS(2)目前求解ICA模型的方法可以分为很多种.在众多方法中,本文选择FastICA算法22实现对原始数据的分离降噪.FastICA采用固定点迭代的优化方法,在优化计算W的过程中无需选择步长参数,具有易用性强,可靠性高的优点.2.2基于G-G聚类的多元时间序列分段在现实生活中,许多情况下多元时间序列的变化趋势通常是缓慢而模糊的,对这种存在“过渡效应”的数据进行准确分段具有较大的挑战性.最近,Abonyi等人 23 基于G-G模糊聚类,提出了一种新型多元时间序列分段算法.该方法将多元时间序列的不同分段表示为具有非固定边界的模糊集,而不是将其分割为不相交的区域.具体而言,给定多元时间序列数据矩阵X=x1 xi xN及其对 应 的 时 间 戳T=(t1titN),其 中xi=(xi1xi2xid)T代表时刻ti的d维采样值.在已知分段数C的情况下,基于G-G聚类的分段算法通过最小化如下目标函数以获得最优的模糊分段:J(X|GG)=i=1Nk=1C()