1、第 40 卷第 1 期2023 年 1 月控 制 理 论 与 应 用Control Theory&ApplicationsVol.40 No.1Jan.2023基基基于于于特特特征征征层层层密密密集集集连连连接接接与与与注注注意意意力力力机机机制制制的的的宽宽宽度度度学学学习习习系系系统统统及及及其其其在在在锌锌锌浮浮浮选选选过过过程程程的的的应应应用用用丁浩峰,谢永芳,谢世文,王杰(中南大学 自动化学院,湖南 长沙 410083)摘要:本文针对宽度学习存在计算消耗资源大、计算过程冗余数据较多等问题,提出了一种基于特征层密集连接与注意力机制的宽度学习系统(DCA-BLS),并利用其建立锌浮选过
2、程快粗槽底流品位在线预测模型.首先将宽度学习系统的特征层不同窗口进行密集连接,引入弹性网络进行稀疏化处理,利用注意力机制处理特征节点,获得不同特征节点的权值,再将加权后的特征节点与输入的数据相结合,共同作为增强层节点的输入,使模型更为紧凑.在公共数据集和锌泡沫浮选数据上将DCA-BLS与其他预测算法进行了对比实验,实验结果表明,本文提出的方法训练时间短,且相较于其他所比较方法具有更高的准确率.关键词:宽度学习;注意力机制;密集特征;软测量;锌浮选引用格式:丁浩峰,谢永芳,谢世文,等.基于特征层密集连接与注意力机制的宽度学习系统及其在锌浮选过程的应用.控制理论与应用,2023,40(1):111
3、 120DOI:10.7641/CTA.2022.10753Dense connection and attention-based broad learning system andits application to zinc flotation processDING Hao-feng,XIE Yong-fang,XIE Shi-wen,WANG Jie(School of Automation,Central South University,Changsha Hunan 410083,China)Abstract:In this paper,a dense connection an
4、d attention-based broad learning system(DCA-BLS)is proposed toaddress the issues of large computing resource consumption and redundant data in the training process of broad learningsystem.It is applied to predict the zinc ore froth flotation process fast coarse trough bottom flow grade.Firstly,thedi
5、fferent windows in feature layer of the broad learning system are densely connected.Then elastic network is employedto sparse the model,and attention mechanism is proposed to deal with nodes in feature layer,to obtain the weights ofdifferent characteristics of the nodes.The weighted nodes in feature
6、 layer of BLS are combined with the input data.Thecombination is used as the input of enhance nodes in BLS,which can make learning model more compacted.DCA-BLS iscompared with other prediction algorithms on public data sets and zinc froth flotation data.Experimental results show thatthe proposed met
7、hod has shorter training time and higher accuracy than other methods.Key words:broad learning system;attention mechanism;dense features;soft sensor;zinc flotationCitation:DING Haofeng,XIE Yongfang,XIE Shiwen,et al.Dense connection and attention-based broad learningsystem and its application to zinc
8、flotation process.Control Theory&Applications,2023,40(1):111 1201引引引言言言泡沫浮选1是一种利用矿物颗粒表面的理化性质差异来分离矿物和脉石的方法.它是一个将加入药剂调和的矿浆经过充气与搅拌产生气泡,使疏水性较强的矿粒与上升的气泡碰撞并附着,最终在浮选槽表面形成矿化泡沫层,再进行回收,不断提高精矿品位的过程.目前,泡沫浮选已经成为主流的选矿方式.锌快粗槽底流品位是指浮选过程中自锌快粗槽排出的非泡沫产品中矿物的含量.锌快粗槽粗选作为锌浮选过程的第一道工序,其底流品位的高低会对后续浮选流收稿日期:20210817;录用日期:20220
9、426.通信作者.E-mail:;Tel:+86 15116491594.本文责任编委:杨辰光.广东省重点领域研发计划项目(2021B0101200005),国家自然科学基金项目(62003370,62233018),湖南省自然科学基金项目(2021JJ30873)资助.Supported by the Key-Area Research and Development Program of Guangdong(2021B0101200005),the National Natural Science Foundation ofChina(62003370,62233018)and the N
10、ature Science Foundation of Hunan province(2021JJ30873).112控 制 理 论 与 应 用第 40 卷程产生影响.在入矿条件一定的情况下,若锌快粗槽底流品位较高,则说明锌快粗槽可能存在跑尾现象,将会导致最终的精矿品位下降.因此,锌快粗槽底流品位可以作为锌浮选过程经济效益的重要参考.如何实时预测锌快粗槽底流品位,指导现场工人操作,从而降低该过程的功耗,提升经济效益,减少碳排放,实现更高质量的可持续发展具有重要意义.研究表明,泡沫浮选过程中的泡沫层表面视觉静态特征2如泡沫的尺寸、颜色、纹理或泡沫流速、稳定度等动态特征3中蕴含了诸多与过程指标相关
11、的信息4.我国的浮选现场往往通过人工肉眼对泡沫表面进行特征观察,这存在较大的不确定性和主观性.随着时代的发展,机器视觉可以逐渐替代人眼获取图像的特征信息5,图像处理技术则可以替代人类大脑对图像特征进行分析.考虑上述两种技术具有非接触、实时性强、不依赖人的主观性等优点,本文采用机器视觉与图像处理技术对工业相机采集的锌快粗槽泡沫层图像表面特征进行提取与分析,作为模型训练的必要准备.在锌浮选现场,采用仪器进行锌快粗槽底流品位检测存在成本高、大时滞等问题,而采用深度学习方法则存在模型训练时间长、不能在线更新等问题,因此,如何建立能克服上述问题的预测模型是一个值得关注的问题.神经网络技术自问世以来,因其
12、可以对非线性系统进行有效辩识而受到广泛关注6.在泡沫浮选方面,Fu等人7采用卷积神经网络AlexNet,在普通目标图像数据库上预先训练,从浮选泡沫图像中提取特征,并在两个样本上进行实验对比.结果表明该方法与小波提取特征等传统方法相比预测的准确性更高,稳定性更好.Pu等人8考虑输入变量与输出纯度的不同映射关系,在深度学习神经网络的基础上提出了FlotationNet,并嵌入了自己设计的损失函数,并在泡沫浮选厂的原始数据上进行实验.结果表明,该方法相比于原始的深度学习模型具有更好的预测性能.Jahedsaravani等人9建立了硫化铜矿石间歇式浮选过程中工艺变量与冶金参数之间的关系,应用非线性回归
13、和自适应模糊神经网络技术对不同条件下的过程行为进行建模.实验结果表明,将神经网络技术对浮选过程进行建模可以获得良好的预测效果.Zhang等人10基于卷积记忆网络的视觉软传感器建立了浮选过程的精矿品位预测模型,并利用某铅锌矿厂真实数据进行仿真实验,取得了令人满意的实验结果.尽管深度神经网络已经有了非常广泛的应用,但是其仍然存在着如结构复杂、训练时间较长、训练过程需要占用大量的计算机资源等一些明显的不足.Chen在随机向量函数链神经网络(random vector fun-ctional link neural network,RVFLNN)11的基础上提出了宽度学习系统(broadlearnin
14、gsystem,BLS)12,该系统仅包含输入层、隐层、输出层三层网络结构,隐层包含特征节点和增强节点,因而宽度学习系统结构简单且需要学习的参数较少.可以在保证精度的前提下,快速地实现模型的构建.同时,Chen等人13提出一些结构连接的改进方案,如CFBLS:除第一个特征窗口由输入层与随机权重矩阵与偏差生成外,其他每个特征窗口的值均仅由该特征窗口前一个特征窗口生成,相当于提取了更多的特征.该方法在部分数据集上取得了较为满意的效果.虽然宽度学习具有比深度学习训练时间短、可以利用进行模型自更新等优势14,但其存在计算冗余量大、模型紧凑性不佳等问题.同时,宽度学习作为一种新型神经网络,其在多方面都存
15、在可改进的空间.考虑到宽度学习模型中,特征节点用于提取研究对象的线性特征,但原始的特征层仅有一层,因此考虑改变特征层连接方式使得模型可以提取更深层次的特征.但相比于CFBLS,本文考虑利用密集连接的方式将每一个特征窗口的值由其前所有特征窗口的值以及输入数据生成,并均考虑原始的输入特征数据.该连接方式可以增强特征传播,减少特征在不同特征窗口之间传播时产生的特征损失,并改善整个模型的信息流.另外,在深度学习领域中,如果输入序列较长,那么模型往往很难学习到合理的向量表示.而注意力(atten-tion)机制15作为一种模仿人类注意力的处理方法,该方法被广泛应用在NLP、图像处理、语音识别等领域.该机
16、制通过对输入进行选择性的学习,提高了信息的利用率.Attention机制一般应用在encode与decode过程中16,在解码时根据对输出信息的影响程度,产生不同大小的权重,并将学习到的权重对上述解码得到的向量进行加权组合,再得到之后的解码输出.而在宽度学习系统中,求取特征节点时会对进行矩阵稀疏化操作.其目的在于克服网络的随机特性,筛选原始输入中的特征,降低模型训练所占用的计算和存储资源,并减少不同特征节点之间的相关性.但原始的BLS中采用Lasso17方法相当于只保留相关性最高的一个特征,这很有可能会导致模型的效果变差.本文针对上述不足,提出了一种基于特征层密集连接与注意力机制的宽度学习系统(dense connection and atten-tion-based BLS,DCA-BLS),并将其应用于锌浮选过程的快粗槽底流品位预测.首先,为了提取更深层次的特征,在特征层中不同特征窗口之间采用密集连接的形式,相当于加深的特征层的层数,同时考虑到不同层之间存在信息遗失,因此每个特征窗口的输入不仅包含先前特征窗口提取到的特征,还包含最初的输入数据.其次,为了进一步增强重要特征以及减小次