1、2023.1Vol.47No.1研 究 与 设 计收稿日期：2022-06-24基 金 项 目：国 家 自 然 科 学 基 金 项 目(51777052，51977058)；河北省中央引导地方科技项目(216Z4406G)；电力系统国家重点实验室资助课题(SKLD21KZ04)；新能源电力系统国家重点实验室(华北电力大学)开放课题(LAPS20018)作者简介：刘泽（1994），男，山西省人，硕士研究生，主要研究方向为锂离子电池寿命预测。基于CNN-BiLSTM的锂电池剩余使用寿命概率密度预测刘 泽1，张闯1，齐 磊2，金 亮1，刘素贞1(1.河北工业大学 电气工程学院，天津 300130；2
2、.华北电力大学 电气与电子工程学院，北京 102206)摘要：通过预测锂离子电池的剩余使用寿命(RUL)，可以对电池实现管理和维护，提升电池的耐用性和安全性。由于锂离子电池在使用过程中，不同的工况条件会增加锂离子电池RUL预测的不确定性，传统的点预测不能对电池的不确定性进行表达，因此提出了一种基于卷积神经网络(CNN)和双向长短时记忆循环神经网络(BiLSTM)的混合神经网络分位数回归的概率密度预测。该方法通过预测不同分位数条件下的电池容量，不仅可以利用中位数和众数对剩余寿命进行点估计，还可以利用核密度估计得到每个循环周期下电池的容量和剩余使用寿命的概率密度分布，为使用者提供更多有效的决策信息
3、。关键词：剩余使用寿命；卷积神经网络；双向长短时记忆循环神经网络；分位数回归中图分类号：TM 912文献标识码：A文章编号：1002-087 X(2023)01-0057-05DOI:10.3969/j.issn.1002-087X.2023.01.013Prediction of probability density of remaining useful life of lithiumion battery based on CNN-BiLSTMLIU Ze1,ZHANG Chuang1,QI Lei2,JIN Liang1,LIU Suzhen1(1.School of Electri
4、cal Engineering,Hebei University of Technology,Tianjin 300130,China;2.School of Electrical and Electronic Engineering,North China Electric Power University,Beijing 102206,China)Abstract:By predicting the remaining useful life of lithium ion batteries,the battery can be managed and maintained,and the
5、 durability and safety of the battery can be improved.As different working conditions increase the uncertaintyof the prediction in lithium ion battery RUL and the traditional prediction by point cannot measure uncertainty ofbattery s parameters and capacity.Therefore,a quantile regression probabilit
6、y density prediction of hybrid neuralnetwork based on convolutional neural network(CNN)and bidirectional long short memory recurrent neuralnetwork(BiLSTM)is proposed.By predicting the battery capacity under different quantile conditions,this methodcan not only use the median and mode to point estima
7、te the remaining life,but also use the nuclear density estimationto obtain the probability density distribution of the battery capacity and remaining life under each cycle,providingmore effective decision-making information for users.Key words：remaining service life;convolutional neural network;two-
8、way long and short time memory cyclic neuralnetwork;quantile regression锂离子电池具有制造成本低、高效、环保等优点，被广泛应用于电动汽车、军事装备、航空航天等领域。随着锂离子电池循环充放电，其性能不断退化，作为电气装备的重要组件，可能会导致设备故障，进而引发严重的安全事故1。为确保锂离子电池安全正常使用，开展锂离子电池的剩余使用寿命(remaining useful life，RUL)预测具有重要意义。多年来，国内外学者通过数学或电化学模型对锂离子电池的内部动态变化过程进行分析，以实现电池的寿命预测。然而，锂离子电池内部状态
9、不可测，其电化学反应过程受到实际工况以及外部温度、湿度等环境的影响，使得其模型的建立较为复杂且泛化性较弱。随着传感技术的迅猛发展，多类型、海量的锂离子电池性能退化数据被获取，基于数据驱动的寿命预测逐渐成为了研究热点。文献2考虑到极限学习机(extreme learning machine，ELM)的缺点和电池数据的增加，将宽度学习(broad learning，BL)与 ELM结合，提高了预测精度和效率。但由于模型的参数是随机产生的，导致模型预测结果稳定性较差。文献3把灰色理论与BP神经网络相融合，相比于单一的 BP神经网络，具有更高的估算精度；但该模型可能会陷入局部极值，导致训练失败。虽然传
10、统的机器学习获得了较好的预测准确度，但其精度受限于复杂的特征提取，预测稳定性难以保障。随着计算机运算性能的提升和算法的不断创新，深度学习网络凭借着复杂的结构，则可以避免特征工程提取，将数据输入到网络就可实现良好的预测。利用快速搜索聚类对电池的特征进行过滤选择，将选定的特征输入到堆叠降噪自572023.1Vol.47No.1研 究 与 设 计编码器网络进行电池的 RUL预测，得到了较好的预测结果。以上锂离子电池预测为点预测，而不同工况条件下预测的结果往往具有不确定性。相较于确定的点预测，概率密度预测可以描述未来任意循环周期下的锂离子电池容量概率密度分布信息，文献4研究了非线性分位数回归问题，提出
11、了神经网络分位数回归模型，进而给出了概率密度预测方法；文献5将其应用于资产收益与风险的预测研究。锂离子电池容量衰减过程在时间上前后相互关联，在考虑当前信息的同时也有必要考虑到将来的状态。双向长短时记 忆 循 环 神 经 网 络(bidirectional long short-term memory,BiLSTM)可以整合向前和向后两个方向的结果作为最终结果的输出，适用于具有时间序列的预测。文献6利用 BiLSTM神经网络自动提取了深层的轴承振动信息，实验证实了故障预测较高的准确度。尽管BiLSTM在处理时间序列上有强大的能力，但在输入多维数据时其非线性拟合不足。文献7利用卷积神经网络(con
12、volution neural network，CNN)将充电循环期间测得的电压、电流和电荷容量的等时间间隔离散值作为输入，在线估算锂离子电池容量。由于CNN可以捕获相邻数据序列之间的局部特征，而无法对时间序列进行有效的表达，因此，可以考虑与循环神经网络模型结合，提升预测精度。本文提出了一种 CNN-BiLSTM 模型与分位数回归相结合的方法，对电池的 RUL 进行概率密度预测。将 CNN-BiLSTM 相融合来预测不同分位数下的锂离子容量，进而得到容量概率密度分布和锂离子电池的RUL概率密度分布。1深度学习模型原理1.1 卷积神经网络CNN是包含卷积运算和深层结构的前馈神经网络，卷积层使用卷
13、积核对局部区域进行卷积输入数据以生成相应的特征；池化层对其进行下采样，实现数据的降维；而全连接层将提取到的局部特征变为特征向量，最后再传入到BiLSTM神经网络进行预测，结构如图1所示。卷积层采用式(1)计算：ci=f()xi:i+g-1+b(1)式中：为卷积核；g为卷积核的大小；xi:i+g-1为i到 i+g-1的特征向量；b为偏置项。得到特征矩阵G，即G=c1,c2,c6，然后经过池化层，对卷积层进行下采样得到维度较小的特征，这里采用其最大值，如式(2)，最终将池化层提取到的特征输入到全连接层。N=max()c1,c2,cn-g+1=max G(2)1.2 双向长短时记忆循环神经网络图 2
14、为 LSTM 神经元细胞的内部工作图，主要通过遗忘门、输入门和输出门三个基本机构实现控制。LSTM 最核心的部分是遗忘门和输入门，其可以实现有效的长期记忆。遗忘门可以忽略以前的无用信息，Sigmoid为遗忘门的控制层，决定当前时刻输入的 xt和上一时刻输出的ht-1通过或者部分通过，如式(3)所示：ft=()Wfxxt+Wfhht-1+bf(3)输入门可以控制当前时刻数据流入细胞，输入门的Sigmoid层决定哪些值可以更新，tanh层用来生成新的候选值向量，如式(4)、式(5)：it=()Wixxt+Wihht-1+bi(4)zt=tanh()Wzxxt+Wzhht-1+bz(5)神经元细胞的
15、旧状态Ct1更新为Ct，如式(6)：Ct=ft Ct-1+it zt(6)输出门的输出值 ht是通过上一时刻 ht-1和当前时刻输入xt经过sigmoid层，与一个经过tanh层的最近时刻Ct的状态相乘计算而得到的。该过程的计算公式为：ot=()Woxxt+Wohht-1+bo(7)ht=ot tanh()Ct(8)式中：W 和 b 为对应公式的权重和偏置项；为 sigmoid 激活函数；tanh为双曲正切函数。BiLSTM 是 LSTM 的变体结构，由前向 LSTM 与后向LSTM层构成，从两个相反的方向获取信息，可以同时考虑数据的历史和将来信息，能够挖掘数据更加深层次的时间序列规律，提高预
16、测精度，BiLSTM的结构如图3所示。在每个时间 t，输入同时提供向前与向后的 LSTM的神经网络，其输出最终结果可以表示为：ht=?ht?ht(9)式中：?ht为BiLSTM的正向输出；?ht为BiLSTM的反向输出。图1卷积神经网络结构图2长短时记忆循环神经网络结构图3双向长短时记忆循环神经结构582023.1Vol.47No.1研 究 与 设 计1.3 分位数回归分位数回归是响应变量 S与解释变量X的条件分位数之间一种线性关系的模型8。即：QS(X)=0()+1()X1+2()X2+k()Xk X()式中：QS(|X)为分位数取值在0到1的条件下，解释变量X对应的响应变量 S的估计值；回归系数向量()=0(),1(),2()X2,k()，随分位数的变化而变化。参数向量 的最优估计值可以通过如下公式求解：mini=1NYi-XTi()=miniYiXTi()Yi-XTi()+mini|YiXTi()(-1)Yi-XTi()其中()为检验函数，其具体求解过程为：(u)=u,u 0(-1)u,u 0(12)2概率密度预测模型2.1 基于CNN-BiLSTM的预测模型本文提出基于CNN-
