1、引用格式：张江辉，张勤，吕加贺，等基于最大最小蚁群优化算法的缓层土质三维边坡临界滑动面搜索安全与环境工程，（）：，（）：基于最大最小蚁群优化算法的缓层土质三维边坡临界滑动面搜索张江辉，张勤，吕加贺，邹俊鹏，焦玉勇（中国地质大学（武汉）工程学院，湖北 武汉 ；中国市政工程中南设计研究总院有限公司，湖北 武汉 ）摘要：解决滑坡问题的关键在于边坡的稳定性分析，而边坡稳定性分析的要点在于边坡临界滑动面的搜索以及边坡安全系数的计算。为更准确地搜索边坡的临界滑动面，将最大最小蚁群优化算法应用于缓层土质三维边坡临界滑动面搜索。首先采用光滑有限元法结合莫尔库伦强度准则对边坡模型进行弹塑性分析，计算得到边坡的应
2、力场；然后在边坡内部构建一组独立于有限元法单元网格的条带结点网络，在此基础上引入最大最小蚁群优化算法，结合滑动面应力法建立搜索边坡临界滑动面并求取对应安全系数的计算模型；最后利用该计算模型分别对均质边坡算例、双层材料边坡算例和公路路堑边坡工程实例进行计算与分析。结果表明：通过将该计算模型的计算结果与二维极限平衡法和三维强度折减法的计算结果进行对比，并结合某公路路堑边坡实例的滑坡实际发展趋势，验证了该计算模型的有效性和准确性，可为缓层土质边坡的开挖和支护设计提供依据。关键词：三维边坡；临界滑动面搜索；最大最小蚁群优化算法；光滑有限元法；滑动面应力法中图分类号：；文章编号：（）收稿日期：开放科学（
3、资源服务）标识码（）：基金项目：国家自然科学基金项目（）作者简介：张江辉（），男，硕士研究生，主要研究方向为岩土工程。：通讯作者：吕加贺（），男，博士，教授，博士生导师，主要从事岩土工程中数值计算方法方面的研究。：，（，（），；，）：，第 卷第期 年月安 全 与 环 境 工 程 ：，：；滑坡是现实生活中最为常见的一种地质灾害，对水利、道路、矿山等工程建设以及人民的生命和财产安全都有着巨大的威胁。解决滑坡问题的关键在于通过对边坡稳定性设定合理的评判标准，从而准确地预测滑坡的产生。因此，对边坡稳定性的分析是解决滑坡问题的关键，而边坡稳定性分析的要点在于边坡临界滑动面的搜索以及边坡安全系数的计算。现
4、实中发生的滑坡现象，是一个典型的三维问题。然而，目前大多数边坡稳定性分析主要是采用二维分析方法，通过对简化的二维模型进行分析，搜索边坡的临界滑动面并计算边坡的安全系数，但这样计算出的边坡安全系数是偏于保守的。而三维边坡稳定性分析能够考虑边坡在空间内的发育特征，计算出的边坡临界滑动面以及边坡安全系数更加贴合实际，更具有指导意义，故本文考虑构建一种三维边坡临界滑动面智能搜索方法用于三维边坡的稳定性分析。常用的边坡临界滑动面搜索方法可分为变分法、固定模式搜索法、数学规划法、动态规划法、随机搜索法和智能搜索法类。其中，智能搜索法以其显著的优势，成为目前边坡临界滑动面搜索方法中的主流算法，而蚁群算法以其
5、特有的组合优化方式，在智能搜索法中具有重要的地位。蚁群算法最初是用于解决优化领域的问题，如旅行商问题、二次分配问题，其具有优化速度快、全局搜索能力强、易得出最优值等优点，且适用于非线性、离散型的优化问题，这些特点使其对于求解边坡临界滑动面搜索问题也极为适用。一些学者已将蚁群算法应用于二维边坡临界滑动面搜索问题研究中，并取得了良好的效果。本文在研究了蚁群算法的机理后，发现其同样适用于三维边坡，故将蚁群算法扩展到三维边坡临界滑动面搜索问题研究中。然而，传统的蚁群算法也存在解的质量较低、易陷入局部极值等缺点，故本文采用近年来提出的一种求解效果较好且实现简便的改进算法 最大最小蚁群优化算法来搜索三维边
6、坡的临界滑动面。最大最小蚁群优化算法相比于传统蚁群算法的主要优势在于：能够更加有效地利用搜索过程中找到的最优解，并且将蚂蚁搜索引导到高质量的解；避免蚂蚁搜索的过早收敛。最大最小蚁群优化算法搜索边坡临界滑动面的过程主要是基于边坡的应力场进行的，对边坡安全系数的求解采用有限元法，搜索过程中考虑了边坡岩土体的非线性本构关系、复杂的几何结构和材料性质。使用有限元法 求解边坡安全系数的主要方法为强度折减法，但是该方法需要多次验算，由于弹塑性模型在计算到接近极限状态时收敛缓慢，所以其在三维问题中计算效率较低，并且通过强度折减法反复试算所求得的边坡安全系数可能要比真实的边坡安全系数稍高。故本文考虑采用有限元
7、法中的滑动面应力法，该方法只需要对边坡进行一次弹塑性计算，在计算效率上较为出色，且避免了通过强度折减法反复试算所带来的误差，得到的边坡安全系数计算结果更接近真实值。鉴于采用传统有限元法在处理复杂边坡时，往往会由于网格畸变而造成应力失准，为了求得准确的边坡应力场，本文考虑采用一种改进的有限元法 光滑有限元法。光滑有限元法相较于传统有限元法，有以下优势：采用线性点插值法来表示形函数，避免了坐标变换，从而降低了网格畸变对应力精度的影响；软化了刚度矩阵，可有效避免许多问题中产生的体积锁定；该方法中的相容应变场可改善传统有限元法中的应变场不连续问题，从而明显提高了位移解和应力解的精度；该方法在低阶单元中
8、可以得到较高的计算精度。光滑有限元法光滑有限元法的本质是将传统有限元法与无网格法中的光滑应变技术结合，改进有限元结构刚度的一种方法。等 在建立了光滑有限元法的理论基础后，又提出了一系列光滑有限元数值算法，主要包括光滑子单元域有限元法、结点光滑有限元法、边光滑有限元法和面光滑有限元法等。其中，处理三维问题主要采用面光滑有限元法和边光滑有限元法。边光滑有限元法具有空间离散稳定性和时间响应稳定性，相比于传统有限元法模型中偏硬的刚度，边光滑有限元法模型中的刚度更接近结构的实际刚安全与环境工程 ：第 卷度，可以对动态问题给出精确、稳定的结果，对静态问题给出超精确的结果，并且其在静态和动态分析中得到的结果
9、精度要优于面光滑有限元法。显然，对于三维边坡问题，边光滑有限元法是适用的。光滑有限元法的原理与传统有限元法相同，光滑有限元法也是通过构造形函数来建立问题域的位移场，其表达式如下：珔（）（）珔（）珔（）式中：珔（）为位移函数；为问题域内的任意坐标向量；为问题域中的结点数目；（）为结点的形函数；珔为结点的位移向量；（）为问题域的形函数矩阵；珔为问题域的位移向量矩阵。对于光滑有限元法中常用的三角形单元和四面体单元，可以直接使用传统有限元法中的三角形单元和四面体单元的线性形函数，在此不作赘述。利用应变梯度光滑技术创建光滑应变场，当相容应变场易得到时，光滑应变场可通过修正相容应变场获得：槇（）珨（）（）
10、式中：槇（）为传统有限元法中的相容应变场；为一个包含的光滑域；为光滑域的基准坐标向量；珨（）为与有关的光滑函数，可定义为珨（）烅烄烆（）式中：为该光滑域的体积，。光滑应变场也可通过对位移场求导获得：珔（）珨（）（）式中：为微分算子矩阵。当相容应变场易获得时，假设光滑域中的光滑应变场是一个常数，则由公式（）和（）可得：（）（）槇（）（）由公式（）可知，当获得了光滑域中的相容应变场之后，可通过对其进行体积平均来获得处的光滑应变场，即光滑域中的光滑应变场。通常情况下仅有位移场，假定位移场在上是连续的，故利用高斯散度定理将公式（）从域积分转化为线积分可得：（）（）珔（）（）珔（）（）式中：为光滑域的边
11、界；（）为外法向分量矩阵，可表示为（）熿燀燄燅（）式中：、分别为（）在轴和轴的外法向分量。光滑域的划分形式以三维的边光滑有限元法为例，它以单元边为基准划分光滑域，其光滑域由基准边上的两个结点、相邻单元面的形心点和相邻单元的形心点连接而成，见图。假 设单元边总数为，光滑域总数为，单元边与光滑域为一一对应关系，即：。图边光滑有限元法中的光滑域划分 将公式（）代入公式（），可得：（）（）（）珔珚（）珔珚（）珔（）式中：珚（）为全局光滑应变矩阵；珚（）为结点处的光滑应变矩阵，在模型中只有支持光滑域时，珚（）是非零的，且珚（）可对光滑边界进行形函数线积分获得：珚（）（）珔 珔 珔 珔熿燀燄燅（）式中：珔
12、（）（）；，（）此外，当位移函数连续，且相容应变矩阵珟（）容易获得时，可按照公式（）中光滑应变场的定义，第期张江辉等：基于最大最小蚁群优化算法的缓层土质三维边坡临界滑动面搜索得到光滑应变矩阵珚与上述相容应变矩阵珟（）的关系：珚（）（）（）（）珟（）（）光滑有限元法的总体平衡方程可通过使用光滑伽辽金弱化形式得到：珔 珔（）式中：为问题域上的外部体力；为弹性矩阵；珔为问题域中的位移场；为边界上的外部牵引力。将公式（）和公式（）代入公式（）并化简，可得标准的离散方程组：珚珔珟（）式中：珔为模型中所有的结点位移向量；珟为模型所受的载荷向量；珚为光滑刚度矩阵，可表示为珚珚珚（）光滑有限元法的精度分析本文
13、通过一个线弹性模型对边光滑有限元法相较于传统有限元法和面光滑有限元法的优势进行分析。如图所示是一个上侧受均布压强、左侧固支的三维悬臂梁模型，将对该模型选取 个十结点四 面 体 单 元 网 格 计 算 所 得 的 应 变 能 作为参考解。模型采用的材料参数分别为杨氏模量 、泊松比 、均布压强。图三维悬臂梁模型示意图 由于光滑有限元法主要以低阶单元为研究对象，所以本文采用线性四面体单元来划分模型。在本节中以不同的网格尺寸（以自由度来表示）对三维悬梁臂模型进行划分，模型网格划分形式见图。图中三维悬梁臂模型的自由度依次为 、。图三维悬梁臂模型网格划分形式 本文分别采用边光滑有限元法、面光滑有限元法和传
14、统有限元法对三维悬梁壁模型进行分析，得到组模型应变能，并结合参考解，对种方法下模型应变能随自由度的变化趋势进行了对比分析，如图所示。图种方法下三维悬梁臂模型应变能随自由度变化趋势的对比 由图可见：随着自由度的增加，种方法所求得的模型应变能整体变化趋势都是向着参考解收安全与环境工程 ：第 卷敛，说明种方法都具有良好的收敛性，且边光滑有限元法在较稀疏的网格状态下，就能取得较高的计算精度，说明在同等自由度情况下其解的精度显然要高于面光滑有限元法和传统有限元法。最大最小蚁群优化算法在自然界中，蚁群具备找到食物与巢穴之间最短路径的能力，这种能力不是单只蚂蚁拥有的，而是依靠蚁群之间的联系实现的。蚂蚁在其经
15、过的路径上会留下一种挥发性分泌物（信息素），在选择前进路径时，会根据先行的蚂蚁留下的信息素来选择要走的路径，且选择的概率与该路径上信息素的浓度有关，两者之间是一种正相关的关系，即某一条路径上经过的蚂蚁越多，信息素的浓度便越高，后面的蚂蚁选择该路径的可能性就越大，进而形成一种正反馈机制。正是依靠这种机制，在一定数目的蚂蚁经过之后，蚁群便可以找到一条最短的路径。等根据蚂蚁的这一行为提出了一种模拟自然界蚂蚁行为的智能优化算法 蚁群算法。滑动面应力法实现思路实现蚁群算法之前，首先应明确边坡滑动面安全系数的求解方法，本文采用边坡稳定性有限元法中的滑动面应力法。滑动面应力法是将有限元法分析中产生的应力场与
16、传统的极限平衡法相结合，来求取边坡滑动面安全系数的一种方法。下面以本文算法的实现流程为例，对滑动面应力法的实现思路做简要的介绍。由于本文在搜索边坡临界滑动面时，是以二维线条来拟合三维的面，所以边坡滑动面安全系数的求解方法本质上与二维是一致的，故在此以 平面中边坡滑动面安全系数的求解为例来介绍滑动面应力法。在求得边坡的应力场和滑动面之后，如图所示将滑动面的一个剖面划分为个小段（小段取蚂蚁行走路径上相邻两个条带结点之间的路径），每一小段上的应力取该段中点处的应力，表示为、，则作用在小段上的法向应力 和剪应力 分别为（）（）（）（）（）在本文中由于对边坡基于光滑有限元法进行弹塑性分析时采用的是莫尔库伦屈服准则，所以在小图边坡剖面上的滑动面参数示意图 段上岩土体的抗剪强度 应为 （）式中：、分别为小段上岩土体的黏聚力和内摩擦角。按照上述方法，将边坡滑动面所划分的所有小段上岩土体的剪应力和抗剪强度都求出之后，可得边坡滑动面安全系数为 （）对于公式（），在程序实现时，采用逐步累加的方式进行求解，在累加中若存在边坡滑动面安全系数的值为负值，则将其取为，再进行后续的累加，直到得到最终结果。最大最小蚁群