1、第 卷第期 年月测绘科学 作者简介：杨文东（），男，安徽宿州人，硕士研究生，主要研究方向为 导航定位。：收稿日期：基金项目：海洋时空基准项目（）通信作者：甄杰 研究员 ：引文格式：杨文东，李忱汉，薛树强，等 海上环境动态阈值模糊度检验方法 测绘科学，（）：（，（）：）：海上环境动态阈值模糊度检验方法杨文东，李忱汉，薛树强，甄杰（中国测绘科学研究院，北京 ）摘要：针对传统模糊度检验方法难以完全适应海上环境下接收机时刻处于运动状态、多路径效应较严重导致卫星信号易失锁，卫星可变性增强等问题，该文根据 模型强度和成功率失败率指标来动态确定模糊度检验阈值，利用蒙特卡洛积分建立模糊度阈值速查表，实现动态模
2、糊度检验方法的实时应用，改善了海上环境下传统 阈值确定多基于经验、缺少理论基础的问题。海上实测数据的实验结果表明，动态模糊度检验有效提高了整周模糊度固定率，提高了基线解的整体精度，在海上环境下相较于传统 有着更优的表现。关键词：蒙特卡洛积分；阈值速查表；动态模糊度检验；海上环境【中图分类号】；【文献标志码】【文章编号】（），（，）：，：；引言目前，世界发达国家正在大力建设水下定位导航空间基准，高精度水下导航定位时空服务是海洋探索开发活动的重要支撑。随着北斗系统的成功组网，构建空天地海全域无缝的综合定位导航授时（，）体系必将成为未来导航与大地测量领域的重要研究方向。目前精准确定海底大地基准坐标的
3、方法主要有测量船定位法和浮标定位法，这都需要测绘科学第 卷高精度的 定位结果。正确的整周模糊度解算结果是实现高精度定位的关键，只有模糊度被正确固定时，才能获得高精度的定位结果。关于模糊度的固定，已有众多学者进行了研究，并提出了许多卓有成效的方法，代表性的有整数自举估计法（，），整数最小二乘估计法（，），最小二乘模糊度降相关平差法（，）。关于模糊度检验的系统性研究起步较晚，起初有学者提出了基于经验的模糊度检验方法，如 检验、检验、差值检验等。其中具有固定临界值的 检验使用最为普便。随着模糊度估计理论的发展，有学者提出了基于成功率失败率指标的方法，根据归整区域的不同，又可分为整数估计方法和整数孔径
4、估计方法（，）。该方法通过对浮点模糊度的概率密度函数在模糊度空间积分来求解模糊度固定的成功率失败率。文献 研究了基于模型强度的失败率、误警率和临界值之间的关系，并指出模型强度受到卫星几何形状、卫星信号频率数、测量历元数、测量时间间隔、测量噪声、基线长度和大气环境等的影响，精确地模型强度很难计算，模型强度与最优阈值之间的关系也十分复杂。文献 提出一种解决方案，其中模型强度是根据两个参数估计的：卫星数量；基于浮点模糊度协方差矩阵的 模 糊度 解 析 失 败 率 的 估计值。在海洋环境中，测量船和浮标时刻处于运动状态，同时受多路径效应影响，信号易失锁导致整周计数跳变或中断；且随着 系统的发展，可观测
5、卫星增多，导致模糊度最优解与次优解的区别性减弱。使用传统的整周模糊度检验方法可能会提高误警率，或者导致高失败率。鉴于上述情况，本文基于整数孔径估计理论 和成功率失败率指标，以 模糊度固定失败率作为检验标准，根据 模型强度，进行蒙特卡洛积分，生成动态模糊度阈值速查表。并通过一组实测海上短基线数据对传统的模糊度阈值检验法和动态模糊度阈值法的性能进行多角度的对比分析。基础理论 模糊度解算模型各种 定位的数学模型都可以归结于如式（）所示的线性高斯 马尔可夫模型。（）式中：是维码和载波相位观测向量；是维未知整周载波相位模糊度向量；是维包含基线向量观测量的其他未知参数向量；（，）是具有零均值的正态分布的观
6、测噪声；为待固定模糊度的设计矩阵；为基线的设计矩阵。忽略模糊度的整数特性，根据最小二乘法计算出模糊度和基线分量的参数的浮点解及其方差协方差矩阵，见式（）。（，），（，）烅烄烆（）式中：为模糊度浮点解；为基线解；为对应的协方差阵。整周模糊度固定算法考虑到模糊度的整数特性，采用一定算法将模糊度固定为整数，见式（）。（）（）式中：为映射到的映射算子，表示从维实数空间映射到相同维数整数空间，不同的可以映射到相同的上。整周模糊度无法通过解析的方法求得，只能通过在模糊度空间中进行搜索取得最优解。目前最常用的搜索算法是 算法，该算法的原理是通过降相关来减小模糊度的搜索区间。模糊度检验搜索完成后还需对最优解进
7、行验证，称之为模糊度检验。常用的检验方法有比值检验、差值检验、投影检验、成功率失败率检验等。比值检验是一种最常见的模糊度检验方法，大多数 软件都采用此种方法，它的定义如式（）所示。，（）式中：（）（），其几何意义 为模 糊 度 候 选解 和浮点 解之 间 的“加 权 距离”；表示最优模糊度候选解；代表次优模糊度候选解；是次优解的“加权距离”与最优解“加权距离”之间的比值。成功率失败率指标法基于整数估计理论，整数最小二乘估计因其最优性使用最广。根据整数第期杨文东，等 海上环境动态阈值模糊度检验方法最小二乘的定义，其模糊度搜索区域定义见式（）。，（）其二维几何构型如图所示。图二维整数最小二乘估计归
8、整区域几何构型 整数估计理论中，模糊度固定正确的几率称为成功率，以整数最小二乘估计为例，其成功率可以表示为式（）。，（）（）（）其对应图中绿色区域的概率密度函数的积分。相应的，整数估计失败率表示为式（）。，（）成功率失败率是非常重要的性能评估指标，假如，（这里是用户指定的阈值，通常取 ）接受固定解，假如失败率大于指定阈值，则拒绝固定解接受浮点解。模糊度成功率失败率检验方法是一种基于模型驱动的方法，这种方法简单有效，失败率可以在整周模糊度固定之前确定，因此可以先验地决定是否固定整周模糊度。然而它也有很多不可忽视的缺点，比如浮点解对最终的决策没有影响，并且用户除了增加观测模型强度外，无法通过别的方
9、法降低失败率。为了综合比值检验与整数最小二乘估计的优点，本文基于整数孔径估计 理论，采用比值孔径估计进行模糊度检验。区别于整数估计的归整区域，本文将比值孔径估计法的孔径归整区域定义为，可表示为式（）。，（）式中：、分别为最优模糊度和次优模糊度。以二维比值孔径估计为例，其孔径归整区域如图所示。图二维整数孔径估计归整区域的几何构型 因为孔径区域及空隙的存在，最终有了如下种结果，即：），表示成功。），表示失败。），表示拒绝。），表示误警。对相应区域上的概率密度函数进行积分，即可得各部分的概率为式（）。（），（），（），（）（）式中：对应图中深绿色区域，代表模糊度正确固定的概率，称为成功率；对应图中的
10、红色区域，表示模糊度错误固定的概率，称之失败率；对应图中的橘黄色区域，指模糊度被错误拒绝的概率，称其为误警率；对应图中的绿色区域，为正确拒绝错误模糊度解的概率，常称为拒绝率。令，对式（）重新整理，最终得到式（）。，（）（，），（）式中：（，），（，），为适应流行的模糊度检验形式；令。根据上式，不难总结出不同质量控制的情况下，比值孔径估计的变化：）当阈值固定不变时，的位置大小都将不会改变。）当 模型强度提高时，为使失败率恒测绘科学第 卷定，将扩大。孔径归整区域的大小决定了愿意接受的最小比值。值可以用来调整该区域的大小。仿真实验为了探究阈值与成功率、失败率、拒绝率、误警率之间的关系，采用仿真实验来
11、计算不同阈值对应的成功率、失败率、误警率与拒绝率。设相位观测值先验标准差，码观测值相位观测标准差 ，采用高度角加权。固定部分模糊度，得到某一历元 模型协方差矩阵。熿燀燄燅 设模糊度的真值向量为，由于浮点模糊度服从正态分布，以（，）生成 组浮点模糊度向量，采用 算法固定模糊度，分别设置阈值、对模糊度整数解进行检验，计算各自的成功率、失败率、误警率和拒绝率，实验结果如图图所示。图成功率仿真实验图 图失败率仿真实验图 图误警率仿真实验图 图拒绝率仿真实验图 从图中可以看出：）随着仿真次数的增加，各条概率曲线的变化也逐渐趋于平稳，并收敛于一个固定值。）各项概率的大小都与取值有关，如果没有比值检验（对应
12、的情况），则失败率和拒绝率将为，所有整周模糊度的解算结果都将被接受。）当值增加，成功率失败率不断减小，当值较小，成功率较高，失败率也较高；当值较大，失败率接近于，成功率也较低。）随着值的增加，误警率拒绝率不断增加，但较成功率而言变化幅度较小。从以上结论中不难发现模糊度检验的性能取决于阈值大小。当阈值取得太大，比值检验可能过于保守，导致不必要的高误警率；当阈值太小，比值检验可能过于宽松，将会导致较高的失败率。基于蒙特卡洛积分的模糊度阈值表上述仿真实验结果表明，使用传统的比值测试方法，即具有固定阈值的值，可能会导致不可第期杨文东，等 海上环境动态阈值模糊度检验方法接受的高失败率或者过于保守。在平常
13、的数据处理过程中，不难发现对于强模型，目前使用的阈值往往过于保守，导致误警率很高。另一方面，对于弱模型，当前使用的阈值往往又太低，因此固定解往往被错误地接受，从而导致高失败率。失败率是重要的质量控制指标，为了能够控制失败率，本文采用蒙特卡洛积分。该方法可由用户根据自己设定的失败率指标，计算出依赖于模型强度的临界值，其中模型强度由待固定模糊度个数和整数最小二乘失败率决定。基于此，就可以获得指定失败率指标下模糊度个数、整数最小二乘失败率与检测阈值之间的关系。本文共模拟了 个模型，这些模型具有不同的卫星几何形状，卫星星座、频率、电离层和对流层延迟。针对每个模型仿真了 个浮点解样本，设置固定失败 ，蒙
14、特卡洛积分结果如图所示。图展示了 时，由蒙特卡洛积分确定的，、和三者之间的关系，其中：）色阶图中不同的颜色代表待固定模糊度的个数，当轴一定时，随着待固定模糊度数的减小，阈值相应变大。）轴对应的是采用整数最小二乘法估计模糊度整数解时失败的概率，称为整数最小二乘失败率。当待固定模糊度数一定时，阈值的大小随着整数最小二乘失败率的增加而增加。综上，阈值受到待固定模糊度数和整数最小二乘失败率的影响。当待固定模糊度数较多、整数图模糊度数（）、整数最小二乘失败率（，）与阈值（）关系图 （），（，）（）最小二乘失败率较小时说明数据质量较好且可观测卫星数量较多，这时对应的阈值通常较小；相应的，随着固定模糊度减小
15、和整数最小二乘失败率的增加，阈值也会慢慢增大，这有利拒绝蒙特卡洛积分涉及对模糊度的求解过程，模糊度整数解通过在模糊度搜索空间进行搜索得到，模糊度数越大，模糊度的搜索空间也越大，这将大大增加算法的复杂度。因此蒙特卡洛积分需要相当高的时间成本和庞大的计算资源，难以实现实时应用。因此针对每一个待固定模糊度数，用曲线拟合其整数最小二乘失败率，对应的阈值的上界（确保模糊度检验的保守性），最终得到固定失败率比值检测的阈值速查表，实现动态阈值法的实时应用。表 的比值检验动态阈值速查表 ，测绘科学第 卷续表，实测数据性能检验为检验动态模糊度阈值法在海上环境下的性能，利用移动测量船船载接收机在海上采集约 数据，
16、采样间隔为，采样地点为山东省威海市环翠区周边海域（，），采样时间为 年月 日 时时至时 分。接收机几何构型如图所示，其中，和 分别为 接收机和中海达接收机，两台接收机固定于船尾。采集数据期间共视卫星可见图如图所示，卫星截止高度角 ，整周模糊度解算采用 模式。图共视卫星轨迹图 对 个历元进行双差解算，得到每一个历元的基线解算结果。由于测量船近似绕着圆形行进，基线向量一直在变化，并非是一个固定的值。因此，以基线长度测量值 ，作为真值，与其计算值 ，做差，以差值检验模糊度是否正确固定。，（）若某历元为固定历元且计算值与测量值相差图接收机空间构型 小于 ，判定该历元正确固定；若某历元为固定历元且计算值与测量值相差大于 ，判定该历元错误固定。否则，则认为该历元未被固定。为比较二者性能，分别使用固定阈值法和动态阈值法对模糊度进行检验，其中固定阈值法中分别取 、，结果如图 所示。图 基线长度真误差与模糊度固定情况图（）（）第期杨文东，等 海上环境动态阈值模糊度检验方法图 基线长度真误差与模糊度固定情况图（）（）图 基线长度真误差与模糊度固定情况图（）（）图 基线长度真误差与模糊度固定情况图（）（）图
