0.   引言

铁路边坡变形是引起滑坡和泥石流等众多地质灾害的直接原因，给工农业生产带来严重威胁，传统人工巡查的方式存在精度低和时效性差等问题^{[1 − 3]}。北斗全球卫星导航系统（global navigation satellite system, GNSS）具有全天时、全天候、高精度和高可靠等优点，基于北斗GNSS建立铁路边坡变形在线监测系统能够有效弥补人工巡查的不足，不仅能够为铁路工作人员提供实时、高精度的变形监测数据，同时结合人工智能技术进行数据分析还可以实现变形趋势预测，为地质灾害发生提供提前预警服务，因此得到了广泛关注^{[4 − 8]}。文献[9]系统地介绍了GNSS在滑坡监测中应用时面临的问题以及解决思路；文献[10]以陕西省周至G108路段滑坡为例，提出了一种基于GNSS的滑坡预警系统，利用线性预测模型对滑坡数据进行建模分析；文献[11]研究了复杂条件下北斗GNSS监测数据的异常值检测和变形趋势预测问题；文献[12]设计了一套自动化监测系统并将其应用到河南省某地边坡变形监测；文献[13]考虑了变形监测数据处理中存在噪声抑制问题，提出一种基于小波分析和经验模态分解的监测数据处理和变形趋势预测方法。从上述研究可以看出，目前铁路边坡变形监测主要涉及异常值处理，噪声抑制和变形趋势预测三个方面，而当前已有研究均仅考虑了其中的一个或两个方面，尚未有文献系统性的考虑上述三个方面问题。

在上述研究的基础上，本文以朔黄铁路北斗GNSS边坡变形在线监测系统为例，针对监测数据处理中异常值检测和修正、噪声抑制以及变形趋势预测开展研究，提出一套数据分析处理方法并进行应用验证。

1.   监测数据预处理

利用北斗GNSS系统进行变形监测的原理是根据基准站与不同监测点之间的相对位置关系确定各个监测点位移随时间的变化，通过对位移变化进行解算获得监测点处毫米级精度的位移变化信息。然而，由于部分铁路边坡建设环境较为复杂，施工环境较为恶劣，自动化监测数据中不可避免地会出现偶然误差，因此不能直接利用监测数据进行建模和变形趋势预测，首先需要对数据进行异常值检测和异常值修正预处理，以提升数据质量和后续预测性能。

1.1   基于3σ准则的异常值检测

3σ准则即莱茵达准则，是一种基于统计学原理实现数据离群点判别的经典方法，其基本思想是根据待检测样本取值与集合中所有样本的均值和均方根的偏差程度判断样本是否为离群点，对于变形监测数据时间序列$ {\boldsymbol{x}} = {\left[ {{x_1},{x_2}, \cdots ,{x_N}} \right]^{\mathrm{T}}} $，$ {x_n},n = 1,2, \cdots ,N $为第$ n $个采样点，$ N $为数据总长度。利用3σ准则对其进行异常值检测首先需要计算新的差值序列（$ {d_n} $）：

对于所有$ N $个采样点，分别按照式（1）计算差值序列，可以得到$ N - 2 $个$ {d_n} $，按照式（2）和式（3）分别计算$ {d_n} $的均值（$\overline d $）和均方根（$\sigma $）：

进而计算$ {d_n} $相对于$ \overline d $的偏离程度，若$ \left| {{d_n} - \overline d } \right| > 3\sigma $，则判定对应的$ {x_{n + 1}} $为异常值。反之，若$ \left| {{d_n} - \overline d } \right| \leqslant 3\sigma $，判定对应的$ {x_{n + 1}} $为正常值。

1.2   基于卡尔曼滤波的异常值修正

基于3σ准则实现异常值检测后，需要对其进行修正以保持数据的连续性，便于后续建模分析。目前常用的拉格朗日插值，三阶样条插值等方法存在数据适应性差和不稳定的问题。卡尔曼滤波是一种最小均方误差准则下的最优滤波模型，适合于对非平稳、非线性时间序列进行平滑滤波，并且只需要前一个时刻的观测值和当前时刻的估计值即可获得最优估计，具有高精度和运算简单的特点，适合对监测数据异常值进行实时修正。

对于监测数据时间序列$ {\boldsymbol{x}} = {\left[ {{x_1},{x_2}, \cdots ,{x_N}} \right]^{\mathrm{T}}} $，其状态方程和观测方程可以表示为：

式中：$ {\boldsymbol{A}} $——状态转移矩阵；

$ {\boldsymbol{B}} $——系统控制矩阵；

$ {\boldsymbol{H}} $——量测矩阵；

$ {\hat x_{n - 1}} $、$ {\hat x_n} $——第$n - 1 $、$ n $个采样点的估计值；

$ {v_n} $——观测噪声，服从零均值，协方差矩阵为$ {{\boldsymbol{R}}_n} $的高斯分布；

$ {\omega _{n - 1}} $——系统噪声，服从零均值，协方差矩阵为$ {{\boldsymbol{Q}}_n} $ 的高斯分布。

得到状态方程和观测方程后，卡尔曼滤波按照式（5）所示对模型进行更新迭代：

式中：$ {{\boldsymbol{K}}_n} $——滤波增益；

$ {{\boldsymbol{P}}_n} $——状态估计误差协方差矩阵；

$ {\boldsymbol{P}}_n^{ - 1} $——误差协方差矩阵估计值。

卡尔曼滤波迭代终止时异常值位置对应的采样点即为修正后的样本值$ \hat {\boldsymbol{x}} = {\left[ {\hat x_1^{},\hat x_2^{}, \cdots ,\hat x_N^{}} \right]^{\mathrm{T}}} $。

2.   基于CLEAN算法的监测数据噪声抑制

铁路变形通常是由渐变慢慢发展到突变的一个缓慢过程，在渐变过程中，监测到的变形数据变化较小，容易受到接收机噪声和环境噪声的影响，导致后续变形趋势信息提取难度增加，因此进行监测数据处理过程中，噪声抑制是一个关键环节。目前常用的小波变换和主成分分析等方法存在运算复杂，小波基函数和主分量个数等模型参数确定困难等问题。

CLEAN算法最早由Hogbom于1974年为了提升合成孔径雷达成像质量而提出，随着研究的深入，人们发现除了抑制旁瓣，提升图像质量外，CLEAN算法在噪声抑制方面也表现出了独特的优势，并且具有运算量小和实时性高的特点。因此本文将CLEAN算法引入变形监测数据处理领域，利用CLEAN算法对异常值修正后的监测数据$ \hat {\boldsymbol{x}} = {\left[ {\hat x_1^{},\hat x_2^{}, \cdots ,\hat x_N^{}} \right]^{\mathrm{T}}} $进行噪声抑制，具体步骤为：

步骤1：对$ \hat {\boldsymbol{x}} $进行傅里叶变换，将其转换至频域，得到频谱${\boldsymbol{X}} = FFT\left( {\hat {\boldsymbol{x}}} \right)$，其中$ {\text{FFT}}\left( {} \right) $表示对括号内变量进行快速傅里叶变换算子。

步骤2：找出${\boldsymbol{X}}$幅度最大值对应的频率${f_1}$，相位${\varphi _1}$和幅度${\rho _1}$。

步骤3：根据式（6）得到第一个谐波分量为：

式中：$ t $——采样时刻；

$ T $——总采样时间。

步骤4：从原始数据中减去$ {{\boldsymbol{s}}_1} $，得到剩余数据$ {{\boldsymbol{s}}_r} = \hat {\boldsymbol{x}} - {{\boldsymbol{s}}_1} $。

步骤5：将$ {{\boldsymbol{s}}_r} $作为初始信号，重复步骤1—步骤4，依次提取原始数据中的所有谐波分量，直到满足迭代终止条件。

步骤6：将所有谐波分量相加，得到噪声抑制后的变形监测数据：$ {{\boldsymbol{s}}} = {\left[ {{s_1},{s_2}, \cdots ,{s_N}} \right]^{\mathrm{T}}} $。

3.   基于RBF神经网络的变形趋势预测

铁路边坡变形趋势预测的目的通过对在线监测系统记录的变形历史数据进行分析，建立能够描述其未来发展趋势的数学模型，从而在地质灾害发生之前进行预警，最大程度地减少地质灾害带来的损失。因此，完成数据预处理和噪声抑制后，需要建立变形趋势预测模型。

RBF神经网络是一种具备自学习和自适应能力的前向反馈神经网络模型，理论上能够高精度逼近于任意非线性函数，因此适合于对非线性、非平稳铁路边坡变形过程进行建模。典型的RBF神经网络结构如图1所示，由输入层，中间层和输出层构成，其中输入层与中间层，中间层与输出层之间实现了全连接，而网络同一层神经元之间不连接。输入层神经元通过径向基函数映射到中间层神经元，中间层神经元又通过权向量向输出层神经元映射。上述过程可以总结为：①初始化RBF神经网络输入层、中间层和输出层神经元。其中输入层神经元为噪声抑制后的监测数据$ {{\boldsymbol{s}}} = {\left[ {{s_1},{s_2}, \cdots ,{s_N}} \right]^{\mathrm{T}}} $，中间层神经元为$ {\boldsymbol{c}} = {\left[ {{c_1},{c_2}, \cdots ,{c_J}} \right]^{\mathrm{T}}} $，$ J $为中间层神经元个数，输出层神经元为未来变形趋势预测数据$ {\boldsymbol{y}} = [ {y_1}, {y_2}, \cdots ,{y_M} ]^{\mathrm{T}} $，$ M $为预测数据期数。②利用RBF神经网络将输入层映射至中间层：$ {{{\boldsymbol{z}}} _j} = {\text{exp}}\left( { - \dfrac{{\left\| {{\boldsymbol{s}} - {c_j}} \right\|}}{{2\sigma _j^2}}} \right) $，$ \sigma _j^{} $为RBF神经网络核参数；③利用权向量$ {\boldsymbol{w}} $对中间层神经元进行线性加权，得到网络输出层$ {y_m} = \displaystyle\sum\limits_{j = 1}^J {{w_{mj}}{\textit{z}_j}} $；④将网络输出神经元取值与预期神经元取值之间的均方误差作为代价函数，利用梯度下降法对代价函数求解，得到最优的网络权向量$ {\boldsymbol{w}} $，从而获得最优RBF网络模型。

图  1  RBF神经网络模型结构

Figure  1.  RBF neural network model structure

下载: 全尺寸图片 幻灯片

4.   实例分析

4.1   算法流程

图2给出了本文所提铁路边坡变形监测系统数据处理流程，对于输入的变形监测数据，首先利用3σ准则实现对监测数据中的异常值检测，然后利用卡尔曼滤波算法对监测数据进行滤波平滑，实现异常值修正。针对监测数据的噪声抑制问题，利用CLEAN算法对卡尔曼滤波后的数据进行分析，提取其中包含变形信息的谐波分量。最后利用RBF神经网络对噪声抑制后的监测数据进行建模分析，提取其中包含的变形趋势信息并实现对未来变形发展趋势的高精度预测。

图  2  所提方法流程图

Figure  2.  Flowchart of proposed method for railway slope deformation monitoring system data processing

下载: 全尺寸图片 幻灯片

为了定量评估数据处理方法的性能，采用变形趋势预测结果与实际变形数据的平均相对误差（mean relative error，MRE）和均方根误差（root mean square error，RMSE）作为评估指标。具体定义为：

式中：${y_m}$——第$m$期边坡位移预测值；

${\overline y _m}$——对应的实测值。

4.2   试验数据

朔黄铁路是神黄铁路的重要组成部分，是我国投资与建设规模最大的双线电气化合资铁路，也是我国西煤东运第二大通道，在全国路网中占有重要地位。朔黄铁路K237+208～K237+623段线路出露地层主要由砂质黄土和二叠系长石石英砂岩夹泥岩组成，黄土厚度为5～20 m，黄土层和基岩形成了坡体的土石分层面，在坡体中基岩裂隙水和入渗雨水的作用下，在该土石分层面易形成软弱夹层，降低坡体的稳定性，导致边坡处发生裂隙和脱空，护坡面形成鼓胀和勾缝，在水分、震动等长期作用下易失稳产生溜坍、滑坡等现象。本文基于朔黄铁路边坡在线监测系统数据开展验证试验。该边坡共设置8个点位进行变形监测，监测点位平面布置图如图3所示。

图  3  监测点位布置平面图

Figure  3.  Layout plan of monitoring points

下载: 全尺寸图片 幻灯片

4.3   监测数据处理结果

试验中选取上行K237+384左坡坡顶监测点2019年1月至2021年12月的36期变形监测数据进行分析研究，变形监测数据变化曲线如图4所示。可以看出，曲线变化较为剧烈，波动性较大，给数据处理和建模分析带来了较大难度。图5给出了利用3σ准则得到监测数据异常值检测结果，可以看出，3σ准则检测得到了5期采样异常数据，分别为第9期、第10期、第24期、第28期和第33期数据，对其取值进行分析可知，5期异常数据取值相对于监测数据均值偏差均超过3σ，与理论模型一致。

图  4  变形监测数据

Figure  4.  Deformation monitoring data

下载: 全尺寸图片 幻灯片

图  5  监测数据异常值检测结果

Figure  5.  Detection results of abnormal values in monitoring data

下载: 全尺寸图片 幻灯片

利用卡尔曼滤波对图5所示异常值检测结果进行异常值修正得到的结果如图6所示，对图6所示数据进行噪声抑制得到的结果如图7所示。可以看出，经过卡尔曼滤波和噪声抑制后，监测数据变化曲线能够很好地反映铁路边坡变形趋势，开始监测时变形趋势增长较快，之后进入平缓期，变形趋势不明显，而后变形趋势逐渐增大，结合当地气候数据进行分析可知，变形趋势增大是由于当地气候变化较为恶劣导致。相对于原始数据，经过异常值修正和噪声抑制后得到的监测数据变化曲线较为平滑，更利于后续进行变形趋势建模预测，提升预测精度。

图  6  监测数据异常值修正结果

Figure  6.  Correction results of abnormal values in monitoring data

下载: 全尺寸图片 幻灯片

图  7  监测数据噪声抑制结果

Figure  7.  Monitoring data noise suppression results

下载: 全尺寸图片 幻灯片

4.4   变形趋势预测结果

为了进一步对所提方法的变形趋势预测性能进行验证，根据图2所示流程，对变形监测数据进行数据集划分，将前30期数据作为训练样本，用于实现RBF神经网络模型参数的学习，剩余6期数据作为测试样本，对最优RBF神经网络模型的预测性能进行验证，图8给出了变形趋势预测结果。同时为了对比，图8中一并给出了在相同条件下分别采用文献[11]所提一阶灰色理论模型（grey model, GM（1,1））和文献[13]所提小波变换方法得到的结果，图9给出了三种方法得到结果的预测误差。表1给出了三种方法预测性能的定量分析结果。

图  8  变形趋势预测结果

Figure  8.  Prediction results of deformation trend

下载: 全尺寸图片 幻灯片

图  9  不同方法预测误差

Figure  9.  Prediction error of different methods

下载: 全尺寸图片 幻灯片

表  1  不同方法预测结果对比

Table  1.  Comparison of prediction results using different methods

	GM（1,1）	小波变换	所提方法
MRE	0.68	0.27	0.12
RMSE	0.87	0.52	0.23

下载: 导出CSV 

| 显示表格

从图8和图9所示结果可以看出，对于测试集合的每一期样本，所提方法均能获得最高的预测精度，同时对于6期测试数据获得的预测误差差别不大，而2种对比方法对于第1—3期测试数据的预测误差均较大，对于第4—6期测试数据的预测误差明显减小，表明所提方法的模型收敛速度较快，只需要少量样本即可获得较高的预测精度，而2种对比方法的模型收敛速度较慢，实时性较差。表1给出的结果与图8和图9一致，所提方法在MRE指标方面相对于GM（1,1）提升超过82.4%，相对于小波方法提升超过55.6%，在RMSE指标方面相对于GM（1,1）提升超过73.6%，相对于小波方法提升超过55.8%，究其原因在于，GM（1,1）作为一种线性模型，预测性能对噪声敏感，因此低信噪比条件下性能有限，而小波方法虽然能够实现噪声抑制，但是监测数据中异常值的存在会导致分解性能下降从而影响后续预测性能。所提方法综合考虑了监测数据中异常值和噪声分量的影响，结合RBF神经网络分线性数据拟合能力，故而可以获得最优的预测性能。

5.   结 语

（1） 监测数据中异常值存在会影响数据分析以及变形信息提取，提出利用3σ准则进行异常值检测并利用卡尔曼滤波进行异常值修正的方法能够有效解决异常值处理问题，同时可以保持数据完整性；

（2） CLEAN算法能够在实现噪声抑制的同时有效提取监测数据中的变形趋势信息，提升后续变形趋势预测精度；

（3） 基于朔黄铁路K237+208—K237+623段线路边坡变形监测系统实际数据的试验结果表明，所提方法的变形趋势预测精度高，能够较好地反映实际工况中的变形趋势信息，具有较高的应用价值。