随着实验数据的大量生成，如何在未知底层动力学的情况下，仅通过时间序列数据检测混沌系统中不可观测的不稳定周期轨道在非线性领域是至关重要的科学问题。在实际搜集数据中，时间序列数据往往是不等间隔采样的，并且伴随着不可避免的观测噪声，这为我们的检测任务带来了一定的挑战。

2023年3月，复旦大学智能复杂体系基础理论与关键技术实验室林伟教授团队在非线性权威期刊CHOAS上发表了题为“Leveraging neural differential equations and adaptive delayed feedback to detect unstable periodic orbits based on irregularly sampled time series”的研究文章[1], 该工作被CHAOS杂志选为Editor’s Pick。研究者利用神经微分方程对观测的不等间隔采样时间序列数据进行分析建模，并利用自适应反馈控制方法对重构系统进行调控，实现混沌系统不稳定周期轨道的镇定。不稳定周期轨道对理解混沌系统的动力学演化行为等具有重要科学意义。

模 型

考虑一般非线性动力系统，它可以表示成一组常微分方程

或一组时滞微分方程

其中是系统状态, 是时滞。我们假设系统是混沌, 并且总是存在一个吸引子。我们的目标是通过系统观测到的不等间隔采样时间序列，检测嵌入在吸引子中的不稳定周期轨道。

神经微分方程重构混沌系统

对于常微分方程系统，我们采用神经常微分方程[2]进行系统重构：

其中代表神经网络，表示网络待训练的参数。具体而言，给定不等间隔采样时间序列数据，我们根据这些数据对应的时刻以及初值我们通过ODE数值求解器可以得到在这些时刻的预测值，即，

并且，定义如下均方误差损失函数：

之后，便可以使用神经常微分方程框架，根据数据，计算参数梯度，并利用优化器更新相应参数。对于时滞微分方程系统，我们采用神经时滞微分方程[3]进行系统重构：

与神经常微分方程不同，神经时滞微分方程的初值条件是初值函数，即，。类似地，我们可以根据数据，利用神经时滞微分方程框架重构相应的时滞系统。图1展示了神经微分方程的框架示意图。

图1神经微分方程框架示意图 （图源：Zhu Q, et al., CHAOS, 2023）

自适应时滞反馈控制

根据训练得到的神经微分方程，我们可以对其施加一种非侵入性的自适应时滞反馈控制方法[4]，检测嵌入在混沌吸引子中的不稳定周期轨道（UPOs），并且不需要任何关于UPOs的先验信息。具体而言，对于常微分方程，我们在训练好的神经常微分方程的向量场中加入自适应时滞反馈控制项，得到如下受控系统：

其中是自适应时滞反馈控制项。在实验中，我们只控制系统中某个分量，即，。此外，时变时滞和控制增益通过自适应方式进行优化，优化方程满足如下时滞微分方程：

其中与是正常数，可以根据实际情况进行调整，从而达到最好的收敛效果。一旦上述耦合系统被镇定，时变时滞便收敛到相应不稳定周期轨道的周期。对于时滞微分方程而言，我们同样可以利用同样的控制策略对训练好的神经时滞微分方程施加控制，便可以检测其不稳定周期轨道。

数值例子

图2针对Lorenz系统，根据观测的不等间隔采样时间序列数据，利用神经常微分方程进行系统重构与预测。(a)和(b)分别表示系统重构与预测的结果。图(c)-(d)表示不同训练阶段的系统重构效果。（图源：Zhu Q, et al., CHAOS, 2023）

图3针对训练好的神经常微分方程，施加自适应时滞反馈控制，检测到的不同周期的不稳定周期轨道。（图源：Zhu Q, et al., CHAOS, 2023）

图4不同噪声水平下模型的训练和测试误差(a)-(e)以及系统重构结果(f)-(j)。（图源：Zhu Q, et al., CHAOS, 2023）

图5 Lorenz系统的系统重构(a)和预测(b)，检测到的UPO(c)，以及时变时滞p(t)演化过程(d)。（图源：Zhu Q, et al., CHAOS, 2023）

图6 根据真实与训练后的时滞Mackey-Glass系统，检测到的UPO(a)与时变时滞p(t)演化过程(b)。（图源：Zhu Q, et al., CHAOS, 2023）

启发与展望

综上所述，该研究提出了一种数据驱动、无模型的方法，根据观测的不等间隔采样时间序列，结合神经微分方程和自适应时滞反馈控制技术对嵌入在混沌吸引子中的不稳定周期轨道进行检测。并且，我们在Lorenz系统与Mackey-Glass系统中进行了实验，得到了不错的效果。最后，该研究启发我们将机器学习框架与经典非线性复杂系统理论进行相互融合，可以更高效、更精准地处理传统复杂系统中长期存在的科学问题。

复旦大学智能复杂体系基础理论与关键技术实验室博士后朱群喜为该论文共同第一作者和共同通讯作者，中国人民解放军国防科技大学李鑫博士为共同第一作者，复旦大学智能复杂体系基础理论与关键技术实验室林伟教授为本文共同通讯作者。

本研究得到了中国博士后科学基金（2022M720817），上海市超级博士后（2021091），上海市科学技术委员会（22JC1402500, 22JC1401402，2021SHZDZX0103，21511100200，22ZR1407300）的支持。

参考文献
[1]Q. Zhu*, X. Li, W. Lin* [2023], Leveraging neural differential equations and adaptive delayed feedback to detect unstable periodic orbits based on irregularly-sampled time series, CHAOS, Editor's Pick, 33(3): 031101.
[2]R. Chen, Y. Rubanova, J. Bettencourt, and D. Duvenaud [2018], Neural ordinary differential equations, NeurIPS.
[3]Q. Zhu, Y. Guo, and W. Lin,  Neural delay differential equations, ICLR.
[4]W. Lin and H. Ma [2007], Failure of parameter identification based on adaptive synchronization techniques, Phys. Rev. E 75(6), 066212.