深層モデルを用いた時空間予測
二値メンテナンス介入記録を用いた劣化回復プロセス予測
我々は、予後および健康管理のための土木構造物の劣化回復プロセスを予測する問題を考えました。このプロセスでは、構造の健康は時間とともに劣化しますが、メンテナンス介入が行われると回復します。メンテナンス介入は通常、日付とタイプの観点から記録されます。そのような記録は、バイナリ時系列として表現することができます。バイナリメンテナンス介入記録を使用して、我々は長短期記憶（LSTM）を使用してプロセスを予測します。本研究では、バイナリ時系列データをLSTMにどのように供給するかを実験的に検討しました。この目的のために、我々は連結法と再初期化法を比較しました。前者はメンテナンス介入記録と健康データを連結してLSTMに供給するために使用されます。後者はメンテナンス介入が行われたときにLSTMの内部メモリを再初期化するために使用されます。合成データを用いた実験結果は、連結法が再初期化法よりも優れていることを示しました。
Katsuya Kosukegawa and Kazuhiko Kawamoto, Long Short-Team Memory for Forecasting Degradation Recovery Process with Binary Maintenance Intervention Records, IEICE Transactions on Fundamentals of Electronics, Communications and Computer Sciences, Article ID 2023EAL2019, Advance online publication, 2023 [paper].
外因的要因を用いた軌道狂いの時空間予測
鉄道運行の安全を確保するためには、線路の幾何学的な不整合を監視し予測することが重要です。より高い安全性を実現するためには、より高い時空間頻度での予測が必要であり、それは空間的な相関を捉えることを要求します。さらに、線路の幾何学的な不整合は、複数の外因的要因によって影響を受けます。本研究では、空間的および外因的要因の計算を取り入れることにより、線路の幾何学的な不整合の一種である垂直整合性を予測する方法を提案します。提案された方法は、外因的要因を埋め込み、畳み込み長短期記憶を用いて時空間的な相関を捉えます。また、提案された方法は、予測性能の面で他の方法と実験的に比較されます。さらに、外因的要因に関する除去研究が行われ、それらの予測性能への個別の寄与を調査します。結果からは、空間的計算と保守記録データが垂直整合性の予測を改善することが明らかになります．本研究は，JR東海との共同研究の成果です．
Katsuya Kosukegawa, Yasukuni Mori, Hiroki Suyari, Kazuhiko Kawamoto, Spatiotemporal forecasting of vertical track alignment with exogenous factors, Scientific Reports 13, 2354, 2023 [paper][GitHub].
時空間予測のための2D畳み込みニューラルマルコフモデル
最近の時系列予測アプローチ、特に時空間シーケンスの予測においては、このようなシーケンスの複雑さをモデル化するために、ディープニューラルネットワークの近似力を活用しています。特に再帰ニューラルネットワークに基づくアプローチが注目されています。しかし、実世界で発生する時空間シーケンスはノイズが多くカオス的であるため、不確実性をモデル化する能力を持つ確率的時間モデルを利用するアプローチ、例えばディープマルコフモデル（DMM）が、ノイズに対するロバスト性を高めるために好ましいです。ただし、DMMに基づくアプローチは、時空間シーケンスの空間的特性を維持していません。ほとんどのアプローチは、モデルの途中で観測された入力を1Dデータに変換しています。これを解決するために、我々は2D畳み込みニューラルネットワークを用いたDMMでターゲットシーケンスの空間的側面を維持するモデルを提案します。そして、合成データを用いて、ナイーブ予測、バニラDMM、畳み込み長短期記憶（LSTM）と比較して、大きな分散を持つデータに対する我々の方法のロバスト性を示し、より長い予測期間にわたってDNNモデルを上回る性能を示します。さらに、実際の降水データの予測における我々のモデルの限界と、これらの限界に対処するために行うことができる将来の作業、および追加の将来の研究の可能性について指摘します。
Calvin Janitra Halim and Kazuhiko Kawamoto, 2D Convolutional Neural Markov Models for Spatiotemporal Sequence Forecasting, Sensors 20, no. 15: 4195, 2020 [paper].
カオス的動力系におけるデータ同化のための深層マルコフモデル
最近、データ同化におけるディープラーニングの使用が研究の注目を集めています。例えば、時系列ディープマルコフモデルが提案され、変分推論を使用して訓練された推論ネットワークとともに提案されました。しかし、元の提案はデータ同化のためのモデル能力を十分に活用していませんでした。したがって、我々はデータ同化において一般的な問題であるカオス的動力系におけるディープマルコフモデルとその推論ネットワークの適合性を評価することを目指しています。我々は様々な生成条件下でモデルを評価します。結果は、対象モデルの一部に関する情報が既知である場合、モデルはプロセスと観測のノイズの存在下でも、平滑化されたアンセンテッドカルマンフィルタと比較して同等の性能を持っていることを示しています。
Calvin Janitra Halim and Kazuhiko Kawamoto, Deep Markov Models for Data Assimilation in Chaotic Dynamical Systems, Advances in Artificial Intelligence, Vol. 1128, pp. 37-44, Springer International Publishing, 2020 [paper].