“蝴蝶效應”也能預測了?看機器學習如何解釋混沌系統
他們發現,2004年,Herbert Jaeger和Harald Haas利用一個隨機連接人造神經元的網絡在儲水池計算中形成“儲水池”,從而學習有三個混沌協變變量的動力學方程。在使用三組數字進行訓練之后,這個網絡可以預測未來很長一段時間內三個變量的值。不過,當有多個相互作用的變量時,計算量會變得很龐大。
但是,需要一個更有效的方案來將儲水池計算與大型混沌系統聯系起來,因為這些混沌系統具有大量相互作用的變量。例如,需要跟蹤沿著火焰前進方向的每一點在三個空間方向上的速度分量。
他們花了幾年時間才找到了明確的解決方案。Pathak說:“我們利用的是空間擴展混沌系統中相互作用的局部性。”
局部性意味著變量在一個地方受到附近變量的影響,但不受遠處變量的影響。利用它可以從本質上將問題分塊。也就是說,可以將問題并行化,用一個神經元儲水池來學習系統的一小塊,另一個儲水池學習另一塊,如此類推,并且使相鄰域輕微重疊以表示它們之間的相互作用。
只要將計算機資源按比例分配給每個任務,并行化處理,就可以使用儲水池計算的方法來處理幾乎任意大小的混沌系統。
具體解釋:三步走
儲水池計算分三步。假設你想用它來預測火災蔓延的情形,那么首先,選取火焰鋒面的五個不同點測量火焰的高度,然后隨著火焰跳動前行繼續測量鋒面上這些點的火焰高度。
將這些數據流輸入到儲水池中隨機選擇的人造神經元。輸入的數據觸發神經元釋放信號,繼而觸發相鄰的神經元并在整個網絡中級聯傳輸信號。
第二步是使神經網絡從輸入數據中學習不斷演進的火焰鋒面的動力學方程。要做到這一點,在輸入數據時,還需要監測儲水池中隨機選擇的幾個神經元的信號強度。以五種不同方式對這些信號進行加權和組合可產生五個數字輸出。
這樣做的目的是調整用于計算輸出的各種信號的權重,直到這些輸出始終與下一組輸入,也就是在比火焰鋒面略晚的位置測得的新的五個高度,相匹配。所要的就是,把輸出作為下一點的輸入。
為了得到正確的權重,這個算法簡單地將每組輸出,或者說五點中的每一點的預測火焰高度,與下一組輸入或實際火焰高度進行比較,每次增加或減少各種信號的權重,只要可以使它們的組合給出五個輸出的正確值。
從一個時間步長到下一個,隨著權重的調整,逐步改善預測,直到算法能夠穩定預測一個時間步長后的火焰狀態。
第三步,就可以真正去做預測了。了解了系統動力學方程的“儲水池”可以揭示系統如何演進。神經網絡本質上會自適應。輸出反饋為新輸入,其輸出又再反饋為輸入,以此循環,從而預測火焰鋒面五個位置的高度將如何演進。其他并行的“儲水池”預測其他地方的火焰高度的演進。
傳統上,預測混沌系統的常用方法是某一時刻盡可能準確地測量其條件,使用這些數據校準物理模型,然后向前演進模型。如果要預測未來八倍時長的演進,需要對一個典型系統的初始條件進行100,000,000次以上的測量。
這就是為什么利用機器學習技術幾乎能夠知道真相了。
神經網絡和混沌理論
最近,麻省理工學院和蘇黎世聯邦理工學院的研究人員取得了與馬里蘭團隊相似的結果,使用“長短期記憶”神經網絡,該網絡具有周期性循環的特征,使其能夠長時間存儲臨時信息。
Ott和他的同事們已經快可以將他們的預測技術用于實際應用。在《混沌》雜志即將發表的新研究中,他們展示了如何通過混合數據驅動的機器學習方法和傳統的基于模型的預測,改進對像Kuramoto-Sivashinsky方程式這樣的混沌系統的預測。
Ott認為這是改進天氣預報和其他類似工作的更好的途徑,因為我們并不總能找到完整的高分辨率數據或完美的物理模型。
“我們應該做的就是利用我們已有的經驗。如果我們缺乏某些知識,就應該使用機器學習來填補所這些空白。”
儲水池式預測本質上可以校準模型;在Kuramoto-Sivashinsky方程式的情況下,精確的預測可以延伸到12個李亞普諾夫時長。
李亞普諾夫時間的長度因不同系統而異,從毫秒到數百萬年不等(對于天氣預報情況來說是幾天)。這個時間越短,系統就越敏感就會越容易產生蝴蝶效應,狀態的發散會更快。
目前還不清楚究竟為什么儲水池算法如此擅長學習混沌系統的動力學模型,只是知道計算機可以根據響應數據進行自調節,直到計算公式與混沌系統的動態完全一致。
研究人員現在正打算使用混沌理論來更好地理解神經網絡的內部機制。

責任編輯:電力交易小郭
-
中央廣播電視總臺專訪國網董事長毛偉明:盡快形成能源互聯網的產業鏈
2020-10-10國家電網,毛偉明,5G -
人民日報刊載|國家電網董事長毛偉明:為做好“六穩”“六保”提供可靠電力支撐
2020-10-10國家電網,毛偉明,電氣裝備 -
南方供暖路徑初探——剛性需求下的順勢而為
2020-09-24清潔供暖,綜合能源服務,清潔供熱
-
中央廣播電視總臺專訪國網董事長毛偉明:盡快形成能源互聯網的產業鏈
2020-10-10國家電網,毛偉明,5G -
人民日報刊載|國家電網董事長毛偉明:為做好“六穩”“六保”提供可靠電力支撐
2020-10-10國家電網,毛偉明,電氣裝備 -
國家電網:光伏扶貧總關情
2020-08-14國家電網,電網企業,電網,能源電力
-
南方供暖路徑初探——剛性需求下的順勢而為
2020-09-24清潔供暖,綜合能源服務,清潔供熱 -
南方電網公司召開黨建工作領導小組會議 學習中央有關文件和會議精神 部署推進黨建重點工作
2020-06-28南方電網,能源,中央文件 -
云南電網大理供電局建設南網首個230MHz無線物聯專網
-
如何讓風電機組更聰明、更智能?
2020-06-28中國海裝,智能風機,智慧風電 -
蒙西電網:穩推電力現貨市場建設 助力電力多邊交易
2019-01-30蒙西電網 -
除了國網、南網 我們國家還有哪些地方獨立電網企業?