語音播報
工業(yè)時間序列是反映生產過程的結構化數據。工業(yè)時間序列的分析和預測對優(yōu)化工業(yè)流程、提升效率具有重要意義。而工業(yè)生產過程的動態(tài)變化導致時間序列數據分布漂移,使得傳統(tǒng)靜態(tài)預測模型無法長期保持高效性。傳統(tǒng)的模型更新方法如重新訓練的計算和存儲成本高昂,增量微調的方式易導致已學模式的災難性遺忘。這限制了現(xiàn)有模型在非平穩(wěn)工業(yè)環(huán)境中的應用效果。
中國科學院沈陽自動化研究所提出了面向非平穩(wěn)工業(yè)時間序列預測的自適應持續(xù)學習(ACL)方法,提升了預測模型的適應性和泛化能力。相關研究成果以An Adaptive Continual Learning Method for Nonstationary Industrial Time Series Prediction為題,發(fā)表在IEEE Transactions on Industrial Informatics上。
該研究從網絡訓練和網絡結構兩個方面改進了持續(xù)學習方法。研究通過基于提示的網絡參數學習保留了先前任務的“暗知識”,緩解災難性遺忘,并引入軟記憶緩沖區(qū)使模型能夠更好地學習當前任務,進而在穩(wěn)定性與可塑性之間實現(xiàn)平衡。進一步,研究在網絡結構層面提出了時間敏感的激活函數TimeRelu,使網絡激活閾值隨時間變化,從而提高了模型的泛化能力。這一方法在開源的太陽能發(fā)電數據集和實際的磨礦分級過程數據集上驗證了有效性。
這一成果有望應用于智能礦山、鋼鐵冶金等復雜工業(yè)場景中的預測性維護和生產過程優(yōu)化等場景。下一步,該團隊將針對任務劃分的自動化和概念漂移檢測等問題開展研究,探討元學習等前沿技術在增強模型動態(tài)適應能力方面的潛力。
研究工作得到國家自然科學基金和遼寧省重點研發(fā)項目的支持。
面向非平穩(wěn)時間序列預測任務的持續(xù)學習框架
持續(xù)學習任務示意圖
© 1996 - 中國科學院 版權所有 京ICP備05002857號-1 京公網安備110402500047號 網站標識碼bm48000002
地址:北京市西城區(qū)三里河路52號 郵編:100864
電話: 86 10 68597114(總機) 86 10 68597289(總值班室)
編輯部郵箱:casweb@cashq.ac.cn
© 1996 - 中國科學院 版權所有 京ICP備05002857號-1 京公網安備110402500047號 網站標識碼bm48000002
地址:北京市西城區(qū)三里河路52號 郵編:100864
電話: 86 10 68597114(總機) 86 10 68597289(總值班室)
編輯部郵箱:casweb@cashq.ac.cn
© 1996 - 中國科學院 版權所有
京ICP備05002857號-1
京公網安備110402500047號
網站標識碼bm48000002
地址:北京市西城區(qū)三里河路52號 郵編:100864
電話:86 10 68597114(總機)
86 10 68597289(總值班室)
編輯部郵箱:casweb@cashq.ac.cn