人工神經網絡也要睡覺？美國研究顯示休眠模式有助提升人工神經元學習

美國加州大學聖地牙哥分校近期研究顯示，人工網絡可以模仿人腦睡眠模式，解決所謂的「災難性遺忘」(catastrophic forgetting)問題。

人腦由大約850億個神經元細胞組成，並且分開成為兩個半球，由於這兩個半球在生理上互不相同，功能也不相同。以電腦比喻，右半球作用像是平行處理器，左半球則是序列處理器，而人工神經元研究通常目的就是分析人類思維並開發類似人腦處理的人工指令。儘管人工神經元比人腦運作更快，但其實也像人腦一樣需要休息，就像人腦學習後將數據與現有知識整合後，需要睡眠加強記憶，更能增加學習效率。

就像睡眠可以加強理性記憶，回憶人事物之間不合邏輯關聯的記憶，並避免忘記之前的記憶。研究人員採用「脈衝神經網絡」(spiking neural networks)模仿自然神經系統，這是一種並非持續、而是在特定時間像離散事件(discrete event)一樣傳輸訊息的神經網絡，並發現當脈衝神經網絡接受新任務訓練期間，若是有如睡眠一般的零星離線間隔，就會減少災難性遺忘情形發生，而在離線間隔中，網絡會重播先前的記憶，無須明確要求先前的訓練數據，這也有望提升人工神經網絡研究實用性。(譯者/Elisa)

原文出處：https://interestingengineering.com/innovation/artificial-neural-networks-need-sleep

瀏覽 616 次