Mistake gating leads to energy and memory efficient continual learning
記憶型錯誤門控演算法讓 AI 僅對錯誤樣本更新權重，成功減少高達 80% 的運算次數。
- 記憶型錯誤門控僅需一個布林陣列，無須超參數即可過濾無效的權重更新。
- 在 EMNIST 與模糊化影像等任務中，參數更新次數穩定維持在反向傳播的 12% 至 20%。
- 增量學習情境下，演算法能大幅壓縮離線重播的緩衝區，將核心樣本縮減近 90%。
傳統的反向傳播演算法會對每個樣本更新權重，造成巨大的運算浪費。受大腦「負面偏誤」啟發，新研究證明若僅對當前或過去曾經預測錯誤的樣本進行參數更新，能將網路更新次數大幅減少 50% 到 80%。這種「記憶型錯誤門控」不僅維持高泛化能力，更極大降低了模型在持續學習過程的運算與記憶體成本。
大腦 ERN 電位啟發神經網路參數更新機制
生物體在學習新事物的過程中，會消耗大量的代謝能量。例如，經歷厭惡制約訓練並隨後挨餓的果蠅，其死亡時間比對照組早了 20%。為了在不耗盡能量儲備的情況下更新內部模型，生物演化出了一種極其節儉的學習策略。人類並不會從每一個事件中平均汲取教訓，而是對錯誤和預測偏差賦予極高的權重，這在心理學上被稱為負面偏誤（negativity bias）。
當我們打字出錯時感受到的那一陣「抽搐」感，在腦電圖上對應著被稱為 ERN（錯誤相關負電位，大腦發現錯誤時產生的明顯電位變化）的巨大波動。ERN 與多巴胺信號傳導密切相關，能調節突觸可塑性，促使行為發生改變。然而，傳統的人工神經網路訓練演算法卻背道而馳，無論是簡單的影像辨識還是複雜的自然視覺任務，系統通常會對所有樣本更新參數，導致在學習後期執行大量不必要的運算。
記憶型錯誤門控解決單一判定引發的邊界脆弱
最直觀的設計是純錯誤門控（pure mistake-gating）：當樣本分類錯誤時才更新權重，若正確則直接跳過。雖然這種做法讓訓練集的準確率快速飆升，且大幅減少了更新步驟，但其測試集表現卻極度脆弱。純錯誤門控會使模型的決策邊界過於貼近訓練樣本，只要輸入數據有微小改變，就容易導致輸出錯誤；傳統的反向傳播雖然浪費資源，卻能藉由持續推擠決策邊界來提升泛化能力。
為了在資源節約與模型強健度之間取得平衡，團隊提出了記憶型錯誤門控（memorized mistake gating）。該演算法會記住所有曾經被錯誤分類的樣本，只要當前樣本預測錯誤，或是該樣本在「過去任何時刻」曾經出錯，系統就會進行突觸更新。實驗結果顯示，這套改良機制的更新次數略高於純錯誤門控，但仍遠低於常規的反向傳播，同時徹底解決了泛化脆弱的問題。此外，該演算法還降低了代表代謝成本的 $M_1$ 能量（突觸受體增加與移除的累積數量），證明了針對錯誤學習能帶來實質的能量效益。
EMNIST 影像辨識維持 12% 的參數更新比例
在應對更大規模的資料集時，記憶型錯誤門控展現了顯著的優勢。研究團隊採用包含 24 萬筆訓練資料的 EMNIST 資料集進行測試，發現常規反向傳播所需的更新次數幾乎不受資料集大小影響，但錯誤門控卻能穩定地將更新次數降至常規的 12%。這在具有無限樣本變化的持續學習（continual learning）或資料擴增情境中尤為關鍵。
當任務難度提升時，資源節約的特性依然存在。團隊將 MNIST 影像加上 2D 高斯模糊來提升辨識難度，迫使網路必須進行更精確的像素強度計算。隨著模糊程度增加，兩種演算法所需的訓練週期皆急遽上升。但值得注意的是，記憶型錯誤門控所需的更新步驟始終維持在常規反向傳播的 20% 左右。它彷彿具有正規化（regularization）的效果，透過過濾掉部分容易引發雜訊梯度的正確樣本，找出了擁有更小數學範數（norm）的權重組合，使得後期學習變得更加平滑。
CIFAR-10 增量學習記憶體緩衝區壓縮至 5.6 萬樣本
生物系統通常無法反覆遍歷完整的資料集，而是依賴海馬迴作為臨時緩衝區，在睡眠或休息時進行離線重播（replay），最終將記憶鞏固至大腦皮層。記憶型錯誤門控只挑出會引發錯誤訊號的 core-set（核心樣本，對訓練模型最具影響力的少數關鍵資料），大幅減輕了這類離線學習的記憶體需求。實驗分析指出，需要記憶的唯一樣本數隨資料集大小呈現次線性增長，這代表資料庫越龐大，節省的儲存比例就越高。
在更複雜的 CIFAR-10 增量學習任務中，模型必須建立在既有的感官表徵之上。研究人員先讓卷積網路在 7 個類別上進行預訓練，隨後凍結前面幾層網路的 plasticity（可塑性，神經網路權重可被調整的狀態），僅對最後的區塊與輸出層開放學習剩下的 3 個新類別。結果顯示，將塑性限制在後期網路，學習速度最快且準確度最高。在此情境下，記憶型錯誤門控維持了相同的學習曲線，但將所需記憶的核心樣本數量從 50 萬筆大幅壓縮至 5.6 萬筆。
零超參數門檻與突觸快取機制的未來發展潛力
從工程實作的角度來看，記憶型錯誤門控的導入門檻極低。它不需要引入任何新的超參數（hyper-parameters），也不需要微調，只需要建立一個與資料集樣本數等長的布林陣列。所有陣列元素初始為 false，只要樣本曾被錯誤分類就標記為 true 且永不重置。這種微乎其微的儲存開銷，僅需幾行程式碼就能整合進現有的訓練框架中，且能輕易與課程學習及不平衡資料集訓練相結合。
雖然在當前主流的批次（batching）訓練模式中，錯誤門控的效益可能被稀釋，但它為硬體資源受限的邊緣運算設備開啟了新方向。研究認為，若將其與生物學中的突觸快取（synaptic caching）結合——即單一樣本更新先儲存於低代謝成本的瞬時可塑性中，達到閾值後才鞏固為長期塑性——將能進一步降低合併事件發生的頻率，實現極致節能的線上持續學習系統。
透過模仿生物神經的「負面偏誤」，記憶型錯誤門控以極低的程式碼成本，成功在神經網路中實現低能耗且高效能的持續學習。