多年來，計算機科學家一直非常嚴格的視角看待人工智能。

當人工智能系統(tǒng)學習新任務或信息時，它會覆蓋之前學到的一些內(nèi)容，這種現(xiàn)象被稱為“災難性遺忘”。歷史上這個領域一直把這當作一個缺陷，試圖用諸如存儲大量舊數(shù)據(jù)等變通方法來修補。

(相關資料圖)

但在發(fā)表于《機器學習基礎與趨勢》的一篇新專題論文中，萊斯大學商學院運營管理助理教授劉岳陽與斯坦福大學的合著者提出，遺忘對人工智能而言并非單純的故障。在現(xiàn)實場景中，這類系統(tǒng)面臨著內(nèi)存與算力的硬性約束，它們不能、也不應該試圖記住一切。

相反，人工智能應該優(yōu)先考慮“持久知識”。

人工智能如何持續(xù)學習用戶

當音樂應用用戶30歲時，12歲時最喜歡的歌手是誰可能已經(jīng)無關緊要——至少對推薦新音樂的AI來說是這樣。更重要的是，傾聽中的模式很可能在未來依然適用。

圖源：news.rice.edu

研究人員稱之為“持久知識”：即信息能隨著時間保持有用的價值。為了保留這些知識的空間，系統(tǒng)必須丟棄過時或低價值的數(shù)據(jù)。

傳統(tǒng)機器學習通常假設訓練最終會結束。在這些模型中，系統(tǒng)學習一個穩(wěn)定目標——例如，一個訓練用于識別照片中貓的圖像分析儀——一旦達到該目標，訓練就基本結束了。按照這個邏輯，災難性的遺忘看起來就是災難性的失敗。

但劉教授及其合著者的研究出發(fā)點截然不同：世界始終在變化，因此人工智能必須持續(xù)適應才能保持效用。音樂或電影推薦系統(tǒng)不能假定用戶的品味一成不變，如果它停止更新對用戶的認知，就會失去推薦價值，因此它必須持續(xù)探索。

“作為人類，我們不會記住過去的每一個細節(jié)?！?劉教授表示，“一個持續(xù)學習的系統(tǒng)也必須做出相似的取舍，判斷哪些信息值得留存。”

有限算力下的人工智能生存之道

為驗證這一觀點，劉教授與同事開展了模擬實驗，測試不同算法在計算資源有限的條件下隨時間推移的表現(xiàn)。

其中一項實驗采用了改進版的置換 MNIST基準測試 —— 這是一套常用于手寫數(shù)字分類任務的通用測試基準。在實驗中，環(huán)境持續(xù)發(fā)生變化，迫使 AI 接連應對不斷更迭的任務，而非專注于某一項固定任務。

研究人員比較了三種智能體：一種能夠保存100萬個過去樣本；一種限制為1000個樣本的小型智能體；以及一個“重置”智能體，其神經(jīng)網(wǎng)絡會定期被清除。

這些結果挑戰(zhàn)了該領域的一些常規(guī)假設。在不會重復出現(xiàn)的任務上，小內(nèi)存智能體的表現(xiàn)與大內(nèi)存智能體不相上下，說明留存一次性數(shù)據(jù)并無長期收益。即便重置型智能體，只要重復任務的持續(xù)時間足夠長，它也能通過重新學習掌握所需知識，跟上性能節(jié)奏。

最值得關注的是，當研究人員施加更嚴格的算力限制時，大內(nèi)存系統(tǒng)的靈活性反而出現(xiàn)下降。它們遭遇了可塑性喪失問題：系統(tǒng)變得過于僵化，難以良好地吸收新信息。

劉說：“如果一個系統(tǒng)試圖保留一切，它可能會失去適應能力?！薄霸谡鎸嵪拗葡拢x擇性遺忘往往是讓學習成為可能的關鍵?！?/p>

另一組在類推薦場景下開展的模擬實驗也得出了相似結論：優(yōu)先保留長期行為模式、而非短暫流行趨勢的智能體，長期獲得的獎勵更高。

思考如何持續(xù)學習

這項研究為持續(xù)學習提供了一種更統(tǒng)一的思考方式，這一領域常被劃分為記憶保持、快速再學習或計算效率等更狹窄的問題。劉和她的合著者認為，這些問題應通過統(tǒng)一的持續(xù)學習框架進行分析，以最大化在實際資源限制下的長期表現(xiàn)。

這一學科視角的轉變，也重新定義了災難性遺忘的意義：留存所有過往信息并非最優(yōu)選擇，選擇性舍棄非重復性或低價值信息，或許正是幫助系統(tǒng)在漫長生命周期中持續(xù)學習的核心。

當然，這套框架并不能解決所有實際挑戰(zhàn)。在復雜的現(xiàn)實環(huán)境中，精確的數(shù)學求解依然困難；而要實現(xiàn)更多能力，仍需要許多系統(tǒng)尚不具備的內(nèi)存與算力支撐。但這篇論文為后續(xù)研究奠定了更清晰的基準。

對于研發(fā)終身學習人工智能的研究者而言，這意味著目標或許不再是追求完美的記憶能力，而是實現(xiàn)出色的判斷力。一個智能的系統(tǒng)不需要記住多年前的每一個細節(jié)，它只需要留住仍有價值的內(nèi)容，放下其余的一切。

本文由雷科技編譯自news.rice.edu

原文鏈接：https://news.rice.edu/news/2026/build-lifelong-ai-teach-it-forget